Teknoloji devi Google, yapay zekâ güvenliğini güçlendirmek için önemli bir adım attı. Şirket, yeni duyurduğu “AI Bug Bounty” programı kapsamında, yapay zekâ sistemlerinde açık bulan araştırmacılara 1.2 milyon TL’ye kadar ödül vereceğini açıkladı.
Program, özellikle yapay zekânın beklenmedik davranışlar sergilediği, yani “yoldan çıktığı” durumları tespit etmeyi hedefliyor.
Amaç: Yoldan Çıkan Yapay Zekâ Davranışlarını Engellemek
Google, araştırmacılardan özellikle yapay zekâ sistemlerinin hatalı kararlar almasına veya kötü niyetli kişilerce manipüle edilmesine yol açabilecek açıkları tespit etmelerini istiyor.
Şirketin örnek olarak verdiği senaryolardan biri, bir saldırganın Google Home cihazını kandırarak akıllı kapı sistemini açtırması gibi güvenlik riski taşıyan durumlar.
Ancak yapay zekânın yanlış bilgi üretmesi (halüsinasyon) veya uygunsuz içerik oluşturması gibi hatalar, bu ödül programının kapsamına girmiyor.
En Yüksek Ödül Google’ın Temel Ürünlerinde Verilecek
Program kapsamında en yüksek ödüller, Google Arama, Gemini, Gmail ve Drive gibi temel ürünlerde bulunan güvenlik açıkları için ödenecek.
Google, bu sistemlerin milyarlarca kullanıcıya hizmet verdiğini hatırlatarak, yapay zekâ güvenliğini güçlendirmeyi “küresel bir öncelik” olarak gördüğünü vurguladı.
Yeni Araç: “CodeMender” Otomatik Olarak Açıkları Kapatıyor
Google, bug bounty programıyla birlikte “CodeMender” adını verdiği yeni bir yapay zekâ aracını da tanıttı.
Bu sistem, açık kaynaklı yazılımlardaki güvenlik açıklarını otomatik olarak tespit edip yamalayabiliyor.
Şirket, şimdiye kadar CodeMender’ın 70’ten fazla güvenlik açığını başarıyla kapattığını belirtti.
Bu sayede yapay zekânın yalnızca risk değil, aynı zamanda siber güvenliği artıran bir çözüm olarak da kullanılabileceği ifade edildi.
Google’dan 18 Milyon TL’lik Ödül Dağıtıldı
Google, son iki yılda araştırmacıların yapay zekâ güvenliği konusunda bulduğu açıklar için toplamda 18 milyon TL’den fazla ödül verdiğini açıkladı.
Yeni programla birlikte, şirketin hedefi sadece hataları tespit etmek değil, aynı zamanda etik hacker topluluklarıyla iş birliğini artırmak.
Google, bu adımıyla yapay zekâ güvenliğini “şeffaf, katılımcı ve sürdürülebilir” bir yapıya kavuşturmayı planlıyor.