Google tarafından arama sonuçlarının üst kısmında sunulan “Yapay Zeka Genel Bakışları” özelliği, doğruluk ve güvenilirlik açısından eleştirilerin odağına yerleşti.
Yapılan analizler, sistemin her saat milyonlarca hatalı veya yanıltıcı yanıt üretebildiğini ortaya koydu.
Yapay zeka girişimi Oumi tarafından gerçekleştirilen incelemelerde, sistemin özellikle kaynak gösterme ve bilgiyi doğrulama konusunda ciddi eksiklikler taşıdığı belirtildi.
Araştırma kapsamında 4 bin 326 farklı arama sorgusu analiz edildi.
Test sonuçlarına göre, yeni Gemini 3 modeliyle doğruluk oranı yüzde 91 seviyesine ulaşsa da bu yanıtların önemli bir bölümünün güvenilir kaynaklara dayanmadığı ifade edildi.
Doğru kabul edilen bilgilerin yüzde 56’sının, gösterilen kaynaklarla tam olarak örtüşmediği tespit edildi.
SOSYAL MEDYA VE BLOG KAYNAKLARI ÖNE ÇIKIYOR
Araştırmada, yapay zekanın referans aldığı içerikler arasında Facebook ve Reddit gibi platformların öne çıktığı görüldü.
Bunun yanı sıra Wikipedia, kişisel bloglar ve çeşitli internet sitelerindeki çelişkili bilgilerin bir araya getirilerek kullanıcıya kesin bilgi gibi sunulduğu belirtildi.
Uzmanlar, bu durumun kullanıcıların yanlış yönlendirilmesine neden olabileceğini ve özellikle kritik konularda bilgi doğrulamanın daha da önemli hale geldiğini vurguluyor.
SAHTE İÇERİKLERLE MANİPÜLASYON RİSKİ
Sistemin en dikkat çeken zafiyetlerinden biri de sahte içeriklerle kolayca manipüle edilebilmesi oldu.
Yapılan bir testte, bir teknoloji gazetecisinin kendi blogunda yayımladığı tamamen kurgusal bir içerik, kısa süre içinde yapay zeka sonuçlarında gerçek bilgi gibi gösterildi.
Google ise söz konusu analizlerin gerçek kullanıcı davranışlarını yansıtmadığını savundu.
Şirket yetkilileri, testlerin hatalı varsayımlara dayandığını belirtirken, yapay zeka sistemlerinin doğası gereği zaman zaman yanlış sonuçlar üretebileceğini ifade etti. Kullanıcılara, elde edilen bilgilerin farklı kaynaklardan doğrulanması yönünde uyarı yapıldı.
