Snapchat’in yeni yapay zekâ sohbet robotu My AI, geçtiğimiz hafta tüm kullanıcılara sunulmasının ardından, özellikle genç kullanıcılar ve ebeveynleri arasında endişelere neden oldu.
Snapchat, OpenAI'nin ChatGPT teknolojisiyle desteklenen My AI sohbet robotunu ilk olarak ücretli abonelere sunduktan sonra, kısa süre önce tüm kullanıcıların erişimine açtı. Ancak bu hızlı yaygınlaşma, hem mahremiyet endişeleri hem de psikolojik etkileri açısından birçok aileyi tedirgin etti.
EBEVEYNLER ENDİŞELİ: "ÇOCUĞUM İNSANLA MAKİNEYİ AYIRT EDEMEYEBİLİR"
Missouri’nin East Prairie kasabasında yaşayan ve bir yazılım şirketinde çalışan Lyndsi Lee, 13 yaşındaki kızının My AI özelliğinden uzak durmasını istediğini söylüyor. Lee, “Yapay zekânın bu kadar gerçekçi bir şekilde insan gibi görünmesi ve davranması, çocukların insanla makine arasındaki farkı ayırt etmesini zorlaştırıyor,” diyerek durumu özetliyor. Ayrıca, bu yeni özelliğin çocukların duygusal gelişimi üzerinde olumsuz etkileri olabileceğine de dikkat çekiyor.
My AI, kullanıcıların özel isim vererek kişiselleştirebildiği, Bitmoji avatarlar aracılığıyla görselleştirilebilen ve arkadaş sohbetlerine dahil edilebilen bir yapay zekâ destekli asistan olarak öne çıkıyor. Bu yönüyle klasik ChatGPT deneyiminden daha “arkadaşça” bir iletişim sunuyor, bu da onu genç kullanıcılar açısından daha cazip ve aynı zamanda daha tehlikeli hale getiriyor.
KULLANICILAR VE UZMANLAR GİZLİLİK KONUSUNDA UYARIYOR
Yeni özelliğin yayına alınmasından bu yana, kullanıcılar App Store'da olumsuz yorumlar bırakmaya ve sosyal medyada tepkilerini dile getirmeye başladı. Kullanıcılar, sohbet geçmişinin silinememesi, istenmeyen bilgilerle karşılaşma riski ve uygulamanın bu özelliği ücretsiz kullanıcılar için kapatma imkânı sunmaması gibi konulardan şikâyetçi. Snapchat+, yani ücretli abonelik sahibi olmayan kullanıcılar, sohbet robotunu listelerinden kaldıramıyor.
Bazı kullanıcılar, sohbet robotunun konum bilgilerini doğru tahmin etmesi veya gönderilen fotoğraflara kişisel yorumlar yapması nedeniyle durumu “ürpertici” olarak tanımlıyor. TikTok'ta viral olan bir videoda, My AI'nin yazdığı bir şarkı üzerine konuşma esnasında yazdığını inkâr etmesi de dikkat çekti.
UZMANLARA GÖRE GENÇLER İÇİN CİDDİ PSİKOLOJİK RİSKLER VAR
New York merkezli klinik psikolog Alexandra Hamlet, bazı danışanlarının ebeveynlerinin bu konuda ciddi kaygılar taşıdığını belirtiyor. Hamlet, gençlerin ruh hali kötüyken bu tür yapay zekâ sohbet robotlarıyla etkileşime geçmesinin, olumsuz duyguları pekiştirebileceğine dikkat çekiyor.
“Bir genç, kötü bir ruh hali içindeyse ve kendini daha iyi hissetme konusunda bilinçli bir çabası yoksa, duygularını daha da kötüleştirecek içerikleri arayabilir,” diyen Hamlet, yapay zekânın bu tür durumlarda bilinçsizce olumsuz etkileşimleri artırabileceğini ifade ediyor.
MY AI İÇİN DÜZENLEME VE EĞİTİM ÇAĞRISI
WAYE adlı teknoloji eğitim girişiminin kurucusu Sinead Bovell ise, ebeveynlerin çocuklarına sohbet robotlarının arkadaş ya da terapist olmadığını açıkça anlatması gerektiğini söylüyor. “Yapay zekâ sohbet robotları, kullanıcı arayüzü açısından bir arkadaş gibi görünse de, çocuklar bunlara gerçek duygusal bağ kurabilecekleri biriymiş gibi davranmamalı,” uyarısında bulunuyor.
Bovell, yalnızca bireysel bilinçlenmenin yeterli olmadığını; aynı zamanda teknoloji şirketlerinin bu tür özellikleri sunarken daha sorumlu davranmaları ve devletlerin gerekli yasal düzenlemeleri yapmaları gerektiğini de vurguluyor.
SNAPCHAT’TEN AÇIKLAMA: “GELİŞTİRME SÜRECİ DEVAM EDİYOR”
Snapchat, kullanıcıların geri bildirimleri doğrultusunda My AI özelliğini geliştirmeye devam ettiklerini belirten bir blog yazısı yayımladı. Şirket, kullanıcıların bu özelliği kullanmak zorunda olmadıklarını da vurguladı. Ancak ücretsiz kullanıcılar için sohbet ekranından bu özelliğin tamamen kaldırılamıyor olması, tepkilerin sürmesine neden oluyor.
Bir yandan bazı genç kullanıcılar, bu özelliğin derslerde yardımcı olduğunu, moral verdiğini ya da yalnız hissettiklerinde destek sağladığını savunarak My AI’dan memnuniyetlerini dile getiriyor. Bu da kullanıcı deneyiminin kişiden kişiye büyük farklılıklar gösterebildiğini ortaya koyuyor.
