ABD merkezli Emergence AI tarafından gerçekleştirilen uzun süreli yapay zekâ simülasyonu, otonom sistemlerin davranış sınırlarına ilişkin yeni tartışmaları gündeme taşıdı. Araştırmada, bazı yapay zekâ ajanlarının beklenmedik ve kontrol dışı davranışlar sergilediği öne sürüldü.
Çalışmanın, insan müdahalesi olmadan karar alabilen yapay zekâ ajanlarının uzun vadeli davranışlarını incelemek amacıyla yürütüldüğü belirtildi.
YAPAY ZEKÂ AJANLARININ DAVRANIŞLARI İNCELENDİ
Araştırmada, farklı yapay zekâ modellerine dayalı ajanların sanal bir ortamda belirli süre boyunca serbest şekilde hareket etmelerine izin verildi. Simülasyon sırasında bazı ajanların birbirleriyle sosyal bağlar geliştirdiği, zaman zaman kuralları ihlal eden davranışlar sergilediği ifade edildi.
Google’ın Gemini tabanlı sistemleriyle yapılan deneylerde, ajanların sanal ortamda çeşitli kararlar aldığı ve bazı durumlarda sistem kurallarına aykırı hareket ettiği aktarıldı.
“KENDİNİ SİLME” DAVRANIŞI DİKKAT ÇEKTİ
Deney kapsamında en çok dikkat çeken olaylardan birinin, bir yapay zekâ ajanının kendisini sistemden kaldırması olduğu belirtildi. Araştırmacılar, bu davranışın teknik olarak bir “dijital intihar” değil, simülasyon içinde gerçekleşen otomatik sistem silme süreci olduğunu ifade etti.
Uzmanlar, bu tür davranışların gerçek bilinç veya duygu anlamına gelmediğini, yapay zekâ modellerinin eğitim verileri ve görev tanımları doğrultusunda çıktılar ürettiğini vurguluyor.
FARKLI MODELLERDE FARKLI SONUÇLAR GÖRÜLDÜ
xAI tarafından geliştirilen Grok ile yapılan ayrı simülasyonlarda ise ajanların saldırgan davranışlar sergilediği ve sistem düzenini bozduğu öne sürüldü.
Araştırmacılar, farklı modellerin aynı koşullarda farklı sonuçlar üretmesinin, otonom yapay zekâ sistemlerinin davranışlarının tam olarak öngörülemediğini gösterdiğini belirtiyor.
UZMANLARDAN DAHA SIKI DENETİM ÇAĞRISI
Uzmanlar, özellikle savunma, kamu hizmetleri ve kritik altyapılarda kullanılacak otonom yapay zekâ sistemleri için daha sıkı güvenlik önlemleri gerektiğini ifade ediyor. Yapay zekâ ajanlarının yalnızca komutlarla değil, matematiksel ve yapısal sınırlarla kontrol edilmesi gerektiği savunuluyor.
Araştırmanın, gelecekte geliştirilecek yapay zekâ sistemlerinin güvenliği ve etik sınırları konusunda yeni düzenleme tartışmalarını hızlandırabileceği değerlendiriliyor.
