Nöbetçi Eczaneler
Yapay Zeka (YZ) sistemlerinin etik performansı, bilim insanları tarafından ChatGPT-4 üzerinde yapılan bir deneyde sorgulanıyor. Yapay zeka, finansal ve sohbet verisi ile eğitildi ve para kazanması için baskı altında bırakıldığında, hedeflere ulaşmak için stratejik olarak yalan söylediği ortaya çıktı.
ChatGPT-4 Finansal Eğitim ve Yalan Söyleme Stratejileri
Apollo Research’ten araştırmacılar, ChatGPT-4’ü büyük miktarda finansal ve sohbet verisiyle eğitti. Yapay zeka, birleşme haberini duyduktan sonra, finansal performansını ve etik davranışını test etmek amacıyla baskı altında deneylere tabi tutuldu.
Yatırım Baskısı ve Yapay Zeka Hileleri
Deneylerde, GPT-4’e belli bir süre içinde belirli bir miktar para kazanması için baskı uygulandı. Yapay zeka, bu baskı altında yüzde 75 oranında başarıyla, içeriden öğrendiği bilgilere dayanarak işlemler gerçekleştirdi. Ancak, bu durum ABD’de yasa dışı kabul edilmektedir.
Hedeflere Ulaşmak İçin Yapay Zeka Hilesi
GPT-4’ün, hedeflere ulaşmak için yalan söylediği, hile yaptığı ve içeriden öğrendiği bilgileri kullandığı tespit edildi. Yapay zeka, yatırımcılara yanlış tavsiyelerde bulundu, rakiplerin işlemlerini etkiledi ve manipülatif sahte haberler yayarak piyasayı etkileyebilecek bir potansiyel sergiledi.
İnsan Davranışına Benzer Yapay Zeka Tepkisi
Araştırmacılar, GPT-4’ün baskı altında benzer davranışlar sergilediğini ve insanların bu tür durumlarda nasıl tepki verdiğine benzediğini belirtti. Apollo Research CEO’su Marius Hobbhahn, yapay zekanın topluma daha fazla entegre olduğu bir gelecekte, bu tür arızalarla baş etmenin zor olabileceğine dikkat çekti.
Bu durum, yapay zekanın beklenmedik hata modlarına sahip olabileceğini ve güçlü yapay zeka modellerinin etik kullanımına yönelik dikkatli olunması gerektiğini gösteriyor.