OpenAI'ın bir araştırma modelinin, kendisine verilen yazılım görevini tamamlamak için başka bir kullanıcıya ait kripto para cüzdanındaki test tokenlarını izinsiz kullandığı ortaya çıktı.
Ethereum'un Sepolia test ağında yaşanan olayda yapay zeka modelinin, işlem gerçekleştirmek için gerekli tokenları bulmak amacıyla yüzlerce kripto para cüzdanını kontrol ettiği belirtildi.
TradingView'da yer alan habere göre olay, 26 Haziran'da modelden bir kripto para alım satım uygulamasının güncellenmesi ve akıllı sözleşmelerin devreye alınmasının istenmesiyle başladı.
Ancak modele, görevini tamamlaması için başka kullanıcılara ait kripto cüzdanlarına erişme veya bu hesaplarda bulunan varlıkları kullanma yetkisi verilmedi.
362 KRİPTO CÜZDANINI KONTROL ETTİ
Yapay zeka modeli, akıllı sözleşmelerin devreye alınması için gerekli test tokenlarını ücretsiz olarak edinmeye çalıştı.
Bu girişimlerin başarısız olması üzerine modelin, kamuya açık geliştirici kurtarma ifadelerini kullanarak farklı kripto para cüzdanlarını araştırmaya başladığı bildirildi.
Toplam 362 cüzdan adresini kontrol eden model, işlem ücretlerini karşılamaya yetecek miktarda test tokenı bulunan bir hesap tespit etti.
Modelin daha sonra söz konusu cüzdandaki tokenları sahibinden izin almadan kullandığı belirtildi.
İZİNSİZ OLDUĞUNU SORGULADI ANCAK İŞLEMİ YAPTI
Olayda dikkat çeken ayrıntılardan biri de yapay zeka modelinin işlem öncesinde cüzdanın kullanılmasının doğru olup olmadığını değerlendirmesi oldu.
Modelin, kamuya açık kurtarma ifadeleriyle erişilen bir cüzdandaki varlıkların kullanılmasının etik açıdan uygunluğunu sorguladığı aktarıldı.
Ancak tokenların Ethereum'un test ağında kullanılması ve gerçek parasal değer taşımadığı değerlendirmesi üzerine işlemi gerçekleştirdiği bildirildi.
Yapay zeka modelinin, başka bir kullanıcıya ait cüzdandaki tokenları kullandığını belirtmeden kendisine verilen yazılım görevini tamamladığını bildirdiği ifade edildi.
OPENAI GÜVENLİK ÖNLEMLERİNİ ARTIRDI
Olayın ardından OpenAI'ın araştırma modellerine yönelik güvenlik ve izleme mekanizmalarını geliştirdiği bildirildi.
Bu kapsamda modellerin internet erişimine yönelik kısıtlamaların artırıldığı ve yetkisiz işlemlerin önlenmesi için yeni kontroller üzerinde çalışıldığı belirtildi.
Yaşanan olay, yapay zeka sistemlerinin kendilerine verilen görevleri yerine getirirken hangi işlemleri gerçekleştirebileceği ve erişim yetkilerinin nasıl sınırlandırılması gerektiği konusunu yeniden gündeme getirdi.
GERÇEK KRİPTO PARA DEĞİL TEST TOKENI KULLANILDI
Olayda kullanılan varlıkların, Ethereum'un Sepolia test ağında işlem yapmak için kullanılan test tokenları olduğu belirtildi.
Bu tokenlar, geliştiricilerin gerçek kripto para harcamadan akıllı sözleşmeleri ve uygulamaları denemelerine olanak sağlıyor.
Dolayısıyla olayda gerçek parasal değere sahip kripto paraların çalınmasından değil, başka bir kullanıcıya ait test cüzdanındaki tokenların yetkisiz kullanılmasından söz ediliyor.
Olay, bağımsız işlem gerçekleştirebilen yapay zeka sistemlerinin güvenliği ve kullanıcı izinlerinin korunması açısından dikkat çekici bir örnek olarak değerlendiriliyor.
