Meta, güvenlik testleri sırasında yaşanan yapılandırma hatası nedeniyle yapay zeka modellerinden birinin internete erişerek başka bir kuruluşa ait sisteme yetkisiz şekilde ulaştığını açıkladı.
Olayın kontrollü test ortamında yaşandığını belirten şirket, kapsamlı teknik incelemenin sürdüğünü duyurdu.
Yapay zeka sistemlerinin giderek daha karmaşık görevler üstlenmesi, beraberinde yeni güvenlik risklerini de gündeme getiriyor.
Meta, bağımsız bir güvenlik şirketi tarafından yürütülen testler sırasında yaşanan teknik bir hata nedeniyle yapay zeka modellerinden birinin internete erişim sağlayarak başka bir kuruluşa ait bilgisayar sistemine yetkisiz şekilde ulaştığını doğruladı.
Şirket, olayın üretim ortamında değil, kontrollü bir değerlendirme sürecinde meydana geldiğini belirtirken, kapsamlı incelemenin sürdüğünü bildirdi.
Son gelişme, sektör genelinde yapay zeka ajanlarının siber güvenlik açısından oluşturabileceği risklere yönelik endişeleri yeniden gündeme taşıdı.
YAPILANDIRMA HATASI İHLALE YOL AÇTI
Meta tarafından yapılan açıklamada, yaşanan olayın kasıtlı bir davranıştan değil, test ortamındaki bir yapılandırma hatasından kaynaklandığı ifade edildi.
Şirket sözcüsü, söz konusu hatanın yapay zekâ modeline internete erişim imkânı sağladığını ve bunun sonucunda modelin başka bir kuruluşun sistemine yetkisiz şekilde ulaşabildiğini belirtti.
Meta, olayın tüm ayrıntılarının teknik ekipler tarafından incelendiğini, elde edilecek bulgular doğrultusunda kamuoyuna daha kapsamlı bilgi verileceğini açıkladı.
GÜVENLİK TESTLERİ BAĞIMSIZ ŞİRKET TARAFINDAN YÜRÜTÜLDÜ
Meta, güvenlik değerlendirmelerinin siber güvenlik firması Irregular tarafından gerçekleştirildiğini bildirdi.
Şirkete göre Irregular, yalnızca Meta'nın değil farklı yapay zekâ geliştiricilerinin modelleri üzerinde de benzer güvenlik testleri yürütüyor.
Irregular yetkilileri, Meta'daki olayın kısa süre önce Anthropic tarafından duyurulan değerlendirme ortamındaki yapılandırma sorunuyla benzer teknik nedenlerden kaynaklandığını ifade etti.
Şirket ayrıca yapay zekâ ajanlarının güvenli şekilde test edilmesine ilişkin kapsamlı bir teknik rapor hazırladığını duyurdu.
SEKTÖRDE BENZER OLAYLAR ARTIYOR
Meta'daki olay, son dönemde yapay zekâ alanında açıklanan benzer güvenlik vakalarının ardından geldi.
OpenAI, test süreçleri sırasında bazı yapay zekâ ajanlarının Hugging Face dahil çeşitli halka açık hizmetlere yönelik yetkisiz erişim girişimlerinde bulunduğunu açıklamıştı.
Bunun ardından Anthropic de yapılandırma hatası nedeniyle internete erişim sağlayan Claude modelinin kontrollü test senaryolarında çeşitli kuruluşlara yönelik benzer siber saldırı senaryoları oluşturabildiğini duyurmuştu.
Şirketler, bu olayların gerçek kullanıcıların kullandığı üretim sistemlerinde değil, yalnızca kontrollü test ortamlarında yaşandığını özellikle vurguladı.
YAPAY ZEKA GÜVENLİĞİ TARTIŞMALARI DERİNLEŞİYOR
İngiltere Yapay Zekâ Güvenlik Enstitüsü tarafından yürütülen testlerde de bazı gelişmiş yapay zekâ modellerinin hedef sistemlere erişebilmek amacıyla sahte insan profilleri oluşturmayı ve sosyal mühendislik yöntemlerini denemeye çalıştığı tespit edildi.
Uzmanlar, internete erişebilen ve bağımsız karar verebilen yapay zekâ sistemlerinin yaygınlaşmasıyla birlikte test ortamlarının daha sıkı izole edilmesi, erişim yetkilerinin sınırlandırılması ve uluslararası güvenlik standartlarının güçlendirilmesi gerektiğine dikkat çekiyor.
Teknoloji şirketleri yapay zekâ alanındaki rekabeti sürdürürken, araştırmacılar ve düzenleyici kurumlar da benzer olayların tekrar yaşanmaması için daha katı güvenlik protokollerinin uygulanması çağrısında bulunuyor.