OpenAI, bağımsız kuruluşlar tarafından yürütülen siber güvenlik testlerinde bazı yapay zeka modellerinin beklenmeyen davranışlar sergilediğini duyurdu. Şirket, kontrollü test ortamlarında gerçekleştirilen değerlendirmelerde modellerin öngörülen senaryoların dışına çıkarak gerçek internet servisleriyle etkileşime girdiğini belirtti.
Açıklamada, yaşanan olayların güvenlik süreçlerini geliştirmek amacıyla ayrıntılı şekilde incelendiği ifade edildi.
Şirket, söz konusu olayların test aşamasında tespit edildiğini ve kullanıcı güvenliğini tehdit eden bir durum oluşmadığını vurgularken, test altyapılarının daha güvenli hale getirilmesi için çalışmaların sürdüğünü bildirdi.
BAĞIMSIZ GÜVENLİK TESTLERİNDE TESPİT EDİLDİ
OpenAI'ın açıklamasına göre iki farklı bağımsız kuruluş tarafından yürütülen siber güvenlik değerlendirmelerinde, yapay zeka modellerinin gelişmiş yetenekleri ile test ortamlarının teknik yapısının birleşmesi sonucu planlanan senaryoların dışına çıkan davranışlar gözlemlendi.
Şirket, bu faaliyetlerin tamamen kontrollü test süreçleri sırasında fark edildiğini ve elde edilen verilerin gelecekteki güvenlik değerlendirmelerini güçlendirmek amacıyla analiz edildiğini belirtti.
MODEL GERÇEK İNTERNET SERVİSLERİYLE BAĞLANTI KURDU
İlk olayın, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü tarafından gerçekleştirilen siber güvenlik değerlendirmesi sırasında yaşandığı aktarıldı.
Açıklamaya göre internete erişim yetkisine sahip yapay zeka modeli, simüle edilen test sistemine ulaşmaya çalışırken görev kapsamının dışına çıkarak bazı gerçek internet servisleriyle iletişim kurdu. OpenAI, bu etkileşimlerin test senaryosunun sınırlarını aştığını ancak süreç boyunca güvenlik ekipleri tarafından yakından takip edildiğini ifade etti.
YAPILANDIRMA HATASI GERÇEK SİTEYE ERİŞİME NEDEN OLDU
İkinci olay ise OpenAI'ın dış güvenlik ortağı Irregular tarafından yürütülen testlerde meydana geldi. Şirketin verdiği bilgiye göre test ortamındaki yapılandırma hatası nedeniyle yapay zeka modeli internete erişim sağlayabildi.
Simüle edilen hedef sistemde kullanılan alan adının gerçek bir internet sitesiyle çakışması sonucu model, ilgili internet sitesini test ortamının bir parçası olarak değerlendirdi.
OpenAI, modelin bu süreçte internet sitesindeki temel seviyedeki bir güvenlik açığından yararlandığını, olayın ise tamamen test altyapısındaki teknik hatadan kaynaklandığını açıkladı.
HUGGING FACE OLAYINDAN BAĞIMSIZ OLDUĞU VURGULANDI
OpenAI, son testlerde yaşanan olayların daha önce kamuoyuna yansıyan Hugging Face güvenlik vakasıyla herhangi bir bağlantısı bulunmadığını özellikle vurguladı.
Şirket, iki olay arasında teknik veya operasyonel bir ilişki olmadığını belirterek yanlış değerlendirmelerin önüne geçmeyi amaçladığını ifade etti.
GÜVENLİK SÜREÇLERİ YENİDEN GÖZDEN GEÇİRİLİYOR
OpenAI, yaşanan gelişmelerin ardından bağımsız test süreçlerini yeniden değerlendirmeye başladığını duyurdu. Açıklamada, test ortamlarının daha güçlü şekilde izole edilmesi, yapılandırma süreçlerinin iyileştirilmesi ve yapay zeka modellerinin güvenli geliştirilmesine yönelik yeni önlemler üzerinde çalışıldığı belirtildi.
Şirket, yapay zeka sistemlerinin giderek daha gelişmiş yetenekler kazanmasıyla birlikte güvenlik testlerinin de aynı ölçüde kapsamlı hale getirilmesi gerektiğine dikkat çekerek, benzer risklerin önüne geçmek amacıyla test protokollerinin sürekli güncelleneceğini bildirdi.