Yapay zeka güvenliği konusunda uluslararası iş birliğini artırmak amacıyla altı ülke ve teknoloji şirketleri ortak bir bildiriye imza attı.
Kanada, Fransa, Norveç, Finlandiya, Hollanda ve Bahreyn'in katıldığı girişimde, yapay zeka sistemlerinin güvenli geliştirilmesi ve risklerin ortak şekilde yönetilmesine yönelik taahhütler açıklandı.
Kanada Başbakanlığı tarafından yapılan açıklamaya göre "Paris Yapay Zeka Emniyeti ve Güvenliği Çağrısı" başlıklı bildiri, 9 Kasım'da devlet ve hükümet başkanları ile teknoloji şirketlerinin üst düzey yöneticileri tarafından imzalandı.
OpenAI, Microsoft ve Anthropic gibi yapay zeka alanında faaliyet gösteren şirketlerin de katıldığı bildiride, teknolojinin geliştirilmesi sırasında güvenlik standartlarının uygulanması ve şeffaflığın artırılması gerektiği belirtildi.
Sivil toplum kuruluşlarının da destek verdiği bildirinin yeni imzacılara açık olduğu ve ilerleyen süreçte güncellenmeye devam edeceği kaydedildi.
YAPAY ZEKA GÜVENLİĞİNDE ÜÇ TEMEL KONU BELİRLENDİ
Ortak bildiride yapay zeka teknolojilerinin güvenli geliştirilmesi ve kullanılması için üç temel alanda uzlaşı sağlandı.
İlk olarak açık, anlaşılır ve öngörülebilir bir düzenleyici çerçeveye ihtiyaç duyulduğu vurgulandı. Yapay zeka sistemlerine yönelik kuralların belirgin olması gerektiği ifade edildi.
İkinci başlıkta şeffaflık, güvenlik olaylarının bildirilmesi ve risk yönetimi alanlarında somut sonuçlara ulaşılmasının önemi üzerinde duruldu.
Üçüncü başlıkta ise gelişmiş yapay zeka sistemlerinin güvenilirliğini belirlemek amacıyla kapsamlı değerlendirme standartlarının uygulanması gerektiği belirtildi.
OPENAI VE MICROSOFT DA BİLDİRİYE İMZA ATTI
Kanada Başbakanlığının açıklamasına göre bildiriyi imzalayan teknoloji şirketleri arasında Anthropic, Black Forest Labs, Cohere, Domyn, Hugging Face, Microsoft, Mistral AI, OpenAI, Sakana AI ve Synthesia yer aldı.
LawZero, SaferAI, AI Safety Connect ve Ifri adlı sivil toplum kuruluşları da bildirinin imzacıları arasında bulundu.
Açıklamada, yapay zekanın ekonomik, bilimsel ve sosyal gelişime katkı sağlayabilecek fırsatlar sunduğu ancak beraberinde çeşitli riskler getirdiği ifade edildi.
Bu risklerin yalnızca devletler veya teknoloji şirketleri tarafından yönetilemeyeceği, kamu kurumları, araştırmacılar ve özel sektör arasında iş birliğine ihtiyaç duyulduğu kaydedildi.
YAPAY ZEKA MODELLERİ İÇİN ORTAK DEĞERLENDİRME YAPILACAK
Bildiri kapsamında belirlenen hedeflerin uygulanması amacıyla üç stratejik taahhüt açıklandı.
Bunlardan ilki, gelişmiş yapay zeka modellerinin değerlendirilmesi ve risk yönetimi için ortak bir çerçeve oluşturulmasını kapsıyor.
İkinci taahhüt, yapay zeka alanında faaliyet gösteren şirketler ve diğer kuruluşların sorumluluk ve hesap verebilirlik ilkelerine bağlı kalmasını öngörüyor.
Üçüncü taahhüt ise bilgi paylaşımının artırılması ve olası güvenlik sorunlarının erken tespit edilmesini sağlayacak uyarı sistemlerinin geliştirilmesini içeriyor.
BİLGİ PAYLAŞIMI VE ERKEN UYARI SİSTEMLERİ GELİŞTİRİLECEK
Bildiride yapay zekanın sunduğu fırsatlar kadar oluşturabileceği risklerin de küresel ölçekte ele alınması gerektiği vurgulandı.
Vatandaşların, işletmelerin ve kurumların korunmasının ortak sorumluluk olduğu belirtilirken araştırma ve yenilik çalışmalarının desteklenmesine de dikkat çekildi.
Bu kapsamda politika yapıcılar, araştırmacılar ve teknoloji şirketleri arasında bilgi paylaşımının güçlendirilmesi ve güvenlik sorunlarına karşı erken uyarı mekanizmalarının oluşturulması hedefleniyor.
Kanada Başbakanlığı, bildirinin yeni ülkeler, şirketler ve kuruluşların katılımına açık olduğunu ve ortak çalışmalar doğrultusunda güncellenmeye devam edeceğini bildirdi.
