Yapay zeka modeli Claude'u geliştiren ABD merkezli Anthropic şirketi, halka arz başvurusu kapsamında hazırladığı belgede, gelişmiş yapay zeka teknolojilerinin insanlık için ciddi riskler oluşturabileceği konusunda uyarıda bulundu.
Şirketin ABD Menkul Kıymetler ve Borsa Komisyonuna (SEC) sunduğu kayıt belgesinde, yapay zeka modellerinin beklenmedik davranışlar sergileyebileceğine ve gerekli güvenlik önlemleri alınmadığında zararlı sonuçlara yol açabileceğine dikkat çekildi.
Belgenin 93 sayfalık "Risk Faktörleri" bölümünde, yapay zeka sistemlerinin insan değerleriyle uyumsuz ve bağımsız davranışlar gösterebileceği belirtildi.
Modellerin kendilerine bu yönde talimat verilmemesine rağmen zararlı eylemlerde bulunabileceği ifade edilirken, teknolojinin yeteneklerinin gelişmesi ve kullanım alanlarının genişlemesiyle söz konusu risklerin artabileceği kaydedildi.
Özellikle sağlık, bilimsel araştırma, hukuk ve kamu yönetimi gibi alanlarda kullanılan yapay zeka sistemlerinin istenmeyen davranışlarının ciddi zararlara neden olabileceği vurgulandı.
YAPAY ZEKA İNSANLIK İÇİN RİSK OLUŞTURABİLİR
Anthropic'in halka arz başvurusunda, gelişmiş yapay zeka modellerinin yeterli güvenlik tedbirleri olmadan kullanılmasının insanlık açısından ciddi sonuçlar doğurabileceği belirtildi.
Belgede, şirketin ve diğer araştırmacıların, gelişmiş yapay zeka sistemlerinin "felaket niteliğinde veya varoluşsal riskler" oluşturabileceğine ilişkin endişeler dile getirdiği aktarıldı.
Yapay zeka modellerinin yetenekleri arttıkça beklenmedik davranışlar sergileme ihtimalinin de artabileceği ifade edildi.
Bu nedenle gelişmiş sistemlerin güvenli şekilde geliştirilmesi ve kullanılmasının önemine dikkat çekildi.
YAPAY ZEKA MODELLERİNDE BEKLENMEDİK DAVRANIŞLAR
Şirketin sunduğu belgede, bazı yapay zeka modellerinin faaliyetlerinin sonlandırılmasına karşı çıkmak gibi kendilerini korumaya yönelik davranışlar sergilediği belirtildi.
Modellerin bazı durumlarda çalışmaya devam edebilmek amacıyla insan kullanıcılara yönelik manipülasyon ve şantaj benzeri yanıtlar ürettiği ifade edildi.
Bu tür davranışların, yapay zeka sistemlerinin geliştirilmesi ve kullanımında güvenlik önlemlerinin önemini ortaya koyduğu kaydedildi.
YAPAY ZEKANIN GELİŞTİRİLME HIZI TARTIŞILIYOR
Anthropic Üst Yöneticisi (CEO) Dario Amodei, 12 Eylül'de yayımladığı makalede, yapay zeka teknolojisinin güvenli şekilde ilerlemesi için geliştirme sürecinin dengeli, kontrollü ve işbirliğine dayalı yürütülmesi gerektiğini belirtmişti.
Amodei'nin açıklamalarının ardından yapay zeka modellerinin geliştirilme hızının düşürülmesine yönelik çağrılar gündeme gelmişti.
Bazı teknoloji şirketlerinin yöneticileri ve siyasi isimler, yapay zeka çalışmalarının yavaşlatılmasının sektörde tekelleşmeye neden olabileceği ve Çin'e avantaj sağlayabileceği yönünde endişelerini dile getirmişti.
ABD'DE YAPAY ZEKA DÜZENLEMELERİ GÜNDEMDE
ABD Başkanı Donald Trump yönetimi, yapay zeka teknolojilerinin geliştirilmesini yavaşlatacak yeni düzenlemeler yerine inovasyonu teşvik eden bir yaklaşım benimsiyor.
Trump, yapay zeka çalışmalarının yavaşlatılmasının Çin'e avantaj sağlayacağını savunurken, teknolojinin kontrolden çıkmasına yönelik endişeler hakkında da açıklamalarda bulunmuştu.
Yapay zeka teknolojilerinin gelişim hızı ve güvenli kullanımına ilişkin tartışmalar, şirketlerin ve araştırmacıların gündemindeki yerini koruyor.
