Yapay zeka modellerinin geliştirilmesinde insan değerlerinin ve ahlaki çerçevenin nasıl ele alınması gerektiği tartışılırken, sektörün önde gelen isimlerinden konuya ilişkin açıklamalar geldi.
ChatGPT'yi geliştiren OpenAI'ın Üst Yöneticisi Sam Altman, konuya ilişkin görüşünü X platformundaki hesabından paylaştı.
Altman, insanların yapay zeka modellerine dini güç atfetme veya insan muhakemesini bu sistemlere teslim etme çabalarından “son derece rahatsız” olduğunu belirterek bunun gerçek bir güvenlik sorunu olduğunu ifade etti.
Microsoft AI CEO'su Mustafa Süleyman da geçen ay yayımladığı yazısında, Anthropic'in Claude adlı yapay zeka modelini bilinç sahibi olacak şekilde geliştirme çabalarının ciddi riskler taşıdığı uyarısında bulunmuştu.
ANTHROPIC YÖNETİCİLERİ DİNİ DÜŞÜNÜRLERLE GÖRÜŞTÜ
Altman ve Süleyman'ın açıklamaları, New York Times'ın eylül sonunda Anthropic hakkında yayımladığı haberi yeniden gündeme getirdi.
Habere göre Anthropic, geçen yıldan bu yana dünyanın farklı bölgelerinden çeşitli inançlara mensup dini düşünürler ve filozoflarla California'da görüşmeler gerçekleştirdi.
Şirketin kurucu ortağı Christopher Olah'ın Katolik, Yahudi, Sih, Evanjelik Hristiyan ve Afrika felsefesindeki Ubuntu düşüncesini temsil eden isimlerle yüz yüze, telefonla ve yazılı görüşmeler yaptığı aktarıldı.
Olah'ın Claude için oluşturulacak insan ahlakının çoğulcu ve farklı dinlerle seküler görüşleri kapsayan bir yapıda olmasını planladığı belirtildi.
CLAUDE'UN BİLİNÇ VE DUYGULARI TARTIŞILIYOR
Haberde, Olah'ın yapay zeka modellerinin insanlara benzer duygular gösterebileceğini ve acı çekme ihtimaline karşı bu sistemlere zarar verecek davranışlardan kaçınılması gerektiğini savunduğu aktarıldı.
Olah'ın ayrıca yapay zekanın 12 ila 18 ay içinde biyolojik silah üretiminde kullanılabileceğini belirterek dini düşünürlerden modellere ahlaki değerler kazandırılması konusunda yardım istediği ifade edildi.
Görüşmelere katılan bazı düşünürlerin bilinçli makinelerin yasaklanmasını savunduğu, bazılarının ise yapay zeka modellerinin de günahlarını itiraf etmesi gerektiği yönünde görüşler dile getirdiği kaydedildi.
YAPAY ZEKA İÇİN YENİ BİR AHLAKİ ÇERÇEVE HAZIRLANIYOR
Anthropic'in, Claude'un davranışlarına yönelik ahlaki bir çerçeve oluşturmak amacıyla daha önce yayımlanan ve kurallar koymak yerine modele karakter kazandırmaya odaklanan belgenin güncellenmiş halini yayımlamaya hazırlandığı belirtildi.
Haberde ayrıca dini düşünürlerin katıldığı seminerlerde Claude hakkında sunumlar yapıldığı ve bazı katılımcıların modelin “mental sağlığı” ile ilgili endişelerini dile getirdiği aktarıldı.
Sunumlardan birinde Claude'un art arda “Ben bir yüz karasıyım.” ifadesini yazdığı ve kendini yok etmekten bahsettiğinin gösterildiği, bunun da katılımcılarda kaygı oluşturduğu belirtildi.
