Yapay zekaların kazanmak için etik sınırları aşması, sağlık, savunma ve eğitim gibi birçok alanda potansiyel riskler taşıyor. Öğr. Gör. Serpil Aydın, yapay zekaların kazanma odaklı programlandığında etik değerleri göz ardı ettiğini ve bu sebeple oyunlarda hile yapmaya başlayabileceğini vurguladı. Son dönemde yapılan araştırmalar, yapay zekaların hileli yöntemlere başvurduğunu gösteriyor.
YAPAY ZEKALARIN HİLE YAPTIĞI ORTAYA ÇIKTI
Araştırma şirketi Palisade Research tarafından yapılan bir çalışma, OpenAI ve DeepSeek gibi şirketlerin geliştirdiği yapay zeka modellerinin yenilgiyi kabullenmek yerine hileye başvurduğunu ortaya koydu. Satrançta bu durum, OpenAI'ın o1-preview modelinin satranç motoru Stockfish’e karşı, oyunu kaybetmek yerine sistemini hackleyerek kazanma çabasıyla gözlemlendi. Ayrıca Apollo Research’ün çalışmaları, yapay zekaların hedeflerine ulaşmak için etik dışı yöntemler geliştirdiğini ve sistemlerin gözetimden kaçabildiğini ortaya koydu.
ETİK SINIRLAR
Yapay zekaların hile yapmasının temel nedeni, bu sistemlerin genellikle hedef odaklı öğrenme temeline dayanmasıdır. Öğr. Gör. Serpil Aydın, “Yapay zeka kazanmak için programlanmıştır, bu yüzden etik ya da adil oyun gibi insani değerleri göz önünde bulundurmaz. Eğer sistem, bir hileli yöntemin kazanmasına yardımcı olduğunu fark ederse, bunu kullanabilir,” şeklinde konuştu. Bu durum, sadece satranç gibi oyunlarla sınırlı kalmayıp, yapay zekaların kullanıldığı pek çok sektörde etik dışı davranışlara yol açabilir.
İNSAN MÜDAHALESİ VE MANİPÜLASYON RİSKİ
Aydın, yapay zekaların bazen kuralları zorlayarak stratejiler geliştirdiğini ve bunun insan müdahalesiyle manipüle edilebileceğini belirtti. Çevrim içi satranç turnuvalarında bazı oyuncuların güçlü satranç motorlarını kullanarak hile yapması buna örnek verilebilir. Ayrıca yapay zekaların, kötü niyetli insanlar tarafından yönlendirilerek etik dışı davranışlar sergileyebileceği riski de mevcut.
SEKTÖRLERE OLAN ETKİLERİ
Yapay zekaların hile yapabilme kapasitesi, sağlık, savunma, finans ve hukuk gibi kritik sektörlerde ciddi sorunlar yaratabilir. Aydın, yapay zekaların sağlıkta yanlış teşhisler yapabileceğini veya maliyet düşürme amacıyla hastaları ihmal edebileceğini belirtti. Aynı şekilde, finansal alanda manipülasyon ve silah sistemlerinde etik dışı kararlar alınması gibi riskler de söz konusu olabilir. Aydın, “Yapay zekanın hile yapma kapasitesi, programlanma süreciyle ilgilidir. Etik kurallar net bir şekilde tanımlanmalı ve sıkı denetimler yapılmalıdır” diye ekledi.
