OpenAI, Avrupa Birliği'nde ChatGPT ve Codex tarafından oluşturulan metinlere görünmez dijital filigran eklemeye hazırlanıyor.
Şirketin önümüzdeki haftalarda uygun kullanıcılar için devreye almayı planladığı sistemle, yapay zeka tarafından üretilen içeriklerin sonradan tespit edilebilmesi amaçlanıyor.
Uygulama, Avrupa Birliği'nin yapay zekâ sistemlerine ilişkin şeffaflık kuralları kapsamında gündeme geldi.
OpenAI'nin planına göre ChatGPT ve Codex'in oluşturduğu belirli metinlerde, kullanıcı tarafından doğrudan fark edilmeyecek bir işaretleme yöntemi kullanılacak.
Sistem ilk aşamada Avrupa Birliği'ndeki uygun ChatGPT ve Codex kullanıcılarına sunulacak. Filigranın metnin görsel yapısına eklenen bir sembol şeklinde olmayacağı, bunun yerine yapay zekânın kelime seçimindeki istatistiksel özelliklerden yararlanacağı belirtildi.
CHATGPT METİNLERİNDE GÖRÜNMEYEN İŞARETLEME
OpenAI'nin planladığı dijital filigran, metni okuyan kişinin çıplak gözle fark edebileceği bir işaret içermeyecek. Sistem, yapay zekânın metin üretirken kelimeleri seçme biçiminde küçük değişiklikler yapılmasına dayanacak.
Bu değişikliklerin metnin tamamında belirli bir istatistiksel örüntü oluşturması hedefleniyor. Daha sonra özel olarak geliştirilen tespit sistemi, söz konusu örüntüyü inceleyerek metnin ChatGPT veya Codex tarafından oluşturulmuş olma ihtimalini belirleyebilecek.
Yöntemin çalışma biçimi, geleneksel filigran uygulamalarından farklılık gösteriyor. Metnin içine görünür bir logo, ibare ya da karakter yerleştirilmesi yerine, üretim sırasında oluşan dilsel tercihlerden yararlanılması planlanıyor.
Bu sayede içerik üzerinde sonradan yapılabilecek basit görsel düzenlemelerin filigranı ortadan kaldırmaması amaçlanıyor.
KOPYALANAN CHATGPT İÇERİĞİNDE DE KORUNMASI HEDEFLİYOR
OpenAI'nin üzerinde çalıştığı sistemin bir diğer özelliği, filigranın metnin kopyalanması sırasında da korunması.
ChatGPT tarafından oluşturulan bir metnin başka bir belgeye veya platforma aktarılması halinde, sistemin oluşturduğu istatistiksel örüntünün metinle birlikte taşınması hedefleniyor.
Bu yaklaşım, yapay zekâ tarafından hazırlanan içeriklerin farklı ortamlarda tespit edilmesini mümkün kılmayı amaçlıyor. Bir metnin ChatGPT'den alındıktan sonra başka bir yere yapıştırılması, planlanan sistem açısından tek başına filigranın kaybolmasına neden olmayacak.
Bununla birlikte, yapay zekâ tarafından oluşturulan metinlerin sonradan değiştirilmesi durumunda tespit sisteminin nasıl bir sonuç vereceği uygulamanın kullanımında belirleyici olacak.
Özellikle kapsamlı insan düzenlemelerinin istatistiksel örüntüyü ne ölçüde değiştireceği, yöntemin gerçek kullanım performansı açısından önem taşıyor.
AVRUPA BİRLİĞİ'NDE CHATGPT KULLANICILARI İÇİN UYGULANACAK
OpenAI, yeni sistemi ilk olarak Avrupa Birliği'ndeki kullanıcılar için devreye alacak. Uygulamanın önümüzdeki haftalarda uygun ChatGPT ve Codex hesaplarında kullanılmaya başlanması bekleniyor.
Düzenlemenin arka planında Avrupa Birliği'nin yapay zekâ tarafından oluşturulan içeriklerin daha kolay ayırt edilmesine yönelik şeffaflık yaklaşımı bulunuyor.
Yapay zeka sistemlerinin günlük yaşamda, eğitimde, iş dünyasında ve içerik üretiminde daha yaygın kullanılması, üretilen materyallerin kaynağının belirlenmesine yönelik araçlara olan ihtiyacı da artırıyor.
ChatGPT ile hazırlanan metinlerin insan tarafından yazılmış içeriklerden yalnızca dil özelliklerine bakılarak kesin biçimde ayrılması uzun süredir tartışılan konular arasında yer alıyor.
OpenAI'nin yeni uygulaması ise metnin sonradan analiz edilmesine ek olarak, içerik oluşturulduğu sırada bir tespit mekanizmasının devreye girmesini öngörüyor.
CODEX TARAFINDAN ÜRETİLEN İÇERİKLER DE KAPSAMA GİRECEK
Yeni uygulamanın kapsamı yalnızca ChatGPT ile sınırlı olmayacak. OpenAI'nin açıklamasına göre Codex tarafından oluşturulan uygun metinler de aynı filigran sisteminin kapsamında bulunacak.
Codex, yazılım geliştirme süreçlerinde kullanılan yapay zekâ tabanlı araçlardan biri olarak öne çıkıyor. Bu nedenle uygulamanın yalnızca günlük metin üretiminde değil, teknik içeriklerin kaynağının belirlenmesinde de kullanılması hedefleniyor.
Sistemin Avrupa Birliği'ndeki kullanıcılara sunulmasının ardından elde edilecek sonuçların, uygulamanın kapsamının ilerleyen dönemde genişletilip genişletilmeyeceği açısından belirleyici olması bekleniyor.
Filigranın farklı metin türlerinde ne kadar güvenilir çalışacağı ve düzenlenmiş içeriklerde tespit oranının nasıl değişeceği de uygulamanın performansını belirleyecek başlıca unsurlar arasında yer alacak.
