Microsoft’un yapay zeka asistanı Copilot’un görüntü düzenleme sistemini test eden çalışanların, kullanıcıların yüklediği kişisel fotoğraflara doğrudan erişebildiği ortaya çıktı.
Ortaya çıkan şirket içi belgeler, Microsoft Copilot için çalışan taşeron inceleyicilerin sistem değerlendirmesi sırasında kullanıcı verilerini doğrudan gördüğünü gösterdi.
MİCROSOFT ÇALIŞANLARI KULLANICI FOTOĞRAFLARINI GÖREBİLİYOR
Yüzlerce çalışanın, yapay zeka modelini eğitmek amacıyla kullanıcıların yüklediği özel fotoğrafları, yazılan komutları ve üretilen sonuçları sansürsüz şekilde incelediği belirlendi.
Sistemi değerlendiren çalışanlar, kendilerine gelen görevler arasında kadınların bedenlerini değiştirmeye yönelik cinselleştirilmiş talepler, uygunsuz görüntüler ve aşırı içerikler bulunduğunu ifade etti.
SANSÜRSÜZ İÇERİKLER PUANLANDI
Çalışanların, söz konusu görüntüleri güvenlik gerekçesiyle engellemek yerine yalnızca yapay zekanın komutları ne kadar doğru yerine getirdiğini puanlamak zorunda kaldığı aktarıldı.
Görev alan personelin, sansürsüz yüzlerin yer aldığı içerikleri incelerken güvenlik uyarılarının bulunmamasından ve etik açıdan rahatsız edici görsellere maruz kalmaktan şikayetçi olduğu öğrenildi.
Şirket içi mesaj panolarına yansıyan bilgilere göre çalışanlar, rızaya dayalı olup olmadığı şüpheli birçok görsel üzerinde kalite testi yapıldığını belirtti.
İnsan geri bildirimi sağlayan Prolific gibi aracı firmalar üzerinden yürütülen süreçte, değerlendiricilerden yapay zeka tarafından sunulan iki farklı görsel varyasyonunu karşılaştırmalarının istendiği bildirildi.
Değerlendiricilerin, yapay zekanın istenen değişikliği yapıp yapmadığını ve görüntünün diğer kısımlarını bozup bozmadığını kontrol ettiği kaydedildi.
MICROSOFT'TAN AÇIKLAMA GELDİ
Konuyla ilgili açıklamada bulunan Microsoft sözcüsü, müşteri verilerinin kullanım şartlarına uygun şekilde ürün geliştirme amacıyla işlendiğini dile getirdi.
Yetkililer, sürecin genel güvenlik denetiminden ziyade görsel düzenleyicinin komut takip etme becerisini geliştirmek amacıyla yürütüldüğünü savundu.
