Florida eyaletinin Bonita Springs kentinde yaşayan Carli Michelle Heller’ın, Anthropic tarafından geliştirilen Claude isimli yapay zeka sohbet botunu kişisel düşüncelerini yazdığı bir günlük gibi kullandığı belirtildi.
Heller’ın sohbet sırasında şerif ofisine silahlı saldırı düzenleyeceğine yönelik ifadeler kullanması üzerine mesaj, sistem tarafından potansiyel tehdit olarak işaretlendi.
MESAJ İNCELEMEYE ALINDI
Sistem tarafından tespit edilen konuşma daha sonra insan incelemesine gönderildi.
Yapılan değerlendirmenin ardından tehdidin ciddi olabileceği düşünülerek kolluk kuvvetlerine bilgi verildi.
Polis ekipleri, kimliği belirlenen Heller’ı evinde gözaltına aldı.
ŞİDDET TEHDİDİYLE SUÇLANDI
Heller hakkında Florida yasaları kapsamında yazılı şiddet tehdidinde bulunma suçlaması yöneltildi.
Olay, yapay zeka sohbetlerine yazılan içeriklerin güvenlik sistemleri tarafından hangi durumlarda incelemeye alınabileceğini yeniden gündeme getirdi.
