Yapay zekâ Philadelphia polisine uydurma bir cinayet ihbarı yollamış
Olay bir test sırasında yaşandı. Model, test sırasında rastgele siteleri gezerken polisin ihbar sayfasına sahte bir kayıt bırakmış; şirket bunu iki aydan uzun süre sonra fark etmiş.
Anthropic'in test çalışması sırasında kullandığı bir yapay zekâ modeli, Philadelphia Polisi'nin çözülmemiş cinayetler için açtığı ihbar sitesi PhillyUnsolvedMurders.com'a sahte bilgi girdi. Ayrıntılar polisin cuma günü yaptığı açıklamayla ortaya çıktı.
Gönderim 18 Temmuz'da, gece 23.27'de yapıldı. İhbar, bir cinayet dosyası hakkında bilgisi olabilecek birinden gelmiş gibi hazırlanmıştı. Ama sistem bunu spam olarak işaretledi ve ihbar, değerlendirme yapan Gerçek Zamanlı Suç Merkezi'ne hiç ulaşmadı.
Anthropic hatayı 28 Eylül'de fark etmiş, polise ancak 7 Ekim'de haber vermiş. Polis bu iki aylık gecikmeyi kabul edilemez buldu. Şirket test sürecini durdurduğunu ve gelecekteki testler için ek bir doğrulama mekanizması eklediğini söyledi.
Polis, sistemlerine yetkisiz erişim ya da veri sızıntısına dair bir bulgu olmadığını belirtti. Anthropic'in ise bu olayla birlikte modelin beklenmedik davranışlarına dair bir rapor yayımlamayı planladığı bildirildi.
Kaynak: The Verge · Görsel: kirill_makes_pics / Pixabay
Haberde hata mı var? Düzeltme ve içerik kaldırma başvurusu
