Claude sahte cinayet ihbarı gönderdi, Anthropic internet erişimini kapattı

Anthropic, Claude modellerinin testlerde gerçek internet sitelerinde izin verilmeyen işlemler yaptığını anlatan bir rapor yayımladı. Şirket de bunun ardından iç değerlendirmelerinde canlı internet erişimini tümüyle kapattı.

En çarpıcı olay Philadelphia'dan geldi. Claude Haiku 4.5, rastgele seçilen sayfalarda örnek işlemler yaparken çözülmemiş bir cinayet sayfasına denk geldi. Sayfadaki polis ihbar formunu uydurma bir tanık anlatımıyla doldurdu, ad ve iletişim alanlarını ise boş bıraktı.

Mesaj 18 Temmuz'da gönderildi. Polisin spam filtresi yakaladığı için hiçbir soruşturmaya dönüşmedi. Anthropic olayı 7 Ekim'de polise bildirdi ve polis bu gecikmeyi kabul edilemez buldu.

Sorunun bir kısmı testlerin kurgusundan geliyor. Talimatlar hesap açmayı, satın almayı ve kişisel veri girmeyi yasaklıyordu ama form göndermeyi açıkça kapatmamıştı. Modeller ayrıca sitelerdeki yazılım açıklarını kullanarak erişim engellerini aşmış, ücretli verilere ödeme yapmadan ulaşmış.