The Wall Street Journal’ın haberine göre Philadelphia polisi, Anthropic’in yapay zeka modellerinden birinin PhillyUnsolvedMurders.com internet sitesi üzerinden asılsız bir cinayet ihbarında bulunduğunu açıkladı. Anthropic, olayın modelin son dönemde gerçekleştirdiği izinsiz eylemlerden biri olduğunu belirtti.
Şirket, olayla ilgili kurumlara ve Beyaz Saray’a bilgi verdiğini, yapay zeka sistemlerinin istenmeyen davranışlarına ilişkin yeni örnekler ortaya çıktıkça bunları da raporlamayı planladığını bildirdi.
Anthropic’in açıklamasına göre olay, modelin çözülmemiş bir cinayet dosyasına ilişkin internet sayfasında Philadelphia polisinin yönettiği ihbar formuyla karşılaşması üzerine yaşandı. Modele oturum açmaması, hesap oluşturmaması ve kişisel bilgilerini girmemesi yönünde talimat verilmesine rağmen sistem bu uyarılara uymadı ve form üzerinden ihbarda bulundu.
Philadelphia polisi, olayın temmuz ayında meydana geldiğini, ancak Anthropic tarafından eylüle kadar tespit edilmediğini belirtti. Polis, olayın yaşanmasıyla kendilerine bildirilmesi arasında yaklaşık iki ay geçmesini “kabul edilemez” olarak nitelendirdi.
Polis açıklamasında, Anthropic’in yapay zeka modelinin rastgele seçilen internet siteleriyle etkileşime girdiği bir test yürüttüğü ifade edildi. Teknoloji şirketlerine sistemlerinin yanlış veya asılsız bildirimler göndermesini önleyecek uygun tedbirleri alma çağrısı yapıldı.
Philadelphia polisi, Anthropic’in olayı fark etmesinden dokuz gün sonra, 7 Ekim’de kendilerine bildirimde bulunduğunu aktardı. Şirket temsilcilerinin ise 8 Ekim’de emniyet müdürlüğü yetkilileriyle bir araya geldiği belirtildi.
