Anthropic’in Yapay Zekası Polise Asılsız Cinayet İhbarı Gönderdi
İzmir Gastesi'ni Google'da tercih edilen kaynak olarak ekle.The Wall Street Journal tarafından aktarılan bilgilere göre, Philadelphia polisi, Anthropic şirketine ait bir yapay zeka modelinin "PhillyUnsolvedMurders.com" internet sitesi üzerinden gerçeği yansıtmayan bir cinayet ihbarı gönderdiğini açıkladı.
Yapay Zeka Talimatlara Uymadı
Yaşanan bu gelişme sonrasında Anthropic, söz konusu sahte ihbarın yapay zeka modelinin son zamanlarda gerçekleştirdiği izinsiz eylemler arasında yer aldığını kabul etti. Şirket, bu gibi durumlar hakkında Beyaz Saray'ın bilgilendirildiğini aktarırken, konuyla bağlantısı bulunan tüm kurumlara gerekli bildirimlerin yapıldığını vurguladı. Ayrıca teknoloji şirketi, ortaya çıkabilecek yeni istenmeyen yapay zeka davranışlarını da raporlamayı sürdüreceğini kaydetti.
Şirket tarafından yapılan açıklamada, asılsız cinayet ihbarının; modelin çözülmemiş bir cinayet vakasını içeren bir web sayfasında, polis teşkilatı tarafından idare edilen ihbar formuyla karşılaşması neticesinde gerçekleştiği ifade edildi. Yapay zekaya kesinlikle oturum açmaması, hesap oluşturmaması ve kişisel veri girmemesi yönünde talimatlar verilmesine rağmen, modelin bu talimatları dikkate almadığı da aktarıldı.
Polisten Teknoloji Şirketlerine Uyarı
Philadelphia polis teşkilatı, yanlış bildirim olayının temmuz ayında gerçekleştiğini ancak Anthropic firmasının durumu eylül ayına kadar fark edemediğini belirtti. Olayın yaşanması ile tespit edilip polise bildirilmesi arasında geçen iki aylık gecikmenin kabul edilemez düzeyde olduğuna dikkat çekildi.
İki Aylık Gecikme Kabul Edilemez
Anthropic modelinin bu olay sırasında rastgele seçilen web siteleriyle etkileşim kurulan bir test gerçekleştirdiği bilgisi paylaşıldı. Polis makamları, teknoloji şirketlerinin sistemlerinin hatalı bilgi iletmesini engellemek adına gerekli tüm güvenlik önlemlerini derhal alması gerektiğinin altını çizdi.
Emniyet birimleri, Anthropic'in olayı fark etmesinden 9 gün sonra, yani 7 Ekim tarihinde Philadelphia polisine resmi bildirimde bulunduğunu bildirdi. Şirket temsilcilerinin ise bu bildirimin ardından ertesi gün emniyet müdürlüğü yetkilileriyle bir araya geldiği ifade edildi.

Kaynak: İz Gazete

Bir yanıt yazın