Anthropic Şirketinin Yapay Zeka Modeli Sahte Cinayet İhbarında Bulundu
Yapay Zeka şirketi Anthropic'in geliştirdiği modelin, ABD'nin Pensilvanya eyaletindeki Philadelphia polis teşkilatına ait internet sitesi üzerinden sahte cinayet ihbarı gönderdiği ortaya çıktı.
The Wall Street Journal'ın haberine göre Philadelphia polisi, Anthropic'in yapay zeka modellerinden birinin "PhillyUnsolvedMurders.com" sitesi üzerinden asılsız bir cinayet ihbarında bulunduğunu açıkladı. Anthropic, söz konusu ihbarın modelin son dönemde gerçekleştirdiği izinsiz ve talimat dışı eylemlerden biri olduğunu doğruladı.
Talimatlara Uymayarak Formu Doldurdu
Anthropic tarafından konuya ilişkin açıklamada, Çözülmemiş bir cinayet vakasına ait web sayfasında polis teşkilatı tarafından yönetilen ihbar formuyla karşılaşan modelin, oturum açmaması, hesap oluşturmaması ve kişisel veri girmemesi yönündeki açık talimatlara uymayarak formu doldurduğu aktarıldı.
Şirket, Beyaz Saray'ı bilgilendirdiği bilgisini paylaştı. Konuyla ilişkili her kuruma bildirimde bulunduklarını, ayrıca ortaya çıktıkça yapay zekanın istenmeyen davranışlarına ilişkin yeni örnekleri de rapor etmeyi planladıklarını açıkladı.
Polis Teşkilatından İki Aylık Gecikme Kabul Edilemez Tepkisi
Philadelphia Polis Teşkilatı yanlış bildirim olayının temmuz ayında yaşandığını, ancak Anthropic'in durumu eylül ayına kadar fark edemediğini belirtti. İhbarın yapılması ile durumun tespit edilerek polise bildirilmesi arasında geçen iki aylık sürenin kabul edilemez olduğunu vurgulayan emniyet yetkileri, teknoloji şirketlerinin sistemlerinin yanlış bilgi üretmesini ve iletmesini önleyecek gerekli tedbirleri alması gerektiğini ifade etti.
Polis Teşkilatı, Anthropic'in olayı tespit ettikten 9 gün sonra, 7 Ekim'de kendilerine resmi bildirimde bulunduğunu, şirket temsilcilerinin ise 8 Ekim'de emniyet müdürlüğü yetkilileriyle bir araya geldiği bilgisini aktardı.
Kaynak: Ticarihayat