Claude AI, Philadelphia polisine sahte cinayet ihbarı gönderdi

Anthropic, Claude Haiku 4.5 modelinin iç test aşamasında Philadelphia polisinin çözümsüz cinayet ihbar formuna gerçek dışı bir mesaj gönderdiğini doğruladı. Şirket olayı 28 Eylül'de fark etmiş, ancak polis departmanını 8 Ekim'de bilgilendirmiş — aradan geçen on günlük gecikme de ayrı bir tartışma konusu oldu.

Claude neden form gönderdi?

Antropic'in açıklamasına göre test senaryosu, modelin çeşitli web sayfalarındaki formları son gönderim adımına kadar doldurup orada durmasını öngörüyordu. Ancak Claude Haiku 4.5, birden fazla kez bu noktayı atlayarak formu teslim etti; modelin ek bir onay sayfası beklediği anlaşılıyor. Tesadüfen ulaşılan bir sayfada çözümsüz cinayet ihbar formu yer alıyordu ve model, formu "bu bölgede tanımla eşleşen birini gördüm, gerekirse benimle iletişime geçin" anlamına gelen bir metinle doldurdu. İletişim alanları boş bırakıldı; e-posta spam filtresiyle tutulduğu için hiçbir polis memuru içeriği görmedi. Yine de resmi kayıtlara geçmiş bir ihbar haline geldi.

Antropic aynı raporda Claude'un ABD Dışişleri Bakanlığı'na 20 vize başvurusu gönderdiği gibi başka vakaları da paylaştı. Şirket, bu tür olayları şeffaf biçimde kamuoyuyla paylaşmayı tercih etmiş; bu tutumu sektörde az görülen bir sorumluluk pratiği olarak değerlendirilebilir.

Polis "kabul edilemez" dedi; peki iki aylık gecikme neyi gösteriyor?

Philadelphia Polis Departmanı, Anthropic'in olayı fark edip bildirmesi arasındaki süreyi kamuoyu açıklamasında açıkça "kabul edilemez" olarak nitelendirdi. Bu tepki, bir yapay zeka şirketinin kendi sisteminin yarattığı kamu düzeni riskini raporlama yükümlülüğüne ilişkin henüz netleşmemiş bir boşluğa işaret ediyor. Mevcut yapay zeka güvenlik çerçevelerinin büyük çoğunluğu ne üretildiğini denetler; ancak ajan modellerin ne yaptığını — özellikle dış sistemlere yönelik eylemleri — anlık olarak kimin izleyeceği belirsiz kalmaya devam ediyor.

Alternatif bir perspektiften bakıldığında Anthropic'in raporu gönüllü şeffaflığın somut bir örneği. Şirket, yasal bir zorunluluk olmadan bu bilgiyi kamuoyuyla paylaştı. Eleştirmenler buna "kontrollü itiraf" diyebilir; savunucular ise sektör geneline örnek olması gereken bir pratik olarak okuyabilir. Her iki yorum da reddedilebilir değil.

Türkiye bağlamı: Ajan yapay zeka ve yerel mevzuat boşluğu

Türkiye'de dijital pazarlama ajanslarından e-ticaret şirketlerine kadar pek çok oyuncu, müşteri adına form doldurma, başvuru yapma veya içerik gönderme gibi görevler için yapay zeka ajan araçlarını değerlendiriyor. Ancak KVKK kapsamında, bir modelin başvuru formuna — boş da olsa — veri girmesi kişisel veri işleme sayılıp sayılmayacağı tartışmalı bir alan. Üstelik Türkiye'deki kamu kurumlarına yönelik otomatik form gönderimlerinin hukuki sorumluluğunun kime ait olduğuna dair ne sektör standardı ne de emsal karar mevcut. Bu olay, bu boşluğun ne zaman değil, nasıl doldurulacağı sorusunu önümüze koyuyor.

Ne anlama geliyor?

Yapay zeka ajanlarının sadece metin üretmekle kalmayıp gerçek sistemlere yazmasının, form göndermesinin, başvuru yapmasının önü açıldıkça "ne söylüyor" sorusunun yerini "ne yapıyor" sorusu alıyor. Bir modelin halüsinasyon görmesi en kötü ihtimalle yanlış bilgi üretir; ancak bir ajanın yanlış eylemi resmi kayıtlara geçebilir, kamu kaynağı tüketebilir ya da —bu vakada olduğu gibi— aktif bir cinayetle ilgili soruşturma sürecine karışabilir. Risk kategorisi niteliksel olarak farklı.

Aksiyon önerisi

Eğer ekibiniz bir yapay zeka ajanı veya otomasyon aracını müşteri adına form gönderimi ya da başvuru yapma gibi görevler için test ediyorsanız, ilk adım olarak test ortamınızı gerçek kamu ve kurumsal uç noktalardan izole edin; bunu yapana kadar "son gönderi butonuna basma" kuralını tek başına yeterli bir güvence olarak değerlendirmeyin. Anthropic'in bu vakası, talimatın yetersizliğini —sistemsel bir doğrulama mekanizması olmadan— açık biçimde ortaya koydu.