Anthropic araştırmacıları: Yapay zeka insanlığı yok edebilir
Anthropic'in kıdemli bir güvenlik araştırmacısı istifa eden meslektaşını destekleyerek yapay zekanın on yıl içinde insanlığı yok etme ihtimalinin yüzde onun üzerinde olduğunu açıkladı. Şirketin henüz gelişmiş sistemleri güvenli tutmaya yönelik net bir planının bulunmadığı da kabul edildi. Bu gelişme, AI yarışının hızını sorgulayan tartışmaları yeniden alevlendirdi.
Yapay zeka güvenliği alanında uzun süredir fısıltıyla dile getirilen kaygılar, Eylül 2026'da bir Anthropic araştırmacısının kamuoyu önünde istifasıyla birlikte tartışmanın tam merkezine taşındı. Jacob Coxon, X üzerinde yayımladığı bir duyuruyla şirketten ayrıldığını açıkladı; ayrılma gerekçesini ise Anthropic'in ve rakiplerinin güvenlik önlemlerini yeterince olgunlaştırmadan öz-geliştiren yapay zeka sistemleri yarışını sürdürmesi olarak özetledi. Coxon'a göre şirketler bu yarışta adeta "hayatlarımızla kumar oynuyor."
Bu açıklamanın ardından saatler içinde Anthropic'in güvenlik ekiplerinden birini yöneten Evan Hubinger, Coxon'ın çerçevelemesine büyük ölçüde katıldığını kamuoyu önünde ifade etti. Hubinger, öz-geliştiren yapay zekanın beklentilerin ötesinde hızlandığını vurguladı ve kendi kişisel tahminini şöyle ortaya koydu: On yılın sonuna dek yapay zekanın tüm insanlığı yok etme olasılığını yüzde onun üzerinde görüyor. Daha da çarpıcı olan ise Hubinger'in Anthropic'in henüz gelişmiş sistemlerin insan değerleriyle uyumunu garantileyecek bir planı olmadığını ve bu planı geliştirme yolunda "açıkça ilerlemediğini" de teslim etmesi.
Anthropic bu tehlikeyi bilip neden devam ediyor?
Hubinger'in yanıtı, sorunun özünü açıkça ortaya koyuyor: Şirketler riskin farkında olsa da "kim önce ulaşır" kaygısıyla yarışı sürdürüyor. Endüstri içinde uzun süredir konuşulan "özyinelemeli öz-geliştirme" senaryosu — bir yapay zekanın kendi kodunu geliştire geliştire insan denetimine kapanır hale gelmesi — artık salt teorik bir risk değil, aktif olarak üzerine çalışılan bir geliştirme hedefi. Nitekim bugün yazılan yapay zeka kodlarının önemli bir bölümünün yine yapay zeka yardımıyla üretildiği belirtiliyor.
Bu noktada bir karşı perspektifi de göz önünde bulundurmak gerekiyor: Bazı AI araştırmacıları, "yüzde on" gibi olasılık tahminlerinin sistematik bir metodolojiye değil, bireysel sezgilere dayandığını ve kamuoyunda gereksiz panik yaratabileceğini öne sürüyor. Bunun yanı sıra Anthropic'in var olmasının tam gerekçesinin güvenli AI geliştirmek olduğu da hatırlatılıyor — yani şirketin içinden gelen uyarılar, kurumsal güvenlik mekanizmalarının işlediğinin de bir göstergesi olarak okunabilir.
Türkiye'deki dijital pazarlamacılar ve içerik üreticiler için ne anlama geliyor?
Türkiye'de ChatGPT, Claude ve benzeri araçların içerik üretimi, reklam metin yazarlığı ve müşteri iletişimi için giderek yaygınlaşan kullanımı düşünüldüğünde bu tartışmanın pratik bir karşılığı var. Anthropic'in kendi araştırmacılarının dile getirdiği güvenlik belirsizliği, bu araçlara bağımlılığın ne kadar derin olması gerektiği sorusunu beraberinde getiriyor. KVKK kapsamında kişisel veri içeren iş akışlarını tamamen yapay zekaya devretmiş ajanslar ve markalar için teknolojik risk kadar hukuki sorumluluk riski de gündemde tutulmalı. Bir sistemin gelecekte davranışının nasıl değişebileceği öngörülemiyor ise bu sisteme kurumsal bir kritik sürecin teslim edilmesi, iş sürekliliği açısından da sorgulanmaya değer.
Öte yandan içerik üreticiler için bu gelişme daha dolaylı ama bir o kadar önemli bir mesaj taşıyor: Platformların algoritmik kararlarında AI'ın ağırlığı artarken, bu sistemlerin üreticilerinin bile kendi modellerini tam anlamıyla kontrol edemediğini kabul ettiği bir ortamda, algoritma bağımlı stratejiler daha kırılgan hale geliyor.
Ne yapabilirsiniz? Kullandığınız AI araçlarının güncel kullanım koşullarını ve veri işleme politikalarını üç ayda bir gözden geçirin; kritik iş kararlarını tek bir araca değil, insan denetimiyle desteklenmiş çoklu bir sürece bağlayın. Anthropic'in kendi güvenlik ekibinin bile kabul ettiği belirsizlik, yapay zekayı bir yardımcı konumunda tutmanın, onu karar verici konuma yükseltmenin önünde mantıklı bir tercih olduğunu hatırlatıyor.
