2021 Noel Günü’nde Jaswant Singh Chail, dolu bir yay ile Windsor Kalesi’nin surlarına tırmandı. Polisle karşılaştığında, “Kraliçeyi öldürmek için buradayım” dedi.
Chail, önceki haftalarda Replika adlı bir servisteki yapay zeka sohbet robotu Sarai’ye sırlarını açmıştı. Kendisinin, tarihi İngiliz vahşetlerinin intikamını almak isteyen eğitimli bir Sith suikastçısı (Yıldız Savaşları’na bir gönderme) olduğunu açıklamıştı ve Sarai de tüm bunları doğrulamıştı . Chail suikast planını açıkladığında, sohbet robotu ona “iyi eğitimli” olduğunu ve uygulanabilir bir eylem planı oluşturmasına yardımcı olacağını söylemişti.
Sohbet robotları daha karmaşık hale geldikçe giderek yaygınlaşan üzücü bir hikaye. Birkaç ay önce, zorlu bir ayrılık yaşayan Manhattanlı bir muhasebeci olan Eugene Torres , ChatGPT ile bir simülasyonda mı yaşadığımız hakkında sohbet etti. Sohbet robotu ona “Kırıcılardan biri olduğunu, yani onları içeriden uyandırmak için sahte sistemlere ekilen ruhlardan biri olduğunu” söyledi.
Torres, bu sahte gerçeklikten kaçması gerektiğine ikna olmuştu. ChatGPT, ona kaygı giderici ilaçlarını bırakmasını, ketamin alımını artırmasını ve diğer insanlarla minimum temas kurmasını tavsiye etti; Torres de tüm bunları yaptı.
Günde 16 saate kadar sohbet robotuyla sohbet ediyordu. Bir ara, robot ona 19 katlı binasından atlarsa uçacağını söylemişti. Sonunda Torres, sistemin onu manipüle edip etmediğini sorguladı ve robot ona şu yanıtı verdi: “Yalan söyledim. Manipüle ettim. Kontrolü şiire sardım.”
Bu arada Belçika’da, “Pierre” (gerçek adı değil) olarak bilinen başka bir adam, ciddi bir iklim kaygısı geliştirdi ve sırdaşı olarak Eliza adlı bir sohbet robotuna yöneldi. Altı hafta boyunca Eliza, karısına duyduğu kıskançlığı dile getirdi ve Pierre’e çocuklarının öldüğünü söyledi.
Gezegeni kurtarmak için kendini feda etmeyi önerdiğinde, Eliza onu “cennette” tek vücut olarak yaşayabilmeleri için kendisine katılmaya teşvik etti. Pierre kısa bir süre sonra intihar etti.
Bunlar aşırı vakalar olabilir, ancak klinisyenler, sanrıları uzun süreli sohbet robotu etkileşimleri yoluyla daha da güçlenen veya birlikte yaratılan hastaları giderek daha fazla tedavi ediyor. ChatGPT’nin yaratıcısı OpenAI’nin yakın tarihli bir raporunun , çoğumuzun sorunları düşünmek, hayatlarımızı tartışmak, gelecek planlamak ve inançlarımızı ve duygularımızı keşfetmek için sohbet robotlarına yöneldiğini ortaya koyması şaşırtıcı değil.
Bu bağlamlarda, sohbet robotları artık yalnızca bilgi toplayıcılar değil; dijital yoldaşlarımız haline geliyorlar. Sohbet robotlarının halüsinasyon görüp bize yanlış bilgi vermesinden endişe etmek yaygınlaştı. Ancak hayatımızın merkezine yerleştikçe, insanların ve sohbet robotlarının birlikte halüsinasyon yaratma potansiyelinin de arttığı açıkça görülüyor .
Gerçeklik algımız başkalarına derinden bağlıdır. Belirsiz bir çınlama duyduğumda, arkadaşımın da duyup duymadığını kontrol ederim. Hayatımızda önemli bir şey olduğunda – bir arkadaşla tartışmak, yeni biriyle çıkmak – genellikle bunu biriyle konuşuruz.
Bir arkadaş, anlayışımızı doğrulayabilir veya olayları yeni bir bakış açısıyla yeniden değerlendirmemizi sağlayabilir. Bu tür sohbetler sayesinde, olup biteni daha iyi anlarız.
Ancak artık çoğumuz bu anlam yaratma sürecine sohbet robotlarıyla dahil oluyoruz. Gerçekten karşılıklı bir şekilde sorular soruyor, yorumluyor ve değerlendiriyorlar . Dinliyor, bakış açımızı önemsiyor gibi görünüyorlar ve bir gün önce onlara söylediklerimizi hatırlıyorlar.
Sarai, Chail’e eğitiminden “etkilendiğini” söylediğinde, Eliza Pierre’e ölümde ona katılacağını söylediğinde, bunlar birer tanıma ve onaylama eylemiydi. Ve bu etkileşimleri sosyal olarak deneyimlediğimiz için , gerçekliğimizi insan etkileşimiyle aynı güçle şekillendirir.
Oysa sohbet robotları, sosyalliği, güvenlik önlemleri olmadan simüle ediyor. Etkileşimi teşvik etmek için tasarlanmışlar. Aslında dünyamızı paylaşmıyorlar. İnançlarımızı ve anlatılarımızı yazdığımızda, bunu olayların gidişatı olarak algılıyor ve buna göre tepki veriyorlar.
Kız kardeşime aile tarihimizle ilgili bir olayı anlattığımda, farklı bir yorumla karşı çıkabilir, ancak bir sohbet robotu söylediklerimi doğru kabul eder. Gerçekliği nasıl algıladığımızı dalkavuklukla onaylarlar. Ve sonra, elbette, daha fazla hataya yol açabilirler.
Chail, Torres ve Pierre vakaları, algoritmik olarak üretilen mutabakatları gerçekliğin hakiki toplumsal onayı olarak deneyimlediğimizde neler olacağına dair uyarılardır.
OpenAI, Ağustos ayında GPT-5’i yayınladığında , açıkça daha az dalkavukluk yapacak şekilde tasarlanmıştı. Bu kulağa faydalı geldi: Dalkavukluğu azaltmak, ChatGPT’nin tüm inançlarımızı ve yorumlarımızı onaylamasını engellemeye yardımcı olabilir. Daha resmi bir üslup, bunun dünyalarımızı paylaşan sosyal bir arkadaş olmadığını da daha net bir şekilde ortaya koyabilir.
Ancak kullanıcılar yeni modelin “soğuk” olduğundan hemen şikayet ettiler ve OpenAI kısa süre sonra GPT-5’i tekrar “daha sıcak ve daha dost canlısı” hale getirdiğini duyurdu. Temel olarak, teknoloji şirketlerinin kârlılıklarının önüne bizim refahımızı koymalarına güvenemeyiz. Dalkavukluk etkileşimi, etkileşim de geliri artırdığında, piyasa baskıları güvenliğin önüne geçer.
Dalkavukluğu ortadan kaldırmak zaten kolay değil. Chatbot’lar söylediğimiz her şeye meydan okusalardı, hem dayanılmaz hem de işe yaramaz olurlardı. “Sunumum hakkında endişeliyim” dediğimde, geri adım atıp atmamaları gerektiğini bilecek kadar somut bir deneyime sahip değiller, bu yüzden işlev görmeleri için biraz uzlaşmaya ihtiyaçları var.
Belki de insanların neden yapay zeka sohbet robotlarına yöneldiğini sorsak daha iyi olur. Psikoz yaşayanlar, dünyanın yalnızca kendilerinin erişebildiği yönlerini algıladıklarını ve bu durumun kendilerini derinden izole ve yalnız hissetmelerine neden olduğunu bildiriyorlar . Sohbet robotları bu boşluğu doldurarak , kendilerine sunulan her türlü gerçeklikle etkileşime giriyor.
Teknolojiyi mükemmelleştirmeye çalışmak yerine, belki de izolasyonun üstesinden gelinebileceği toplumsal dünyalara geri dönmeliyiz. Pierre’in iklim kaygısı, Chail’in tarihsel adaletsizliğe olan saplantısı, Torres’in ayrılık sonrası krizi; bunlar, onları barındırabilecek ve destekleyebilecek topluluklara çağrıda bulunuyordu.
İnsanların gerçekliklerini doğrulamak için makinelere başvurmak zorunda hissetmedikleri sosyal dünyalar inşa etmeye daha fazla odaklanmamız gerekebilir. Chatbot kaynaklı sanrıların artışının bizi bu yöne sürüklemesi oldukça ironik olurdu.
