Yapay zeka araştırmacıları, bir yapay zeka sisteminde daha önce yalnızca insan beyninde görülmüş nöronlar keşfetti.
Elon Musk’ın kurduğu girişim OpenAI, en gelişmiş sinir ağlarından birinin karmaşık işleyişi içerisinde nörobilimcilerin çok düğümlü nöron olarak tarif ettiği bir öğeyi ortaya çıkardı.
Keşif, CLIP adı verilen bir genel amaçlı görme sistemi kullanılarak yapıldı. CLIP, karikatür ve heykeller gibi soyut bağlamlardaki nesneleri ve insanları ayırt etmek için kendini gelişkin veri grupları üzerinde eğitiyor. OpenAI, paylaştığı blog gönderisinde şu açıklamalara yer verdi:
CLIP sistemi içinde genel anlamıyla, simgesel veya kavramsal ifade edilmesi fark etmeksizin aynı kavrama karşılık veren nöronlar keşfettik.
CLIP’teki çok düğümlü nöronları keşfimiz, bize sentetik ve doğal görme sistemlerinde ortak bir mekanizma olabilecek bir şeyin ipucunu veriyor: Soyutlama.
Çok düğümlü nöronlar insan beyninde ilk olarak 2005’te keşfedilmişti. Bilim insanları keşifte, duyusal verilerden aktarılan soyut kavram kümeleri aracılığıyla tek bir nöronun, ortak bir izleği ayırt edebileceğini fark etmişti.
Örneğin ünlü birinin resmini tanımak için milyonlarca nöronun çalışması yerine bunları ayırt etmekten yalnızca tek bir nöron sorumlu oluyor.
Bu, insan beyninde kişinin tanıdığı her bir aile üyesi, arkadaş ve ünlü kişiye has tekil birer nöron olduğu anlamına geliyor. Bu nöron fotoğraflara, çizimlere ve sadece bu kişinin isminin görsel haline karşılık veriyor.
OpenAI araştırmacıları, biyolojik akrabalarına benzer şekilde “duygulara, hayvanlara ve ünlü kişilere karşılık veren” yapay nöronlar saptadı.
Bu nöronlardan “Örümcek-Adam nöronu” adını verdikleri biri, 2005 tarihli çalışmada genel hatları ilk olarak çıkarılmış çok düğümlü nöronlara “dikkat çekici bir benzerlik” taşıyor.
Araştırmacılar nöronun “bir örümcek görüntüsüne, ‘örümcek’ kelimesinin görüntüsüne ve çizgi roman karakteri Örümcek-Adam’ın hem kostümle canlandırılan hem de çizilmiş haline karşılık verdiğini” yazdı.
Yüz tanıma, dijital yardımcılar ve kendini kullanan araçlarla şimdiden sıçramalara imza atmış ileri düzey yapay zeka sistemlerinin geliştirilmesinde sinir ağları, ciddi bir potansiyele sahip.
Sistemler veri işlemek için yapay nöronlar veya biyolojik sinir sistemlerinin mimarisinden ilham alan düğümlerden meydana geliyor.
Bu denli kuvvetli bir teknolojinin sakıncasıysa sistemin belli kararları neden verdiğinin veya belli sonuçlara nasıl vardığının anlaşılmasının zor olma ihtimali.
Bu, eğitimlerinde kullandıkları devasa veri gruplarından dolayı belli kategorilerle cinsiyetçi ya da ırkçı ilişkiler kurmaları gibi istenmeyen sonuçlara yol açabilir.
Ortadoğu nöronu
OpenAI’ın modeli internetin seçilmiş bir alt kümesinde eğitilmiş olmakla birlikte ticari uygulamalarda kullanılması halinde zararlı olabilecek bazı önyargılar ve çağrışımlara sahip. Açıklamada şu ifadeler yer aldı:
Örneğin terörizm çağrışımına sahip bir ‘Ortadoğu’ nöronuna ve Latin Amerika’ya yanıt veren bir ‘göç’ nöronuna rastladık.
Hatta hem koyu tenli insanlara hem de gorillere karşılık olarak ateşlenen bir nörona rastladık. Bu, daha önceki modellerde de gördüğümüz ve kabul edilemez bulduğumuz fotoğraf etiketleme olaylarının bir muadili oldu.
Araştırmacıların bu tip sinir ağlarını anlamak için geliştirdiği gereçler, gelecekte karşılaşılabilecek sorunları önceden tespit etmede diğerlerine yardımcı olabilir.
Fütüristik bir Küçük Prens
Dünyaca ünlü Çek yazar Karel Capek, 1921’de robot kelimesinin ilk kez kullanıldığı bir bilimkurgu oyunu yazmış ve oyunda makineleri anlatmıştı. Şimdi de yapay zeka, bu eserin yüzüncü yaşını kutlamak için makineleri anlatan bir tiyatro oyunu yazdı.
60 dakikalık oyun, Open AI’ın GPT-2 isimli yapay zeka yazılımı tarafından kaleme alındı. Projeyi denetleyen oyun yazarı David Kostak, senaryoyu “Bir tür fütüristik Küçük Prens” diye niteledi.
Bu dil tahmin modeli şimdiye kadar, sahte haberler, kısa hikayeler ve şiirler yazmak için de kullanılmıştı. Ancak onu geliştiren ekip, bu oyunun GPT-2’nin ilk tiyatro prodüksiyonu olduğunu ifade etti. Oyuna “Yapay Zeka: Bir Robot Tiyatro Metni Yazarsa” ismi verildi.
Söz konusu dil tahmin modeli, insan araştırmacıların önceden verdiği cümleleri tamamlayarak çalışıyor. Bu projede araştırmacılar, yapay zekaya, “Merhaba, ben robotum ve sizi yazdığım oyuna davet etmek büyük bir zevk” cümlelerini verdi. Bunun devamını getiren yazılım söz konusu tityatro metnini oluşturdu.
Öte yandan sonuç, henüz kaliteli bir tiyatro metninden uzak. Zira yazılım birkaç cümleden sonra metnin diğer bölümleriyle çelişen ifadeler yazmaya başlayabiliyor. Örneğin bu oyunu yazan yapay zeka, metnin ilerleyen kısımlarında ana karakterin insan değil de robot olduğunu unuttu.
İki yıl önce proje üzerinde çalışmaya başlayan, Prag Üniversitesi’nden hesaplamalı dilbilimci Rudolf Rosa, “Bazen bir diyaloğun ortasında, konuşan kişi erkekten kadına dönüştü” ifadelerini kullandı.
ABD’deki Columbia Üniversitesi’nden yapay zeka uzmanı Chad DeChant’a göre bunun nedeni, yazılımın cümlelerin anlamını gerçekten kavrayamaması. Oyunun yazım sürecinde görev almayan ama izlemek için sabırsızlandığını belirten DeChant, “Yalnızca birlikte kullanılması muhtemel kelimeleri sıralıyor” diye açıkladı.
Metindeki tutarsızlıkların artmasını önlemek isteyen araştırmacılar, yazım sürecine bazı müdahalelerde bulundu. Örneğin yazılımın, karakterin cinsiyetini satırdan satıra değiştirdiği pasajlar düzeltildi ve yazılım mantıklı bir düzyazı oluşturana kadar ilk metin komutu tekrarlandı.
Rosa, senaryonun son halinin yüzde 90’ına dokunulmadığını, insan müdahalesinin yalnızca yüzde 10’luk bir kısımda yer aldığını söyledi. DeChant ise tüm senaryo yazılıma bırakılmadığı için oyunun “Yapay zeka yazdı” diye betimlenemeyeceğini söylüyor.
Yapay zeka uzmanı, teknolojinin bir tiyatro oyunu gibi karmaşık bir metni baştan sona yazabilecek hale gelmesinin yaklaşık 15 yıl süreceğine inanıyor. Ancak deneyin, izleyicilere yapay zekanın şu anda neler yapabildiğini gösterdiğini ve onları heyecanlandıracağını belirtiyor.
Kalem ve kağıt, yapay zekayı yendi
Bir elmanın üzerine “iPod” yazan bir kağıt yapıştırıldığında, sistemin bunu yüzde 99,7 oranında iPod olarak tanımladığı tespit edildi.
OpenAI’ın son teknoloji görüş sistemi CLIP’in, yalnızca bir kalem ve kağıtla kandırılabileceği ortaya çıktı.
Yapılan testlerde bir elmanın üzerine “iPod” yazan bir kağıt yapıştırıldığında, sistemin bunu yüzde 99,7 oranında iPod olarak gördüğü tespit edildi. Clip, başka bir testte üzerine dolar işareti yapıştırılan köpeği, yüzde 52,5 kumbara olarak tanımladı.
Söz konusu zayıflığı “tipografik saldırı” diye niteleyen yapay zeka devi, 4 Mart’ta yaptığı açıklamada şu ifadelere yer verdi:
Bu zayıflığın basit bir öğrenme güçlüğü olmadığına inanıyoruz. CLIP’in metinleri sağlam bir şekilde okuma kabiliyetinden yararlanılarak, el yazısı metinlerin fotoğraflarının bile çoğu zaman sistemi kandırabileceğini tespit ettik.
Bu tür saldırılar hala işe yarıyor. Kalem ve kağıttan başka bir teknoloji gerektirmiyor.
OpenAI tipografik saldırının, görüş sistemlerini kandırmada kullanılan zıt görüntülere (adversarial images) benzediğine dikkat çekti. Uzmanlar bu tür görüntülerin, örneğin yola etiketler yapıştırarak, Tesla marka araçların yazılımını yanıltıp şerit değiştirmesini sağlamak için kullanılabileceğini keşfetmişti.
