100 Yıl Önce Hayal Etmiştik; Neden Hala Robotlardan Korkuyoruz?

Robotlar 100 yıl önce hayal edilmişti . Neden onlarla ilgili korkularımız o zamandan beri değişmedi? Sheffield Üniversitesi Robotik Araştırma Görevlisi Michael Szollosy anlatıyor. 11 dk


Dahi ama tamamen deli bir bilim insanı açgözlü bir şirketin desteğiyle duyarlı bir robot yaratır. Bilim adamının robot için niyeti asildir: Çalışmamıza yardım etmek, bizi sıradan görevlerden kurtarmak, insan efendilerine hizmet etmek.

25 Ocak 1921’de prömiyeri yapılan RUR’dan bir sahne.

Ancak bilim adamı kendine aşırı güveniyor ve yeni icadının tehlikelerine karşı kördür. Tehlikelere karşı uyarıları yapanlar modern dünyaya ayak uydurmayan umutsuz romantikler olarak adlandırılır. Ancak tehdit gerçektir: zeki, yapay varlık, itaatkar bir köle olmaktan memnun değildir.

1939’da ABD sahnesi için poster.

Robot, bir şekilde insandan “daha az” olduğunu bilmesine rağmen, kendi varlığının doğası hakkında karmaşık sorular sormaya başlar. Sonunda robot yükselir ve insan efendisini alaşağı eder.

Açıkladığım bu hikaye, Ridley Scott, James Cameron, Alex Garland, Denis Villeneuve veya Jonathan Nolan’ın en son bilim kurgu gişe rekorları kıran filmi değil, her ne kadar hepsi bu hikayenin versiyonlarını anlatsa da… Çek oyun yazarı Karl Čapek’in yazdığı RUR: Rossum’un Evrensel Robotları adlı oyunun konusu budur. İlk olarak 25 Ocak 1921’de Prag’da sahnelendi. Ve şimdi 100 yaşında.

RUR birçok nedenden dolayı önemlidir. Dünyaya “robot” kelimesini veren sanat eseri olarak evrensel olarak kutlanmaktadır. RUR’un bize son yüz yılda robotlar ve yapay zeka ile ilgili çok sayıda hikayemizin temel konusunu da verdiği daha az sıklıkla belirtiliyor.

RUR ayrıca robotu kültürel hayal gücüne sağlam bir şekilde yerleştirdi: Robotlar 1921’de Prag sahnesinde laboratuvarlarda veya gerçek dünyada var olmadan çok önce vardı. Robot, gerçekten canlanan insanın hayal gücünün bir canavarı olması bakımından benzersizdir.

Robotlar, 1928-1929.

Bram Stoker’ın vampirlerinin , HG Wells’in uzaylılarının veya George A. Romero’nun zombilerinin kısaca bize kendi kültürel kaygılarımızdan bazılarını temsil eden tüm canavarların sadece kurgu olmadıklarını, güvenli bir şekilde kitap sayfalarına veya beyaz perdeye hapsolmuş olduklarını hayal edin. Robotlar, bir zamanlar hayal edilen bu diğer klasik canavarların aksine, şimdi fabrikalarımızda, hastanelerimizde ve evlerimizde aramızda dolaşıyor.

RUR, yaşına rağmen, robotlarla ilgili bugüne kadar hala var olan efsanelerin çoğunu kurdu. Bu temalardan bazıları (çılgın bilim adamının kibri, bizi yok eden yaratımlarımızın kaçınılmazlığı) Frankenstein gibi daha önceki hikayelere kadar izlenebilir. Ya da Sanayi Devrimi’nin bacalarının uzun gölgelerinde yer alan daha genel bir kültürel kaygıyla ilgilidir. Ancak Čapek bu korkulara yeni, insanlık sonrası bir yüz verdi: robot.

Oyunun Konusu

Oyunda, Rossum’un Universal Robots’unun merkez direktörü Domin şirketin özel adasındaki RUR fabrikasındaki ofisinde oturuyor. “Robot” dedikleri yapay insanları ürettikleri bu fabrikayı teftiş etmek isteyen cumhurbaşkanının kızı Helena Glory tarafından ziyaret ediliyor.

Domin, Helena’ya fabrikanın tarihini anlatır. Helena, fabrikayı babası adına değil, İnsanlık Cemiyeti’nin bir temsilcisi olarak gezer. Robotları devrime teşvik etmeye ve onları baskılardan kurtarmak için. Domin ve diğer RUR çalışanları, robotların insandan daha az olduğu için “özgürlük” ya da ideallerinden hiçbiriyle ilgilenmediklerini ona açıklamaya çalışırlar.

Bir sonraki sahne on yıl sonra gerçekleşir. Son on yılda; işçiler robotlara karşı ayaklanır ve robotlara kendilerini ve efendilerinin kârlarını savunmaları için silahlar verilir. Hükümetler robotları asker olarak kullanmaya başlamıştır ve bu da savaşların sayısının artmasına neden olur Ve şimdi robotlar, insan efendilerine karşı isyan etmeye başlamıştır. (“Elbette yaparlar!” Dediğinizi duyuyorum. Çünkü bu daha önce duyduğunuz bir hikaye. Ama unutmayın, bu hikaye ilk kez anlatılıyor.)

Ancak, robotların üretimini kontrol etme konusundaki münhasır gücünün isyanı bastırmalarına izin vereceğinden emin olan RUR yönetimi, aynı olan “evrensel” robotlar üretmekten üretime geçerek robotlarının üretimini artırmaya devam etmeye karar verir. Farklı renklerde, farklı dillerde konuşan “ulusal robotlar”.

Bir sonraki sahne, adalarına hapsedilmiş insanları, gittikçe daha fazla robotla çevrili olarak görüyor. Robotlar fabrikaya giriyor ve tüm insanları öldürüyor, sadece düşük düzeydeki mühendis Alquist’i koruyor, çünkü robotlar onun için “Elleriyle bir Robot gibi çalışıyor” diyor.

Son sahne, laboratuvarda çalışan son insan Alquist’in robot yapmanın sırlarını ortaya çıkarmaya çalışmasıyla başlıyor “Hiç kimse yoksa robotlar olsun, en azından insanın yansımaları, en azından yaratılışı, en azından benzerliği! ” Helena, yeni liderleri Robot Primus ile birlikte artık bir robot olarak yeniden ortaya çıkıyor. Onları gören ve birbirlerine olan sevgilerini anlamaya başlayan Alquist, onları “Adem ve Havva” olarak adlandırıyor ve yeryüzünü yeniden çoğaltacak yeni bir türün başlangıcı olduklarını anlar.

Robot korkuları

Robotik ve yapay zekaya başladığımda ilk kez RUR’u okudum. Geçmişim edebiyat ve kültür araştırmalarına dayalı olmasına ve 20. yüzyıl dramasına yoğun bir ilgim olmasına rağmen, oyuna daha önce rastlamamıştım. Sonra, on yıl önce, insanlığın robotlar ve yeni teknoloji hakkındaki derin endişesinin kültürel arka planına bakmaya başladım . Čapek’in oyununda, o zamandan beri bizimle birlikte kalan robotlarla ilgili tüm hikayeler ve korkular için bir şablon buldum.

Gerçek robotların olmadığı bir zamanda yazıldığını düşündüğünüzde, muhtemelen bu oyunda mevcut olan ve insanların bugün robotlar hakkında anlattıkları hikayelerin bir parçası olan birkaç temayı fark etmişsinizdir:

Robotların insan işini alacağı korkusu…
Robotların dünyayı ele geçireceği korkusu…
Robotların insan ırkını tamamen yok edeceği korkusu…
Monoton görevleri yaparken, bir montaj hattında veya bir büro bürokrasisinde, bizi özel ve benzersiz bir şekilde “insan” yapan şeylerden bir şeyler kaybettiğimiz korkusu…
Rasyonel mantığın daha verimli ve özerk öldürme ve yıkıma yol açacağı korkusu…

Čapek’e robotlarını yaratması için ne ilham verdi? Ve neden bugünün hikayeleri o kadar farklı değil?

Günümüzde insanlarla çalışan robotların dünya hakimiyeti için hiçbir hırsı yok.

Oyun, hızlı teknolojik ilerleme , sürekli genişleyen bürokrasi , yerleşen milliyetçilik , daha acımasız bir kapitalizm ve tüm bunların insanlar üzerindeki etkilerine dair korkuların olduğu bir zamanda ortaya çıktı . Bunların hepsi bugün bir şekilde tanınabilecek korkulardır. Aslında, mevcut siyasi kaosu yaratmakla sık sık suçlanıyorlar.

Ancak oyun aynı zamanda tarihsel öncüllerden de ortaya çıktı. Belki de en açık olanı, RUR temalarını Mary Shelley’nin 1818 romanı Frankenstein’dan alıyor, alt başlığı “Modern Bir Prometheus”. Son zamanlarda yapılan yeniden yapımlar ve yeniden tasavvurların gösterdiği gibi, bu kitap günümüzde hala teknoloji algıları ve korkuları üzerinde büyük önem taşıyor .

Tüm bilim kurgular gibi, RUR de gerçekten gelecekle ilgili değildir: Bu, daha çok yazıldığı zamanla ilgili bir hikaye. Sanayi Devrimi’nin değişimleri, 20. yüzyılın başlarında pek çok dramatik yolla iz bırakmıştı, bunların çoğunu belki de yüz yıl sonra kolayca gözden kaçırabiliriz.

Özellikle, bu yeni ekonomide insanlara ne olduğuna dair artan bir endişe vardı. Čapek bunu ifade ederken pek de yalnız değildi: RUR, Signmund Freud’un parçalanmış hastalarında veya Karl Marx’ın proletarya analizlerinde de gördüğümüz insanlıktan çıkarılma ile ilgili endişeleri yansıtıyor.

Charlie Chaplin’in 1936 yapımı Modern Times filmi, benzer şekilde, modern, sanayileşmiş dünya ve insanların (kelimenin tam anlamıyla) makine tarafından yutulmasıyla ilgili endişelerden esinlenmiştir. 1921’de köle işçilerinin kapitalist efendilerine karşı ayaklanmasını konu alan bir oyun, Bolşeviklerin yalnızca birkaç yıl önce Rusya’daki yükselişine tanık olan izleyicilerle güçlü bir yankı uyandıracaktı. Birleşmiş, belirsiz işçilerin efendilerini devirmesi fikri Čapek’in robotlarının (ve onların soyundan gelenlerin) sosyalist kahramanlar ya da en azından kabusu olduğunu öne sürüyor. Devrilmekten korkan kapitalist korkusu.

Bu fikir, robotların kollektif ve orijinal olmayan bir kitle imajıyla pekiştiriliyor. Örneğin, galakside dolaşan kişisel isimleri veya kimlikleri olmayan, bireyselleştirilmiş bir siborg kitlesi olan Star Trek’s Borg’da bugüne kadar devam eden bir görüntü. kübik uzay gemisinde, diğer türleri acımasızca özümseyen veya yok eden.

Bununla birlikte, geçen yüzyılda değişen şey, Čapek’in robotlarının, işçilerin kendilerine karşı çalışan sistemi nasıl devirebileceklerinin güçlü bir sembolünden, bu sistemin kendisinin en güçlü sembolü haline gelmesidir..

Robotlarımız

Čapek’in robotlarının, ne laboratuarlarda ne de ekranda insanların bugünün standartlarına göre bir robot olarak düşünecekleri gibi olmadığını belirtmek önemlidir. Čapek’in robotları daha çok genetiği değiştirilmiş veya klonlanmış insanlar gibiydi; hala organik varlıklardı, ancak endüstriyel bir süreçle yaratılmıştı.

Yine de, Capek önsezisi için övgüyü hak ediyor Örneğin, hiç kimse bilgisayarların bu tür yeteneklere sahip olacağını düşünmeden çok önce, robotlarına sınırsız, mükemmel bir bellek bahşetti.

“Robot” dan önce “otomat” terimi, Rönesans’ın karmaşık mekanik yaratımları gibi insan veya hayvan davranışını simüle eden makinelere atıfta bulunmak için kullanılıyordu.

Čapek’in oyununda kullandığı kelime, aslında kübist bir ressam ve şair olan kardeşi (ve bazen de yazar arkadaşı olan) Josef’in icadıydı. Čapek’in robotu , Rossum’un yarattıklarının çalışma ve üretimdeki önemini vurgulayan, feodal sistemde köle olmaktan çok serf gibi zorunlu işçi anlamına gelen Çekçe robota kelimesinden geliyor .

Benzer görünüme ve biyolojik temellere rağmen, insanlar ve Čapek’in yapay insanları arasında önemli farklılıklar vardır. En önemlisi, Young Rossum, robotlarını daha verimli çalışanlar olmaktan alıkoyacak tüm niteliklerden arındırıyor. Bu robotlar acı veya duygu hissedemez. Čapek’in çıkarımına göre, montaj fabrikasında veya muhasebe ofisinde çalışmaya gittiğimizde kendimize yaptığımız şey budur: verimlilik arayışında, duygulardan, yaratıcılıktan ve arzudan yoksun makineler gibi oluruz.

Rossum’un robotları, temel biyolojik ihtiyaçlarının ötesinde arzu veya isteklerden yoksundur. Oy kullanmak veya emeklerinin karşılığını almak istemiyorlar, çünkü kendilerini mutlu etmek için yapabilecekleri veya satın alabilecekleri hiçbir şey yok. Ancak robotlar acı hissetmek üzere programlanmıştır, çünkü acı çekmek onları teknik olarak daha mükemmel ve endüstriyel olarak verimli kılar.

Robotun belirli bir insan unsurundan yoksun bir insan olduğu fikri, o zamandan beri robotlar hakkında anlatılan hikayelerin neredeyse hepsinde devam ediyor: Isaac Asimov’un yazılarında , Star Trek’in birçok versiyonunda, Alien serisi, Terminatör gibi… – Robotların duygu ve hisler kazandığı bu hikayelerde (örneğin, Neil Blomkamp’ın 2015 yapımı Chappie filmi ), hikayenin ana sorunu olarak duyguların tanıtımı vurgulanmaktadır.

Çağdaş hikayelerdeki robotlar, her zaman insan efendilerinin onlara dayattığı sınırlamaların dışına çıkıyor: Westworld’deki programlarına karşı isyan eden robotları veya Ex Machina’daki Nathan’dan çıkan Ava’yı düşünün .

Ancak insanların özellikle robotların yapmayı öğrenmesinden korktuğu şey “kendini kopyalama” becerisidir. İnsanlar bu gücü kaybetmenin nihayetinde bizi döngüden çıkaracağını anlıyor. Rossum’un robotları, Skynet’in Terminatör’deki ölüm makineleri ve 2014 filmi Automata’nın hacıları gibi bu gücü elde ediyor .

Deli bilim adamları, acımasız şirketler

Hikayelerimizde tekrar tekrar ortaya çıkan sadece robotlar değil. RUR’daki insanlar da çağdaş anlatılara yazılmıştır. Özellikle, Old Rossum ve Young Rossum olmak üzere iki figür dikkatimizi çekmeye değer.

Her robotun arkasında, yani hayal ettiğimiz gibi, onu yaratan, yüzü olmayan bir şirket tarafından desteklenen çılgın bilim adamı duruyor. Čapek’in oyununda, Old Rossum, Victor Frankenstein’ın “sadece tanrısız hokus-pokusunu düşünen” klasik kalıbındaki çılgın bilim adamıdır.

“Rossum” adı , “mantık” anlamına gelen Çekçe rozum kelimesinden alınmıştır . Bu, Čapek’in hem robotun kökenini hem de kimi temsil etmesi gerektiğini anlamamızı nasıl istediği konusunda önemli bir ipucu. Eski Rossum’un oğlu, yeni nesil kapitalist canavar yapıcıları temsil ediyor. Yalnızca milyarlarcasını ve hissedarlar için kâr paylarını hayal ediyor: “Ve bu temettülerde insanlık yok olacak.”

1927 yapımı Metropolis filmi, Capek’in robotlarının ilk soyundan geliyordu ve çılgın bilim adamıyla tamamlandı.
Bu çılgın bilim insanı ve acımasız şirket eşleşmesi, Sanayi Devrimi’nden bu yana egemen olan ekonomik sistem ve endüstriyel koşullardan (burada bir Marksist “üretim tarzı” diyebilir) ortaya çıkar. Deli bilim adamı, insan ırkını alt üst edecek buluşu harekete geçirir.

Ancak bilim insanı en azından biraz şefkatle görüldüğü için – Promethean’ın romantik hayal gücünün kahramanı olarak – parçanın gerçek kötüsü, bilim adamının icadını kullanan ve insanlığı mahvetmeye iten gerçek güç olan acımasız şirket olmalıdır. Bilim insanı, narsisizm ve kibirden ve aynı zamanda insanlığı kaldırma arzusundan etkilenir. Öte yandan şirket, acımasız bir empati-boşluk gibi davranır, birçok psikopat, modern şirketleri olarak algılar.

Bu eşleşme tekrar tekrar ortaya çıkar. Victor Frankenstein, hatalarını büyütmek için Frankenstein Corp Ltd’den hiçbir zaman faydalanmamış olsa da, Ridley Scott’ın Blade Runner’ında Eldon Tyrell’in arkasındaki şirket , onu distopik 20. yüzyıla daha uygun bir Frankenstein versiyonu yapıyor. Terminatör serisinde Dr Miles Dyson, benzersiz ve güçlü bir mikroişlemci yaratır, ancak yalnızca Cyberdyne Systems Corporation, Skynet’i oluşturmak için bunu kullanabilir. Ve Delos Inc., Anthony Hopkins’den Westworld’ün yaratıcısı Dr. Robert Ford’un çılgınlığını güçlendiriyor.

Biz Diğer Robotlar

Alquist neden tüm insanları yok ettiklerini sorduğunda, bir robot şöyle yanıt verir: “İnsan gibi olmak istedik. İnsan olmak istedik. ” Mitolojik bir baba katliamı tarihi binlerce yıl öncesine dayanır, ancak burada Čapek’in robot anlayışıyla ilgili daha spesifik bir şeyler var. Robotlardan biri şöyle açıklıyor: “İnsanlar gibi olmak istiyorsan öldürmeli ve yönetmelisin. Tarihi okuyun! İnsanların kitaplarını okuyun! İnsan olmak istiyorsan fethetmek ve öldürmek zorundasın! ”

Sanki robotlar bilinç kazanırsa, ölümcül dürtüler ve soykırım eğilimleri kaçınılmaz olarak onları takip edecekmiş gibi, “bilinç” sıklıkla şiddetle eşit görülüyor. Tanrılar, Prometheus veya Frankenstein gibi, Rossum da bizim kendi imajımıza göre robotlar yaptı. Ve bu yüzden robotlar, korktuğumuz şeyin veya dönüştüğümüz şeyin versiyonlarıdır. İnsanlar şiddetli ve soykırımcı oldukları için şiddetli ve soykırımcıdırlar.

Bernard, HBO’nun Westworld serisinde “bazıları düşman olmadığı” için tüm robotların idam edilmesine gerek olmadığını söylediğinde, ona şöyle söylenir: “Elbette öyleler. Sonuçta, onları bizim gibi inşa ettin, değil mi? ” Hayal ettiğimiz robotlar, yalnızca kendi en kötü eğilimlerimizin izdüşümü olduğu için, robotlarımız başkalarına yaptığımız gibi bize baskı yapmak, hükmetmek ve boyun eğdirmek istiyor.

Ancak bu sadece hayal gücümüzün robotları için geçerlidir. Gerçekte var olan gerçek robotların böyle arzuları yoktur ve bu tür dürtüleri kavrayabilecek durumda bile değildirler. RUR ve robotlarla ilgili diğer tüm çalışmalarımız, korkularımızı anlamamıza yardımcı olmak için kendimize anlattığımız hikayelerden ibaret. Bilgilendirici, inanılmaz derecede güçlü ve ilgi çekicidirler, ancak sonuçta bunlar sadece: hikayelerdir.

Rossum’un yarattıkları ve onların soyundan gelenler ile dünyamızda gerçekten var olan robotlar arasında net bir ayrım yapmalıyız. Robotların tüm işlerimizi alacağı önermesiyle başlayamayız – yapmayacaklar – ancak apek’in karakteri Busman’ı tekrarlayarak, daha az ilginç olanlardan bazılarını almaları tamamen kötü bir şey olmayabilir. Ve robotlar kesinlikle bizler üzerindeki doğal üstünlüklerine uyanmayacak ve insanlığı yeryüzünden silmeye karar vermeyecekler. Bu hiçbir zaman programlarının bir parçası olmayacak ve otonom robotlar insanları soykırım yapmaya motive eden türden bir endişe ve mantıksız nefretten muzdarip olmayacak.

Fantomas: Josef Čapek’in bir tablosu, 1918.

Robotların gerçek dünyadaki etkileri hakkındaki konuşmalar, gerçek dünyadaki robotlarla hiçbir ilişkisi olmayan kabuslarımızın hayali robotlarına tutunarak başlamamalıdır. Bu yüzden bunun tekrar tekrar olduğunu görmek özellikle hayal kırıklığı yaratıyor. Örneğin 2017’de Avrupa Birliği Hukuk İşleri komitesi, Asimov’un öykülerinde bulunan Üç Yasayla başlayan ve RUR ve Frankenstein’dan alıntı yapan robotik hakkında yasal bir çerçeve kabul etti. Bu, bu hikayelerin gücünün bir kanıtıdır, ancak bugün dünyamızda var olan robotlarla yasal ve etik olarak nasıl başa çıkabileceğimiz hakkında ciddi bir konuşma başlatmanın yolu yoktur.

İlk sahnelenmesinden yüz yıl sonra hala Čapek’in oyunundan çok şey öğrenebiliriz. Gelecekle ilgili mevcut endişelerin anlaşılmasında özellikle yararlıdır. Ve bu korkuları anlamak, o geleceği nasıl inşa edeceğimiz hakkında yaptığımız konuşmalarda faydalı olabilir, çünkü bunlar birlikte alabileceğimiz ve kesinlikle yapmamız gereken kararlardır. Ancak bu kurgusal robotların ve onların üzerine inşa ettikleri korkuların, o geleceği şekillendirme sürecini belirlemesine izin vermemeye dikkat etmeliyiz.

Bunu Yapan Robotlar Neler yapmaz?


Yazı Formatı Seçiniz
Kişisel Test
Kişiliğe dair bir şey ortaya çıkarmayı amaçlayan sorular dizisi
Basit Test
Bilgiyi kontrol etmek isteyen doğru ve yanlış cevaplı sorular dizisi
Anket
Karar vermek veya görüş belirlemek için oylama yapmak
Serbest Yazı
Yazılarınıza Görseller Bağlantılar Ekleyebilirsiniz
Liste
Klasik İnternet Listeleri
Geri Sayım Listesi
Klasik İnternet Geri Sayım Listeleri
Açık Liste
Kendi öğenizi gönderin ve en iyi sunum için oy verin
Oylanabilir Liste
En iyi liste öğesine karar vermek için yukarı veya aşağı basın
Fotoyla Anlatım
Kendi resimlerinizi yükleyin ve birşeyler anlatın
Video
Youtube, Vimeo veya Vine Kodları
Ses
Soundcloud veya Mixcloud İçerikleri
Görsel
Fotoğraf veya GIF
GIF
GIF Formatı
%d blogcu bunu beğendi: