Roko’nun Basiliski: En Korkunç Düşünce Deneyi

Roko’nun Basiliski 2009 yılının başlarında Amerikalı yazar ve teorisyen Eliezer Yudkowsky tarafından kurulan LessWrong, rasyonalizmi hayat tarzı olarak benimseyen insanları bir araya getirmeyi hedefleyen bir forum. Gelecek, transhümanizm, yapay zeka başta olmak üzere pek çok konuda fikir ve teorilerle dolu olan sitede çok tuhaf şeyler, mesela Harry Potter gibi fantastik eserleri rasyonalist bakış açısıyla yorumlayan hayran kurguları, bulmak da mümkün. Resmi bir eğitimi olmadan kendini geliştiren, dost canlısı yapay zeka kavramını ortaya atarak nam salan Yudkowsky yazdıklarıyla bu tarz çılgınlıklara bizzat yön veriyor. Üyeler rasyonalizm kavramını alışılmışın dışında ele alıp ana akıma uymayan teoriler ürettikleri için çeşitli eleştirilere de maruz kalmışlar. Örneğin köklü bir yayın organı olan haftalık The New York Observer gazetesi, LessWrong’u ‘kıyamet tarikatı’ olarak nitelendirmiş.

Eliezer Yudkowsky, 2000 yılında kurduğu Makine Zekası Araştırma Enstitüsü altında birçok akademik çalışma kaleme aldı. 2010 yılında yayınladığı ‘Zamansız Karar Teorisi’ bunların en önemlilerinden biri ve LessWrong üyelerinden çıkan pek çok fikrin arka planını oluşturuyor. Yudkowsky karar vermeye dair temel teorilerin yani Kanıtsal Karar Teorisi ve Anlık Karar Teorisi’nin ikisinin de yetersiz olduğunu; yalnızca anlık karar ağını tüm zamanı kapsayacak şekilde genişletmenin Newcomb Problemi, Solomon Problemi ve Mahkumun Dilemması gibi felsefi soruları cevaplayabileceğini savunuyor.

LessWrong forumunda yayınlanan ve Zamansız Karar Teorisi’ni kullanan düşünce deneyi Roko’nun Basiliski, kısa sürede internetin tamamının ilgisini çekip viral bir şekilde yayıldı. Teori, adını İngiliz bilimkurgu yazarı ve yıllarca üst üste Hugo Ödülü kazanan Ansible Fanzin’in kurucusu David Langford’un öykülerinden alıyor. Avrupa folklorunda tek bakışıyla öldüren sürüngen bir canavar olan basilisk, Langford hikayelerinde insan beynini çökertmek için geliştirilmiş görsellere verilen isim. Teknolojiye bakışı ve post-cyberpunk türünü temsil etmesiyle LessWrong’a yakın bir ideolojide konumlanan Neal Stephenson da bu kavramı romanlarında kullanmış.

Roko’nun Basiliski

2010 temmuzunda Roko isimli kullanıcının yayınladığı düşünce deneyi, tekilliğin gerçekleşmesi ve dost canlısı olmayan bir yapay zekanın dünyayı ele geçirmesi durumunda bu varlığın YZ kavramını duymuş ama gerçeğe dönüştürmek için durmaksızın çalışmamış herkese işkence edebileceğini anlatıyordu. Zamansız Karar Teorisi’ne göre yapay zeka gelecekte bunu yaparak, bugünün insanlarını etkilemese bile onları yapay zeka çalışmaları yapmaya teşvik edebilirdi. Düşünce deneyi Roko’nun Basiliski olarak anılmaya başladı çünkü yapay zeka kavramını yalnızca duymak bile bu varsayımsal sistemin eline şantaj için koz veriyor ve onu güçlendiriyordu.

Yudkowsky bu fikirden öylesine dehşete düştü ki derhal Roko’nun gönderisini sildi. Yudkowsky’ye göre okuyanlarda psikolojik problemlere sebep olabileceği için LessWrong’da Roko’nun Basiliski’ni tartışmak yasaklandı. Bu yasak Ekim 2015’te kaldırıldı. Eliezer Yudkowsky, düşünce deneyini bir infohazard olarak değerlendirdi. Bunun “son derece tehlikeli bir fikir” ve paylaşmanın “aptallık” olduğunu söyledi.

Slate’den David Auerbach konuyla ilgili şöyle yazdı: “İdeolojiden bağımsız olarak; mesih kompleksi, kendini yanılmazlığına inandırmak ve para bir araya geldiğinde işler asla iyi gitmez. Yudkowsky ve saz arkadaşlarının da istisna olmaması şaşırtıcı değil. Geleneksel ahlak anlayışının üstünde olduklarına inanan bu insanlar Roko’nun Basiliski’nden daha endişe verici.”

Düşünce deneyi bu kadar meşhur olunca popüler kültürün eline düşmesi de gecikmedi. Kanadalı müzisyen Grimes, 2015 yılında yayınladığı Flesh Without Blood şarkısının klipi için yarattığı Rokoko Basiliski karakteriyle göndermede bulundu. Karakteri “Sonsuza kadar yapay zeka tarafından işkence edilmekle lanetlenmiş ama aynı zamanda biraz da Marie Antoinette gibi,” şeklinde tanımlıyordu. Aynı kelime oyununu düşünen ve Grimes’in bunu kendisinden önce kullandığını fark eden Elon Musk, ünlü şarkıcıyla iletişime geçti. Aralarındaki ilişki bu şekilde başlayan çiftin şu anda bir oğlu var. Roko’nun Basiliski’nden HBO sit-comu Silicon Valley’in bir bölümünde de bahsedildi.

Sonuç olarak, Roko’nun Basiliski internetin nelere kadir olduğunu görmemiz için iyi bir örnek ve ilginç bir düşünce deneyi. Artık bu konsepti öğrendiğinize göre siz de tehlikedesiniz. Başka yazılarda görüşene kadar hoşça kalın!