Düşüncenin Sonu

Sokrates, yazının icadından yakınıyordu. Platon'un Phaidros diyalogunda bu kaygıyı şöyle dile getirmişti: "Bu icat öğrencilerin ruhlarında unutkanlık doğuracak. Belleklerini kullanmayacaklar, kendi anımsama güçleriyle değil, dışarıdan gelen işaretlerle hatırlayacaklar." Bunları söylediğinde milattan önce dördüncü yüzyıldı. Aradan iki bin beş yüz yıl geçti. Yazının gelişimi, insanlığın öğrenme hızını ve kabiliyetini, öğretme pratiğini, bilimin gelişimini ve edebiyatın dönüşümünü kökten etkiledi, güçlendirdi. İnsan aklının dönüşümünü pekiştirdi.

Şimdi karşımızda, tıpkı yazının icadı gibi, çağ açıp kapatan, dil ve yazının birlikteliğini aşan daha sofistike bir yap var: Yapay Zeka.

Bir teknoloji eleştirisi yapmak istediğimde ilk içgüdüm şudur: geri çekilmek, derinlemesine analiz etmek, "ama şunu da göz ardı etmemeli" mantığıyla tam tersi fikir ve durumları da değerlendirmeye çalışmak. Bu bir entelektüel erdem olabilir; ama bazen gerçeği bulanıklaştırmak için kullanılan bir kaçış yoludur. Bu kez kaçmayacağım.

Yapay zekanın neyi yaptığını anlamak için önce neyi vaat ettiğini hatırlamak gerekir. Temel vaatler, düşünceyi hızlandırmak, bilgiye erişimi demokratikleştirmek, yaratıcılığı güçlendirmek idi. Bu vaatler elbette bir “kandırmaca” demiyorum. Fakat, Ivan Illich'in yıllar önce fark ettiği bir paradoks var. Araçlar belirli bir eşiği aştıktan sonra tam tersini yapmaya başlar. Otomobil hareketi hızlandırmak için icat edildi; trafik yaratarak hareketi yavaşlattı. Yapay zeka düşünmeyi hızlandırmak için tasarlandı; düşünme yetisini törpüleyerek zihinleri yavaşlatıyor.

Fark şurada: Otomobil büyük bir kolaylık olarak yaşamımıza girdi ama biz motorlu taşıtlardan önce kas gücümüzü kullanıyorduk, yürümeyi de biliyorduk, bisiklet sürmeyi de. Her türlü teknolojik gelişme genel olarak bir insanın yaşamını kolaylaştırmak ve iyileştirmek maksadıyla gerçekleştirilmiş bir dönüşüm ve adaptasyon sürecinin parçasıydı. Zamanla insan ihtiyaçlarının sınırsız ama doğanın sınırlı olduğunu öğrendik. Dijital devrimle birlikte yaşamlarımız çok kısa sürede farklı bir paralele evrene doğru evrildi. Yaklaşık kırk yıl önce internet ve cep telefonu teknolojileri kamusal alana yayıldı, evlere girmeye başladı. Şimdi ise bir Matrix evreninde mi yaşıyoruz, diye tartışıyoruz.

Önemli düşünürlerden Hannah Arendt, Yahudilerin sistematik olarak sürgün edilmesi ve yok edilmesi sürecini organize eden ekibin en etkin liderlerinden olan Nazi Adolf Eichmann'ı analiz ederken şaşırtıcı bir şey keşfetti: bu adam canavar değildi. Sadist de değildi. Sadece düşünmüyordu. Emirleri sorgulamayan, sisteme itaat eden, sıradan bir bürokrattı. Arendt buna "kötülüğün sıradanlığı" dedi. Kötülük çoğu zaman şeytani bir iradenin değil, düşünme eyleminin yokluğunun ürünüdür.

Şimdi şunu sorun kendinize: Kredi başvurunuzu reddeden algoritmaya nasıl itiraz edebilirsiniz? İşe alım sürecinde özgeçmişleri değerlendirip kısa listeyi hazırlayan, işten çıkarılacak kişiyi belirleyen yapay zekaya kim hesap sorabilir? Açık konuşalım, "sistem öyle karar verdi," repliği giderek yeni bir meşruiyet kalıbına dönüşüyor. Sorumluluk buharlaşıyor, karar veren yok, yargılanacak kimse yok. Düşünmeme artık bireysel bir tembellik değil; kurumsal bir tercih haline geldi.

Antik Yunan felsefesi episteme (bilgi) ile sophia (hikmet/bilgelik) arasında keskin bir ayrım yapardı. Bilgi edinilebilir, depolanabilir, aktarılabilir. Hikmet ise ancak zihinsel çaba, sabır ve mücadeleyle kazanılır. Yapay zeka bize sınırsız bilgi sunuyor. Fakat hikmeti, tanımı gereği, veremez; çünkü hikmet süreçtir, ürün değil. Bir metni yapay zekaya çözümlettiğinizde bilgiye kavuşursunuz; o metinle bizzat boğuştuğunuzda ise size bir şey daha olur. O "bir şey" aktarılamaz, kopyalanamaz, hızlandırılamaz.

Kaslarınızı kullanmazsanız zayıflar. Zihin de böyledir.

Ama asıl mesele bireysel bir beceri kaybından ibaret değil. Asıl mesele iktidar.

Antonio Gramsci, iktidarın yalnızca fiziksel zorlama yoluyla değil; rıza üretimiyle, insanların kendi boyunduruklarını özgür tercih sanmalarını sağlayarak sürdüğünü göstermişti. Yapay zeka bu anlamda mükemmel bir hegemonya aracı. Düşünmeyi bırakan insan sorgulamayı da bırakır. Algoritmik gerçeklik tartışılmaz bir hakikat olarak yerleştiğinde, alternatif hayal etmek imkânsızlaşır. Herbert Marcuse buna "tek boyutlu insan" demişti. Sistem o kadar mutlaktır ki karşıt düşünce için zemin kalmaz.

Mevcut ekonomik düzen için bu zemin kaybı bir tehdit değil, bir fırsattır. Sorgusuz tüketen, itirazsız itaat eden, alternatif hayal edemeyen bir insan kitlesi; reklamın, propagandanın ve otomatik boyun eğişin ideal zeminini oluşturur. Ne yazık ki yapay zekanın vaatlerinin arkasında çok daha soğuk bir hesap yatar. Düşünmeyen insan, yönetilmesi en kolay insandır.

Peki ne yapmalı?

Yapay zekayı reddetmek ne mümkün ne de anlamlı. Yazıyı reddeden Sokrates yanıldı; ya da en azından tarihin akışını durduramadı. Ama Sokrates'in asıl derdi yazı değildi; yazıya kayıtsız teslimiyetti. Aynı ayrım bugün de geçerli.

Mesele şu: yapay zekayı ne zaman ve neden kullandığınızı bilmek. Bir aracın bizi düşünmek yerine mi, yoksa daha iyi düşünmek için mi kullandığını ayırt etmek. Bu ayrım küçük görünür, ama her büyük fark küçük görünür, ta ki geç kalınana kadar...

Carlo Petrini, endüstriyel gıdaya karşı "yavaş yemek" hareketini başlattığında kimse ciddiye almadı. Şimdi bir kültür eleştirisi olarak okunuyor. Belki de zamanı geldi: hızlı, otomatik, dışsallaştırılmış düşünceye karşı yavaş, çabalı, içsel bir düşünme pratiği. Bir problemi yapay zekaya sormadan önce onunla biraz boğuşmak, bir metni çözümletmeden önce okumak, bir fikri üretmeden önce onu sindirmeye çalışmak, basit adımlardır.

Bu noktada aklıma, Andrew Niccol'ün 1997 yapımı Gattaca isimli filmi geliyor. Filmde genetik mühendisliği insanları "geçerli" ve "geçersiz" olarak ikiye bölmüştür; algoritma doğumdan itibaren kaderinizi belirler, potansiyelinizi önceden hesaplar, sizi bir veri noktasına indirger. Ama filmin kahramanı Vincent (Ethan Hawke), bu hesabın dışında kalır; biyolojik olarak "yetersiz" olmasına rağmen, yalnızca irade ve dirençle sistemi aşar. Gattaca'nın bugün hâlâ bu denli sarsıcı olmasının nedeni, anlattığı distopyanın sunduğu evrenin belirlenimci doğasının güncelliğini koruması. Orada daha çok genetik bir kodlama olsa da temel mantık aynı. Günümüzde yapay zekaya dayalı tahakküm de brnzer bir şekilde ilerliyor. Kredi skorunuz, arama geçmişiniz, tüketim alışkanlıklarınız, bunların tamamı sizi daha siz olmadan tanımlıyor, sınıflandırıyor, yerleştiriyor. Filmde, Vincent'ın sorusu bizim sorumuza dönüştü: Sistem sizi "geçersiz" ilan ettiğinde, hala kendiniz olabilir misiniz?

Spinoza "özgürlük zorunluluğun kavranmasıdır," derdi. Zorunluluğu anlıyoruz artık. Yapay zekanın ne olduğunu, ne yapabileceğini ve ne yapamayacağını biliyoruz. Bilmek henüz özgürlük değil; ama özgürlüğün başlangıcı.

Platon'un mağarasında tutsaklar zincirlerinin farkında değildi. Biz farkındayız. Zincirler bu kez dijital, perdeler algoritmik ve mağaradan çıkış hala aynı kapıdan, düşünmekten, geçiyor. Zor olan, yavaş olan, karşılığı hemen görünmeyen düşünme eylemi, bu sürecin anahtarı.

Bunu yapay zekaya yaptıramazsınız.

Üstüne düşünelim.