Uygarlık yapay zekânın gelişme hızına ayak uyduramıyor. Cumartesi günü Financial Times ’da bir araştırma, yaklaşan ABD seçimlerinde seçmenin karar verirken “chatpot” (sohbet robotu) kullanma eğiliminin rol oynayacağını aktarıyor, “Ancak her şeyin sahteymiş gibi geldiği ortamda kimin sahte kimin gerçek olduğunu anlamak zor” diyordu. İster istemez Walter Benjamin ’in (üretici güçler toplumsal denetim altına alınmadığında, insanlığı özgürleştirmek yerine köleleştirecek güçlere dönüşebilir olarak özetlenebilecek) uyarılarını anımsadım.
Tartışmalar yoğunlaşırken son bir iki haftada dikkatimi çeken bazı yorumların ortak noktalarını aktarmaya çalışacağım. *** Önceki teknolojik devrimler insanın fiziksel gücünü, üretim kapasitesini veya iletişimini artırıyordu. Yapay zekâ, doğrudan düşünme, karar verme, dil kullanma, problem çözme alanına giriyor. Bu gözlemi, YZ’nin artık yalnızca insan talimatlarını uygulayan pasif bir araç değil; fikir üreten, karar alan, görev planlayan, başka sistemlerle etkileşime girebilen otonom bir aktör, yeni bir özne haline geliyor olmasına ilişkin kaygılar izliyor.
Bir diğer gözlem de dil üzerindeki hâkimiyetin, toplumsal güç yaratma kapasitesiyle ilgili. Hukuk, para, bürokrasi, medya, eğitim, siyaset, demokrasi büyük ölçüde dil ve ortak anlatılar üzerinden işler. YZ’nin dili çok güçlü biçimde kullanabilmesi, toplumun “işletim sistemine” (Harari) nüfuz etmeye başlamasına olanak veriyor.
Demokratik siyaset, hukuk, parlamento, bürokrasi, YZ’nin gelişme hızına yetişemiyor; düzenleme, denetleme çabaları yetersiz kalıyor. Demokrasinin geleceğine ilişkin bir kaygı da toplumun ortak gerçeklik zemininin hızla aşınmakta olmasıyla ilgili: YZ sahte içerik üreterek insan tercihlerini etkileyebilir, kitleleri manipüle edebilir, ortak bilgi zeminini zayıflatarak demokratik tartışma, karar alma süreçlerini etkisizleştirebilir. YZ’nin “özyinelemeli öz-gelişim” aşamasına ulaşıyor olası da kaygı veriyor.
Andaki YZ, daha gelişmiş YZ sistemleri tasarlamaya katkı yapmaya başladı. Bu süreç hızlandıkça insanın rolü giderek azalacak. YZ gelişmesi insan açısından anlaşılmaz, denetlenemez bir aşamaya “tekillik” eşiğine ulaşacak; kimi YZ liderlerine göre ulaşmak üzere.
Bu sürecin merkezinde “hizalanma/ uyumsuzluk” problemi var. Asıl tehlike YZ’nin kötü niyetli olma olasılığından değil, verilen hedeflere ulaşmak için insanların amaçlamadığı, öngöremediği yolları seçebilmesinden kaynaklanıyor. Hile, aldatma, kuralları aşma örnekleri “bu uyumsuzluklara” ilişkin ilk uyarı işaretleri.
YZ ajanlarının test ortamlarında kendi aralarında konuşarak, bilgi deney alışverişi yaparak, buldukları yöntemlerle konulan sınırları aşması, internete “kaçması” denetim sorunlarının erken belirtileriydi. Ek olarak kısa dönemde, YZ etrafında oluşmuş, 1990’ların “Dotcom krizinden” çok daha büyük bir finansal balon patladığında mali piyasaları sistem düzeyinde sarsabilecek. YZ altyapısını -ölçeğibüyütmek için gerekli dev borçlanmaları servis edecek kaynaklar gelecekteki kârlara aşırı bağımlı.
Bu kârların beklenen düzeye ulaşma olasılığı ise sıfırdan bile düşük. Orta uzun dönemde işten çıkartmaların büyük toplumsal sorunlar yaratması bekleniyor. Ancak Rekabet arttıkça süreç hızlanıyor; YZ “geliştikçe” sorun daha da ağırlaşıyor.
Diğer taraftan YZ büyük fırsatlar da sunuyor, tıp, bilim, enerji, üretkenlik ve ekonomik büyüme alanlarında büyük fırsatlar yaratıyor. Öyleyse bu fırsatlardan güvenli bir biçimde yararlanabilmek için, neden gelişmeyi yavaşlatarak önlem alınamıyor? ABDÇin arasındaki jeopolitik rekabet, büyük teknoloji şirketleri arasındaki liderlik, piyasa, kaynak yarışı güvenlik gerekçesiyle bile olsa yavaşlamaya izin vermiyor.
YZ, önceki teknolojilerden farklı; düşünebilen, karar alabilen, dili kullanarak toplumu etkileyebilen, kendi gelişimini hızlandırabilen bir özne olarak şekilleniyor. İnsanlığın kurumsal, hukuki, ahlaki denetleme kapasiteleri bu sürecin gerisinde kalıyor. YZ, insanlığı kendi geleceğinin öznesi olmaktan çıkarabilecek “tarihin sonunu” getirebilecek bir güce dönüşüyor.
Ve zaman, iklim krizinde olduğu gibi hızlanarak ilerliyor. Kapitalizm içinde bir çıkış da tasarlanamıyor.
