Yuval Noah Harari: Robotlardan değil, bilgi ağını yönetenlerden korkmamız gerek
Yapay zekâ ihtilali suratını aldıkça ortalık optimist ütopyalardan ve kıyamet kehanetlerinden geçilmiyor. Bilim kurgu dünyası insanları daima Büyük Robot İsyanı’na karşı uyardı. Terminatör ve Matrix üzere birçok bilim kurgu roman ve sinemasında yapay zekalar ve robotlar dünyayı ele geçirmeye karar verip efendilerine karşı ayaklanıyor ve insanlığı ya köleleştiriyor ya da yok ediyor. Lakin yakın gelecekte bu türlü bir ihtimal sıfıra yakın görünüyor.
Financial Times’a makale yazan Yuval Noah Harari “Yapay zekâ bürokratları” hakkında uyardı. Harari yazdığı mektupta şunları yazdı:
Teknoloji o düzeyden uzak. Şu an için yapay zekalar aptal alımlar olarak nitelenebilir. Satranç oynamak, protein katlamak ve metin oluşturmak üzere kimi niş alanlarda ustalaşmış olabilirler fakat robot ordusu kurmak yahut ülkeleri ele geçirmek üzere son derece karmaşık faaliyetler için gereken genel zekadan mahrumlar.
TERMİNATÖR DEĞİL KAFKA
Büyük Robot İsyanı’nın olası görünmemesi korkacak bir şey olmadığı manasına gelmiyor. Zira korkmamız gereken şey katil robotlar değil dijital bürokratlar. Yapay zekâ distopyasını anlamak istiyorsak Terminatör’den fazla Kafka’nın “Dava” romanına bakmak daha âlâ bir kılavuz olabilir.
Milyonlarca yıllık evrim sonucunda beşerler Terminatör’de gösterilene misal yırtıcı yırtıcılardan korkmaya koşullandı. Bürokrasi memelilerin ve hatta insanın evriminde çok yeni bir gelişme olduğundan bürokratik tehditleri çok daha güç kavrıyoruz. Zihnimiz kaplanlar tarafından öldürülmekten korkmaya hazır ancak evraklar tarafından değil.
Antik Mezopotamya’da yazının icadından sonra ortaya çıkan bürokrasinin tarihi yalnızca 5 bin yıl geriye uzanıyor. Lakin bürokrasi insan toplumlarını radikal ve beklenmedik biçimde süratle değiştirdi. Yazılı dokümanların ve bunları kullanan bürokratların mülkiyet kavramının manası üzerindeki tesirini düşünün. Yazılı evrakların icadından evvel mülkiyet toplumsal uzlaşıya dayanıyordu. Bir tarlanın “sahibi” olmak demek komşularınızın oranın size ait olduğunu sözleri ve aksiyonlarıyla kabul etmesi demekti. Siz müsaade vermediğiniz sürece o tarlaya bina dikmiyor, ekinini biçmiyorlardı.
Sahipliğin komünal yapısı sebebiyle ferdi mülkiyet hakları sonluydu. Örneğin komşularınız muhakkak bir tarlayı sürece hakkının yalnızca size ilişkin olduğunu kabul etmiş olabilirdi ancak orayı yabancı birine satma hakkınızı kabul etmiyorlardı. Üstelik sahiplik toplumsal uzlaşıya tabi olduğu sürece uzaktaki merkezî otoritenin toprağı denetim etme kabiliyetini de engelliyordu. Yazılı kayıtların ve detaylı bürokrasinin olmadığı bir dünyada, merkezden uzak yüzlerce köydeki hangi tarlanın kime ilişkin olduğunu hiçbir kral hatırlayamazdı. Hasebiyle hükümdarların vergi alması zordu. Bu da daima bir ordu ve emniyet teşkilatı kurmalarını önlüyordu.
YAZIYLA GELEN MÜLKİYET DEVRİMİ
Sonra yazı icat oldu. Akabinde arşiv ve bürokrasi yaratıldı. Antik Mezopotamyalı bürokratlar küçük çubuklar kullanarak esasen çamur kesiminden ibaret olan kil tabletlerin üzerine birtakım işaretler yapıyordu. Lakin yeni bürokratik sistemler için bu çamur modülleri mülkiyet konusunda ihtilal demekti. Tarla sahibi olmak bir anda o tarlaya sahip olduğunuzun kil tablet üzerinde yazılı olması manasına gelmeye başladı. Komşularınız yıllarca oradan meyve toplamış olsa ve hiçbiri o toprak kesiminin size ilişkin olduğunu söylemese bile elinizde oranın sahibi olduğunuzu gösteren resmi bir çamur kesimi varsa mahkemede tarlanın sahibi olduğunuzu sav edebiliyordunuz. Buna karşılık mahallî halk bir tarlanın size ilişkin olduğunu kabul ediyor ancak bu tarafta resmi onay damgalı bir evrak bulunmuyorsa oranın sahibi olmuyordunuz. Birebiri bugün de geçerli. Yalnızca bizim hayati evraklarımız kil yerine kağıt yahut silikon çipler üzerine yazılıyor.
VERGİ SİSTEMİ BU TÜRLÜ DOĞDU
Mülkiyet toplumsal istek yerine yazılı evrakların konusu haline gelince beşerler komşularına sormadan tarlalarını satabilir hale geldi. Tarlayı satmak için elinizdeki kil tableti diğer birine vermek yetiyordu. Fakat bu birebir vakitte sahipliğin artık ilgili dokümanları veren ve muhtemelen merkezdeki arşivinde de bulunduran uzak bürokrasi tarafından belirlendiği manasına geliyordu. Böylelikle vergi koymanın, askerlere para vermenin ve büyük merkezi devletler kurmanın yolu açıldı. Yazılı evrak dünyadaki güç akışını değiştirdi ve bürokratlar bir anda vergi tahsildarı, veznedar, muhasebeci, arşivci ve hukukçuya dönüşerek çok büyük itibar kazandı. Bilgi ağının kaynağı haline gelip vergi, fiyat ve hatta asker hareketlerini âlâ yahut makus istikamette denetim eder oldular. Bunu dokümanları, formları, kanunları ve öteki bürokratik araçları kullanarak yapıyorlardı.
AVUKAT FİLİ YENEBİLİR Mİ?
Yapay zekâ artık bu gücü ele geçirme niyetinde. Bürokrasi yapay bir ortamdır ve burada dar bir alandaki ustalık bilgi akışını manipüle ederek dünyada çok büyük tesir yaratmaya yetebilir. Bugünkü yapay zekayı belirli bir yapıdan mahrum ve dağınık bir dünyaya atarsanız muhtemelen çok fazla şey yapamayacaktır – robot ordusu kuramayacağı kesin. Lakin bu bir şirket avukatını darmadağın ve sistemsiz bir savanaya göndermeye benziyor. Bu türlü bir yerde avukatın kabiliyetleri hiçbir mana söz etmez ve ne fille ne de aslanla başa çıkabilir. Ancak evvel savanada bürokratik sistem kurup uygulamaya başlarsanız dünyanın bütün aslanlarını toplasanız avukatın gücüyle başa çıkamazlar. Bugün aslanların mukadderatı labirenti andıran bürokrasilerde doküman hazırlayan ve taşıyan avukatların elinde. Yapay zekâ bu labirentte hiçbir gerçek avukatın elde edemeyeceği güce ulaşabilir. Hayati ehemmiyet taşıyan da bu.
Dünyada yapay zekanın otomatize hale getirdiği birinci mesleklerden birinin taksi sürücülüğü yahut dokuma personelliği değil haber editörlüğü olması farklı. Bir vakitler Lenin ve Mussolini’nin yaptığı mesleği artık yapay zekalar yapabiliyor
Önümüzdeki yıllarda milyonlarca yapay zekâ bürokrat yalnızca aslanların değil insanların hayatına dair de karar almaya başlayacak. Kredi alıp alamayacağınıza yapay zekâ bankacılar karar verecek. Üniversiteye alınıp alınmayacağınızı eğitim sistemindeki yapay zekalar belirleyecek. İşe alınıp alınmayacağınıza şirketlerdeki yapay zekalar karar verecek. Mahpusa girip girmeyeceğinize yargı sistemindeki yapay zekalar karar verecek. Konutunuzun bombalanıp bombalanmayacağına ordudaki yapay zekalar karar verecek. Bu yapay zekalar illa makus olacak diye bir şey yok. Sistemleri çok daha verimli, hatta daha adil hale getirebilirler. Daha düzgün sıhhat, eğitim, yargı ve güvenlik sistemlerine sahip olmamızı sağlayabilirler. Lakin işler aykırı giderse feci sonuçlar ortaya çıkabilir. Aslına bakarsanız birkaç alanda şimdiden aksi gitti bile.
AÇGÖZLÜLÜK, NEFRET VE KORKU
Muhtemelen şu ana kadarki en manalı örnek toplumsal medya algoritmaları. Bu ilkel yapay zekalar, topluma muazzam ölçüde tesir ederek şimdiden dünyayı şekillendiriyor. Facebook, X, YouTube ve TikTok üzere şirketlerin algoritmalarına aptal alımlar için ülkü, son derece kısıtlı bir vazife veriliyor: Kullanıcı iştirakini artırmak. Ne de olsa kullanıcılar toplumsal medyada ne kadar vakit geçirirse şirketlerin kârı o kadar artıyor. Lakin kullanıcı bağlılığını artırma peşindeki algoritmalar tehlikeli bir şey keşfetti. İnsan suretindeki milyonlarca kobay üzerinde deneyler yaparak açgözlülük, nefret ve endişenin kullanıcıları daha fazla çektiğini öğrendiler. Bir insanın zihnindeki açgözlülük, nefret ve endişe düğmesine basınca dikkati size yöneliyor, ekrana yapışıp kalıyordu. Bunu gören algoritmalar kasıtlı olarak açgözlülük, nefret ve kaygı saçmaya başladı. Bugün bütün dünyada toplumların altını oyan komplo teorisi, palavra haber ve toplumsal düzensizlik salgınının ana nedenlerinden biri de bu.
TARİHİN AKIŞINI DEĞİŞTİREN GAZETECİLER
Sosyal medya algoritmaları savanada hayatta kalamayacak ve Büyük Robot İsyanı’nı yönetemeyecek kadar kısıtlı yapay zekâ örnekleri. Lakin bu aptal alımlar, toplumsal medya platformlarının bürokratik yapısı içinde bir vakitler insanlığa mahsus olan muazzam bir güce sahipler. Radyo ve televizyonda hangi haberlerin yer alacağına, gazetelerde neyin manşet olacağına yüzyıllardır editörler karar veriyor. Bu sayede kamuoyunun gündemini biçimlendirip güçlü figürler oldular. Nüfuzlu L’Ami du Peuple gazetesinin editörü Jean-Paul Marat Fransız Devrimi’nin gidişatını değiştirdi. Der Sozialdemokrat’ın editörü Eduard Bernstein çağdaş toplumsal demokrasi fikrini biçimlendirdi. Vladimir Lenin’in Sovyet diktatör olmadan evvelki en kıymetli unvanı Iskra gazetesinin editörlüğüydü. Benito Mussolini mecnun fişek sağcı gazete Vilayet Popolo d’Italia’nın editörü olarak ün ve güç kazandı. Dünyada yapay zekanın otomatize hale getirdiği birinci mesleklerden birinin taksi sürücülüğü yahut dokuma personelliği değil haber editörlüğü olması değişik. Bir vakitler Lenin ve Mussolini’nin yaptığı mesleği artık yapay zekalar yapabiliyor.
Jean-Paul Marat
Algoritmik editörlerin insan toplumlarında yarattığı kaos bir ikaz işareti olarak görülmeli. İnsanın dünyası çok sayıda bürokrasiden oluşan karmakarışık bir örgü. Yapay zekalar Büyük Robot İsyanı’nı yönetecek marifetten mahrum olsalar da bu örgü içinde muazzam güç biriktirebilirler. İçeriden fethedebileceğiniz bir sisteme niçin isyan edesiniz ki?
patronlardunyasi.com
