Düşünme biçimleri
“Alan Turing'den bu yana, makinelerin insan düzeyinde düşünüp konuşabilmesi, yani genel yapay zekâ, bilim çevrelerini ve kamuoyunu yanıltan boş bir beklenti!” mi yoksa? Tırnaktaki alıntı, bilgisayar bilimi, dilbilim ve felsefenin kesiştiği noktadaki çalışmalarıyla tanınan Erik J. Larson’a ait. Eğer doğruysa, çok yakın bir gelecekte gerçekleşeceğini umduğumuz ve işlerimizin çoğunu onlara devretmeye hazırlandığımız bugünlerde “genel yapay zekâ” hayalimiz suya düştü demektir.

Larson, 2021 yılında Harvard Üniversitesi tarafından yayımlanan “Yapay Zekâ Miti: Bilgisayarlar Neden Bizim Gibi Düşünemez” (Çeviren Kadir Yiğit Us, Fol Yayınları, 2022) adlı çalışmasında yapay zekâ araştırmalarında çok temel bir kör noktayı gün yüzüne çıkarıyor. Genel yapay zekânın tümdengelimsel (deduction) ve tümevarımsal (induction) çıkarım programlarlıya değil, ancak “savavarımsal” (abduction) düşünme biçimini temel alan bir programla mümkün olabileceğini ileri sürüyor.

Larson'ın bu tezinin merkezinde 19. yüzyıl felsefecisi Charles Sanders Peirce tarafından dizgeleştirilen üç düşünme biçimi arasındaki ayrım yer alıyor: Tümdengelim, kesin öncüllerden mantıksal zorunlulukla sonuç çıkarıyor, çok bilinen "Bütün insanlar ölümlüdür. Sokrates insandır. Öyleyse Sokrates ölümlüdür." örneğindeki gibi. Bu çıkarım, klasik sembolik yapay zekânın temel aracı ve öncüllerin doğruluğu koşuluyla çıkarım doğru oluyor; ancak bu düşünme biçimi, dünya hakkında yeni bilgi üretmiyor. Tümevarım da belli verilerde örüntüler belirliyor; ”Gördüğüm kuğular beyazdı, öyleyse bütün kuğular beyazdır.” diyor. Büyük verilerden öğrenen günümüzün dar yapay zekâ sistemleri bu çıkarım biçimine dayanıyor.

”Olası en iyi açıklamaya ulaşma" olarak bilinen ve Aristoteles’ten beri ıskalanan akıl yürütme biçimi “savavarım” ise Peirce'ye göre tam anlamıyla yaratıcı bir sıçramayı gerektiriyor. Böyle bir çıkarım biçiminin önemli özelliği, açıklama seçeneklerinin sınırsız olması ve gözlemden yola çıkarak sonsuz sayıda varsayım türetilebilmesi. İnsan zihni bu uçsuz bucaksız uzayı, arka plan (dünya) bilgisi ve bağlama dayalı yargıyla daraltarak ilgili olanı seçebiliyor. Larson, Edgar Allen Poe’nin Morg Sokağı Cinayeti öyküsünün Dupin karakteriyle dedektiflerin hesaplama değil çözümleme biçiminde işleyen mantığını da tezine dayanak yapıyor. Zira hesaplama bilinen noktaları birleştirmek, çözümleme ise bu noktaları anlamlandıracak sıçramalar yapmak oluyor.

Algoritmanın doğal dil sınavı
Tümdengelim ve tümevarımın kesinlik peşindeki düşünme biçimi yanında savavarımın iptal edilebilir yapısı, onu doğal dili anlama konusunda önemli kılıyor. “Yağmur yağarsa, sokaklar ıslanır. Sokaklar ıslak. O halde… “ biçimindeki akıl yürütmeyi ‘yapay’ zekâ, ancak “yağmur yağmıştır.” diye sürdürebilirken, dünya algısı ve bilgisine sahip ‘doğal’ zekâ, belki de bir “bozuk yangın söndürme musluğunun” buna neden olduğu çıkarımında bulunabilmektedir! Tıpkı okullarımızdaki sınav odaklı anadil eğitiminde, durmadan gramer kurallarına maruz kalan “anlatım bozukluğu avcısı” öğrencilerimiz gibi, Algoritma da “Arkadaşını tanıyorum.” biçimindeki basit bir cümle karşısında bile sersemleyebiliyor; ama insan, düşünüşüne eşlik eden niyet, fiziksel ortam ve dil-beden birlikteliği içinde, “arkadaşın” sözün söylendiği kişiye ait olduğunu anlayabiliyor!

Bu örnekler bile doğal dilin, yapay zekânın en kritik sınavı; o sınavın en keskin sorularının da ironi, kinaye, örtük anlam, kültürel gönderme, pragmatik bağlam gibi dilin derin anlam katmanlarıyla ilgili olduğunu gösteriyor. Larson da daha çok bu nedenle doğal dilin “anlayış” (feraset) gerektirdiğini, anlayışın ise savavarımsal çıkarım olmaksızın geliştirilemeyeceğini ileri sürüyor. Zira bir cümlenin anlamı, o cümlenin sözcüklerinin istatistiksel dağılımının veya değişkenler arasındaki ilişkilerin yönününün ve gücünün (korelasyon) bilinmesine indirgenemiyor; anlam, her seferinde değişebilen niyetin, bağlamın ve dinleyicinin bilgisiyle kuruluyor. Algoritmalar farklı, beklenmedik sapmalarda kolayca yanılabiliyorlar. Bu nedenle Meredith Broussard kitabının adına "Yapay Geri Zeka: Bilgisayarlar Dünyayı Nasıl Yanlış Anladı” (Çev. Yusuf Tolga Şar, Sola Unitas Yay. 2020) diyor! Söze gömülü düşünme ve bilgi yanlışını fark edip etmeyeceğini kontrol etmek için ChatGPT’ye sorduğum, “Atatürk’ün İkinci Dünya Savaşı hakkındaki düşüncesi”ni algoritmanın mantığa büründürme biçimi tam bir komediydi! Sorudaki mantık hatasını bile göremedi.

Dil üretmek, dili anlamak
Şimdi büyük dil modellerinin dili işleme biçimleri ile insanların dil aracılığıyla anlam yaratma süreçleri arasındaki yapısal farklara biraz daha yaklaşabiliriz. Yaklaşınca da yapay zekâ dilinin bir anlama süreci olmadığını, yalnızca bir biçim ve sembol manipülasyonu olduğunu daha yüksek çözünürlükte görebiliriz. Genel kanıya göre şiir yazabilen, felsefi metinleri özetleyebilen, hukuki belgeleri analiz edebilen, ikna edici makaleler üretebilen ve doğal görünen diyalogları sürdürebilen ChatGPT, Claude, Gemini ve benzeri sistemler, etkileyici başarılarını en çok dil alanında gösteriyorlar. Ancak bu kanının yanıltıcı olabileceği kuşkusu, günümüz yapay zekâ araştırmalarının temel sorunlarından biri; zira bu sistemler dili üretebiliyor; ama anlamıyorlar; çünkü ‘üretmek’ ile ‘anlamak’ eylemleri, yapısal olarak farklı süreçler gerektiriyor. Bir dil ifadesini anlamak, o ifadeyi üreten istatistiksel örüntüleri tanımaktan köklü biçimde ayrılan bilişsel ve savavarımsal bir işlem gerektiriyor.

Larson’dan bir örnekle sürdürecek olursak, biri bize "Dışarısı çok soğuk.” dediğinde, biz bunu yalnızca bir hava durumu bilgisi olarak almıyoruz; söyleyenin “Pencereyi kapat.”, “Dışarı çıkma.” ya da “Paltonu giy.” gibi örtük taleplerini (niyet), konuşmanın gerçekleştiği sabah kahvaltısı, hastalık riski, mevsimsel döngü gibi bağlamı, konuşanla olan ilişkimizi ve bunları biçimlendiren kültürel normların bütününü eş zamanlı olarak değerlendiriyoruz. Bunu Peirce'in terminolojisine çevirirsek, söyleneni en iyi açıklayan çıkarımı, algoritmanın yaptığı gibi mantıksal zorunlulukla değil; bağlamsal bilgi, deneyim ve sezgiyle üretiyoruz. Oysa milyonlarca cümle üzerinde eğitilmiş dil modelleri bu verilerindeki istatistiksel dağılımlara dayanarak bir sonraki sözcüğü ya da sözcük grubunu yalnızca tahmin ediyor; tümevarımsal bir hesaplamayı aşıp anlama sürecine giremiyorlar.

Emily M. Bender ve Alexander Koller'ın “Doğal Dili Anlamaya Doğru: Veri Çağında Anlam, Biçim ve Anlayış Üzerine (aclanthology.org/2020.acl-main.463/) başlıklı makalesi ise ”biçim” ve “anlama” kavramlarını birbirinden ayırıyor. Yazarlar yazılı metinler, sesli ifadeler, söz dizimsel yapılar gibi dilin gözlemlenebilir gerçekliğini ‘biçim’; öznenin zihinsel durumunu, bağlamsal koşulları, iletişimsel niyeti ve bunlar arasındaki ilişkiyi de ‘anlam’ kategorisine koyuyor. Koyunca da biçim üzerinde eğitilen bir sistemin anlam kuramayacağı; çünkü anlamın biçimde değil öznenin niyetinde, dünyayla kurduğu ilişkide ve bağlamsal yorumunda inşa edildiği ortaya çıkıyor.

Bu yazarların tezleri, tasarladıkları Ahtapot Düşünce Deneyi’yle somutlaşıyor: Bir deniz kazasından sonra iki farklı adaya çıkan A ve B kişileri, denizin dibinden geçen bir kabloyla iletişim sağlayorlar. Bu iletişime tanık olan ahtapot, tekrarlayan ögelerde yakaladığı örüntülerden bir süre sonra iletileri doğru tahmin etmeye başlıyor. Dilsel biçimleri başarıyla taklit edebilir duruma gelen ahtapot, bir gün B’nin yerine geçip A ile konuşurken A'nın “Eyvah, karşımda bir ayı, elimde sadece bir değnek var, ne yapmalıyım?” dediğinde iletişim bozuluyor; çünkü “ayı” ve “değnek” sözcüklerini, önceki iletilerin örüntülerinden bilse de bunların gerçek dünya deneyimini yaşamadığından tehlikeyi anlamıyor ve A’ya saçma sapan yanıtlar veriyor (ChatGPT’nin Atatürk ve İkinci Dünya Savaşı hakkındaki yanıtı gibi!)

Biçim örüntülerinin istatistiksel dağılımı ne denli mükemmel işlenirse işlensin bu örüntülerin dünya gerçeklerine göndermede bulunamayacağını gösteren bu düşünce deneyi, John Searle'ün kapalı bir odada Çince bilmeyen adamın elindeki katalogda yer alan Çince sembolleri manipüle ederek Çince soruları, tıpkı benim birkaç tekrardan sonra, Duolingo’nun İngilizce sınavından geçer puan almam gibi, doğru yanıtlayabileceğini ileri süren Çin Odası Düşünce Deneyi’ni (1980), büyük dil modellerine uyarlıyor ve bu modellerin temel sınırlılığını çarpıcı biçimde örneklendiriyor. Modeller, veri dağılımından sapan girdilerde dramatik biçimde başarısızlığa uğruyor. Alışılmadık bağdaştırmalar, farklı yazılmış matematiksel problemler ya da az temsil edilen kültürel bağlamlar, bunların hepsi performanslarını ciddi ölçüde düşürüyor. Oysa insanlar, yüzeysel biçim değişikliklerine karşı ‘anlayışlarını’ koruyabiliyorlar; aynı içeriği farklı biçimlerde ifade edilmiş olarak kavrayabiliyorlar.

Stevan Harnad’ın 1990’da, “Physica D: Nonlinear Phenomena” dergisinde yayaımlanan “Sembol Sabitleme Problemi” (Atıfta bulunan: Orhan Önder, Doktora Tezi İÜ Sağlık Bilimleri Ens. 2025) başlıklı makalesine göre, zihnimizde semboller gerçek dünya nesneleriyle, bedensel deneyimlerle, algısal süreçlerle sabitlenip anlam kazanıyor; örneğin "elma" sembolü elmayı görmüş, tatmış, ona dokunmuş, birinde bedensel anıları aracılığıyla anlam kazanıyor. Oysa metin üzerinde eğitilen bir model, "elma" sözcüğünü onun başka sözcüklerle ilişkisinde öğreniyor; onu algılamıyor. Bu durum, modelin sözcükleri kullanabilmesini engellememekle birlikte, onun anlam bilimsel içeriğe ulaşmasını olanaksız kılıyor.

Öte yandan Noam Chomsky, büyük dil modellerinin doğasına yönelttiği en sert eleştirilerden birini 2023 yılında Jeffrey Watumull ve Ian Roberts ile birlikte The New York Times'ta yayımladıkları “ChatGPT'nin Yanlış Vaadi” (Çev. Necdet Hasgül, art-izan.org, Eylül 2023) başlıklı makalede dile getiriyor: Büyük dil modelleri, mümkün diller ile imkânsız diller arasında hiçbir ayrım yapmıyor; hem gerçek hem de gerçek olmayan fiziksel olgularla uyumlu bir "fizik teorisi" nasıl hiçbir açıklayıcı değer taşımazsa, hem gerçek hem de imkânsız dillerle uyumlu bir sistem de insan dili hakkında hiçbir şey bilemez. Model için gerçek ve gerçek dışı, biçimsel açıdan eşdeğer oluyor; çünkü onlarda ayrımı sağlayan dış dünya bağlantısı bulunmuyor.

Wittgenstein'ın Felsefi Soruşturmalar’da (1953) ileri sürdüğü "Bir sözcüğün anlamı, dildeki kullanımıdır.” argümanı yüzeysel okumada büyük dil modellerini destekliyor gibi görünebilir; gel gelelim filozofun “dil oyunları”, yalnızca sözcük alışverişi değildir. ”Su" sözcüğü bir istekte bulunma, bir soruya yanıt verme ya da bir uyarı olabilir. Hangi anlama geldiğini belirleyen, sözcüğün kendisi değil; o sözcüğün içinde yer aldığı deneyimler, toplumsal gelenekler, bedensel bağlamlar bütünüdür. Dil modeli, bir dil oyununun “metnini” taklit edebiliyor; ama o dil oyununun içinde aktif bir katılımcı olamıyor. Bu ayrım, yapay zekânın dili anlama sürecinden neden bu denli uzak olduğunu açıklayan ikna edici bir çerçeve sağlıyor.

Genel yapay zekânın ve insanın ortak kurtuluşu
Sonuç olarak dili kullanmak ile anlamak Arasındaki bu farkı görmemek, teknoloji politikasından eğitime, sağlıktan hukuka uzanan sayısız alanda ciddi riskler doğuruyor. Bir dil modelinin ürettiği metnin "anlayış" içerdiğini varsaymak, bu metnin güvenilirliğini, bağlam duyarlılığını ve ahlaki sorumluluğunu yanlış değerlendirmeye zemin hazırlıyor.

Doğal dilin yapay bir sisteme uygulanmasının olanaksızlığına çıkar ilişkilerine dayalı kapitalist sosyolojinin yapay zekâ konusundaki paradoksunu da eklemek gerekiyor: Motivasyonunu ve sürdürebilirliğini doğal olarak rekabette ve daha büyük gelir elde etmede, dolayısıyla istatistiksel örüntülerde ve reklamda bulan bir kapitalizmin, tüketim ekonomisini sürdürmekten, yani büyük veri kümelerinin göstergelerini terk edip daha küçük, bireysel ve tekil hedeflerle yetinmesi, en başta kendi varlık nedenini tehdit ediyor. Bu nedenle sistemin kendisi de kurduğu dil modelleri de genelleme bağımlılığından, tümdengelimsel ve tümevarımsal çıkarımlardan vazgeçip yaratıcı savavarımsal çıkarımlara yönelmesi olası görünmüyor.

Genel yapay zekânın kurtuluşu da eşitlikçi bir sosyolojide mümkün görünüyor, tıpkı insanınki gibi!

O halde Karacaoğlan’la bitirebiliriz:

Güzelleri türkü söyler, çığrışır
Dilleri var, bizim dile benzemez