Ters Bilgi Paradoksu: Yapay Zekâya Çıraklık Ederken
Dr. Öğr. Üyesi Ayşegül ATALAY
Bir aşçının yıllar içinde geliştirdiği, kimseyle paylaşmadığı özel bir tarifi olduğunu düşünün. Bir gün biri, bu tarifi yüklü bir ücret karşılığında satın almak istiyor ama önce şöyle diyor:
“Gerçekten değerli olup olmadığını anlamam için tarifi görmem gerekir.”
Aşçı için sorun tam da burada.
Tarifini göstermeden onun neden değerli olduğunu kanıtlamak zor. Ama bütün ayrıntılarıyla gösterdiği anda karşısındaki kişi artık tarifi öğrenmiş oluyor. Yani bilginin değerini göstermek için bilgiyi vermesi gerekiyor; fakat verdiği anda onu özel kılan şeyin bir kısmını da kaybediyor.
Klasik bilgi paradoksunun özünde bu basit çelişki vardır: Bir malı satın almadan önce inceleyebilirsiniz, bir cihazı deneyebilirsiniz; ama bilginin değerini anlamak için çoğu zaman önce o bilgiye erişmeniz gerekir. Bilgi ise bir kez öğrenildiğinde geri alınamaz.
Nobel ödüllü iktisatçı Kenneth Arrow’un 1960’lı yıllarda bilgi ekonomisi üzerine tartışırken dikkat çektiği klasik bilgi paradoksu kabaca budur. Bilgiyi satan taraf, elindeki bilginin değerini kanıtlamak için onu açıklamak zorunda kalabilir; fakat açıkladığı anda bilginin ekonomik değeri tehlikeye girer.
Aradan altmış yılı aşkın zaman geçti.
Şimdi hikâyenin yönünü tersine çevirelim. Bu kez elinde değerli bilgi bulunan kişi onu satmaya çalışmıyor. Tam tersine, kendisine yardım etmesi için bir teknoloji satın alıyor.
Bir ustayı düşünün. Yıllardır aynı işi yapıyor. Kullandığı malzemeyi herkes biliyor, işin temel aşamaları da sır değil. Ama ortaya çıkardığı ürün başkalarınınkinden daha iyi. Çünkü onun bildiği, kitaplarda yazmayan bazı ayrıntılar var: Ne zaman beklemesi gerektiği, hangi durumda yöntemi değiştireceği, neyin “olduğunu” neyin ise henüz olmadığını nasıl anlayacağı…
Şimdi bu usta işini kolaylaştırmak için bir yapay zekâ sisteminden yardım alsın.
Yapay zekâ önce genel bir öneri sunsun.
Usta beğenmesin:
“Hayır, burada böyle yapılmaz.”
Sistem yeni bir öneri versin.
Usta yeniden düzeltsin:
“Bu malzemede önce biraz beklemek gerekir.”
Bir kez daha:
“Bu görüntüyü aldıysa artık bir sonraki aşamaya geçebilirsin.”
Her düzeltmeden sonra yapay zekânın verdiği cevap biraz daha iyi hâle gelir.
Çünkü artık yalnızca genel bilgiyle değil, ustanın bilgisiyle de çalışmaktadır.
Ve tam burada çok basit ama rahatsız edici bir soru ortaya çıkar:
Kim kimden öğreniyor?
Klasik bilgi paradoksunda değerli bilgisini açıklamak zorunda kalan taraf, bilgiyi satan kişiydi.
Yapay zekâ çağında ise ilişki tersine dönmeye başlıyor.
Bu kez hizmeti satın alan kişi, satın aldığı teknolojiden gerçekten iyi bir sonuç alabilmek için kendi bilgisini, bağlamını, deneyimini ve hatta onu diğerlerinden ayıran püf noktalarını sisteme anlatmak zorunda kalabiliyor.
İşte Microsoft CEO’su Satya Nadella’nın yakın zamanda dikkat çektiği “ters bilgi paradoksu” tam olarak gerilime dikkat çekmekte.
Klasik paradoksta bilgiyi satan kişi, değerli bilgisini alıcıya açıklamaktan endişe ediyordu.
Yapay zekâ çağında ise roller tersine dönüyor: Bu kez hizmeti satın alan kişi ya da kurum, satın aldığı teknolojiyi gerçekten yararlı hâle getirebilmek için kendi bilgisini açıklamak zorunda kalabiliyor.
Rahatsız edici soru şudur:
Yapay zekânın bizim için daha iyi çalışmasını sağlarken biz ona kendimiz hakkında ne öğretiyoruz?
Satya Nadella bu durumu oldukça çarpıcı bir ekonomik problem olarak ortaya koyuyor: Kurumlar yapay zekâ için bir anlamda iki kez ödeme riskiyle karşı karşıya kalabilirler. Birincisi kullandıkları teknoloji için ödedikleri ekonomik bedeldir. İkincisi ise teknolojiyi gerçekten kendileri için yararlı hâle getirebilmek amacıyla açtıkları özgün bilgi, bağlam, iş süreçleri ve uzmanlıktır.
Üstelik ikinci bedelin değeri çoğu zaman birincisinden çok daha yüksek olabilir.
Çünkü bir şirketin en değerli varlığı yalnızca veri tabanındaki rakamları değildir. İnsanlarının yıllar içinde öğrendiği şeylerdir.
Bir işletmede hangi müşteriye nasıl yaklaşılması gerektiğini bilmek…
Bir hastanede deneyimli bir hekimin sıradan görünen bir bulguda olağandışı bir durumu fark etmesi…
Bir okul yöneticisinin hangi sorunun resmî yazışmaya dönüşmeden çözülebileceğini sezmesi…
Bir öğretmenin sınıfın havasından o gün planladığı yöntemin çalışmayacağını anlaması…
Bir akademisyenin yüzlerce sayfalık veri içinde “burada bir şey var” diyebilmesi…
Bunların önemli bir bölümü kitaplarda yazmaz. Dosyalarda da bulunmaz. Yönetim biliminde buna örtük bilgi deriz: Deneyimle oluşan, kişilerin ve kurumların yıllar içinde biriktirdiği, kolayca formüle edilemeyen bilgi.
Yapay zekâ çağının asıl büyük tartışmalarından biri belki de tam burada yaşanacak.
Çünkü bugüne kadar dijital güvenlik denildiğinde çoğunlukla kişisel verileri düşündük: Adınızı vermeyin, kimlik numaranızı paylaşmayın, öğrenci bilgilerini yüklemeyin, sağlık verilerini koruyun…
Bunların hepsi hâlâ son derece önemli.
Ama üretken yapay zekâ yeni bir güvenlik alanı daha açıyor:
Bilginin değil, uzmanlığın sızması.
Üstelik bu her zaman büyük bir dosya yüklemekle gerçekleşmeyebilir.
Bazen bir cümleyle olur.
Model size yanlış bir öneri verir.
Siz dersiniz ki:
“Hayır, bizim kurumumuzda böyle yapılmaz. Önce bunu yaparız, sonra şu birime göndeririz.”
Model ikinci kez yanılır.
Siz yeniden düzeltirsiniz:
“Bu öğrenci grubunda bu yöntem işlemez. Şöyle yapmak gerekir.”
Bir süre sonra ortaya çok daha başarılı bir etkileşim çıkar.
Çünkü artık yalnızca siz yapay zekâdan öğrenmiyorsunuzdur. Etkileşim boyunca siz de sisteme bağlam üretmişsinizdir.
Mesele “Yapay zekâ söylediğiniz her şeyi çalıyor” gibi kolaycı bir korku söylemi değildir.
Mesele bundan daha yapısaldır.
Yapay zekâ ile çalışırken ortaya çıkan öğrenmenin sahibi kim olacak?
Bu soru özellikle eğitim kurumları için son derece önemlidir.
Bir öğretmen yapay zekâya yalnızca “yedinci sınıflar için ders planı hazırla” dediğinde sisteme çok az kurumsal bilgi aktarır.
Fakat iyi bir sonuç almak için şöyle demeye başladığında tablo değişir:
“Bu sınıfta 32 öğrenci var. Okuma düzeyleri düşük. Geçen hafta bu kavramı anlamadılar. Görsel örnekler daha iyi çalışıyor. Üç öğrencinin özel desteğe ihtiyacı var. Geçen yıl şu etkinliği yaptığımda çok başarılı olmuştu…”
Artık yapay zekâya yalnızca soru sormuyoruzdur.
Sınıfı anlatıyoruzdur.
Pedagojik deneyimimizi anlatıyoruzdur.
Yıllar içinde neyin işe yarayıp neyin yaramadığını anlatıyoruzdur.
Benzer durum okul yöneticileri için de geçerlidir. “Okulum için stratejik plan hazırla” komutunun iyi çalışması için okulun güçlü ve zayıf yönlerini, öğretmen profilini, veli yapısını, başarısızlık alanlarını, çatışmaları, kurumsal sorunları ve geleceğe ilişkin hedefleri sisteme anlatmak gerekir.
Eğitim kurumları buna hazır mı?
Bugün pek çok kurum yapay zekâ politikasını hâlâ “kullanılsın mı, yasaklansın mı?” sorusu üzerinden tartışıyor.
Oysa mesele çoktan bunun ötesine geçti.
Geleceğin sorusu “Yapay zekâyı kullanacak mıyız?” değil.
Hangi yapay zekâyı, hangi bilgiyle, hangi güven sınırları içinde kullanacağız?
Nadella’nın uyarısının asıl değeri de burada ortaya çıkıyor. Yapay zekâ çağında kurumların yalnızca verilerini değil, kendi öğrenme döngülerini de koruması gerektiğini söylüyor. Çünkü kurumun çalışanlarının yaptığı düzeltmeler, verdiği geri bildirimler, geliştirdiği ölçütler ve oluşturduğu iş akışları zaman içinde kurumsal zekânın parçalarına dönüşür.
Bunun eğitim açısından çok önemli bir sonucu var:
Yapay zekâ okuryazarlığı tanımımızı değiştirmemiz gerekiyor.
Bugün AI okuryazarlığını çoğu zaman iyi prompt yazmak, doğru araç seçmek, çıktıyı doğrulamak ve yapay zekâyı etik biçimde kullanmak üzerinden anlatıyoruz.
Bunlar gerekli ama artık yeterli değil.
Bir öğretmen şunu da bilmelidir:
Bu sisteme hangi öğrenci bilgisini vermemeliyim?
Bir yönetici şunu sormalıdır:
Kurumumuzun hangi bilgisinin dışarı çıkması sakıncalıdır?
Bir akademisyen düşünmelidir:
Henüz yayımlamadığım hangi fikri ne kadar ayrıntıyla paylaşmalıyım?
Ve bir üniversite şunu tartışmalıdır:
Personelimizin yapay zekâyla çalışırken ürettiği öğrenme ve kurumsal bilgi nerede birikiyor?
Belki de yeni yapay zekâ okuryazarlığının en önemli becerilerinden biri ne soracağını bilmek kadar, neyi söylememesi gerektiğini bilmek olacaktır.
Çünkü yapay zekâ tarihindeki ilk yıllar bize makinelerin ne kadar çok şey bildiğini hayranlıkla izleyerek geçti.
Önümüzdeki dönem ise muhtemelen başka bir soruyla geçecek:
Onların bildiklerinin ne kadarı bizden geliyor?
Aşçının yemek tarifi örneğine geri dönelim.
Yapay zekâdan yeni bir yemek önermesini istemekte hiçbir sorun yok.
Ama size özgü yemeği daha iyi hâle getirmesini isterken, onu size özgü yapan tarifi bütünüyle masaya koyuyorsanız artık yalnızca teknoloji satın almıyorsunuzdur.
Masaya siz de bir şey bırakıyorsunuzdur.
Belki de yapay zekâ çağının en önemli bilgi okuryazarlığı sorusu tam olarak budur:
Aldığımız zekânın karşılığında ne kadarımızı veriyoruz?