Yapay Zeka Gerçekten "Öğreniyor" mu, Yoksa Sadece Ezberliyor mu?

Yapay zeka ve makine öğrenmesi kavramları hayatımızın her noktasına girdi. Yapay zekalar geliştikçe bizler onu eğitmek için daha çok çaba göstermeye devam ediyoruz. Daha fazla veri daha fazla güç. Gündelik işlerinde yapay zekayı sıkça kullanan herkes gibi benim de yer yer hayret ettiğim anlar olmuyor değil. Fakat bu aralar zihnimi kurcalayan başka bir konu var, LLM'lerde "Ezberlemek" ile "Öğrenmek" arasındaki fark.

Eğitim fakültesinde formasyon eğitimi almış olanlar akademik olarak bilir ki, bir öğrenciye sadece doğru cevapları ezberletmek ona konuyu öğretmek demek değildir. Eğitimciler bunu pedagojide ezber olarak kabul ediyor ve "kalıcı" öğrenme sınıfına dahil etmiyor. Gerçek öğrenme, bilgiyi analiz etmeyi, parçalara ayırmayı ve yeni durumlara uyarlamayı (sentez) gerektirir. Bugün hayranlıkla izlediğimiz ChatGPT, Gemini gibi büyük dil modelleri (LLM), milyarlarca veriyi işlerken aslında tam olarak böyle davranıyor gibiler. Peki acaba gerçekten "öğreniyor" mu, yoksa muazzam bir kapasiteyle sadece istatistiksel eşleştirmeler mi yapıyor?

Tabiki gerçekten öğreniyor mu sorusunu sormamın arkasında bir insan gibi öğrenmediğini bilmediğim, matematiksel formülleri boşverişimden kaynaklı bir cahil cesareti yok. Aslında söylemek istediğim bizim makine öğrenmesi adını verdiğimiz "öğrenme" kısmıyla alakalı. Bence LLM'lere yaptırdığımız bu "öğretme süreci", aslında "fonksiyonu en popüler çıktı kümesine optimize etmek" olarak nitelendirince daha mantıklı gibi geliyor.

İnsanda öğrenme sürecinde edinilen yanlış bilgilerin öğrendiklerini aktarma şeklinde yol açtığı değişiklikler yapay zekanın da düşünme ve karar verme sürecini yanlış yönlendirebilir. Yapay zekaların manipüle edilebiliyor oluşunun bununla ilişkisi olduğunu düşünmeden edemiyorum. Çünkü insan da, bir bilgiyi aktarırken başkalarını ikna etme ve onaylanma eğilimindedir. Çıkarımlar yaparken ve karar verirken öğrenilen hatalı bilgilerin ışığında değişmez gerçeklikten uzaklaşabilir, doğru ile gerçek arasındaki ayrımı fark edemeyebilir.

Şu sıralar üzerinde çalıştığım konu ile aslında tam olarak bu sorunun peşine düşüyorum. Amacım, bir siber güvenlik güvenlikçi olarak, yapay zekayı bir "öğrenci" gibi ele almak ve yumuşak karnını, zaaflarını öğrenme yöntemini bulmak.

Genelde yapay zeka eğitimlerinde modele veriyi verir ve sonucu bekleriz. Fakat insan öğrenme psikolojisinden ve bilişsel öğrenme kuramlarından (örneğin Bloom taksonomisi veya yapılandırmacılık) yola çıkarak, yapay zekaya bir müfredat dahilinde "öğretmenlik yapmayı" ve onu bir öğrenci öğretmen ilişkisinde yorumlamayı deniyorum. Rastgele veri yığınları yerine, aynı formal öğretme teknikleri gibi, basitten karmaşığa, neden-sonuç ilişkisi kurduran, pedagojik bir yöntemle eğitilen bir modelin, öğretilenleri daha iyi "kavrayıp kavramadığını" ölçmeyi hedefliyorum.

Belki de yapay zekanın "öğrenme" eyleminin doğasını anlamaya çalışmak için insanda kullandığımız öğrenme analizi yöntemleri denemeye başlayabiliriz. Makinenin "nasıl öğrendiğini" çözebilirsek, belki de onun kararlarını (Explainable AI) daha iyi anlayabilir ve güvenebiliriz. Hatta bir adım ötesinde aynı insanlarda yürütebildiğimiz tahminler gibi nasıl eğitildiğini de anlayabiliriz.

Bu yazıyı bir seri olarak hazırlamak istiyorum. Yapay zeka ve bilişsel bilimin kesiştiği bu ilginç yolculukta karşılaştığım bulguları, okuduğum makaleleri ve zihnimdeki soruları paylaşacağım. Bu konuyla ilgili birkaç kaynağı aşağıda paylaşıyorum.

Kaynaklar:
Tracing the thoughts of a large language model -> https://www.youtube.com/watch?v=Bj9BD2D3DzA
Thinking like a LLM -> https://www.seangoedecke.com/learning-from-how-llms-think/