Yapay Zeka ve Dikenleri
Bu yazıda yapay zekada pürüzlülük (jaggedness) denilen kavramdan bahsetmek istedim ki bence gelecek yıl çok daha fazla gündemde olacak, sosyal bilimciler açısından da önemli sonuçlar doğurabilecek potansiyele sahip. Aslında merak ettiğimiz birçok sorunun cevabı burada saklı gibi gözüküyor. Yapay zeka bazı şeyleri neden çok iyi yaparken bazı şeylerde başarısız oluyor? Neden lineer bir gelişim izleyemiyoruz? Baktığımızda modellere ait performans metriklerinden bazıları çok yüksek gözükürken bazı başlıklarda her zaman bu metrikleri yakalayamıyor veya günlük hayatta bu sentetik performansı sergileyemiyorlar.
Bu durum aslında insanın düşünce yapısıyla, zihniyle de yakında ilgili. Baktığımızda öz biliş konusunu da ele alıyoruz ister istemez. Intelligence denilen (?) zeka dümdüz bir çizgi şeklinde değil, belirli noktalarda insanı insan yapan farklı faktörler devreye giriyor. Yapay zekanın da geçmesi gereken bariyer de işte bu sebepten düz bir bariyer değil, dikenli, pürüzlü ve dalgalı. Bazı yerleri güle oynaya rahat geçerken bazı yerlerde başarısız oluyor. Modellerden istenilen veya modellerce yapılanlar her zaman insanın bu bilişsel kapasiteyle birebir örtüşmüyor.
Bu açıdan artık general intelligence yaklaşımında yaratıcı yapay zekanın insanın yerine geçebileceği noktaya erişme sınırı/tanımı da biraz belirsizleşiyor, herkese göre değişiyor. Her bir bireyin hayattaki bakış açısına, belki zeka seviyesine, belki yapay zekadan beklediği şeylere göre farklılıklar doğuyor. Olaya böyle bakınca da fikir birliği pek olası gözükmüyor.
2025'te Karpathy'nin blogunda, farklı çalışmalarda, farklı örneklerde bu kavram daha da sık ortaya çıkmaya başladı. İnsanda da çok farklı bir durum söz konusu değil bence. İşgücüne baktığımızda, kendi hayatımızda, farklı dönemlerimize baktığımızda dahi performansımız dalgalı bir seyir izliyor, o gün sabah kalktığımızda psikolojimiz bile ne yaptığımızı/öğrendiğimizi etkileyebiliyor. Belki de hikayeye bu açıdan bakmak gerekiyor ki, yapay zekanın neyi yapabildiği, neyi yapamadığı, neyi ikame edebileceği, neyi tamamlayabileceği konusunda tam olmasa dahi daha net bir fikrimiz oluşsun.
Yapay Zekanın Alt Katmanları (ve acayip hayvanlara benzeMİyirsen)
Yapay zekanın bu alt katmanlarına indiğimizde, Karpathy'nin benzetmeleri oldukça açıklayıcı diye düşünüyorum. Benzese bile yapay zeka modelleri hayvanlarda olduğu gibi çalışmıyor. DNA'ya ön tanımlı bilgilerde zebranın aslandan kaçacağını bilmesi veya çevredeki duyusal faktörlerden etkilenerek motor becerilerle hibrit bir yaklaşım oluşturması gibi şeyler şimdilik pek de mümkün değil.
Diğer yandan bakınca görüyoruz ki yapay zeka modellerinin hangi veri ile eğitildiği, ne kadar iyi eğitildiği, ön yargısız (ya da ön yargılı) bir şekilde ödül mekanizmalarının ne kadar doğru çalıştığı önem taşırken hangi alanlarda ödül veriliyorsa genelde sıçrama orada oluyor.
Şu da muhakkak değinilmesi gereken gerçek ki insan beyni ile karşılaştırdığımızda aslında insanı motive eden tek şey ödül (ya da en azından parametrik değişkenlerle belirlenen bir haz kaynağı) olmuyor, para veya kariyerin ötesinde kendi zararımıza başkalarının hayatını optimize etmeye çalışayabiliyoruz. Bunları bir araya koyduğumuzda da yapay zeka modellerinin bizim bildiğimiz anlamda böyle bir bilinçle, zekayla tanımlanması giderek zorlaşıyor.
Sürekli Öğrenme ve İnsan Beyni Farkı
Sürekli öğrenme dediğimiz şey bizim açımızdan baktığımızda statik bir yapı da değil. Bir diğer ifadeyle bu modeller açısından bu sürecin duraklatılıp duraklatılmadığı, ne zaman devam ettiği, ağırlıkların nasıl güncellendiği kritik düzeyde önemli. Gerçi bununla ilgili son dönemlerde farklı çalışmaları, farklı motivasyonları gördük (DeepSeek'te olduğu gibi) ama yine de insana bir noktaya kadar benzeyebiliyor.
Bunun yanında fiziksel ve bilişsel sınırlar da işi iyice karmaşıklaştırıyor ki bizim gerçek hayatta bir şeyleri deneyerek öğrenme, öngörme yeteneğimiz varken henüz bu yeti dil modellerinde (en azından bazı alanlarda) çok da güçlü değil. Güzel bir benzetmeyi bırakayım: LLMler aslında binlerce kitabı okuyabiliyor. O kitapları okuyup bir şeyler de (belki) tasarlıyorlar veya orijinal gözüken fikirler üretebiliyorlar. Bunu pratiğe dökme zamanı geldiğinde veya o bilgilere dayanarak ilgili başka bir şeyi analiz etme ihtiyacı ortaya çıktığında sıkça anlamsız sonuçlar ortaya çıkıyor.
Doğru mekanizmalarla neler başarılabildiğini şimdiye kadar DeepMind'da vs. gördük. Ne var ki bunun sınırlarını hala net olarak söyleyebilmek, çizebilmek mümkün değil. Sadece dikenli olduğunu bilebiliyoruz.
Dikenli Sınırların İçinde ve Dışında
Pürüzlü sınırların içindeyken genelde başarılı veya idare eder, ikame edilebilir sonuçlar ortaya çıkıyor ki ilerleyen dönemlerde modellerin ne kadar tamamlayıcı, ne kadar ikame edici etki yaratacağı da ayrı tartışma konuları olmaya devam edecekler.
O sınırın dışına çıkınca ise işler (ya da en azından bir kısmı) iyice birbirine karışıyor. İnsanlar açısından da bunu kullananların bu sınırları tespit edebilmesi, buna göre hareket etmesi, önlem alabilmesi, bilinçli/etik kullanması önemli. Maalesef bir de şu var: sınır aynı zamanda şeffaf da değil, belirsiz, değişebiliyor. Bu yüzden yapay zeka modellerini kullanırken metriklerin ötesinde modellerde mevcut olmayan insani içgüdü veya sezgileri de kullanarak dikkatli olmak gerekiyor ki tarihe bakınca yeni teknolojilerin hemen hepsinde benzer süreçler yaşanmış.
Eğer adımlar acele atılırsa ve iyice tartılmazsa, orijinal bir fikri alıp benimsediğinizde ortaya çıkan bir problem ile bütün sistemi baştan aşağı değiştirmek gerekebiliyor. Basit bir örnek olarak zamanında ABD'deki ödeme sistemlerinde bazı eyaletler onyıllar önce yeni bir sisteme geçmiş fakat kamunun tüm altyapısı bununla uyumlu olmadığı için yıllarca farklı yazılımcıları işe almak, sistemleri bu adaptasyon sürecinde ayakta tutmak zorunda kalmışlar. Böyle ihtiyaçlar sürecinbn doğası gereği de ortaya çıkabiliyor fakat bu çağda bilinçsiz bir tercihle ortaya çıkacak gereksiz bir maliyete katlanmak veya bunu birilerine yansıtmak kolayca mümkün olmayacaktır.
Doğrulama Zorluğu ve Darboğazlar
İki nokta önemli:
- Doğrulama zorluğu: Matematik ve kodlama gibi doğru yapılan işe geri bildirimi (ödül sinyali) net olan alanlarda sınır hızla genişliyor. İş hayatındaki alanlarda (etkinlik planlama vs.) nispeten doğrulanması zor alanlarda pürüzlülük/dikenler devam ediyor.
- Darboğazlar: Modelin performansını verilen sürecin/işin/görevin en zayıf halkası belirliyor.
Yapay zeka birçok işi bir anda iyi bir şekilde yapıyor olabilir ama alt görevlerden birini yapamazsa veya verimsiz şekilde yaparsa bütün sistem en zayıf halka misali anlamını kaybediyor, ayrı bir tespit ihtiyacı doğuruyor.
Bu perspektifle ilerleyen dönemlerde insanların yaptığı şeylerin ne kadarını yapay zeka yapabilir, ne kadarı ileri düzeyde insan müdahalesi gerektirirken ne kadarını gözetimsiz şekilde paslayabiliriz gibi soruların üzerinde ciddi şekilde düşünmek ve analiz etmek gerekiyor ki kullanımının bilinçli olmasının belki de en önemli boyutlarından biri de kuşkusuz bu olacak.
Okuma Listesi / Kaynakça
Görseller de buradaki kaynaklardan çevrildi. Konuyu tüm boyutlarıyla ele almak mümkün olmasa da hepsi ilgiye değer.