Kim doğrulayacak?

Geçtiğimiz günlerde MIT Sloan’dan Christian Catalini ve çalışma arkadaşlarının yayımladığı "Yapay Genel Zekânın Bazı Basit Ekonomik Temelleri" başlıklı makaleyi okurken, modern ekonominin temellerinin sarsıldığını hissettim. Üç yüz bin yıldır ilerlemenin tek motoru olan "insan bilişi", artık biyolojik hapsinden kurtuluyor. Ancak bu kurtuluş, beraberinde daha önce hiç karşılaşmadığımız bir ekonomik paradoksu getiriyor: Her şeyin üretilebildiği bir dünyada, hiçbir şeyin doğruluğundan emin olamamak.

Makalenin ortaya koyduğu en çarpıcı tez, zekânın bir "meta" (commodity) haline gelmesi. Eskiden bir strateji raporu hazırlamak, bir kod dizisi yazmak veya yaratıcı bir kampanya kurgulamak "kıt" bir yetenekti. Bugün ise yapay zeka, bu yürütme (execution) maliyetini teorik olarak sıfıra indiriyor. Ancak yazarların haklı olarak uyardığı nokta şu: Bir kaynak bollaştığında, darboğaz ortadan kalkmaz; sadece yer değiştirir. AGI ekonomisinde yeni darboğaz, **"Doğrulama Maliyeti"**dir.

ÖLÇÜLEBİLİRLİK AÇIĞI VE TRUVA ATI EKONOMİSİ

Yazarların "Ölçülebilirlik Açığı" (Measurability Gap) olarak adlandırdığı kavramı bir örnekle somutlaştıralım. Bir ilaç şirketinin, yeni bir kanser ilacı molekülü tasarlaması için AGI kullandığını düşünün. Yapay zeka, saniyeler içinde binlerce simülasyon yaparak "mükemmel" görünen bir formül sunabilir. Formülün kağıt üzerindeki maliyeti sıfıra yakındır. Ancak o ilacın gerçekten öldürüp öldürmediğini, uzun vadeli yan etkilerini ve niyet edilen iyileşmeyi sağlayıp sağlamadığını test etmek halen "biyolojik" bir süreçtir; insan zamanına, laboratuvar deneylerine ve etik denetime tabidir.

İşte risk burada başlıyor: Makine çıktısı üstel bir hızla artarken, insanın bu çıktıyı doğrulama kapasitesi doğrusal kalıyor. Bu durum, piyasaya "doğru görünen ama içi boş" ürünlerin sızmasına neden olan bir "Truva Atı" dışsallığı yaratıyor. Eğer denetleyemediğimiz sistemleri maliyet kaygısıyla hızla devreye alırsak, kısa vadede patlayan bir büyüme, uzun vadede ise sistemik bir güven çöküşü yaşarız.

"JUNİOR" DÖNGÜSÜNÜN KIRILMASI

Makalede beni en çok endişelendiren kısımlardan biri, "Missing Junior Loop" (Eksik Junior Döngüsü) tespiti oldu. Gerçek dünya örneği verelim: Hukuk büroları. Eskiden kıdemsiz avukatlar, binlerce sayfalık içtihatları tarayarak pişerlerdi. Şimdi bu işi AI yapıyor. Peki, bu "çıraklık" evresini atlayan bir nesil, yarın AI’nın hata yapıp yapmadığını denetleyecek "usta" seviyesine nasıl ulaşacak? Deneyimi veri setine dönüştürüp AI’ya öğrettiğimizde (Codifier's Curse), aslında kendi yerimize geçecek haleflerimizin merdivenini altlarından çekiyoruz. Kendi yok oluşumuzu kodluyoruz.

YENI EKONOMİK MİMARI: AI SANDVİÇİ

Peki, çözüm ne? Araştırmacılar karamsar bir tablo çizse de çıkış yolunu "AI Sandviçi" modelinde görüyorlar. Bu modelde üretim süreci üç katmandan oluşuyor:

* İnsan Niyeti: Ne yapılacağına ve neden yapılacağına karar veren irade.

* Makine Yürütmesi: İşi yapan, ölçeklendiren kas.

* İnsan Doğrulaması: Çıktının niyetle örtüşüp örtüşmediğini onaylayan ve sorumluluk alan denetim.

Bu yeni yapıda ekonomik değer, "işi yapandan" ziyade "işin sorumluluğunu üstlenene" kayacak. Geleceğin kazananları, en iyi AI modellerine sahip olanlar değil; AI’nın riskini sigortalayabilen, kriptografik doğrulama altyapısı kuran ve "bu çıktı gerçektir" diyebilecek güvene sahip olan aktörler olacak.

ZEKÂ DEĞİL, ANLAM KITLIĞI

Sonuç olarak, Catalini ve ekibinin makalesi bize şunu fısıldıyor: AGI bir verimlilik aracı değil, bir "sorumluluk" krizidir. Zekâ ucuzladıkça, "sağduyu", "etik yargı" ve "gerçeklik" en pahalı lüksler haline gelecek. Yatırımcılar artık "kod yazan" girişimlere değil, "yazılan kodun güvenliğini garanti eden" altyapılara fon ayırmalı.

Önümüzdeki dönemde sadece daha akıllı sistemler kurmak yetmeyecek; o sistemlerin dizginlerini tutacak biyolojik kapasitemizi de ölçeklendirmemiz gerekecek. Aksi takdirde, her şeyin üretildiği ama hiçbir şeyin güvenilir olmadığı bir "İçi Boş Ekonomi"de, kendi yarattığımız zekânın seyircisi kalacağız.