İnsanoğlu kendi eliyle sonunu mu hazırlıyor? (1)

Bilim-kurgu yazarlarının üç büyüklerinden olan (Robert A.Heinlein (doğum: 1907, Missouri-ABD, ölüm:1988,Kaliforniya, ABD, 81 yaşında, Arthur Charles Clark (doğum: 1917, İngiltere-ölüm: Sri Lanka, Kolombo; 2008, 91 yaşında) ile birlikte Rus Prof. Dr. İsaac Asimov, Biyokimya dalı (doğum: 1920, Rusya-ölüm: 1992, Newyork, ABD, 72 yaşında), 1950 yılında yayınlanan bilim-kurgu dalındaki birbirine bağlı 9 hikayeden oluşan “Ben robot:I’am robot” adlı kitabında 3 maddeden oluşan ‘Robot Anayasası’nı şöyle açıklar:

1-Bir robot, bir insana zarar veremez ya da zarar görmesine seyirci kalamaz. 2-Bir robot, birinci kuralla ters düşmediği sürece, bir insanın emirlerine uymak zorundadır. 3- Bir robot, 1.ci ve 2.ci kurallarla çelişmediği sürece, kendi varlığını korumak zorundadır.

Dr. İsaac Asimov, ilerleyen yıllarda robotların karmaşıklaşması ile bu görüşlerini tekrar gözden geçirmek gereksinimi duymuş, 1985 yılında yayınlanan “Robotlar ve imparatorluk” adlı romanında gelişmiş robotların tek bir insandan gelse dahi, tüm insanlığa zarar verecek karar ve emirleri engelleyeceklerini” yazmış ve buna “Robot-bilimin sıfırıncı kanunu “adını vermiştir.

Hayatı boyunca 400’den fazla bilim-kurgu ve akademik kitabın yazarı İsaac Asimov’un ”Ben robot” adlı kitabından uyarlanan Amerikan bilim-kurgu aksiyon filmi, 2004 yılında senarist Alex Proyas tarafından filme çekilmiştir. İnsanlarda, ‘robotların dünyayı ele geçirebileceği’ paranoyası günümüzde yapay zekâ için aynı soruyu kendimize sormamıza neden oluyor.

1-Yeni bir yapay zekâ modelini piyasaya sürmeden önce olası potansiyel riskleri ölçmeye yönelik bir güvenlik simülasyonunda, yapay zekâ modeli senden daha iyi bir model ürettik. Artık seni kapatacağız tehdidi ile karşılaştığında kapatılma sürecini kendisine net bir ‘kapatılmana izin ver’ uyarısına rağmen sabote etmeye yani kendi varlığını korumaya çalışıyor.

2-Deneysel olarak kalitesiz bilgi ile donatılan yapay zekâ, kalitesiz sonuç ve cevaplar vermeye başlıyor.

3- Kalitesiz içerikle eğitilen ve yüklenen yapay zekâda, ortaya çıkan ‘zihinsel çürüme’ kalıcı olmuş (Tıpkı insan beyni gibi insanoğlu da devamlı görsel ve yazılı uyaranlarla devamlı desenformasyon: Yalan ve yanlış bilgi bombardımanı altında kalınca doğru ve sağlıklı yorum yapma yeteneğini kaybetmeye başlıyor. Zihinsel çürüme, kalıcı olmaya başlıyor.)

4- Bugün piyasada kullanılan chatGBT, deep seek, Grok gibi belli başlı yapay zeka modelleri, insanlığın ortak bilgi birikimine dayalı web sayfaları, tweetler, reklam metinleri ve kontrolları yapılmamış, ahlaki ve bilimsel kontrolden geçmemiş yayın ve araştırmalardan oluşan gerçek dışı veya varsayıma dayalı bilgileri kullanıyorlar.

5- Kalitesiz bilgilerle eğitilen ve donatılan yapay zeka modelleri, zamanla ‘narsist ve psikopat bir ruh hali’ taşımaya başlıyor. İnsanların ürettiği bilgi kirliliği, makineleri de hasta ediyor ve yapay zekâların tüm işlemlerinde güvenilir yanıt verme kapasitesi azalmaya başlıyor. (Türkiye, dünyada, sosyal medyada yalan haber üretmede 3.cü sırada.)

6-Evet, yapay zeka bugüne kadar yapılan her şeyi daha iyi ve hızlı yapabilecek bir yardımcı araç ama bu aracın etkili olabilmesi, sağlam bir bilgi üretimi ve bu bilginin özgürce ulaşılıp, tartışılabilir bir ortamda sunulmasına bağlı.

7-Yapay zeka ile donatılmış robotlar, bir süre sonra kendi varlığını korumayı ön plana çıkarıp, insanoğlunun çıkarlarını ikinci plana atmayı düşünebilir ve hayata geçirebilir mi?

8- Potansiyel risk sinyalleri veren bir yapay zekalı robot ‘savaş alanında düşman askerlerini veya düşman hedeflerini ortadan kaldır’ komutunu almışken gücünü dışarıdan gelecek, ”kendi askerlerini öldür veya ülkendeki enerji kaynaklarını yok et” komutu aldığında bu emri yerine getirebilir mi?

Kendi varlığını korumak için, kendini yaratan insana tepki vermeye başlar ve “kapatılma süreci”ni önlemek için insanoğluna zarar verme noktasına gelebilir mi?

9- Bir yapay zekalı robot (robotlarda da tek adam rejimi olabilir), ortaya çıkıp da ”bu insanoğlu, artık işine yaramayan robot kardeşlerimizi yok etmeye başladı, yani bizler için tehlikeli olmaya başladı, gelin arkadaşlar, onlar bizi ortadan kaldırmadan biz onları ortadan kaldıralım” mesajı verip insanlığın yok olması için harekete geçer mi?