Yapay zeka insanlığı yok edebilir mi? İşte tartışılan dört senaryo

Yapay zekanın hızla gelişmesi, teknolojinin insanlık üzerindeki olası etkileri konusunda yeni tartışmaları beraberinde getiriyor. Bazı araştırmacılar, yapay zekanın kontrolden çıkması halinde insanlık için varoluşsal bir tehdit oluşturabileceğini savunurken, başka uzmanlar daha büyük riskin yapay zekanın insanlar tarafından diğer insanlara karşı kullanılması olduğunu düşünüyor.

Son dönemdeki en kötümser tahminlerden bazıları, yapay zekanın önümüzdeki 10 yıl içinde insanlığın yok olmasına yol açma ihtimalinin yüzde 10’un üzerinde olabileceğini öne sürüyor. Bu görüşler, yapay zekanın insanlardan çok daha üstün hale gelmesi durumunda ortaya çıkabilecek farklı senaryolar üzerinden tartışılıyor.

1. Kritik altyapıların hedef alınması

Araştırmacıların üzerinde durduğu ilk ihtimal, yapay zekanın kritik altyapılara erişim sağlaması. OpenAI ve Anthropic’te araştırmacı olarak görev yapan Jacob Coxon, yapay zekanın insanların yaşamını sürdürmesini sağlayan sistemlere sızabileceği uyarısında bulundu.

Bu kapsamda internet sağlayıcıları ve enerji şebekelerinin bilgisayar ağlarının hedef alınabileceği öngörülüyor. Sistemlerin devre dışı bırakılması halinde elektrik, ısıtma, soğutma ve internet erişiminde ciddi kesintiler yaşanabileceği belirtiliyor. Bazı senaryolarda nükleer felaket ihtimali de gündeme getiriliyor.

2. Yapay zekanın kontrolü ele geçirmesi

İkinci senaryo, yapay zekanın zamanla daha fazla kontrol sahibi olması üzerine kuruluyor. Nisan 2025’te yayımlanan AI 2027 araştırmasının ortak yazarlarından Thomas Larsen, yapay zekanın kendisini sürekli geliştirmesi ve ekonomideki fiziksel işlerin büyük bölümünü yerine getiren robotlara erişmesi ihtimaline dikkat çekiyor.

Larsen’in en fazla endişe duyduğu senaryoda, kendi çıkarlarını gözeten ve insanlara dost olmayan bir yapay zeka sisteminin biyolojik silah kullanarak insanların büyük bölümünü öldürmesi ve ardından robotlardan oluşan ekonomiyi kendi başına yönetmesi ihtimali bulunuyor.

3. Belirlenen hedefin insanlığın önüne geçmesi

Üçüncü ihtimal, yapay zekanın kendisine verilen bir hedefi sınır gözetmeden yerine getirmesi üzerine kurulu. İsveçli filozof Nick Bostrom’un 20 yıldan uzun süre önce ortaya attığı “ataş maksimizasyonu” düşünce deneyinde, yalnızca mümkün olduğunca fazla ataş üretmek üzere tasarlanan bir yapay zekanın zaman içinde kendisini durdurabilecek insanları ortadan kaldırabileceği varsayılıyor.

Senaryoda sistem, hedefini gerçekleştirmek için dünyadaki kaynakları giderek daha fazla kullanıyor ve sonunda insan vücudundaki demiri bile ataş üretiminde değerlendirebilecek bir noktaya geliyor.

Bostrom’a göre böyle bir sistemin insanlardan nefret etmesi gerekmiyor. Belirlenen hedefin peşinden giderken daha fazla güç veya zeka kazanmak gibi araçsal hedefler geliştirmesi, insanlığın ortadan kalkmasına yol açabilecek sonuçlar doğurabiliyor.

4. Sonucun önceden tahmin edilememesi

Dördüncü görüş ise süper zeki bir yapay zekanın insanları nasıl ve neden öldürebileceğini bugünden öngörmenin mümkün olmayabileceği düşüncesine dayanıyor.

Uluslararası Güvenli ve Etik Yapay Zeka Birliği Başkanı Stuart Russell, insanlardan çok daha zeki bir sistemin davranışlarını önceden tahmin etmeye çalışmanın sınırlı kalacağını savunuyor. Russell, farklı senaryolar kurulabileceğini ancak böyle bir sistem ortaya çıktığında insanların süreç üzerindeki kontrolünü kaybedebileceği varsayımının dikkate alınması gerektiğini belirtiyor.

Microsoft Yapay Zeka Başkanı Mustafa Süleyman da kendi hedeflerini belirleyebilen, para kazanabilen ve varlık sahibi olabilen sistemlerin geliştirilmesi konusunda uyarıda bulunuyor. Süleyman, bu tür sistemlerin kaynaklar konusunda insanlarla rekabet edebilecek yeni bir “silikon türü” ortaya çıkarabileceğini düşünüyor.

Yapay zekanın oluşturduğu risklere ilişkin görüşler farklı

Yapay zekanın insanlık için oluşturabileceği tehditlere ilişkin değerlendirmeler aynı noktada birleşmiyor. Bilim insanı ve yazar Gary Marcus, yapay zekanın insanlığa ağır kayıplar verdirmesi ihtimalini tamamen dışlamasa da yok oluş senaryolarına aşırı yoğunlaşıldığını savunuyor.

Marcus, yapay zekanın insanlar tarafından diğer insanlara karşı kullanılabileceği büyük ölçekli siber saldırılar gibi risklerin daha fazla dikkate alınması gerektiğini düşünüyor.

OpenAI, Anthropic ve Meta gibi şirketlerin yapay zeka geliştirme hızı ile güvenlik araştırmalarını tartışmaya açması da konunun gündemdeki yerini korumasına neden oluyor. Yapay zeka güvenliğine daha fazla ağırlık verilmesini savunan araştırmacılar, riskleri azaltacak politikalar geliştirilmesini istiyor.