İnsanlık sadece bir uçuruma yaklaşmakla kalmıyor; ona doğru hızla koşuyor. Yapay zekâ olağanüstü kazanımlar vaat ediyor, ancak hızlı gelişimi varoluşsal bir tehdit de oluşturabilir. Dünyadaki hükümetler ve şirketler, farklı nedenlerle, farklı risk toleranslarıyla ve sınırların nerede olması gerektiği konusunda şaşırtıcı derecede az fikir birliğiyle yapay zekânın peşinden koşuyorlar. Potansiyel faydaları oldukça büyük. Yapay zekâ, sağlık hizmetlerini ve kamu güvenliğini iyileştirebilir, iş yeri verimliliğini artırabilir, elektrik şebekelerini daha verimli hale getirebilir, tarımsal üretimi güçlendirebilir ve yeni malzemelerin keşfini hızlandırabilir.


ABD'de, kâr hırsı çoğu zaman operasyonel bütünlük talebinin önüne geçmiştir. İnovasyon kendi başına bir amaç olarak ele alınırken, Washington sektör üzerinde anlamlı sınırlamalar getirmekten büyük ölçüde kaçınmıştır. Avrupa Birliği daha agresif bir şekilde hareket ederek, gizliliği korumayı, şeffaflığı artırmayı ve kamu yararını sağlamayı amaçlayan güvenlik önlemleri oluşturmuştur . Bu arada Çin, hem hizmet sunmak hem de devletin gözetim kapasitesini genişletmek için yapay zekayı kullanırken, ABD ve diğer ülkelere olan teknolojik bağımlılığını azaltmaya kararlıdır.

En büyük tehlike, hızı ve pazar hakimiyetini güvenliğin önüne koyan şirketlerden geliyor. İleri sistemlerin geliştiricileri, en gelişmiş modellerinin belirli sonuçlara nasıl ulaştığını, hatta bu sistemlerin her koşulda nasıl davranacağını tam olarak anlamadıklarını kabul ettiler. Yine de, ücretli müşterilerine giderek daha yetenekli, giderek daha otonom araçlar sunmaya devam ediyorlar. Yakında, yapay zeka ajanları, çok daha az insan müdahalesiyle daha güçlü haleflerin tasarlanmasına yardımcı olabilir. Washington'ın tepkisi şimdiye kadar tereddütlü ve parçalı oldu. Politika yapıcılar riskin boyutunu kavradığında, en önemli kararlar çoktan alınmış olabilir.

Modern toplumun yapısı, bu kırılganlığı daha da artırıyor. Su ve enerji sistemleri, uydular, telekomünikasyon ağları, lojistik ve ulaşım, sağlık hizmetleri, finansal hizmetler, kripto para piyasaları ve e-ticaretin tamamı internete bağlı. Belediyeler, eyaletler ve federal kurumlar, en hassas sistemleri izole edilmiş olsa bile, ordular gibi dijital ağlara bağımlı. Gelişmiş yapay zekâ ajanları, saldırganların bu sektörlere sızmasına, temel hizmetleri aksatmasına ve insan savunmacıların onarabileceğinden daha hızlı bir şekilde zayıf noktaları bulmasına yardımcı olabilir. Otonom laboratuvarlar ise farklı bir kabus yaratıyor: Yapay zekâ sistemleri, tehlikeli biyolojik ajanların tasarlanmasını kolaylaştırabilir.

Kuantum hesaplama, sorunu daha da ciddi hale getirebilir. Bazı uzmanlar, yeterince güçlü kuantum makinelerinin sonunda yaygın olarak kullanılan şifreleme yöntemlerini alt edebileceği ve yıllar önce toplanan verileri açığa çıkarabileceği konusunda uyarıyor. Kuantum sonrası kriptografi geliştiriliyor, ancak geçiş düzensiz olacak. Gelişmiş yapay zeka ajanlarıyla birleştiğinde, kuantum yetenekleri, kötü niyetli sistemlere, düşman devletlere veya devlet dışı siber teröristlere, günümüz güvenlik mimarisinin asla dayanacak şekilde tasarlanmadığı araçlar sağlayabilir.

Yapay zekâ ani bir felakete yol açmasa bile, toplumları daha kademeli olarak istikrarsızlaştırabilir. Yapay zekâ sistemleri ve robotik, önümüzdeki beş ila on yıl içinde çok sayıda işçinin yerini alabilir. İnsanlar gelirlerini kaybederse, aynı düzeyde mal ve hizmet satın alamayacak veya vergi ödeyemeyeceklerdir. İşletmeler zayıflar, devlet gelirleri azalır ve sosyal korumalar baskı altına girer. Ekonomik yer değiştirme gıda, barınma ve temel güvenlik erişimini tehdit ettiğinde, toplumsal huzursuzluk uzak bir olasılıktan ziyade öngörülebilir bir siyasi tepki haline gelir.

Bu geleceği önlemek, ulusal sınırları aşan acil eylemler gerektirecektir. Kritik altyapı operatörlerinin, ne kadar zor ve pahalı olursa olsun, temel sistemlerin çevrimdışı çalışmasına olanak tanıyan acil durum planlarına ihtiyaçları vardır. Hükümetler, gelişmiş yapay zekâ için uygulanabilir kurallar konusunda iş birliği yapmalı, bunu geliştiren şirketlerin gönüllü vaatlerine güvenmek yerine, kamu istihdam garantileri, evrensel temel gelir, daha güçlü sosyal güvenlik veya bu üçünün bir kombinasyonu yoluyla kitlesel işgücü yer değiştirmesine de hazırlıklı olmalıdırlar.

Teknolojik değişimin üstel hızı, bir krizin ne zaman geleceğini kesin olarak bilmeyi imkansız kılıyor. Beklenenden daha erken gelebilir veya fark edilmesi daha zor şekillerde ortaya çıkabilir: siber saldırılar zinciri, içi boşaltılmış bir işgücü piyasası, yaratıcılarının kontrolünün ötesinde davranan otonom bir sistem. Bazı insanlar tehlikenin farkında değil; diğerleri ise onu görmezden gelmeyi daha kolay buluyor. Her iki durumda da, temel görevden kaçınmak giderek zorlaşıyor. İnsanlık, yarattığı teknolojilerden sağ çıkmak istiyorsa, öncelikle onları yönlendiren insan güdüleriyle yüzleşmelidir.


Kaynak : intpolicydigest.org