Yapay Zeka dünyayı ele geçirip insanlığın canına ot tıkayacak mı? Her ne kadar bunaltıcı, korkutucu, başı sonu bilinemez bir gelecek, uzunca bir süredir filmlere konu oluyor, insanlığı tutsak eden bilgisayarların karanlık dünyasını izleyip duruyorsak da, yapay zekanın günlük yaşantımıza hemen şimdi konuşmayı gerektiren tehditeleri var. Bunlardan altısı MIT Technology’de yayınlanan bir çalışmada sıralanmış.

Hazır mıyız? 2019’da teknolojideki gelişmelerle birlikte hangi yasal düzenlemeler ve toplumsal farkındalıkları beklemeliyiz?

1 - Kendi çarpışan taşıtlar

Mart ayında Uber’in kendi kendine giden taşıtlarından biri ölümcül bir kazaya yol açtı.

Ford ve General Motors gibi taşıt üreticileri, Uber gibi yeni gelen ve daha bir sürü yeni başlayan girişimci, olgunlaşmamış olmasına karşın, şimdiden milyarlarca dolarlık yatırım görmüş bir teknolojiyi ticarileştirmek için acele ediyorlar.

2019’da ne beklemek gerek? ABD'deki ve dünyanın diğer pek çok yerinde yasa düzenleyiciler çekinceli davranıyorlardı. Ancak, örneğin ABD Ulusal Karayolu Trafik Güvenliği İdaresi, mevcut güvenlik kurallarının gevşetilebileceğinin sinyalini vermiş.  Yayalar ve insan sürücülerin ise birer denek olmak istemedikleri kesin.  Olabilecek bir başka ciddi kaza, yasa düzenleyicilerinin tutumlarını değiştirebilir. İzleyip göreceğiz.


2 - SİYASAL Manipülasyon Botları*

Mart ayında, bir siyasi danışmanlık şirketi olan Cambridge Analytica'nın, 2016’daki ABD başkanlık seçimlerini etkilemek için Facebook’un veri paylaşımı uygulamalarından yararlandığı ortaya çıktı. Sonradan oluşan fırtına, sosyal medyada hangi haber ve bilgilerin yer alacağına karar veren yazılımların (algoritmaların) yanlış bilginin yerleşmesini sağlamak, sağlıklı tartışmaları baltalamak ve vatandaşları birbirinden farklı görüşlerle kamplara ayrımak için nasıl kullanılabileceğini gösterdi.

Facebook kurucusu Mark Zuckerberg ise ABD kongresindeki duruşmasında, metin, resim veya videonun anlamını anlamaktan uzak olsa bile, yapay zeka’nın kendisinin, kötü niyetli içeriği tespit etmek ve engellemek için eğitilebileceğini söyledi.

2019’da ne beklemek gerek? Zuckerberg’in verdiği söz 2019 yılında Afrika’nın en büyük iki ülkesinde yapılan seçimlerde test edilecek: Güney Afrika ve Nijerya. Ancak ABD’nin 2020 seçimlerine giden uzun süreci de başladı, ve süreç yapay zekanın kullanılacağı başka teknolojilere ilham verebilir. Çok dikkatli olmak gerek.


3 - Barış Yazılımları (ALGORİTMALARI)

Geçtiğimiz yıl, Google çalışanları, işverenlerinin ABD Hava Kuvvetleri'ne dron görüntülerini sınıflandırması için teknoloji  sağladığını  öğrendiğinde bir Yapay Zeka barış hareketi şekillendi.  Çünkü Google çalışanları bunun ölümcül dron saldırılarının kendiliğinden olması (otomatikleştirmek) için teknoloji sağlama yönünde atılmış bir adım olmasından korkuyorlardı. Yanıt olarak, şirket Proje Maven olarak bilinen bu girişimi bıraktı ve bir Yapay Zeka etik yasası yarattı.

Akademisyenler ve sanayinin önde gidenleri de, kendi kendine çalışacak (otonom) silahların kullanımını yasaklayan bir kampanyayı desteklediler. Ancak Yapay Zeka’nın askeri kullanımı hız kazanıyor. Microsoft ve Amazon gibi diğer büyük bazı şirketler ise önlemler konusunda yardımcı olmaya bile çalışmıyor.

2019'da ne beklemek gerek?  Yapay Zeka projelerine yapılan harcamalarının artmasına karşın, karşı eylemciler kendi kendine çalışacak silahları yasaklayacak bir antlaşmanın bu yıl yapılacak bir dizi Birleşmiş Milletler toplantısından çıkacağını umuyorlar.  Bu konuda ilgili ve duyarlı olmak hepimizin yararına. Özellikle de ABD çıkarları ile her an ters düşebilecek ülkelerde yaşan milyonlarca insanın.

4 - Yüz İzleme

Yüz tanıma, örneğin telefonunuzun kilidini açmanızı ve sosyal medyada sizin için fotoğrafların otomatik olarak etiketlenmesini sağlayan teknolojidir.

Yapay Zeka’nın insan yüzünü tanımadaki bu olağanüstü yeteneği, ülkeleri insanları gözetleme teknolojisini kullanmaya itmiştir.

Sivil özgürlük grupları, baskıcı bir gelecek hakkında uyarıyor. Çünkü teknoloji, insanların mahremiyetini istila etmek isteyenlerşn kullanacağı korkunç bir güç olabilir. İnsanların önyargıları makinaların eğitiminde ayrımcılığı otomatikleştirmeyi de olası kılacaktır.

Pek çok ülkede - özellikle Çin’de - yüz tanıma polislik ve devlet gözetimi için yaygın olarak kullanılıyor. Amazon, bu teknolojiyi ABD göçmenlik ve kolluk kuvvetlerine de satıyor.

2019'da ne beklemek gerek?   Yüz tanıma, araçlara ve web kameralarına yayılacak. Yalnızca kimliğinizi bulmak için değil, duygularınızı izlemek için de kullanılacaktır. Ancak bu yıl artık bunun belli ölçüde yasalarca düzenlemesini görebiliriz. Eğer görmezsek bu konunun takipçisi olmamız gerekir.

5 - Kandırana dek devam

Geçen yıl “derinlemesine inandırıcı sahte” videoların çoğalması Yapay Zeka kullanarak sahte klipler yapmanın ne kadar kolay olduğunu gösterdi. Bu, ünlülerin sahte pornolarının yapılmasına, tuhaf film karışımlarının ortaya çıkmasına, politik amaçlı karalama kapanyalarının yapılıp yayılmasına yol açabilir.

Bu arada GAN adı verilen bir teknolojiden sözedelim. Olağanüstü derecede gerçekçi fakat tamamen gerçek dışı görüntü ve videoları birleştirebilir. Geçtiğimiz günlerde GAN'ların nasıl istediğiniz ırk, cinsiyet ve yaşta  gerçekçi ama sahte yüzler oluşturabildiğini gösterdi.

2019'da ne beklemek gerek? Derinlemesine sahtelik geliştikçe, insanlar bu yıl daha çok kandırılabilecek. Bu sahtellikleri ortaya çıkaracak Yapay Zeka teknolojisi de gelişecektir elbette. Bir kedi ve fare oyunu izleyeceğiz büyük olasılıkla. Maddi ve manevi kayıplarımız olmaması, dolandırıcıların oyununa gelmemek için çok uyanık olmamız gerek.


6 - ALGORİTMİK AYRIMCILIK

Önyargının, çok sayıda ticari yazılımda da bulunduğu geçen yıl farkedildi. Örneğin,dengesiz veri demetleri ile eğitilmiş görüntü yazılımları kadınları veya tenleri farklı renklerde olan insanları tanıyamıyordu. Tarihsel verilerle beslenen işe alım programlarının da zaten var olan ayrımcılığı sürdürdüğü kanıtlandı.

Zaten Yapay Zeka alanında çeşitliliğin olmayışı da temelde varolan önyargılar ile ilintili. En önemli sorun da bu toplumlara işlemiş olan önyargıların silinmesi. Örneğin kadınların sektördeki işlerden en fazla yüzde 30’nu, ve en iyi üniversitelerdeki öğretim rollerinin ise yüzde  25'den azını aldıkları görülüyor. Tüm dünya toplumlarının yarısını oluşturan kadınların uğradığı ayrımcılık kabul edilemez. Siyah tenli veya  Latin kökenli  araştırmacı sayısının da daha az olduğu görülüyor.

2019'da ne beklemek gerek? Önyargılı verilerden tarafsız sonuçlar üretebilecek, önyargıları ve algoritmaları saptama ve azaltma yöntemlerininin ortaya çıktığını göreceğiz. Büyük bir Yapay Zeka çalıştayı olan Uluslararası Makine Öğrenimi Çalıştayı, 2020'de Etiyopya'da düzenlenecek çünkü önyargı sorunlarını araştıran Afrikalı bilim insanları, diğer bölgelere seyahat etmek için vize alma konusunda sorun yaşayabilir. Diğer etkinliklerin de yeri değişebilir bu yüzden.