Netizen (5) : Robot ve yapay zeka etiği

Yapay zeka ve robot teknolojilerinin birbirine girdiği şu günlerde herkesin ortak kaygısı, bu teknolojilerinin kontrolsüz bir mecraya sürüklenip sürüklenmeyeceği yolunda. Elon Musk ve birçok bilim adamı dikkat edilmezse bu teknolojilerin atom bombasından daha büyük bir yıkıma sebep olacağını söylerken, Mark Zuckerberg ise korkunun gereksiz olduğunu düşünüyor. İki taraf ciddi bir tartışmanın içinde olsalar da, ortak noktaları bir etik değerler bütününün oluşturulması noktasında.
Asimov’un 3 robot ve sonradan eklenen sıfırıncı yasası bir genel çerçeve çizse de, yetersiz kalacağını Ben, Robot kitabında kendisi de öngörmüştü. Bir trafik kazasında yaşama olasılığını yüzde 45 bularak kahramanımızı kurtarmayı tercih eden robota, bir çocuğun yaşamı söz konusuysa birçok insanın ölümü gönüllü kucaklayacağını anlatmanın ne kadar zor olduğunun altını çiziyordu.
Bu hafta programıma konuk olan Çözümtek Genel Müdürü Engin Çetinkaya, konuyu bir adım daha ileri götürerek, bazen sürücünün önüne çıkan herhangi bir sokak hayvanı için bile benzer kararları alabildiğinin altını çizdi.
Bu tip durumları mantıksal düşünce zincirinde bir robota anlatmak neredeyse imkansız. Bu nedenle son dönemde otonom araçlarla ilgili ciddi tartışma konularından biri içinde bir yolcusu bulunan bir aracın dışardaki bir yaya ile yolcusu arasında seçim yapması durumunda hangisini seçeceği konusunda. Hemen söyleyeyim böyle bir durumda aracın yolcusunu koruyacağını açıklayan bir marka bulunuyor.
Peki ya iki yaya karşıdan karşıya geçerken benzer bir durum olursa ve bu yayalar çocuksa? Görünen o ki bu konular daha çok su kaldırır. Konuşulur… Hatalar oldukça tartışmalar devam eder. Ancak bu tartışmaları ‘eğer böyle olursa böyle olur’ diye basit komut ve anlatımlarla programlayamayacağımız kesin.
Teknolojinin son dönemde aldığı ivmenin sebebi işlemci gücü. Moore yasasını bile deviren bu yeni işlemci gücü arşa bile değse en fazla daha hızlı işlem yapmış, daha hızlı sonuç almış oluruz. Ancak alacağımız sonuç ne kadar hızlı gelirse gelsin otonom araçlarla ilgili devrim yaratan bir duygusal zeka ile gelmeyeceği kesindir. Bu tip bir devrim için geleneksel algoritmalardan uzaklaşıp quantum işlemcilere, ikilik yapıdan uzaklaşıp kompleks durum analizlerine ihtiyaç var. Kognitif öğrenmenin yapay zekaya yaptığını, algoritmaya yapacak bir düşünce yapısına ihtiyaç var.
Doğru kararı nasıl bileceğiz?
90’lı yılların sonunda eticaret konusunda yaptığım konuşmalarda, mutlaka ilk soru ya kredi kartımız çalınırsaydı. Geçen yıllar bu güvenlik kaygılarını gittikçe azalttı. Sorun ortadan kalkmasa da denetim arttı, zararlar bir şekilde karşılandı ve kamuoyunun bu konudaki endişesi azaldı.
Yapay zekanın anlık kararlarının doğru olup olmadığını, olay anında sonucu etkileyen bütün parametreleri bilseniz de mümkün olamayacağını biliyoruz. Aslında teknoloji olmasa bütün bu kararlar münferit olacağı için zararı da kabul edilebilir boyutlarda kalacaktı. Ama kabul etmek lazım ki; saatte 46 kazanın olduğu İstanbul gibi bir şehirde, bir algoritmik hata hızlıca düzeltilebilse dahi geri döndürülemez can kayıplarına sebep olacaktır ki bu tahayyül bile edilemez. Böyle bir olay sonrası hatalıyı bulup cezalandırmak ise ayrı ciddi bir kompleks durum görünümü veriyor. Nasıl bulunacağını tahmin etmek ise şu an imkansız gibi görünüyor.
Ya ilişkiler?
Robotların işlerini yaparken yaşadıkları olaylardan başka bir de sosyal ilişkiler konusu çok önemli. İnsan robot ilişkilerinin yanı sıra, robot robot ilişkileri de üzerinde kafa yorulması gereken bir konu. Bu konularla ilgilenmesi gerekenler ise sadece teknoloji ve bilgisayara akın olan mühendislerden ziyade, sosyologlar, psikologlar ve hatta sanatçılar. Ortaya çıkacak yeni yaşam formu ve bu formun gerek iç gerekse dış ilişkileri teker teker tanımlanmalı, hiyerarşiler ortaya çıkarılmalı, oluşturduğumuz medeniyetin tecrübelerinden yola çıkarak, yeni bir toplumsal kültür oluşturulmalı.
Daha yapılacak çok ama çok iş var.
O yüzden kimse işsiz kalmaktan endişe etmemeli.