Uzun vakittir arabaların kendi kendilerine seyahat edebilmesini sağlayacak teknolojiler üzerinde çalışmalar yapılıyor. Her ne kadar Tesla üzere firmalar bu alanın öncüleri olsa da klasik araba üreticileri de bu alanda önemli yatırımlar yapıyor. Yeniden de otonom araçların önündeki tek sorun teknoloji değil.
Otonom araçların nasıl karar verecekleri konusu epeydir tartışmaların merkezinde yer alıyor. Genelde “Birine çarpması gerektiğinde araç bebeğe mi, yaşlıya mı çarpar” üzere tartışmalar bilinse de bir öbür kıymetli açmaz da zihinleri kurcalıyor: Otonom araçlar her durumda yolcusunu mu korur yoksa çoğunluğun uygunluğu için yolcusunu feda edebilir mi?
Kimin yaşayacağına nasıl karar verilir ki?
Gelin bu tartışmalarda kullanılan senaryo üzerinden konuşalım. Otonom bir araç kendi halinde yolda gidiyor. Bir köşeyi döndüğünde bir anda yoldan geçen kalabalık bir kümeyle karşılaşıyor. Araç bu durumda yolcusunu mu korumalı, yoksa vefat ya da yaralanma sayısını en düşük düzeyde tutmak için duvara mı çarpmalı? Pekala ya aracın yolcusu siz olsaydınız ne derdiniz?
Tolouse İşletme Okulu’ndan Jean-Francois Bonnefon bu bahisteki ahlaki ve etik tartışmalarına kendi makalesi ile dahil olmuş bir araştırmacıdır. Bu çalışmada otonom araçlar arttıkça otonom araçların bu çeşit kararlar vermek zorunda kalma ihtimalleri de bu türlü kararları alma sıklıkları da artacaktır. Araçların bu durumlarda vereceği kararlar da araçların kullanımının artması konusunda kıymetli rol oynayacaktır. Araştırmacılara nazaran bu mevzuda otonom arabaların nasıl hareket edeceğini belirlemek için kural yapıcılar ve üreticiler, psikologların uygulamalı etik çalışmaları yapmasının önünü açması gerekiyor.
İnsanların kararı bile her vakit birebir değil.
Araştırmada Amazon’un çevrim içi kamusal fonlama/araştırma aracı Mechanical Turk’te yapılan çalışmanın sonuçları ele alındı. Burada iştirakçilere farklı senaryolar sunuldu. Bu senaryolardan biri de üstte bahsettiğimiz senaryoydu. Ayrıyeten araç içerisindeki yolcu sayısının ya da yolcu yaşlarının farklı olduğu emsal senaryolar da iştirakçilere sunulmuştu.
Sonuçlar ise çok da şaşırtan değildi: genel olarak baktığımızda beşerler oburlarının hayatını kurtarmak için sürücünün hayatından vazgeçmeye eğilimliydi fakat burada ufak bir ayrıntı dikkat çekiyordu. Beşerler yalnızca kendileri şoför değillerse bu tercihte bulunuyorlardı. Bir öbür öne çıkan nokta ise araştırmaya katılanların %75’ine nazaran araçların yoldan çıkması ahlaken gerçek olsa da tıpkı iştirakçilerin sadece %65’i araçların hakikaten de bu halde programlanması gerektiğini düşünüyor. Genel olarak bakıldığında ise iştirakçiler otonom araçların mümkün bir kazada mevt oranını düşürecek halde hareket etmesi gerektiği görüşünün hakim olduğunu söylemek mümkün.
Bir de otonom araç paradoksu bulunuyor.
MIT Technology Review üzere kaynaklara baktığımızda ise otonom arabaların insan şoförlerden daha inançlı olduğu görüşünün baskın olduğunu görüyoruz. Bu da bizi yeni bir açmaza götürüyor. Şoförünü tehlikeye atabildiği için daha az insanın akıllı arabaları tercih etmesi, daha çok insanın trafikte kaza yapmasına neden oluyor.
Otonom araçların toplu taşımanın geleceği olacağına dair neredeyse hiçbir sorun yok ve global ölçekte de seyahat yapma kavramını değiştirebilir. Tekrar de otonom araçların önünde aşılması gereken farklı pürüzler bulunuyor. Yapay zeka ile etiği bir ortaya getirmek de bunların ortasında başı çekenlerden biri olacak.
Aslında bu husus bilim kurguda çokça ele alınmıştı.
İşte android robot olur, otonom araç olur, meskendeki akıllı süpürge olur, genel olarak bu sistemlerin hepsi temel robot yasasını gözeterek hareket ederler. Öte yandan bu robot yasası o denli Bilmemnere Yapay Zeka Tepesi’nde falan oluşturulmamıştır. Aslında efsanevi bilim kurgu yazarı Isaac Asimov‘un 1942 tarihli öyküsü “Durağan Döngü”de (Ben, Robot’un bir kısmıdır, o yüzden sinemada de karşımıza çıkar) belirlediği üç yasadır bunlar. Bu yasalar şu biçimdedir:
- Bir robot, bir beşere ziyan veremez ya da ziyan görmesine seyirci kalamaz.
- Bir robot, birinci kuralla çelişmediği sürece bir insanın buyruklarına uymak zorundadır.
- Bir robot, birinci ve ikinci kuralla çelişmediği sürece kendi varlığını korumak zorundadır.
Görüldüğü üzere bizim birinci baştaki teorimiz kendisine robot yasası içerisinde yer bulamamaktadır. Bu üzere durumlara tahlil de 1985 yılında yeniden Asimov’a ilişkin bir bilim kurgu hikayesi olan Robotlar ve İmparatorluk‘ta cevaplanmıştır. Sıfırıncı Kanun olarak bilinen bu kanuna nazaran gelişmiş robotların tek bir insandansa tüm insanlığın ziyan görmesini engelleyecektir.
Sizce bu senaryoda bir otonom araç nasıl davranmalıdır?