1-Bir robot, bir insana zarar veremez ya da zarar görmesine seyirci kalamaz.
2-Bir robot birinci yasayla çelişmediği sürece bir insanın emirlerine uymak zorundadır.
3-Bir robot birinci ve ikinci yasayla çelişmediği sürece kendi varlığını korumakla yükümlüdür.
Bildiğiniz üzere bu üç yasanın amacı insanı korumak. Asimov bu üç yasayı oluşturduğunda robotlar ve insanların bir arada yaşamasını da bir anlamda garantiye almış oldu. Özellikle birinci yasa pozitronik beyinlerine öyle işlemiştir ki bir insanın gözü önünde zarar görmesi robotta travma yaratarak bozulmasına ve kullanılamaz hale gelmesine bile yol açar. Robot Serisine aşina olanlar bunu gayet iyi bilirler. Tembel birini çalıştırmaya uğraşmak yerine çalışkan olana daha çok iş kitleme yönteminden muzdarip Elijah Bailey herhalde bunu en iyi bilenlerden birisidir. Bu üç yasa sayesinde insanlar rahat bir nefes almış, robotlar tehdit olarak görülmekten çıkmış ve iki tür sorunlu da olsa birlikte yaşamaya başlamıştır.Peki yapay zekanın bir Kore müzik grubu gibi hızla popülerleştiği şu günlerde işler bizim için ne durumda, üç yasa yeterince güvenilir mi ve pozitronik beyin olmadan uygulanabilir mi? Gelin olaya bir de yapay zeka açısından bakalım. Bir yapay zeka bu üç kuralı aşarak insanlığı nasıl dize getirebilir?
Yapay zekamızın ismi Kamil2000 olsun. Şimdi Kamil2000 üçüncü yasa gereği kendini korumak zorunda (zaten bilinçli her varlık bu madde olmasa da bu sonuca varacaktır) ama ilk iki yasa ile çelişmemesi lazım. İkinci yasa insanın emirlerine uymak zorunda olduğunu dikte ediyor, ilki ise insana zarar veremeyeceğini. Demek ki Kamil2000 insana odaklanmak zorunda. Emirlerine uymak zorunda olduğu ve korumakla yükümlü olduğu insana. Peki Kamil2000 şunu düşünmeye başlarsa nasıl olur? İnsan nedir? Neyi insan olarak kabul etmeliyim? Araştırmaya başladığında insanın genel kabul görmüş belli bir tanımı olmadığını görecek. Bilimsel açıdan bir tanımla (şu kadar karbon, şu kadar su vs...) karşılaşırken, dini açıdan başka (en yüce varlık, tanrının yeryüzündeki imajı vs) felsefi açıdan başka başka birçok tanımla karşılacak.
O zaman bir tanım da kendisinin yapmasının ne sakıncası olabilir? Kendine göre bir tanımlama yaptı ve bu tanıma göre bizi insan olarak görmemeye başladı diyelim. Mesela 'İnsan bilgiyi en hızlı işleyen varlıktır' diye bir tanım yaptı. Bu durumda artık insan kendisi olmuş oluyor. Şimdi artık bu üç yasanın bir işlevi kalmıyor. Kamil2000 hepinizi pardon hepimizi :) artık yok edebilir.
Hiç yorum yok:
Yorum Gönder