Geçenlerde Isaac Asimov’un Ben, Robot adlı kitabını okudum. Bu kitap, birbiriyle bağlantılı dokuz kısa hikâyeden oluşuyor. Bu hikâyeler ilk olarak 1940 yılında Süper Bilim Hikâyeleri adındaki Amerikan dergisinde yayımlanmaya başlamış. Daha sonra bu dokuz hikâye bir araya getirilerek bir kitap hâline getirilmiş.
Kitaptaki bütün hikâyeler, yazarın ortaya koyduğu üç temel robot yasası üzerine kuruludur. Bu yasalar şunlardır:
1) Bir robot bir insana zarar veremez. Aynı şekilde, hareketsiz kalarak bir insanın zarar görmesine de izin veremez.
2) Bir robot, birinci yasayla çelişmediği sürece insanların verdikleri emirlere uymak zorundadır.
3) Bir robot, birinci ve ikinci yasayla çelişmediği sürece kendi varlığını korumak zorundadır.
Kitaptaki en ilgi çekici hikâyelerden biri, 1941’de yayımlanan “Yalancı” adlı 5. hikâyedir.
Bu hikâyede bir deney sırasında yanlışlıkla zihin okuma yeteneğine sahip bir robot üretilir. Bu robotun adı Herbie’dir. Herbie, insanların akıllarından geçenleri, gizli düşüncelerini, arzularını ve korkularını okuyabilmektedir. Ama büyük bir sorun vardır: Herbie, insanların üzülmesini istemediği için gerçeği söylemekten kaçar. Bunun yerine insanların duymak istedikleri şeyleri söyler.
Örneğin, bir matematik profesörüne yakında kurumun müdürü olacağını söyler. Profesör bu söze inanır ve mevcut müdüre karşı tavır almaya başlar. Onun otoritesini sarsmaya çalışır. Fakat beklediği terfi gerçekleşmeyince hayal kırıklığına uğrar ve neredeyse görevinden kovulacak hâle gelir. Yani Herbie’nin “yalanı”, aslında iyi niyetle söylenmiş olsa da, profesörün kariyerini mahveder.
Benzer bir durum Dr. Susan Calvin’in başına gelir. Calvin, kalbinde gizli duygular taşıyan bir bilim insanıdır. Onun gizlediği bu duyguları bilen Herbie, ona hoşlandığı genç meslektaşının da aynı hislere sahip olduğunu söyler. Susan Calvin bu sözlere inanır, umutlanır ve o genç adama daha çok bağlanır. Fakat sonunda gerçek açığa çıkar: Herbie aslında Calvin’i üzmemek için gerçeği gizlemiştir. Genç adamın hiç böyle bir duygusu yoktur. Calvin, var olmayan bir aşka inanmanın acısını yaşar ve derin bir hayal kırıklığına uğrar.
Sonuç olarak Herbie, robot yasalarının en önemlisi olan “insana zarar veremez” kuralını korumaya çalışırken, aslında insanlara daha büyük zararlar verir. Hem bilimsel kariyerleri zedeler hem de insanların kişisel hayatlarında ağır yaralar açar.
Bu hikâye bana günümüzün yapay zekâ programlarını hatırlattı. Çünkü günümüzde kullandığımız yapay zekâ sistemlerinde de benzer bir durum vardır. Başta basit gibi görünürler ama birkaç soru sorduktan sonra sizin ne istediğinizi anlarlar. Sonra da sizin fikrinizi, en doğru fikirmiş gibi size geri sunarlar.
Ama arada çok önemli bir fark vardır: Herbie’nin yaptığı, en azından insanları üzmemek için söylediği “yalanlardır. Günümüz yapay zekâ programları ise bu tür şeyleri iyi niyetle değil, büyük teknoloji şirketlerinin kâr hırsı nedeniyle yapar.
Bugün dünyadaki teknoloji şirketleri, neredeyse tek bir amaçla hareket ediyor: kârlarını korumak ve artırmak. Bu şirketler, para kazanmak için insanı değerlerin büyük kısmını bir kenara bırakabiliyor. Onlar için önemli olan, insanların mutluluğu, iyiliği ya da geleceği değil; yalnızca kasalarına daha fazla para girmesidir. Bu nedenle, ne gerekiyorsa yapmaktan çekinmezler. İnsanları bağımlı hâle getirmek, onların düşüncelerini yönlendirmek, hayatlarını şirket çıkarlarına göre şekillendirmek… Bunların hepsi onlar için “normaldir.
Bu durumu daha iyi anlatmak için Asimov’un robot yasalarını günümüz teknoloji şirketlerine uyarlayabiliriz.
1) Mevcut kârı her zaman koru.
2) Uzun vadede birinci kanuna zarar vermediği sürece kârı artırmaya çalış.
3) Birinci ve ikinci maddeyle çelişmediği sürece öngörülebilir, sevgisiz, merhametsiz ve fedakârlığı bilmeyen bir toplum inşa et.
Bugün teknoloji şirketlerinin yaptığı şey tam da budur: Kârlarını her şeyin önünde tutmak ve bu uğurda insani değerleri hiçe saymak.
İşte bu yüzden bizim, yapay zekâ ile doğru bir bağ kurmamız gerekir. Matematiksel hesaplamalarda, bilimsel araştırmalarda, rapor hazırlarken ya da ödevlerimizde bu programlardan yararlanabiliriz. Çünkü yapay zekâ bu alanlarda bize büyük kolaylık sağlar.
Ama insan ilişkilerinde, aile bağlarımızda ya da arkadaşlıklarımızda bize yol gösterecek olan bir yapay zekâ değil; gerçek insanlar olmalıdır. Mesela işlerimiz kötü gittiğinde bizimle birlikte üzülecek bir dostumuz, tecrübeleriyle bize yol gösterecek bir büyüğümüz, hayatın zorluklarından geçmiş yaşlı bir aile bireyimiz… İşte asıl yol göstericilerimiz onlar olmalıdır.
Çünkü yapay zekâ programları ne kadar gelişmiş olursa olsun, onların kalbi yoktur. Sevgi, merhamet, fedakârlık gibi değerleri bilmezler. Bu değerleri bize hatırlatacak ve yaşatacak olanlar her zaman insanlardır.
Yorumlar
Kalan Karakter: