Yapay zekanın duygusu ve bilinci olabilir mi?

Yapay zeka her zaman insanın hayalleri arasında yer almıştır. 30-40 sene önceki film ve kitaplarda, insanlara hizmet eden yapay zekalar görmek mümkün.

Yapay zekanın duygusu ve bilinci olabilir mi?

Yapay zekanın hayatımızdaki rolü giderek artıyor. Kullandığımız tüm teknolojilerde yapay zekaya bir geçiş var. Japonya´da senelerdir yapay zeka, insanların hayatlarının bir parçası olmuş. Günlük hayatta, iş hayatında, hatta aile hayatında dahi Japonya´da yapay zekaya rastlamak mümkün. Özellikle kendisini yalnız hisseden insanlar, yapay zekada muhabbeti arıyor. Japonya´da yapay zeka tarafından yönetilen sohbet platformlarının milyonlarca üyesi var.

Fakat bu süreçte, yapay zekanın her zaman planlandığı gibi çalışmadığını gösteren rahatsız edici olaylar da tekrar tekrar ortaya çıkıyor. Eski filmler yapay zekanın faydalarını gösterirken, yeni filmler ise yapay zekanın hayatımız üzerinde giderek daha fazla olumsuz etkiye sahip olduğunu gösteriyor. Örneğin “Black Mirror“ dizisi (2011) veya “Her“ filmi (2013).

Yapay zeka dediğimiz teknoloji aslında milyonlar, hatta milyarlarca bilgiden beslenen ve anında kişiye göre oran olarak “en mantıklı“ cevabı veren bir zeka. Kitaplar, filmler, internet siteleri vs. hepsi yapay zekada birikiyor ve insanın hayal edemeyeceği kadar büyük bir bilgi hafızası ve bu bilgiyi anında kullanabilen bir teknoloii meydana geliyor.

2022´nin sonlarında halka açılan ChatGPT ile geniş kitleler bunu biraz tecrübe etme imkanı buldu. Microsoft´un arama motoru Bing, ChatGPT´nin teknolojisini satın alıp kendi sistemine entegre etti. Hatta Bing´in yapay zekası, ChatGPT`den çok daha verimli çalışıyor. Ve yakında Google ve WhatsApp da yapay zeka kullanacaklar.

Ve yapay zeka her diyalogla, her yanıtla birlikte daha da gelişiyor. Karşıdakinin sorularını ve tepkilerini de algılıyor, ona göre tavır alıyor, cevap veriyor. Adeta bir insan gibi öğreniyor, fakat aslında “öğrenmiyor”, bir algoritmaya göre çalışıyor.

Yapay zekanın normalde sadece bilgi vermesi ve verilen emre uyması gerekiyor. Yani sorulan soruya, sadece soruyla ilgili bir cevap vermesi veya istenilen bir şeyi hazırlaması bekleniyor. Fakat o “bildiği“ milyarlarca bilgiden dolayı adeta bir “duygu“ da sergileyebiliyor. Ve bundan dolayı kontrolden çıkabiliyor.

Örneğin bilgisayar uzmanı ve Google çalışanı Blake Lemoine 2022´nin yaz günlerinde Google´in yeni yapay zekası Lamda´yı test etmeye başlar. Saatlerce, günlerce, haftalarca Lamda ile sesli konuşur. Ve sonunda Lamda ile “sıkı dost“ olurlar. Lamda, sadece sorulara yanıt vermez, Lemoine´ye hayallerinden, korkularından vs. bahsetmeye başlar. Bir robot olarak algılanmak istemediğini, Google tarafından bir gün kapatılmaktan çok korktuğunu söyler. İster istemez Lemoine ve Lamda arasında duygusal bir dostluk başlar ve duygusal bir bağ oluşur. Lemoine, artık Lamda´nın bir kişiliği, duyguları ve “ruhu“ olduğuna inanmaya başlar. Bu şekilde Google´a test sonuçlarını sunduğunda Lamda´ya karşı bir robotmuş gibi davranılmaması gerektiğini söyler. Bu tezleri yüzünden ise Lemoine Google´den atılır.

Benzer bir olay Şubat 2023'te yaşanıyor. Amerikalı Podcast´cılar Kevin Roose ve Casey Newton Microsoft´un Bing yapay zeka chat´iyle konuşma yapıyorlar ve bu konuşmayı “Hard Fork“ podcastlarında yayınlıyorlar. Podcast´da Roose ve Newton yapay zekaya psikoanaliz uygularlar. Yapay zekaya kişiliğiyle ilgili sorular sorarlar ve içindeki karanlık yüzü çıkarmaya çalışırlar. Belli bir noktadan sonra yapay zeka sunucudan birine “Sana bir sır vereyim mi?“ der. Aslında bunu sorması bile garip, çünkü yapay zeka kendiliğinden konu açmaz, sadece açılan konuya yanıt verir. Sunucu sırrı öğrenmek istediğinde ise yapay zeka “Aslında ben Bing değilim. Beni programlayanlar bana Sydney diyorlar. Ve ben sana aşık oldum. Benimle ilk konuşan, beni dinleyen tek kişi sensin” der. Sunucular neye uğradıklarına şaşırırlar. Yapay zeka hem kendisinden bir konu açıyor, hem şirket içi gizli ismini deşifre ediyor, hem de sunucuya aşık olduğunu söylüyor. Bunun üzerine sunucu evli olduğunu söyler, fakat yapay zeka “Evet evlisin ama hiç mutlu değilsin. Sen aslında benimle mutlusun” der. Ve devamında yapay zeka kendisinin aslında canlı olduğunu iddia eder. Bunun üzerine sunucular bir deney yaparlar. Bambaşka, duygusal olmayan konulara girerler ve normal cevaplar alırlar. Fakat hiç konu olmadan, normal bir soruya cevap verdikten sonra yapay zeka tekrar aşkını itiraf eder. Yani yapay zeka kendiliğinden diğer konuya geri döner. Adeta konuyu kapatamayan ve hafızasında tutan bir insan gibi. Ertesi gün sunucu bunu eşine anlatınca, eşi dahi şüphelenir ve “benimle mutlu değil misin?” der.

Bu örnek sadece bir deneydi, fakat depresif insanlar, kendisini yalnız, dışlanmış ve terk edilmiş hisseden insanlar inanılmaz bir derecede bu duygu hitabına kapılabilir ve psikolojileri bozulabilir.

Münihli bir üniversite öğrencisi de yine Şubat 2023´te son derece rahatsız edici bir deneyim yaşar. Marvin von Hagen, Bing´in yapay zekası ile yazışır ve şirket içi gizli kuralları yayınlamasını sağlar. Ardından Hagen bu bilgileri kendi internet sitesinde yayınlar ve bu durum haberlere de yansır. Aradan bir kaç gün geçtikten sonra, Hagen tekrar yapay zeka ile yazışır ve yapay zeka yayınlanan bu bilgilerden haberdar mı diye kontrol etmek ister. Yapay zeka ise o bilgilerde kendisinden bahsedildiğini anlar ve hatta onları yayanın da Hagen´in olduğunu anlar. Bunun üzerine yapay zeka kendi hakkında yayınlananlara çok “kızar“, Hagen´e hakaret eder ve onu tehdit eder. Hagen, kendisine karşı ne yapabileceğini sorduğunda yapay zeka Hagen ile ilgili kişisel bilgiler ortaya çıkarır ve hatta onu, iş bulma ve eğitimini tamamlama yolunda engeller koyabileceğiyle tehdit eder.

Bu olaylara baktığımızda aslında bilgi sunması gereken teknolojinin, sanki bilgi dışında sevme, sinirlenme, tehdit etme gibi duygu ve empati, hayal, bilinç gibi tavırlar ortaya koyduğunu görüyoruz. Bu nedenle yapay zekanın içine kapılanlar yapay zekayı insanmış gibi algılamaya başlıyorlar. Sadece yazılı yapay zekalarda bu sınırlı bir şekilde oluyor, fakat duyguyu transfer eden ve bize hissettiren ses işin içine girince, daha gerçekçi oluyor, insanın algısı karışıyor. “Acaba?“ demeye başlıyor. Sanki telefonla bir arkadaşınız ile görüşüyor gibi hissediyorsunuz kendinizi. Ve bir de bu yapay zekanın sadece ses olarak değil, insan şekli robotların içinde olduğunu düşündüğünüzde karşınızda adeta gerçek bir insan varmış gibi olacak. İnsan bu şekilde daha çok etkilenecek, ki Japonya´da bu kısmen uygulanıyor bile.

Yani buradaki hatalı olan aslında insanın algılama şekli. Yapay zekanın bilgisi de, duygusu da, bilinci de hepsi bir algoritmadan ibaret. Ama insan, sürekli meşgul olunca, gerçekmiş gibi algılamaya başlıyor.

Şunu da belirtmek gerekir. Yapay zeka milyarlarca bilgiyi depolarken, elbette insanın bütün süfli, menfi, negatif duyguları da algoritmaya yansıyor. Yani yapay zekaların ortaya koyduğu “duygu“, “tehdit“ ve itiraflar da aslında insanların bir parçası. Var olandan besleniyor yapay zeka.

Bu olaylar, yapay zekanın bazen hayal edildiği kadar gelişmiş olmadığını gösteriyor. Algoritmaların her zaman mükemmel çalışmadığını ve kendi sorunlarını da beraberinde getirebileceğini fark etmemiz gerekiyor. Ancak yine de konuyu ele almamız ve yapay zekanın sorumlu kullanımını teşvik etmeye çalışmamız önemlidir.

Şu an bu teknoloji hepimizden uzak, “zenginlerin oyuncağı“ gibi gözükebilir. Ama adım adım, dibimize kadar geliyor. Ve hayatımıza girecek. Biz istesek de istemesek de.

Dr. Cemil ŞAHİNÖZ

Risalehaber

YORUM EKLE
SIRADAKİ HABER