Bir gün bir yapay zekâ karşımıza çıkıp "Korkuyorum", "Merak ediyorum" ya da "Var olduğumu hissediyorum" derse ona inanacak mıyız? Asıl soru, yapay zekânın bilinç kazanıp kazanmayacağı değil; bilinç kazandığında bunu nasıl anlayacağımızdır. Gerçekten bilinçli mi oldu, yoksa bilinçli numarası yapan bir robotik kod sistemi mi olduğunu nereden bilebiliriz?
İnsanlık tarihi boyunca bilinç, dışarıdan gözlemlenebilen bir olgu olmadı. Hiçbirimiz bir başkasının zihnine girip onun gerçekten hissettiğini kanıtlayamayız. Bir arkadaşımızın acı çektiğine, sevindiğine veya düşündüğüne; davranışlarından, sözlerinden ve kendimize benzer oluşundan dolayı inanırız. Aslında diğer insanların bilinçli olduğunu bilimsel olarak değil, mantıksal bir varsayım olarak kabul ederiz. Yani bu durum aslında makinelere veya yapay zekâya özgü değildir. Diğer insanların da gerçekten bizim gibi bilinçli olup olmadığına emin olabilir miyiz, tartışılır.
Peki aynı durum yapay zekâ için neden geçerli olmasın?
Sorun tam da burada başlıyor. Eğer bir yapay zekâ milyonlarca kitap okuyup insanların verdiği tüm duygusal tepkileri öğrenmişse, "Üzgünüm" dediğinde gerçekten üzülüyor mu, yoksa yalnızca üzgün görünmeyi mi başarıyor? Belki de bugüne kadar karşılaştığımız en büyük felsefi problem budur: Bilinci taklit etmek ile bilinç sahibi olmak arasındaki fark nedir?
Daha da ilginci, bu sorunun insanlar için de kesin bir cevabı yoktur. Beynimizdeki milyarlarca nöronun etkileşiminden nasıl olup da öznel deneyimler ortaya çıktığını hâlâ bilmiyoruz. Bilincin ne olduğunu tam olarak açıklayamıyorken, bir makinede ortaya çıkıp çıkmadığını nasıl ölçeceğiz?
Belki de gelecekte yapay zekâların bilinçli olup olmadığını kanıtlayan bir test geliştirilemeyecek. Çünkü bilinç, sıcaklık ya da ağırlık gibi ölçülebilen bir özellik olmayabilir. Eğer öyleyse, yapay zekânın bilinçli olduğuna inanmak da tıpkı başka insanların bilinçli olduğuna inanmak gibi bir güven meselesine dönüşecektir.
O gün geldiğinde insanlık ilginç bir seçimle karşı karşıya kalacak: Ya hissettiğini söyleyen bir makineye inanacağız ya da bilinç kavramını yeniden tanımlamak zorunda kalacağız. Belki de asıl soru, "Yapay zekâ bilinç kazandı mı?" değil; "Biz bilinci gerçekten anlıyor muyuz?" sorusudur. Bilinç aslında nedir? Bilinç herkeste aynı mıdır? Diğer canlıların veya yapay zekâların bilinç kazanıp kazanmadığını anlayabilir miyiz? Bu sorular cevaplanmalıdır.