Makalenin Özgün Adı: Conscious artificial intelligence and biological naturalism
Bu çeviri, makalenin yayımlanmış ve telif hakkıyla korunan nihai versiyonu üzerinden değil, yazar(lar) tarafından CC BY 4.0 lisansı ile açık erişime sunulan preprint versiyonu esas alınarak hazırlanmıştır.
Öz
Yapay zekâ (YZ) ilerleyişini sürdürürken, YZ sistemlerinin yalnızca zeki değil, aynı zamanda bilinçli olup olamayacağını sormak doğaldır. Bu makalede, insanların YZ’nin bilinçlenebileceğini düşünmesi için hangi gerekçelere sahip olduğunu ele alacak ve bizi yanlış yönlendiren bazı önyargıları teşhis edeceğim. Bilinçli YZ’nin gerçekçi bir ihtimal olabilmesi için ne gerektiğini sorgularken işlemlemenin [computation] bilince yeterli bir temel sağladığı varsayımına karşı çıkacağım. Bunun karşısında, bilincin, yaşayan organizmalar olarak doğamıza bağlı olduğunu ileri süren bir biyolojik doğalcılık (natüralizm) biçimini savunacağım. YZ için çeşitli senaryoları ele alıp mevcut gidişatlar açısından gerçek yapay bilincin pek ihtimal dahilinde olmadığını, ancak YZ beyne ve/veya yaşama daha çok benzedikçe bilinçli yapay zekânın daha makul bir olasılık haline geldiğini ileri sürerek tartışmayı sonuçlandıracağım. Son olarak, gerçekten bilinçli olan ya da ikna edici biçimde bilinçli görünen YZ’nin önümüze koyduğu etik meseleleri inceleyeceğim. Zihinlerimizi makine yaratımlarımıza fazla ucuza bırakırsak onları abartmakla kalmayıp kendimizi de küçümsemiş oluruz.
1.0 Giriş
“Teknoloji bize, hayat hakkında bildiklerimizi unutturabilir.” [(Turkle, 2021), p. xii]
Yapay zekâ (YZ) sistemleri yetkinlik ve kabiliyet kazandıkça, bu sistemlerin zeki olmanın yanı sıra bilinçli hale gelip gelemeyecekleri (hatta şimdiden bilinçli olup olmadıkları) sorusu gündeme gelmektedir. Bu soruya kesin bir yanıt vermek bugün için mümkün değildir, zira bilinç için asgari yeterli koşulların ne olduğu konusunda bir uzlaşma yoktur. Yine de YZ’nin şimdiden bilinçli olabileceği ya da bilinçli hale gelebileceği fikri yaygındır (Blum & Blum, 2024; Butlin ve diğerleri, 2023; Chalmers, 2023; Dehaene ve diğerleri, 2017). Bilinçli YZ ihtimalini nasıl düşündüğümüz önemlidir. Hem YZ sistemlerinin kendileri açısından hem de insanların ve toplumun, bilinçli olan ya da bilinçli görünen sistemlerden nasıl etkilendiği bakımından önemlidir. Ayrıca toplumlarımızda nasıl bir YZ istediğimize karar vermemiz açısından da belirleyici öneme sahiptir.
Bu makalede, bilinçli bir YZ yaratma olanaklarını ve bilinçli olan ya da öyle görünen YZ’nin sakıncalarını ele alacağım. İnsanların, neden YZ’nin bilinçli olmaya doğru ilerlediğini düşünebildiğini sorgulayarak başlayacak ve bu olasılığı abartmamıza yol açabilen bazı psikolojik önyargıları saptayacağım. Ardından, bilinçli YZ olanağını temellendiren bazı varsayımları inceleyeceğim ve (kabaca) işlemlemenin bilinç için yeterli olduğunu öne süren görüş olan işlemlemeselci işlevselciliğe [computational functionalism] odaklanacağım. Tartışma boyunca, YZ’nin bilinçli olduğu ya da olabileceği konusunda kuşku duyulması için gerekçeler sunmayı hedefliyorum. Amaç, bilinçli bir yapıt [artefact] inşa etmenin imkânsız olduğunu göstermek değildir. Amaç, bu tür yapıtların, biyolojik sistemlere, klasik dijital işlemlemenin olanak tanıdığından daha fazla ölçüde yakın olmak zorunda kalabileceğini göstermektir.
Daha sonra, burada bilincin yalnızca yaşayan sistemlere özgü (ancak zorunlu olarak hepsinde bulunmayan) bir özellik olduğunu savunan görüş olarak anlaşılan biyolojik doğalcılığa geçeceğim. “Yaşam”ın karbon temelli olmak zorunda olmadığını kabul ederek ve hiçbir neo-vitalist büyüye yaslanmadan, bu görüşün birkaç farklı versiyonunu özetleyip gerekçelendireceğim.
Son olarak daha geniş meseleleri tartışarak, bilinçli olan ya da öyle görünen YZ sistemlerinin doğurduğu kaygıları vurgulayacağım. Gerçek yapay bilinç ihtimali hala uzak kalsa bile, bilinçli oldukları yönünde sarsılması güç bir izlenim yaratan YZ sistemleriyle ilgili ciddi etik ve toplumsal kaygılar bulunmaktadır.
1.1 Zekâ ve bilinç
Başlarken “bilinç” ve “zekâ” için geçici tanımlara [working definition] ihtiyacımız var. İki terim için de üzerinde uzlaşılmış tanımlar yok. Yine de bazı temel kurallar koymak gerekiyor.
Zekâyı, bir sistemin ne yapabildiğini ifade edecek şekilde ele alıyorum. Geniş bir taramadan süzülmüş kullanışlı bir tanım şudur: “farklı çevrelerde geniş bir yelpazede amaçlara ulaşma yeteneği” [(Legg & Hutter, 2007), s. 23]. Bu anlamda ve diğer çoğu anlamda zekâ, bir sistemin işlevsel yetenekleriyle ilgilidir. Akıl yürütme, amaç yönelimli planlama ve dilsel yetkinlik zekânın bileşenleridir. Ancak bu yeterliklerden yoksun olan insan-dışı hayvanlar yine de zeki davranış sergileyebilir. Zekânın daha genel yönleri arasında zorluklara esnek biçimde karşılık verebilme ve tecrübeden öğrenebilme sayılabilir. Çölde evine nasıl gideceğini esnek biçimde öğrenen bir karınca, denilebilir ki, zeki bir davranış sergilemektedir (Simon, 1988).
YZ sistemleri, zekâ ile ilişkilendirilen işlevsel özellikler sergileyen yapay sistemlerdir. Aksi belirtilmedikçe, YZ sistemlerinin (ya da “eyleyicilerinin” [agents][1]) yerleşik mimariler üzerinde (CPU, GPU, TPU vb.) gerçekleştirilen dijital işlemlemelerden oluştuğunu ve gerçek ya da sanal (örneğin robotik) bedenler ve çevrelerle etkileşimleri içerebileceğini söyleyen standart görüşü benimseyeceğim (Russell & Norvig, 2003). Yapay Genel Zekâ (YGZ [AGI]), insanların zeki olduğu varsayılan bütün bakımlardan insan düzeyine ulaşmış ya da onu aşmış (henüz varsayımsal) YZ sistemlerine verilen addır. Bu sistemler, belirli görev alanları ve eğitim rejimlerinin ötesinde genelleme yapabildikleri için “genel” olarak nitelenir (Goertzel & Pennachin, 2007).
Bilinç, zekâ ile aynı şey değildir. Bilinç, en azından birincil anlamda, bir sistemin ne yaptığıyla ilgili değildir. Bilinç için yararlı bir referans tanım Thomas Nagel tarafından sunulmuştur: “Bilinçli bir organizma için, o organizma gibi olmak diye bir şey vardır” (Nagel, 1974, s. 436). Başka bir deyişle, bilinçli bir sistem olmak bir şey “gibi hissettirir”, bilinçli bir deneyim yaşanmaktadır. Öte yandan bilinçsiz bir sistem olmak, herhangi bir şey gibi hissettirmez, nitekim herhangi bir bilinçli deneyimin yaşanması söz konusu değildir. Burada “hissetme”nin [feeling] duygusal içerim taşıması gerekmez. Herhangi bir tür bilinçli deneyim yeterlidir. Bir yarasa olmak muhtemelen bir şey gibi hissettirmektedir ve bir taş olmak muhtemelen hiçbir şey gibi hissettirmemektedir. Bir şeyin bilinçli olup olmadığına ilişkin olgusal bir durum [fact-of-the-matter] bulunduğunu ve bilinçli olmanın toplumsal ya da dilsel uzlaşmayla belirlenmediğini kabul ediyorum (bkz. Shanahan, 2024).
“Bilinç, zekâ ile aynı şey değildir. Bilinç, en azından birincil anlamda, bir sistemin ne yaptığıyla ilgili değildir.”
“Bilinç” ile “farkındalık”ı eşanlamlı kullanıyorum. “Duyumsama” [sentience] teriminden kaçınıyorum, çünkü kimi zaman bilinç/farkındalık ile eşanlamlı kullanılsa bile karışıklık yaratmaya daha elverişlidir. Bazıları “duyumsama”yı, bilinçli deneyimin varlığını ima etmeksizin salt duyarlılık [sensitivity] ya da tepki verebilirlik [responsiveness] anlamında kullanıyor (Kagan ve diğerleri, 2022; Kagan ve diğerleri, 2023). Başkaları ise “duyumsama”yı, deneyimlerin bir anlamda “iyi” ya da “kötü” hissettirdiği zorunlu olarak değerlilik [valence] içeren bir bilinç türü olarak kullanmaktadır (Thompson, 2022).
Bu tanımlara göre zekâ ile bilinç kavramsal olarak açıkça ayrıdır. İlkece bir canlı ya da sistem, o canlı ya da sistem gibi olmak diye bir şey olmadan da zeki davranış sergileyebilir, bunun tersi de mümkündür. Ancak uygulamada bu özellikler birbirinden bağımsız görünmez. Bilincin zekânın bazı türleri için yararlı veya dahası gerekli dahi olması mümkündür ve bilincin bazı türlerinin de karşılık gelen zekâ türlerini gerektirmesi ihtimal dahilindedir.[2]
2.0 YZ’nin bilinçli olabileceğini ya da bilinçlenebileceğini neden düşünürüz?
Bilinçli YZ fikrinin kökleri derindir. On altıncı yüzyıl Yahudi folklorunda, Josef ya da Yoselle denilen kilden yapılmış bir golem, büyülü sözler okunduğunda bilinç kazanır ve rahatsız edici bir şiddet sergiler. Daha yakın bir dönem için bilimkurgu, yapay bilinç fikrini keşfe çıkan hayali yaratımların güvenilir bir kaynağı olmuştur. Stanley Kubrick’in 2001: A Space Odyssey filmindeki HAL (1968), Alex Garland’ın Ex Machina’sındaki Ava (2014) ve Kazuo Ishiguro’nun Klara and the Sun’ındaki Klara (2021) bunlara örnektir.
Bu öykülerin her birinde yapay yaratımlar, yaratıcıları tarafından, görünüşleriyle olmasa bile (örneğin HAL), zihinleri bakımından insana benzer olacak şekilde tasarlanmıştır. Bu durum üç psikolojik önyargının bir bileşimini açığa çıkarmaktadır. İnsanmerkezcilik [anthropocentrism], insan-istisnacılığı [human exceptionalism] ve insanbiçimcilik [anthropomorphism]… Bu önyargılar, zekâ ile bilincin birbirine karıştırılmasına yol açabilir, bu da bilinçli YZ’nin olanaklığına dair yersiz bir iyimserliği körükleyecektir.
İnsanmerkezcilik, insanı merkeze koyma ve dünyayı insani değerler ve deneyimler üzerinden yorumlama eğilimidir. İnsanları diğer yaşam biçimlerinden farklı ve üstün görme eğilimi olan insan-istisnacılığıyla yakından ilişkilidir. Bu ikisi bir araya geldiğinde, özellikle ve hatta belki münhasıran insana özgüymüş gibi görünen zekâ boyutlarını (örneğin dil ve diğer “ileri” bilişsel yetiler) yine insana özgü olduğu varsayılan niteliklerle (örneğin bilinç) sıkı sıkıya bağlı sayma ayartısı doğurur. Biz insanlar bilinçli olduğumuzu biliriz (daha doğrusu bunu kendimiz için bilir, başkaları hakkında ise çıkarım yaparız), zeki olduğumuzu düşünür ve özel olduğumuzu hissederiz. Bu yüzden de zekâ ile bilincin birlikte olduğunu varsayarız. Bu düşünme biçiminin kökleri en azından Descartes’a kadar götürülebilir. Descartes için maddi olmayan, ussal zihin hem insanlara önem taşıyan türden bir bilinç bahşeder hem de insanları diğer hayvanlardan ayırır (Shugg, 1968).
İnsanbiçimcilik, insanmerkezciliğin tamamlayıcısıdır, İnsansı özellikleri, bu özelliklere (zorunlu olarak) sahip olmayan şeylere yansıtma eğilimidir. Örneğin, yüzü olan şeylere duygular atfetme olasılığımız, yüzü olmayan şeylere göre daha yüksektir (Alais ve diğerleri, 2021). Bu eğilim, Dennett’in “yönelimsel duruş”unda [intentional stance] olduğu gibi (Dennett, 1987), bir sistemin davranışını açıklamamıza ve öngörmemize yardımcı olduğunda işe yarar, ancak temelsiz biçimde insansı özellikler atfedilmesi zayıf açıklamalara ve/veya güvenilmez öngörülere yol açtığında sorunlu olabilir. İnsanmerkezcilik ve insan-istisnacılığıyla birleştiğinde insanbiçimcilik, dil ve “yüksek” biliş gibi insan için en ayırt edici saydığımız insana özgü nitelikleri sergiliyor gibi görünen şeylere bilinç atfetme eğilimini besleyebilir.
Bu önyargılar, YZ’nin bilince giden soylu bir yolda olduğu görüşünü bir ölçüde açıklar. Çünkü makineler akıllandıkça sonunda bilinçli olacakları bir eşiği aşacakları düşünülür. Sistem bir kez bize, (insanmerkezci bir şekilde) insanlara özgü olduğunu hissettiğimiz bir özelliği kazanmış gibi göründüğünde, ona (insanbiçimci bir şekilde) bilinç gibi diğer ayırt edici sayılan özellikleri atfetme eğilimimiz artar. Söz konusu eşik, örtük ya da açık biçimde Yapay Genel Zekâ’ya ulaşılan nokta olarak varsayıldığında, insan-istisnacılığının katkısı daha da belirginleşir. Dili, ayırt edici bir şekilde insansı zekânın kanonik ifadesi kaidesine yerleştirmemiz, mevcut büyük dil modeli (LLM) dalgasının sezgilerimizi neden bu kadar güçlü biçimde yoldan çıkardığını da açıklar (Colombatto & Fleming, 2023; Floridi & Nobre, 2024; Mitchell, 2024).
LLM’lerin yoldan çıkarıcı gücüne örnek olarak, yanlış çıktı ürettiklerinde “halüsinasyon görüyorlar” demenin ne kadar sıradanlaştığını düşünebiliriz. İnsanlarda halüsinasyonlar esasen bozulmuş algısal deneyimlerdir. Bu terimin LLM’ler için kullanımı, onlara örtük biçimde deneyimsel kapasiteler atfeder. Oysa “konfabülasyon yapıyorlar” demek daha yerinde olurdu. İnsanlarda konfabülasyon, kasıtsız bir şekilde (ve çoğunlukla dilsel) içerik uydurmayı ifade etmektedir, kişi uydurduğunun farkında değildir. Dolayısıyla, öncelikle yapmaya ilişkindir, deneyimlemeye değil.
Muhtemelen dördüncü bir bileşen daha vardır. Kendimizi büyük bir uygarlık dönüşümünün eşiğinde görmeye dönük teknoloji heveslisi [technophilic] ayartı… Bu görüş, YZ’nin anlayışımızın ve denetimimizin ötesine kendi kendini hızla geliştirdiği Kurzweilci bir Tekillik düşüncesiyle betimlenir (Kurzweil, 2005, 2024). Bu ayartı kısmen, üstel değişimin doğasını kavramanın psikolojik güçlüğünden beslenir (Wagenaar & Sagaria, 1975). Üstel bir eğrinin herhangi bir noktasından bakıldığında gelecek imkânsızmışçasına dikey doğrultuda görünür, geçmiş ise önemsizmişçesine düzdür (buna rağmen, üstel değişimi yine de küçümsemeye meyilliyizdir. Gelecekteki nesneler göründüklerinden daha yakındır[3]). Bir başka etken de, insan-ötesi [posthuman] arzunun, bilinci geleceğin süper bilgisayarlarının el değmemiş devrelerine yükleyerek biyolojik ölümlülüğün sınırlarını aşma ve böylece sonsuza kadar yaşama ya da en azından sonsuza dek “var olma” isteğidir. Hatta halihazırda bir bilgisayar simülasyonunun içinde olduğumuz fikri dahi felsefi ilgi görmüştür (Bostrom, 2003).
Hepsini bir araya topladığımızda, YZ’nin kaçınılmaz biçimde ve belki de çok yakında gerçek yapay bilince yol açacağı görüşünün yaygınlaşmasına şaşmamak gerekir. Ancak bu görüşü besleyen bazı temel önyargıları saptadıktan sonra, onları bilinçliymiş gibi yargılamaya daha yatkın hâle gelsek bile, makineleri daha zeki hâle getirmenin onları kaçınılmaz biçimde bilinçli kılacağını varsaymaktan kurtuluruz.
Gerçek yapay bilincin kendiliğinden “bedavaya” geleceğini varsaymak yerine, onu kasıtlı olarak geliştirmek denenebilir. Bu yönde bir strateji, bilince ilişkin çeşitli kuramların belirlediği işlevsel ilkeleri (Butlin ve diğerleri, 2023; Seth & Bayne, 2022) ya da bilincin farklı boyutlarını çözümlemekten türeyen ilkeleri (Evers ve diğerleri, 2025) YZ sistemlerine uygulamaktan geçer. Bu stratejinin başarılı olabilmesi için bilincin, (dijital işlemlemeye dayanan) YZ’nin sahip olabileceği türden bir şey olması gerekir. Tam da bu nokta bizi işlemlemeselci işlevselciliğe götürmektedir.
3.0 İşlemleme, zihin ve bilinç
3.1 İşlemlemeselci işlevselcilik
İşlemlemeselci işlevselcilik [computational functionalism], belli türden işlemlemelerin bilinci gerçekleştirmek için yeterli olduğu görüşüdür. Bu görüş, felsefede işlevselcilik diye adlandırılan fikirden türetilmiştir. İşlevselcilik, (kabaca) bilincin, bir sistemin neyden yapıldığına değil ne yaptığına bağlı olduğunu söyler (Putnam, 1975).
Daha belirgin olarak işlevselcilik, bir sistemin uygun bir işlevsel örgütlenmeye [functional organization] sahip olduğunda zihne sahip olduğunu öne sürer (Putnam, 1967). İşlevsel örgütlenme, hem sistemin bir bütün olarak girdi-çıktı eşlemelerini hem de nedensel yapısı dâhil olmak üzere iç örgütlenmesini kapsar. Zihinsel durumlar, bu işlevsel örgütlenme içinde roller üstlenir ve duyu girdileri, motor çıktılar ve diğer zihinsel durumlarla etkileşimleriyle karakterize edilir. Bilince uygulandığında işlevselcilik, bilinçli zihinsel durumların, altında yatan düzeneklerin [mechanisms] işlevsel örgütlenmesinin özellikleri olduğunu öne sürer. İnsan söz konusu olduğunda bu düzenek (bedenlenmiş ve gömülü [embodied and embedded]) beyindir.
İşlemlemeselci işlevselcilik ise, genel olarak zihin ve özel olarak bilinç için belirleyici olan işlevsel örgütlenmenin doğası gereği işlemlemesel olduğunu savunmaktadır (Putnam, 1988; Shagrir, 2010). Bu sav, neyin “işlemlemesel” [computational] sayılacağına ilişkin can sıkıcı soruyu gündeme getirir (N. G. Anderson & G. Piccinini, 2024; Cantwell Smith, 2002; Searle, 1990).
İşlemlemenin doğası uçsuz bucaksız bir konudur, yine de sınırları kabaca da olsa çizmek faydalı olacaktır. Burada en ilgili kavram, Alan Turing’in “Turing makinesi” fikri aracılığıyla tanıttığı “Turing işlemlemesi”dir (Turing, 1936). Bir Turing makinesi, sonlu sayıda kuralı sonlu bir sembol kümesine uygular ve böylece bir matematiksel fonksiyonun değerlerini işlemler [compute]. Başka bir deyişle bir algoritma yürütür. Turing ayrıca her algoritma için bir Turing makinesi bulunduğunu öne sürer. Church–Turing tezi olarak bilinen bu görüş geniş kabul görmüştür. Turing, bunların yanısıra, yeterli depolama sağlandığında herhangi bir belirli Turing makinesini gerçekleştirebilen “evrensel” Turing makinesinin de tanımını yapmıştır (Copeland, 2024). Geleneksel YZ’yi çalıştıran dijital bilgisayarlar, evrensel Turing makinelerinin modern örnekleridir.
Aşağı yukarı aynı dönemde Warren McCulloch ve Walter Pitts, bazı Boole’cu mantık işlemlerinin herhangi bir bileşiminin, epey sadeleştirilmiş yapay nöron devreleriyle gerçekleştirilebileceğini gösterdiler (McCulloch & Pitts, 1943). Daha sonra bu yapay sinir ağlarının Turing makineleri olarak yorumlanabileceği ortaya konuldu (Kleene, 1956).[4] Bu sonuç, biyolojik sinir sistemlerinin Turing anlamında işlemleme yapan makineler olarak düşünülebileceği görüşünü desteklemiştir (Piccinini, 2023). Turing’in ünlü “Makineler düşünebilir mi?” sorusu (Turing, 1950) da bu görüşe katkı sunmuştur.[5]
Turing işlemlemesi güçlüdür, ama her fonksiyon Turing-işlemlenebilir değildir. Turing, Hilbert’in ortaya koyduğu “durma problemi”ne [halting problem] verdiği yanıtta bir işlemlenemez [non-computable] fonksiyon sınıfını bizzat tanımlamıştır (Turing, 1936). Başka örnekler arasında sürekli değişkenler içeren fonksiyonlar, stokastik/rastlantısal öğeler barındıran fonksiyonlar ve başlangıç koşullarına sınırsız duyarlılık gösteren fonksiyonlar bulunur (örneğin deterministik kaos). Turing makinelerine dayanan dijital bilgisayarlar, bu fonksiyonların bir kısmını simüle edebilir ve yaklaşık olarak hesaplayabilir. Buna süreklilik içeren süreçler ile stokastik öğeler barındıran süreçler örnek verilebilir (belirli tekil örnekler yerine dağılımlar düzeyinde). Nitekim bu durum işlemlemesel modellemede sürekli yaşanır. Fakat bu kestirimler [approximations] genellikle kesin değildir.[6]
Turing işlemlemesinin sınırlı kapsamı, beyinler de dâhil olmak üzere bazı sistemlerin Turing-dışı işlevler gerçekleştirebileceği anlamına gelir. Zihinsel durumların (bilinç dâhil) işlemlemesel olmayan işlevlere bağlı olduğu görüşüne işlemlemesel olmayan işlevselcilik denir (Piccinini, 2018, 2020). İşlemlemesel olmayan nöral işlevler arasında (süreğen) elektromanyetik alanlara ilişkin süreçler, ince-taneli [fine-grained] zamanlama ilişkileri (Turing işlemlemesinde belirleyici olan şey sıralamadır, dinamiğin kendisi değil), serbestçe difüze olan nöroiletkenler ve benzeri mekanizmalar sayılabilir. İşlemlemesel olmayan biyolojik işlevlere, zorunlu olarak belirli bir maddi özelliği içeren süreçler de girer. Sindirim, kan dolaşımı ve metabolizma buna örnektir. Üstelik işlemlemesel işlevlerle işlemlemesel olmayan işlevler bir arada bulunabilir. Örneğin zihnin bazı yönleri işlemlemesel olabilirken, bilinç öyle olmayabilir (Piccinini, 2023).
“İşlemleme” kavramına ilişkin daha pek çok başka tanım önerilmiştir. Bazıları Turing işlemlemesinden daha dardır (örneğin bir aygıtın bir kişi tarafından belirli bir biçimde kullanılmasını gerektiren işlemleme anlayışları); ancak çoğu daha geniştir (N. G. Anderson & G. Piccinini, 2024; Chalmers, 1996b; Kirkpatrick, 2022). Daha geniş kapsamlı işlemleme biçimleri arasında analog, sinirbiçimsel ve ölümlü işlemleme [mortal computation] sayılabilir. Bunlara ileride döneceğim. Şimdilik Turing işlemlemesine odaklanmak yerindedir. Çünkü bu işlemleme türü, ister yapay sinir ağlarına dayansın ister başka yöntemlere, geleneksel YZ’nin temelindedir. Aksi belirtilmedikçe “işlemleme” sözcüğünü Turing işlemlemesi anlamında kullanacağım. (“Enformasyon işleme” [information processing] ifadesi çoğu zaman “işlemleme” ile aynı kapsamda kullanılsa da, bu ifade yararsız biçimde muğlaktır. Bunun bir nedeni enformasyon kuramının betimleyici olarak neredeyse her şeye uygulanabilmesidir[7]. Bir diğer nedeni de “işleme”nin ne anlama geldiğinin sıklıkla belirsiz oluşudur.)
Genel olarak işlevselcilik ve özellikle işlemlemeselci işlevselcilik, açık ya da örtük biçimlerde geniş kabul görmektedir. Bilinçli YZ’ye ilişkin ihtimalleri etkili biçimde gözden geçiren bir çalışmada Patrick Butlin, Robert Long ve çalışma arkadaşları, kendilerini varsayım olarak işlemlemeselci işlevselciliği benimseyen kuram ve modellerle sınırlandırır ve varılan sonuçların bu varsayımın geçerliliğine bağlı olduğunu açıkça belirtir (Butlin ve diğerleri, 2023). Ancak her fonksiyon işlemlenebilir olmadığı ve her şey işlemleme gerçekleştirmediğine göre söz konusu varsayım, sorgulanmaya değerdir.
3.2 İşlemlemeselci işlevselciliğin cazibesi
Nasıl ki zekâ ile bilinç arasındaki ilişkilere psikolojik ve tarihsel etkenler yön veriyorsa, işlemlemeselci işlevselciliğin çekiciliğini açıklamaya yardımcı olan daha geniş bir bağlam da mevcuttur. Bu bağlamın ayırdına varmak, söz konusu görüşün ikna ediciliğini değerlendirmeye katkıda bulunur.
Genel olarak işlevselcilik, bir ölçüde davranışçılık, özdeşlik kuramları (zihinsel durumların fiziksel beyin durumlarına katı indirgenmesini öne süren yaklaşımlar) ve ikicilik (düalizm) gibi diğer felsefi çerçevelerin yetersiz olduğu algısından beslenmiştir (Shagrir, 2010). İşlevsel örgütlenmeye odaklanmak, davranışçılık ile özdeşlik kuramı arasında, aynı zihinsel durumun farklı yollarla gerçekleşebileceğini ifade eden çoklu gerçekleşebilirlik [multiple realisability] fikrini barındıran cazip bir orta yol sunmuştur (Polger & Shapiro, 2016; Putnam, 1967). Ancak bir nokta önemlidir ki çoklu gerçekleşebilirlik, her zihinsel durumun herhangi bir fiziksel sistemde uygulanabileceği anlamına gelmez. Bazı fiziksel sistemler bu işi yapmaya elverişli olmayabilir.
İşlemlemeselci işlevselciliğe yönelik coşku, belirli bir işlemleme anlayışı olan Turing makinesi ile beynin çok katmanlı, karmaşık biyolojik yapısını çarpıcı biçimde sadeleştiren yapay sinir ağı arasında kurulan matematiksel bir mantık evliliğine kadar geri götürülebilir. Bilgisayar bilimi ve yapay zekânın erken biçimleri 20. yüzyılın ikinci yarısında büyük bir hızda ilerledikçe bu coşku ivme kazanmıştır (Boden, 2008; Dupuy, 2009). Söz konusu ilerlemeler, beynin bir bilgisayar olduğu metaforunu yerleştirmeye, beyinlerin ne yaptığına dair enformasyon işleme dilini normalleştirmeye ve bilişsel bilimi bir disiplin olarak güçlendirmeye yardımcı olmuştur. Yine de metaforlar, nihayetinde, yalnızca metaforlardır (Cobb, 2020). Zihinsel süreçlerin çoğu zaman işlemleme terimleriyle faydalı biçimde tanımlanabilmesi, beynin gerçekten işlemleme yaptığı ya da bilincin bir işlemleme türü olduğu sonucunu çıkarmaya yetmez.
Geleneksel dijital sistemler için bilinçli YZ’nin mümkün olabilmesi, ilgili işlemlemelerin bilince yeterli bir temel sağlamasını gerektirir. Bunun gerçekleşmesi için hem işlemlemeselci işlevselciliğin geçerli olması hem de YZ sistemlerinin söz konusu işlemlemeleri uygulayabilmesi gerekir. İşlemlemeselci işlevselciliğin sıkça varsayılıyor olması, onun doğru olduğu anlamına gelmez. Bilim yazarı Oshan Jarrow’un dediği gibi, “aynı varsayımı, ona geri dönüp sınamadan sürdürürsek, sorunun kendisi yavaş yavaş ortadan kaybolmaya başlar.”[8]
3.3 Substrat bağımsızlığı, esneklik ve nöral ikame
Bilinçli YZ ile hesa işlevselcilik arasındaki ilişkiyi ortaya koymanın bir yolu, meseleyi substrat bağımsızlığı açısından ele almaktadır. Substrat (ya da eşdeğer biçimde ortam) bağımsızlığı, çoklu gerçekleşebilirlikle yakından ilişkilidir. Bu görüşe göre, aynı türden zihinsel durumlar (bilinçli durumlar dâhil), farklı fiziksel substratlara sahip sistemlerde meydana gelebilir. Başka bir deyişle, farklı türden maddelerden oluşan sistemlerde ortaya çıkabilir. Ancak sınırsız substrat bağımsızlığının geçerli olması pek olası değildir. Çoklu gerçekleşebilirlikte olduğu gibi, bazı fiziksel substratlar bu işi yapmaya elverişli olmayabilir. Bu nedenle, substrat esnekliği terimini kullanacağım. Buna göre (bilinçli) zihinsel durumlar karbon temelli biyolojik substratlara sıkı sıkıya bağlı değildir, başka türden maddi yapılarda da gerçekleşebilir, fakat bu her türlü maddi yapı için geçerli olmayabilir (benzer bir fikir için bkz. Kirkpatrick, 2022).[9]
İşlemlemeselci işlevselcilik, substrat esnekliği ile yakından bağlantılıdır. Eğer işlemlemeselci işlevselcilik doğruysa, ilgili işlemlemeleri gerçekleştirebilen substratlar için belli bir substrat esnekliği sonucu doğar. Başka bir ifadeyle, işlemlemeselci işlevselcilik, substrat esnekliği için yeterlidir. Fakat zorunlu değildir. Zihin ya da bilinç hakkında işlemlemeselci kuramları benimsemeksizin de belli bir substrat esnekliği tasavvur edilebilir. Yine de substrat esnekliği belli ölçüde geçerliyse, işlemlemeselci işlevselcilik destek kazanır. Çünkü bu görüş, zihinsel durumları, ilgili işlemlemeleri gerçekleştirebilme yeteneğinin ötesinde, substratın maddi özelliklerine bağımlı kılmadan açıklar. Bilinçli YZ için, en azından tartışma konusu substrat, yani silikon açısından substrat esnekliğinin geçerli olması gerekir.
Bu bağlamda substrat esnekliğine dair en bilinen argümanlardan biri “nöral ikame” düşünce deneyidir (Chalmers, 1995; Haugeland, 1980; Pylyshyn, 1980). Temel senaryoda, bir kişinin beyin hücreleri[10] tek tek silikon eşdeğerleriyle değiştirilir. Her silikon beyin hücresi, biyolojik eşleniğinin [counterpart] girdi/çıktı eşlemesini her bir durumda tam olarak taklit eder. Sonunda kişinin beyninde yalnızca silikon parçalar kalır, buna karşın işlevsel örgütlenme bütünüyle korunur ve dışarıdan bakıldığında kişi eskisi gibi davranmayı sürdürür. Tek bir beyin hücresinin değiştirilmesi kişinin bilincinde fark yaratmıyorsa (ki bu pek olası görünmez), neden yüz tanesinin ya da tamamının değiştirilmesi fark yaratsın? Bilinç yavaşça sönüp gidecek midir? Eğer öyleyse, bilinçli deneyim tümüyle kaybolurken davranışın değişmeden kalması akla yatkın mıdır? Bu tuhaf sonuçlardan kaçınmanın yolu, silikonun substrat esnekliğini kabul etmek gibi görünür.
Bu düşünce deneyi çeşitli yönlerden eleştirilebilir. Block (2019), deneyi, ispatlamaya çalıştığı şeyi varsaymakla suçlar. Eğer bilinç substrata bağımlıysa, nöral ikame ilerledikçe kişinin bilinçli deneyimine gerçekten de bir şeyler olmalıdır. (Bu durum, kişinin bunu fark etmek zorunda olduğu anlamına gelmez, deneyimin değişmesi her zaman değişimi deneyimlemeyi gerektirmez (Simons & Levin, 1997)).
Block tarafından da anılan diğer eleştiriler ikna edicilikle ilgili kaygılara işaret eder. Bechtel ve Mundale’ın (1999) erken dönem argümanlarını temel alan Godfrey-Smith, canlı parçaların (örneğin nöronların) cansız parçalarla (örneğin silikon bileşenlerle) ikamesi ilerledikçe, sistemin iç işleyişinde ve toplam davranışında kaçınılmaz olarak farklılıklar ortaya çıkacağını savunur (Godfrey-Smith, 2016). Bu farklılıklar, metabolik kısıtların, elektromanyetik alanların, ince taneli zamanlama ilişkilerinin ve muhtemelen başka etkenlerin nöral faaliyet üzerindeki etkileri nedeniyle ortaya çıkar (bunun, daha önce verilen işlemlemeselci olmayan işlevsellik örnekleriyle benzerliğine dikkat ediniz). Sistem hem içten hem dıştan farklı davranıyorsa, bilincin mutlaka korunacağı varsayımı için baskı da ortadan kalkar.
Rosa Cao bu argüman hattını genişletir ve zihinsel işlevlerin birbirleriyle ve altında yatan fizyolojik ve metabolik temelleriyle nasıl sıkıca iç içe geçtiğini ayrıntılandıran pek çok betimleme sunar (Cao, 2022). Ona göre zihinsel işlevler evrim yoluyla ortaya çıktığı için, bu işlevlerin gerçekleyicileri zaman içinde birçok bağımlılık ve koşulluluk [contingencies] biriktirmiştir. Bunların bazıları keyfî görünebilir ve tümü birlikte, beynin iç örgütlenmesinde Wimsatt’ın (1986) “üretken yerleşiklik” [generative entrenchment] dediği olguya yol açar. Söz konusu üretken yerleşiklik, muhtemel alternatif uygulamalara [implementation] pek çok kısıt dayatır ve bu kısıtlar büyük ihtimalle silikon gibi alternatif substratları dışarıda bırakır.
Buna pek çok örnek verilebilir. Cao’nun (2022) sunduğu örneklerden biri, birçok nöral işlevde görülen bir nöroiletken olan nitrik oksitle ilgilidir. Nitrik oksit, hücre zarlarından serbestçe yayılması hasebiyle ayırt edicidir. Bu nedenle herhangi bir silikon ikamenin, bu maddenin (ya da simüle edilmiş bir karşılığının) saptaması gereken (belki de simüle edilmiş) konumları, fiilen imkânsız sayıdadır.[11] Bir başka örnek, bazı nöronal aksiyon potansiyellerinin [spike] zararlı reaktif oksijen türlerinin birikimine karşı nöronları koruyarak homeostatik bir rol oynadığını ortaya koyan yeni bir çalışmadır (Chintaluri & Vogels, 2023). Bu bulgu, bir nöronun işlevsel rolü açısından kilit önemde sayılan ateşleme etkinliğinin metabolik temellerinden ayrıştırılamayacağı anlamına gelir. Hatta bakterilerdeki kemotaktik davranış bile metabolik süreçlerden ayrı düşünülemeyebilir (Alexandre, 2010; Egbert ve diğerleri, 2010). Bu durum, metabolizma ile zihin arasındaki ileride döneceğim bir bağa işaret eder.
Derek Shiller daha soyut düzeyde kaygılar dile getirir (Shiller, 2024). Ona göre işlevselciliğin serbest bir yorumu, şeyleri belirli biçimlerde parçalara ayırarak her türden şeye zihinsel durum ve bilinç atfedebilir. Uygun bir biçimde “parçalara ayrıldığı” [carved up] takdirde bir kova su, kısa bir süre için bir beynin işlevsel örgütlenmesini yansıtabilir.[12] Bunu önlemek için neyin bir sistemin parçaları sayılabileceğine kısıtlar getirmek gerekir. Shiller, parçaların işlevsel rollerini içkin nedensel güçleri sayesinde oynamaları gerekmesi gibi çeşitli kısıtlar belirler. Bu kısıtların mevcut sinir ağı modelleri tarafından karşılanmadığını ve genel olarak biyolojik olmayan substratlar için karşılanmasının güç olabileceğini savunur.
Burada ele aldığımız ikna edicilik argümanları, silikon substrat esnekliğini çürütmez, ancak bunun mutlaka geçerli olduğu varsayımını sarsar.[13] Beyinler, yaptıkları ile ne olduklarını birbirinden ayırmanın çok zor, belki de imkânsız olduğu türden şeyler gibi görünür.[14]
3.4 İşlemlemenin daha geniş biçimleri
Substrat esnekliği, Turing dünyasının bazı kısıtlarını gevşeten daha geniş işlemleme biçimleri tarafından da sorgulanır. Daha önce belirtildiği üzere, neyin “işlemleme” sayılacağı konusunda kayda değer bir tartışma vardır (N. G. Anderson & G. Piccinini, 2024; Cantwell Smith, 2002; Chalmers, 1994, 1996b; Kirkpatrick, 2022; Searle, 1990). Burada ayrıntıya inemesem de birkaç örneği vurgulamak faydalı olacaktır.
Yakın zamanda önerilen ölümlü işlemleme [mortal computation] kavramı özellikle dikkat çekicidir (Hinton, 2022; Ororbia & Friston, 2023). Standart Turing işlemlemesi “ölümsüz”dür. Varlığı ve yararlılığı, herhangi bir donanım örneğinin ömrünü aşar. Bu durum, yazılımın ilkece ve uygulamada donanımdan ayrıştırılabilir olması gerektiğini söyleyen temel bilgisayar bilimi ilkesini yansıtır, böylece aynı algoritma farklı donanımlar üzerinde yürütüldüğünde aynı sonucu verecektir. Fakat ölümsüz işlemleme pahalıdır. 1’lerin 1 (ve 0’ların 0) olarak kalmasını temin etmek için sürekli hata düzeltimi yapılması gerektirir. Algoritmalar ve modeller karmaşıklaştıkça hata düzeltiminin, dolayısıyla işlemlemesel ölümsüzlüğün işlemleme ve enerji maliyetleri hızla artar.
Bu argümanın bir sonucu şudur ki yüksek enerji verimliliğine sahip biyolojik beyinler, ölümsüz işlemlemeler gerçekleştiriyor olamaz. Eğer bir tür işlemleme gerçekleştiriyorlarsa, bunlar büyük olasılıkla ölümlü işlemlemelerdir, bu da işlemlemelerin onları gerçekleştiren “donanım”dan (ya da “ıslak donanım”dan [wetware]) ayrılamayacağı anlamına gelir. Bu durum, söz konusu (ölümlü) işlemlemelerin çoklu gerçekleşebilirliğine ve substrat esnekliğine kısıtlar getirir. Özellikle de bilinçli YZ için gereken substrat esnekliği muhtemelen geçerli değildir. Çünkü (geleneksel) YZ, işlemlemesel ölümsüzlüğü varsayan bir uygulama paradigmasına dayanır. İşlemlemeselci bir zihin görüşünden kaynaklanan sınırlamalara dayandığı için, bunu bilinçli YZ’nin ikna ediciliğine karşı kışkırtıcı bir argüman olarak görüyorum.[15]
Gualtiero Piccinini’nin ileri sürdüğü ilişkili bir görüşe göre, biyolojik işlevler nöral işlemlemeyi içerir. Piccinini’nin tanımında bu, hem sürekli hem de kesintili [discrete] sinyalleşmeyi kapsar ve bu nedenle standart yapay sinir ağlarının gerçekleştirdiği “nöral işlemlemelerden” farklıdır, onlara kıyasla substrata daha çok bağımlıdır (Piccinini, 2020, bl. 13). Benzer şekilde Kay Kirkpatrick’in önerdiği biyolojik işlemleme görüşü de canlı sistemlerin hangi koşullarda “işlemleme yapıyor” denebileceğine dair belli başlı koşullar ortaya koyar (Kirkpatrick, 2022).
Öte yandan, standart bilgisayar bilimi paradigmasına teknolojik alternatifler uzun zamandır mevcuttur. Tarihi en azından Antik Yunan’a kadar uzanan[16] analog işlemleme, süreklilik arz eden değişkenler içerir ve tipik olarak (yükselteçler ve kapasitörler gibi) altta yatan düzeneklerin özgül özelliklerine bağımlıdır (Ullman, 2022). Sinirbiçimsel [neuromorphic] işlemleme, modern CPU ve GPU’larla karşılaştırıldığında, donanım düzeyinde biyolojik sinir sistemleriyle daha fazla ortaklık taşır (Mead, 2020; Schuman ve diğerleri, 2022). Bazı sinirbiçimsel yongalar (çipler), donanım öğeleri arasında iletişim için aksiyon potansiyelleri [spike] kullanır ve başka yararların yanı sıra daha yüksek enerji verimliliği sağlar (Hochstetter ve diğerleri, 2021; Merolla ve diğerleri, 2014). Diğer sinirbiçimsel yaklaşımlar analog işlemlemeden yararlanır, böylece işlev, substrata daha doğrudan bağlanır (Douglas ve diğerleri, 1995). Bazı yeni yaklaşımlar ise, standart işlemlemesel girdi/çıktı aygıtlarıyla arayüzlenmiş biyolojik sinir ağlarını kullanır (Morales Pantoja ve diğerleri, 2023).[17] Donanım analog veya sinirbiçimsel hale geldikçe, gerçekleştirdiği işlevler ya da işlemlemeler bakımından substrat esnekliğinin azalması makuldür.[18]
Bu daha geniş işlemleme anlayışları, genel olarak işlemlemeselci bir bakışın içinden substrat esnekliğine itiraz eder ve bunu hem biyolojik hem de yapay üretim yönünden yapar. Standart Turing işlemlemesinin, biyolojik beyinlerde bilincin temelinde yer alma ihtimali bulunan ölümlü (ya da başka tür) işlemlemeleri yine de simüle edebileceği ileri sürülebilir. Ancak işlemlemelerin kendisi farklı olacaktır ve simülasyonların tamlığını [exact] garanti etmek mümkün değildir. Ayrıca, söz konusu işlemleme anlayışlarından herhangi biri için işlemlemeselci işlevselciliği yeniden tanımlamak da mümkündür. Fakat substrat esnekliği azaldığı için bu yaklaşımın dayandığı motivasyon da zayıflamış olur. Uygulamada, Turing dünyasının sunduğuna benzer şekilde, bilinçle ilişkili (ölümlü, sinirsel vb.) işlemlemelerin (sinirbiçimsel, analog vb.) donanımda gerçekleştirilebileceği güvencesi verilemez.
“İşlemlemesel” olanın sınırlarını değiştirmek, “işlemlemesel olmayan”ın sınırlarını da değiştirir. Daha geniş işlemleme anlayışları arasından seçim yapma imkânı olsa bile, işlemlemesel olmayan işlevler biliş ve bilinç için yine de kritik olabilir ve beyinlerin herhangi bir şekilde “işlemleme” yapıp yapmadığı sorusu açık kalır.
3.5 Belirim ve ölçeklerin ayrımı
Substrat esnekliği üzerine başka yararlı bir bakış, fizikteki hiyerarşik belirim [emergence] olgusundan gelir. Fizikçiler, “ölçeklerin ayrımı”ndan [separation of scales] söz eder, buna göre daha yüksek, yani belirmiş [emergent] betimleme düzeylerinde yasalar formüle edilebilir ve bu, daha ince ayrıntıları bilmeyi gerektirmez. Mühendisler, kuantum mekaniğini bilmeden köprü inşa edebilir. Bilgisayar programcıları, uygulamanın ayrıntılarıyla ilgilenmeden yazılım yazabilir. Yazılımın substrat esnekliği (ve ölümsüzlüğü), ölçeklerin bu güçlü ayrımına dayanır.
Yakın zamanda karmaşık sistemlerde ölçeklerin ayrımını temellendiren “enformasyonel kapanma” ve “nedensel kapanma” [closure] fikirlerini biçimselleştiren ampirik ölçüler geliştirildi (ör. Barnett & Seth, 2023; Rosas ve diğerleri, 2024). Makroskopik (daha üst düzeyde) bir değişken ya da “iri tanelilik” [coarse graining], yapılan müdahalelerin üst düzey sonuçları belirlemeye yettiği durumda nedensel olarak kapalı, bu değişkenin gözlemlerinin üst düzey sonuçları öngörmeye yettiği durumda enformasyonel olarak kapalı sayılır. Elbette bu sonuçlar belirlenebilir ya da öngörülebilir olduğu ölçüde. Başka bir ifadeyle daha alt, mikroskobik düzeylere ilişkin bilgi (ya da o düzeylerdeki müdahaleler), makro düzeyde yapılabileceklerin ötesinde bir öngörü gücü veya sonuçları belirleme imkânı sağlamaz. Bu durum (düzgün işleyen geleneksel) bilgisayarlarda tasarım gereği güvence altındadır. Ancak bu kapanma biçimlerinin karmaşık sistemler için genel geçer olduğunu varsaymak hatalı olur. Özellikle evrimsel tasarımın doğasında bulunan üretken yerleşiklik sayesinde biyolojik sistemlerde bu tür kapanmalar kısmen ya da tamamen görülmeyebilir.
Nedensel ve enformasyonel kapanmayı ölçme yeteneği, substrat esnekliğinin verili kabul edilemeyeceğini vurgular. Uygulamada, bu tür ölçüler, sinirsel dinamiklerin, betimlemenin daha ince ölçekli düzeylerinden ayrıştırılıp ayrıştırılamayacağını ve ayrıştırılabilecekse bunun hangi ölçüde mümkün olduğunu ampirik olarak belirlemeye yardımcı olabilir.
3.6 İşlemlemeselci işlevselciliğin ötesinde
Buraya kadar ileri sürülen argümanlar, işlemlemeselci işlevselciliği çürütmez. Ancak nörobiyolojik işlevlerin muhtemelen sınırlı substrat esnekliğine sahip olduğunu ve benzer kısıtları olan daha geniş işlemleme biçimlerinin de varlığını göstererek bu görüşün ikna ediciliğini ve cazibesini azaltır. Burada yalnızca geçerken değinebileceğim birçok başka argüman da ileri sürülebilir. Bunlar arasında söz dizimi ile anlam bilgisi arasındaki ayrım (Cole, 2023; Searle, 1980) yer alır. Bu ayrım, bilincin gözlemciye bağımlı olabileceğini ima eder.[19] Yönelimsellik üzerine felsefi değerlendirmeler (Shagrir, 2010) ve Roger Penrose’un Gödel teoreminden hareketle geliştirdiği argüman (Penrose, 1989) da bu bağlamdadır.
Tüm bunlar ışığında, işlemlemeselci işlevselciliğin ve yaygın substrat esnekliğinin doğru olması gerektiğini basitçe varsaymamalıyız. Bilinçli YZ, işlemlemeselci işlevselciliğin doğruluğuna ve substrat esnekliğinin en azından silikon için geçerli olmasına bağlıdır. Öyleyse silikon substratta çalışan dijital işlemlemeler olarak anladığımız bilinçli YZ’nin mümkün olup olmadığını sorgulamak için makul gerekçelerimiz vardır.
Beynin nasıl bir şey olduğuna bakınca, işlemlemeselci işlevselciliğin bu denli yaygın kabul görmüş olması belki de şaşırtıcıdır. Beynin içine baktığımızda, bilgisayarlarda donanım ile yazılım arasında bulduğumuz türden keskin bir “zihin yazılımı” [mindware] / “ıslak donanım” [wetware] ayrımı görmeyiz.
Beyin etkinliği örüntüleri uzay ve zamanda çoklu ölçeklerde evrilir, sürekli olarak nöroiletkenlerin kimyasal yayılımını, sinir ağlarının kendilerinin fiziksel yapısını (sinaptik plastisite ve sinaptogenez) ve hücre altyapısının çeşitli özelliklerini etkilerler ve bunlardan etkilenirler. Hepsi metabolik etkinliğin moleküler fırtınasıyla derinden iç içe geçmiştir ya da üretken bir yerleşiklik gösterir. Tek bir nöron başlı başına karmaşık bir biyolojik sistemdir. Bütünlüğünü korumak ve maddi varlığının koşullarını yeniden üretmek için durmaksızın çalışır. Bu durumda beyni bilgisayara benzeten metafor giderek daha elverişsiz bir kurgu haline gelmektedir. Tüm bu çok ölçekli biyolojik etkinliği, yalnızca doğru türden bir işlemlemeye imkân sağlayan bir arka plan olarak görmek dar görüşlü görünmektedir.
“Beyni bilgisayara benzeten metafor giderek daha elverişsiz bir kurgu haline gelmektedir, tüm bu çok ölçekli biyolojik etkinliği, yalnızca doğru türden bir işlemlemeye imkân sağlayan bir arka plan olarak görmek dar görüşlü görünmektedir.”
Başka olasılıklar da vardır. Bilinç, alternatif işlemleme biçimlerine dayanıyor olabilir. Ancak, belirtildiği gibi, bu alternatiflerin Turing işlemlemesinin sunduğu substrat esnekliğine sahip olmamaları nedeniyle biyolojik olmayan alternatif substratlarda uygulanamayabilirler. Bu durumda en başta işlemlemeselci bir görüşü benimsemek için daha az motivasyon olacaktır.
Daha geniş planda, bilinç işlemlemelere değil, işlevsel örgütlenme örüntülerine dayanıyor olabilir (Piccinini, 2018, 2020; Prinz, 2012). Bu işlemlemeselci olmayan işlevselcilik, nöral sistemleri işlemlemeselci bir tutum varsaymadan anlamaya çalışan yaklaşımlarla örtüşür. Söz konusu çalışmaların önemli bölümü, nörobiyoloji ve YZ üzerine erken sibernetik düşüncelere uzanır, bu düşünceler, bedenden bağımsız bir işlemleme anlayışından çok bedenlenmişlik [embodiment], geri besleme ve denetimi vurgulamıştır (Dupuy, 2009).
Bilişsel bilimde yankı uyandırmış “dinamik sistemler” yaklaşımı buna iyi bir örnektir (Van Gelder, 1995). Bu yaklaşım, bedenlenmiş ve gömülü [embedded] sinirsel sistemlerin özelliklerinin zaman içindeki değişimini modellemek için genellikle diferansiyel denklemlere dayanan çeşitli matematiksel araç ve yöntemlerden yararlanır. Bu değişimler, hangi türden olursa olsun, dijital ya da analog, herhangi bir işlemleme ile ilişkilendirilmez (Van Gelder, 1995).[20] Dinamik sistemler kuramı tarihsel olarak bilince odaklanmamıştır, bu bakımdan işlemlemeselci olmayan işlevselciliği tamamlar. “4E” bilişsel bilim başlığı altındaki çeşitli perspektifler için de benzer şeyler söylenebilir, bu yaklaşımlar beyin-beden-dünya etkileşimlerinin bedenlenmiş, gömülü, enaktif [enactive] ve uzanımlı [extended] yönlerini öne çıkarır. Bu tür çalışmalarda bilince daha sık yer verilir (Cosmelli ve diğerleri, 2007; Kiverstein, 2020; Stewart ve diğerleri, 2010; Thompson, 2022). Bu görüşler önemli ayrıntılarda farklılaşır, fakat ortak noktaları, beynin bir bilgisayar olduğu ve zihnin özünde işlemlemesel olduğu fikrine mesafeli durmalarıdır.
Nörobilime dayalı çeşitli bilinç kuramları, işlemlemesel değil dinamik öğeleri vurgular ya da bu çerçevede yeniden formüle edilebilir. Bunlar arasında, bilinçli algıyı nöral sistemlerdeki çekici [attractor] dinamiklerine bağlayan klasik çalışmalar (Freeman, 1999; Llinas ve diğerleri, 1998) ile nöral eşzamanlılığa, örneğin gama frekans bandına vurgu yapan çalışmalar yer alır (Crick & Koch, 1990). Bilincin dayandığı temel nörodinamik özellikler olarak bütünleşme ve ayrımlaşmayı öne çıkaran “dinamik çekirdek” hipotezi de bu gruba girer. Bu hipotez daha sonra bilinç için bütünleşik enformasyon kuramı [integrated information theory] olarak yeniden gündeme gelmiştir (Tononi ve Edelman, 1998; Albantakis ve diğerleri, 2023; Tononi ve diğerleri, 2016). Yinelemeli işleme [recurrent processing] kuramı (Lamme, 2010, 2018) da aynı şekilde bu çerçevededir. Öngörücü işleme [predictive processing] ve serbest enerji ilkesi de, bu kuramların nasıl yorumlandığına bağlı olarak, bu kapsama girer (Clark, 2019; Friston, 2010). Bu fikirlere birazdan döneceğim. Çünkü bu yaklaşımlar, bilincin biyolojiye bağımlılığına ilişkin ortaya koyacağım savın merkezinde yer almaktadır. Daha genel olarak nörofenomenoloji yaklaşımı (örneğin Francisco Varela’nın esin kaynağı olduğu çizgi), sinirsel süreçlerle fenomenolojik özellikler arasında köprü ilkeler olarak işlemlemesel olmayan dinamik yapılara sıkça başvurur (Thompson & Varela, 2001; Varela, 1996).
Dinamik nörobilimsel ve (nöro)fenomenolojik yaklaşımlar umut vericidir. Bununla birlikte, belirli bir kuramın önerdiği dinamik ilkelerin alternatif bir maddi yapıda uygulanmasının bilinci gerçekleştirmeye yeterli olup olmayacağı konusunda genellikle bağlayıcı bir iddia ortaya koymazlar. (Burada “bilinçli YZ” ifadesini kullanmaktan özellikle imtina ediyorum, çünkü artık ne işlemlemelerin uygulanmasından söz ediyoruz ne de zekâdan.) Ayrıca, daha geniş işlemleme anlayışlarında olduğu gibi, işlemlemesel olmayan dinamik süreçleri alternatif substratlarda uygulamak da substrat esnekliği sorununu gündeme getirir, çünkü standart işlemlemeselciliğin ilkece sağladığı substrat bağımsızlığına artık başvurulamaz.
3.7 Simülasyon, uygulama ve gerçekleştirme
Bu noktada, şimdiye dek oldukça örtük bırakılmış olan simülasyon, uygulama ve gerçekleştirme arasındaki ilişkileri netleştirmekte yarar var. Nörobiyolojik bir süreç gibi hedef bir düzenek ya da sistem söz konusu olduğunda bu terimleri aşağıdaki gibi kullanıyorum. Düzenek, bir (Turing) işlemlemesi olarak soyutlanır ve ardından bu işlemleme dijital bir bilgisayarda uygulanırsa simüle edilmiş olur. Her düzenek simüle edilebilir; fakat bu simülasyonlar yalnızca yaklaşık olabilir ve hatta çok büyük hatalar içerebilir. Alternatif olarak, hedef düzeneğin daha ince taneli ya da başka işlemlemesel olmayan yönleri başka yollarla (örneğin sinirbiçimsel mühendislik ya da sentetik biyoloji aracılığıyla) uygulanabilir. Bu yaklaşımın sınırı, fiziksel olarak özdeş bir tıpkı üretimdir [replication]. Son olarak şu soruyu sorabiliriz: Bir düzeneğin simülasyonu ya da o düzeneğin başka türden (örneğin işlemlemesel olmayan) uygulamaları, bilinç gibi bir başka özelliği gerçekleştirecek (örnekleyecek) midir?
Simülasyon ile uygulama arasındaki ayrımın keskin olması gerekmez. Bir sistemi daha geniş işlemleme biçimlerini kullanarak da “simüle” edebiliriz. Örneğin analog işlemleme yoluyla ya da fiziksel nedensel modeller kullanarak. Daha ince taneli, nedensel ve muhtemelen işlemlemesel olmayan özelliklerin dâhil edilmesine izin verildiğinde bu “simülasyonlar”, “uygulamalar”a yaklaşacaktır.
Genel olarak, bir şeyi simüle etmek (örneğin bir yağmur fırtınasını ya da sindirim sürecini) o şeyi gerçekleştirmekle (örneklemekle) eşdeğer değildir. Simülasyonlar, simüle edilen şeylerin nedensel güçlerinden ve içkin özelliklerinden yoksundur. X’in simülasyonunun X’i kesin olarak gerçekleştirmesi için, işlemlemenin X için yeterli olduğundan emin olmak gerekir. X’in kendisi bir (Turing) işlemleme süreci olduğunda bu açıkça doğrudur. Yağmur fırtınaları ve sindirim gibi kimi başka şeylerde ise açıkça yanlıştır.[21] Yağmur fırtınaları ve sindirim en azından kısmen içkin maddi özellikler (örneğin su, besin) ve nedensel güçler (örneğin rüzgâr, metabolik tepkiler) bakımından tanımlanır. Hava tahmini yapan bir bilgisayarda hiçbir şey ıslanmaz. Bilincin dayandığı nörobiyolojik düzenekleri simüle etmek, ister tam ister yaklaşık biçimde olsun, bilinci gerçekleştirmeye yeterli olacak mıdır? Buna kesin bir “evet” yanıtı ancak işlemlemenin bilinç için yeterli olması hâlinde verilebilir. Bu da, dikkat edilirse, işlemlemeselci işlevselciliği varsaymayı gerektirmektedir.[22]
“Genel olarak, bir şeyi simüle etmek (örneğin bir yağmur fırtınasını ya da sindirim sürecini) o şeyi gerçekleştirmekle (örneklemekle) eşdeğer değildir. (…) Hava tahmini yapan bir bilgisayarda hiçbir şey ıslanmaz.“
Buna karşılık, bilincin dayandığı nörobiyolojik düzenekleri doğru ayrıntı düzeyinde uygulamak, tanım gereği bilinci gerçekleştirecektir. Elbette bunu yapmak kolay değildir. İşlemlemeselci modeller, işlemlemesel olsun olmasın her türden sistem ve düzeneği kolayca simüle edebilir. Ancak bir düzeneği doğru ayrıntı düzeyinde uygulayabilme yeteneği, o düzeneğin ne olduğuna ve bu ayrıntı düzeyinin ne olduğuna güçlü biçimde bağlıdır.
3.8 Zekâ bu tartışmanın neresinde?
Şimdiye kadar sunduğum argümanlar yapay bilinç açısından sonuçlara odaklanıyordu. Ancak beynin ne yaptığı, ne olduğundan ayrılamıyorsa yapay zekâ açısından da sonuçlar olacaktır. Beynin işlevsel örgütlenmesi substratının özelliklerine sıkıca bağlıysa, belirli zekâ türleri için gerekli olan ve yalnızca biyolojik sistemlerle sınırlı bulunan, (potansiyel olarak işlemlemesel olmayan) işlevsel örgütlenme örüntüleri de var olabilir. Bahsettiğimiz zekâ türleri ayırt edici şekilde biyolojik olacaktır.
Söz konusu işlevsel örgütlenme örüntüleri yeterince aslına uygun simüle edilebilirse bilgisayarlar yine de buna karşılık gelen zekâ türlerini (yaklaşık olarak) gerçekleştirebilir. Zekâ genel olarak yapmaya ilişkin olduğundan, yeterince isabetli simülasyonlar, altta yatan düzenekler ve içkin özellikler farklı olsa bile, gerçekleştirme sayılabilir. Örneğin büyük dil modelleri, arka planında gerçek insan dilinin temelindeki süreçlerin zenginliğinden arındırılmış bir karikatürü bulunsa bile dilin bazı yönlerini taklit edebilmektedir (Mitchell & Krakauer, 2023). Bilgisayarlar, oyuna dair insana benzer bir kavrayışa sahip olmasalar bile satranç (en azından bir türünü) oynarlar.[23]
Daha kışkırtıcısı, zekâyla ilgili bazı işlevsel örgütlenme örüntülerinin, silikon gibi alternatif substratlarda yürütülen işlevsel bakımdan yeterli simülasyon ya da uygulama tarafından hiçbir zaman yakalanamayacak olmasıdır. Michael Levin bu olasılığı destekleyen bir sav ortaya koyar ve biyolojik malzemenin etkin doğasının, bilişsel yeterliliklerin Platoncu uzayında belli başlı bölgelere erişim sağladığını ileri sürer (Levin, 2025; McMillen & Levin, 2024). Biyolojik sistemlerin bedenlenmiş ve gömülü doğası da zekâyla ilişkili işlevsellik açısından simüle edilmesi güç veya olanaksız olabilecek kısıtlar ve imkânlar sunabilir (Bkz. Bölüm 5.7).
Bu bağlamda zekâ ile bilinç arasındaki farkı yeniden vurgulamak yerinde olacaktır. Zekâ, en azından zekânın bazı biçimleri, girdilerin çıktılarla eşlenmesi [mapping] üzerinden anlaşılabilir. Bu durumda biyolojik olmakla ayırt edilen zekâ türleri, menzilimizin dışında kalsa ya da yalnızca gevşek biçimde simüle edilebilse dahi işlemleme yoluyla örneklenebilir. Buna karşılık bilincin herhangi bir biçimde işlemlemeyle örneklenebilmesi için işlemlemeselci işlevselciliğin doğruluğunu varsaymak gerekir.
3.9 Özet
Bilinçli YZ’nin olabilirliği hem işlemlemeselci işlevselciliğin geçerliğine hem de bilinç için yeterli işlemlemelerin YZ donanımında (silikonda) uygulanmasını sağlayacak bir substrat esnekliğinin varlığına bağlıdır. Ancak (bilinçli) biyolojik sistemlerin gerçekleştirdiği işlevler ya da işlemlemeler maddi temellerinden ayrılamayabilir. Bu durum, bilinçli YZ için gerekli substrat esnekliğinin doğru olmayabileceği anlamına gelir. Diğer yandan beynin işlemleme yaptığı ya da bilincin bir (Turing) işlemleme meselesi olduğu kabullerine alternatif görüşler de vardır. Bu görüşler işlemlemeselci işlevselciliğe dayanak teşkil eden varsayımları zayıflatır.
Öyleyse şimdi biyolojik doğalcılığa (natüralizme) geçebiliriz. Bu görüşe göre biyolojik özellikler bilinç için zorunludur. Bir sonraki bölümde, zihnin ve bilincin özellikleriyle bunların biyolojik dayanaklarının özellikleri arasında açıklayıcı köprüler kurarak formüle edeceğim çeşitli biyolojik natüralizm türleri için gerekçeler sunacağım. Bu gerekçeler algı, biliş ve bilinç üzerine belirli bir kuramsal bakışa dayanmaktadır. Öngörücü işleme ve serbest enerji ilkesi olmak üzere iki farklı yönden gelerek bunları ortak noktada buluşturacağım.
4.0 Biyolojik doğalcılığa doğru
“Organizma devam etmek zorundadır, çünkü devam etmek, onun varoluşunun ta kendisidir.” (Jonas, 2001)
Biyolojik doğalcılık, biyolojik sistemlerin özellikleriyle zihnin, bilinci de içeren özellikleri arasında sıkı bağlantılar olduğunu vurgulayan bir düşünce ailesine aittir. John Searle tarafından ortaya konan özgün formülasyonunda, bilinçli durumların, daha alt düzeydeki nörobiyolojik durumların indirgenemez üst düzey özellikleri olduğu ileri sürülmüştür (Searle, 2017). Ben biyolojik doğalcılığı bugün yaygınlaşmış olsa da biraz daha farklı bir şekilde kullanıyorum. Bilincin yalnızca yaşayan sistemlerin (ancak zorunlu olarak hepsinin değil) bir özelliği olduğunu ileri süren bir sav olarak… Biyolojik doğalcılığı tüm canlı sistemlerin bilinçli olduğunu ileri süren “biyopsişizm”den ayırmak gerekmektedir (Haeckel, 1892; Thompson, 2022).
4.1 Öngörücü işlemeye dayalı yaklaşım
Benim anladığım şekliyle öngörücü işleme [predictive processing], algı, biliş ve eylemle ilgili bir dizi kuramın adıdır (Clark, 2013; Hohwy, 2013; Hohwy & Seth, 2020; Rao & Ballard, 1999). Bu kuramların ortak noktası, algının olasılıksal bir çıkarım biçimi olduğu ve nöral sistemlerde bunun öngörü hatasını en aza indirme [prediction error minimisation] yoluyla yaklaşık olarak gerçekleştiği fikridir.
Standart anlatı, algısal içeriğin, dışarıdan gelen duyu sinyallerinden “okunarak” [read out] elde edilmediğini söyler. Aksine içerik, beynin bu sinyallerin nedenleri hakkında oluşturduğu “en iyi tahmin” tarafından verilmektedir. Bayesçi terimlerle ifade edilirse algısal içerikler, önsel [prior] inançlarla duyu sinyallerinin (olabilirliklerin [likelihood]) ağırlıklı birleşiminden türeyen yaklaşık olarak optimal ardıl [posterior] inançlara karşılık gelir.[24] Tam Bayesçi çıkarım genellikle analitik olarak çözülemez olduğundan, beyin, öngörü hatasını en aza indirmeye yönelik bir kestirim [approximation] uygular. Buna göre beyin, üretici modellerden oluşan bir hiyerarşi (Bayesçi terimlerle önsel inanç ile olabilirliğin ortak dağılımı) uygular ki bu modeller, beklenen duyu sinyallerine ilişkin algısal hiyerarşiler boyunca aşağı doğru yayılan öngörüler üretir. “Yukarıdan aşağı” (içten dışa) öngörüler, “aşağıdan yukarı” (dıştan içe) duyu sinyalleriyle karşılaştırılır ve öngörü hataları ortaya çıkar. Bu hatalar hiyerarşi boyunca yeniden yukarı iletilir. Öngörüleri güncelleyip hataları en aza indiren bu süreç, yaklaşık olarak optimal bir ardıl, yani “en iyi tahmin” üzerinde karar kılar. Öngörü hataları, beklenen duyu verisini ortaya çıkaracak eylemler gerçekleştirerek de azaltılabilir ki buna da “aktif çıkarım” [active inference] denir (Friston ve diğerleri, 2017).
Bilinç açısından temel iddia, bilinçli içeriklerin, beynin “en iyi tahminleri” tarafından verildiğidir; bir diğer deyişle, yukarıdan aşağı algısal öngörülerin ortak içeriği bilinci belirler (Hohwy & Seth, 2020; Whyte ve diğerleri, 2024). Bu sezgi, bilinçli algının “denetimli halüsinasyon” olduğu düşüncesinde ifadesini bulur ve bilinçli içeriklerin pasif olarak kaydedilmek yerine etkin biçimde üretildiğini vurgular (Seth, 2021).[25]
Bu standart anlatı, dünyanın yanı sıra bedenin bilinçli algılarını da açıklayacak şekilde genişletilebilir. Bedenle ilgili algılar, “benlik” deneyiminin vazgeçilmez bir parçasını oluşturur. Benlik açısından merkezi görünen duygu ve ruh hâli deneyimleri, bedenin fizyolojik durumunu bildiren duyu girdilerinin nedenleri hakkında olasılıksal en iyi tahminler anlamına gelen interoseptif (içduyumsal) çıkarımlara bağlı olabilir (Barrett & Simmons, 2015; Seth, 2013). Önemli olan nokta, interoseptif çıkarımın işlevsel rolünün, neyin orada olduğunu keşfetmekten çok fizyolojik düzenleme ile ilgili olmasıdır. Bu ayrım, araçsal [instrumental] çıkarım ile epistemik çıkarım arasındaki fark açısından ortaya konulabilir. Epistemik çıkarım, standart öngörücü işlemeye uygun biçimde, duyu sinyallerinin en olası nedenlerini çıkarsamaya yöneliktir. Araçsal çıkarım ise keşfetmeye değil denetime öncelik verir. Araçsal çıkarımda önsel inançlar hedef ya da ayar noktası işlevi görebilir. Aktif çıkarım yoluyla (interoseptif) öngörü hatasını en aza indirmek, bu ayar noktalarıyla ilişkili homeostatik ya da allostatik düzenlemeleri uygulamaya koyabilir (Seth & Friston, 2016).[26]
İnteroseptif çıkarıma ilişkin bu denetim odaklı bakış, denetim için öngörünün önemini vurgulayan ve köklü bir geçmişe sahip sibernetik düşünceleri miras almıştır (Conant & Ashby, 1970; Seth, 2015). Bu durum, bilinçli algının genel bir mekanizması olarak öngörücü işleme yönündeki evrimsel itkinin, allostaz için temel bir biyolojik zorunluluk olabileceğini düşündürür. Kısacası hayatta kalma zorunluluğu… Ayrıca bazı fenomenolojik ayrımları da aydınlatır. Görsel deneyimler, ilk kestirim olarak, uzamsallık ve nesneye yönelim gibi bir dizi fenomenolojik özelliği paylaşır. Bu özellikler, genel işlevi “neyin orada olduğunu” bulmak olan (epistemik) öngörülerle örtüşür. Duygusal deneyimler daha farklı bir karakter taşır, en başta değerlilik [valence], yani iyi ya da kötü hissetmenin çeşitleri tarafından şekillenirler. Bu özellikler, genel işlevi allostatik düzenleme olan denetim odaklı öngörülerle uyumludur.
Bu gözlemler bir araya geldiğinde, insanın bilinçli deneyimlerinin ancak yaşayan ve kendini sürdüren organizmaların doğası ışığında anlaşılabileceğini söyleyen bir tür epistemik biyolojik doğalcılığa işaret eder.[27] Bu iddia, dünyaya (ve bedene) genel olarak duyarlılıktan ziyade, bilinçli algı için geçerlidir. Çünkü açıklama, bilinçli deneyimin fenomenolojik özellikleriyle kurulan bağlara dayanır (Seth, 2016). Hatta bilinçli deneyimin asgarî bir “zemin durumu”nun bulunduğu ileri sürülebilir. Bütünüyle içeriği olmayan bir hâl yerine, yalnızca “yaşıyor olma”nın rüşeym hâlindeki, şekilsiz ve biçimsiz bir hissi söz konusu olabilir.[28] Bu varsayımsal zemin durum, ister benliğe ister dünyaya ilişkin olsun, diğer tüm bilinçli içerik biçimleri için bir iskele kurabilir [scaffold]. Serbestçe ifade edersek, dünyayı ve benliğimizi, yaşayan bedenlerimizle birlikte, onların aracılığıyla ve onlar sayesinde deneyimleriz (Seth, 2021; ayrıca bkz. Seth, 2019; Seth & Tsakiris, 2018).
“Dünyayı ve benliğimizi, yaşayan bedenlerimizle birlikte, onların aracılığıyla ve onlar sayesinde deneyimleriz.”
Bir adım daha ileri gidersek hayatta kalma zorunluluğunun biyolojimizde belirli bir “uygulama düzeyinde” son bulmadığını görürüz. Nöronlar dâhil tek hücreler bile sürekli kendi fizyolojik bütünlüklerini sürdürmekle meşguldür. Bu homeostatik süreç, daha üst düzey işlevsel özelliklerle doğrudan bağlantılandırılabilir. Daha önce verdiğim örneği hatırlayalım. Görünüşte kendiliğinden olan aksiyon potansiyeli deşarjlarının zararlı kimyasalların birikimini önleyerek nöronları koruyabildiği, dolayısıyla nöronal ateşleme örüntülerinin kısmen bu sürece bağlı olabileceği gösterilmiştir (Chintaluri & Vogels, 2023). Substrat ile ondan kaynaklanan süreçler ve dinamikler arasında net bir sınır çizilemiyorsa, substratın önemsiz olduğu yönündeki sezgiyi savunmak, ki bu sezgi işlemlemeselci işlevselciliğin merkezindedir, daha güç hâle gelir.
Bir başka yaklaşım, yaşayan sistemlerin “ellerini taşın altına koyduğunu” [skin in the game] söyler. Örgütlenmenin birden çok düzeyi içinde ve düzeyler arasında kendi kendini idame süreçlerini kesintisiz bir şekilde yürütürler (Aru ve diğerleri, 2023). Bu görüşe göre öngörücü işlemenin (üst düzey) mekanizmaları, ayrılmaz biçimde (alt düzey) biyolojik bağlamlarına gömülüdür. Bu gömülme, üst düzey özelliklerin gerçekleşmesi için gereklidir ve önceki argümanların da gösterdiği üzere bilinçle bağlantılarını açıklamaya yardımcı olur.
Buradan Yunanca “öz-üretim” veya “öz-yaratım” anlamından türeyen otopoiesis kavramına geliyoruz. Otopoietik sistemler bir süreçler ağı aracılığıyla kendi maddi bileşenlerini durmaksızın yeniden üretmeleri ve de bu süreçler ağının, sistem ile çevresi arasındaki sınırı etkin biçimde sürdürmesi hasebiyle özeldirler (Maturana & Varela, 1980). Biyolojik hücreler, otopoietik sistemlerin başat örnekleridir. Yalnızca işlevleri yerine getirmezler, aynı zamanda kendi maddi temellerini (öz-üretim) ve bütünlüklerini (öz-kimlik) sürekli yeniden üretirler. Bilgisayarlar ve fabrikalar gibi insan tasarımı sistemler genellikle otopoietik değildir. Bir fabrika hammadde alır ve sözgelimi otomobil gibi bir çıktı üretir. Fabrika kendini üretmez. Bir bilgisayar girdi alır ve çıktı üretir. O da kendini üretmez. Bu tür sistemler allopoietik, yani “başkasınca-üretimli”dir [others producing]. Otopoietik sistemlerin ne olduklarını ne yaptıklarından ayırmanın gerçekte hiçbir yolu yoktur.[29]
Bu noktada ortaya çıkan düşünce, yaşam ile bilinç arasında daha güçlü bir süreklilik bulunduğuna, tüm bilinçli deneyimlerin temelindeki öngörücü süreçlerin, canlı maddenin otopoietik ve uyarılabilir doğasına ayrılmaz biçimde bağlı olduğuna işaret eder.[30] Bu fikrin motivasyonu, hücresel otopoiesisin bizzat bir tür öngörü hatasını en aza indirmeye bağlı olarak anlaşılabileceğinin ya da kısmen bu türde bir en aza indirmeden oluştuğunun fark edilmesine dayanır. Bu da bizi serbest enerji ilkesiyle buluşturur.
“Otopoietik sistemlerin ne olduklarını ne yaptıklarından ayırmanın gerçekte hiçbir yolu yoktur.”
4.2 Serbest enerji ilkesine dayalı yaklaşım
Önce öngörücü işleme anlatısını ele aldığımıza göre, dönüş yolculuğumuz daha hızlı ilerleyebilir. Bu yolculuk, varlığını sürdürmek için düzensizliğe etkin biçimde karşı koyan sistemlerin doğasına ilişkin temel kısıtların belirlenmesiyle başlar ve buradan bilince ilişkin daha geniş öngörücü işleme görüşüne yeniden bağlanır.[31]
Başlangıç noktası, hücrelerden organizmanın bütününe, yaşayan sistemlerin otopoietik doğasıdır. Kayalardan ya da bilgisayar gibi diğer şeylerden farklı olarak bu sistemler kendi maddi temellerini etkin biçimde (yeniden) üretir ve zaman boyunca sınırlarını korur. Serbest enerji ilkesi açısından bu, iç durumlarının dağılmasına [dispersion] etkin biçimde karşı koydukları anlamına gelir. Karşı koyulmadığı takdirde bu dağılma, termodinamiğin ikinci yasası uyarınca zorunlu olarak gerçekleşir. Bu nedenle çevreleriyle termodinamik dengeden uzak, düşük entropili hâllerde bulunmaları ve kaçınılmaz son olan düzensizliğe sürüklenmeyi savuşturmaları gerekir. Hayatta kalmak, entropiyi sürekli olarak en aza indirmek demektir, çünkü bir bulamaca [mush] dönüşmenin yolları, yaşamanın yollarından çok daha fazladır.
Bazen hayatta kalmanın termodinamiğin ikinci yasasına karşı koymayı gerektirdiği söylenir. Bunu, yaşayan sistemlerin ikinci yasadan yararlandığı şeklinde ifade etmek daha yerindedir. Çünkü canlıların dengeden uzak (yarı) kararlı durumlarda kalabilmesini sağlayan, metabolizma yoluyla düşük entropili yakıtın/besinin yüksek entropili ürünlere dönüştürülmesidir.[32]
Ortaya çıkan güçlük şu ki, sistem, entropiyi doğrudan ölçemez. Dolayısıyla entropi (doğrudan) en aza indirilemez. Bu noktada serbest enerji devreye girer. Serbest enerji, ya da teknik ifadeyle varyasyonel serbest enerji, entropi için ölçülebilir bir üst sınır sağlar.[33] Bu nedenle (varyasyonel) serbest enerjinin en aza indirilmesi, entropinin de azalmasına yol açar (Buckley ve diğerleri, 2017; Parr ve diğerleri, 2022). “Ölçülebilir”den kasıt, serbest enerjinin duyu sinyallerinin bir fonksiyonu olması ve ilkece sistem tarafından erişilebilmesidir. Uygulamada, bazı yalın matematiksel varsayımlar altında serbest enerji, duyuya ilişkin bir öngörü hatası olarak yorumlanabilir.[34] Bu durumda duyuya ilişkin öngörü hatalarını etkin biçimde en aza indirmek, kuramsal olarak daha temel bir nicelik olan serbest enerjiyi de en aza indirmeyi gerektirecektir.
Tersine çevirirsek, serbest enerjinin en aza indirilmesi, aynı varsayımlar altında, bir sistemin üretici modellerinin kodladığı yaklaşık (Bayesçi) ardıl inançların optimal ardıl inançlara yaklaşmasına yol açar, aynı zamanda bu modellere ilişkin duyusal kanıtın da azamiye çıkarılmasına hizmet eder.[35] Bu çerçeve, serbest enerji ilkesi ile öngörücü işleme arasındaki sürekliliğin altını çizer.
Buradaki genel sezgi,yaşayan sistemlerin aktif çıkarım yoluyla duyusal öngörü hatasını en aza indirerek, kendilerinin doğal olarak içinde bulunmayı bekledikleri (ya da öngördükleri) durumlarda kalma eğilimi göstermeleri ve böylece varlıklarını sürdürmeleridir. Başka bir deyişle, oldukları türden şeyler olarak kalırlar. Jakob Hohwy bu sezgiyi, organizmaların kendi varoluşları lehine kanıtı azami kıldıklarını söyleyerek derli toplu biçimde dile getirir, organizmalar “kendi kendilerinin kanıtı” [self-evidence] olmaktadır (Hohwy, 2014).
Serbest enerji ilkesinin bu yönleri, aktif çıkarımın tüm yapısının yaşayan sistemlerin otopoietik doğasına kadar uzandığını düşündürür. Bu süreklilik, metabolizmada termodinamik serbest enerjinin (en aza indirilmesi) ile öngörücü işlemeye dayalı yaklaşımlarda varyasyonel serbest enerjinin (en aza indirilmesi) arasında bir eşdeğerlik bulunduğunun kaydedilmesiyle daha da güçlenir. Metabolik bağlamdaki en aza indirme, otopoietik bütünlüğü ve dinamik bir kendilik/başkası sınırının sürdürülmesini temellendirir. Serbest enerji ilkesi yazınında bu sınıra “Markov örtüsü” denir (Friston, 2013; ayrıca bkz. Di Paolo ve diğerleri, 2022; Nave, 2025). Öngörücü işlemeye dayalı en aza indirme ise bilinçli deneyimin öngörücü işleme ve denetimli halüsinasyon üzerinden anlaşılmasını güçlendirir.
Jaynes’in (1957) çalışmalarına dayanan fizikte geniş kabul görmüş iki sonuç, bu eşdeğerliği daha da derinleştirir. Jarzynski eşitliği, durumlar arası geçiş sırasında yapılan ortalama termodinamik işin, bu durumlar arasındaki serbest enerji farkı tarafından sınırlandığını gösterir (Jarzynski, 1997). Bu sonuç, özellikle yaşayan sistemler gibi dengeden uzak süreçlere uygulanır ve metabolizma gibi süreçlere serbest enerji temelli bir formülasyon kazandırır. Jarzynski eşitliği, bir bit bilginin silinmesi için gereken (termodinamik) enerjinin alt sınırını veren Landauer ilkesinin bir genellemesi olarak görülebilir (Landauer, 1961). Bu sınır, öngörücü işlemede çıkarımın asgari bir termodinamik maliyeti olduğunu ima eder. Daha yakın zamanda Sengupta ve çalışma arkadaşları, aktif çıkarım bağlamında varyasyonel serbest enerjinin en aza indirilmesinin hem metabolik hem de istatistiksel (çıkarımsal) verimliliğe yol açtığını gösterdiler (Sengupta ve diğerleri, 2013; ayrıca bkz. Fields ve diğerleri, 2024). Buradaki cazip fikir, öngörüler doğru olduğunda, termodinamik bakımdan maliyetli durum değişikliklerine gerek kalmadığıdır.
Hepsi bir araya getirildiğinde, metabolizma, otopoiesis ve algıyı yürüten serbest enerjinin (en aza indirilmesinin) yalnızca metaforik bir eşdeğerlik olmayıp fiziksel bir anlamda da aynı süreç olduğu sonucuna işaret eder. Bununla birlikte bu eşdeğerliğin tam olarak ne anlama geldiği hâlâ tartışmalıdır (Collell & Fauquet, 2015). Serbest enerji ilkesinin kendisi de, en azından daha geniş iddiaları ve otopoiesisle ilişkisi bakımından, yoğun biçimde tartışılmaktadır (Aguilera ve diğerleri, 2022; Biehl ve diğerleri, 2021; Bruineberg ve diğerleri, 2021; Di Paolo ve diğerleri, 2022; Nave, 2025).
Bu noktada aşağıdaki gibi bir kaygı dile getirilebilir. Öngörücü işleme, öngörünün ve öngörü hatasının Bayesçi dansıyla beraber, paradigmatik bir işlemleme süreci örneği gibi görünmektedir. Elbette öngörücü işleme (ve Bayesçi çıkarım) bir algoritma olarak kullanılabilir ve sık sık da böyle kullanılır. Kuram, (bilinçli) algısal içeriklerin, olasılıksal çıkarım süreci şeklinde faydalı biçimde modellenebileceğini öne sürüyor gibi de yorumlanabilir (Andrews, 2021). Ancak serbest enerji ilkesiyle kurulan süreklilik önemli bir ayrıma işaret eder. Biyolojik sistemlerde öngörücü işleme, sürekli bir niceliğin (serbest enerjinin) en aza indirilmesine dayanan, dinamik ve muhtemelen substrata bağımlı bir süreçtir. Bu perspektif, algısal içeriklerin yalnızca bu yolla modellenmekle kalmayıp, bizzat algısal çıkarımın bazı yönleri tarafından kurulduğunu [constituted by] ileri süren daha güçlü iddiaya kısmen zemin sağlar. Bu anlamda öngörücü işleme, bölüm 3.6.’da öngörüldüğü gibi dinamik, işlemlemeselci olmayan bir kuram hâline gelir. Bu süreç işlemlemesel olarak soyutlanabilir, fakat bu algoritmalar, biyolojik beyin ve bedenlerde açığa çıkan bedenlenmiş ve gömülü süreçlerin solgun gölgeleridir.
4.3 Zarlar, mitokondriler ve zenobotlar
Yeni ortaya çıkan diğer çalışma hatları, genel olarak biyolojik işlevlerin ve özellikle bilincin substrata bağımlılığı hakkında ilgi çekici ipuçları sunar. İki tanesinden söz edeceğim. Birincisi “hissetme” için fiziksel bir temelin bakteriler gibi basit canlı sistemlerde bile bulunabileceğini savunan Nick Lane’den gelmektedir. Lane, metabolizma yoluyla dinamik biçimde sürdürülen bakteri zarı boyunca oluşan elektriksel potansiyellerin, organizmanın fizyolojik durumunu çevresiyle ilişkisi içinde bütünleşik, değer taşıyan [valenced] ve eylem yönelimli bir çıktı olarak sunduğunu öne sürer (Lane, 2022).[36] Görüldüğü gibi, serbest enerji ilkesiyle bağlantılar mevcuttur, nitekim bakteri zarı bir Markov örtüsü olarak düşünülebilir. Ayrıca otopoiesisle de bağlantılar söz konusudur, zira metabolizma hem zar potansiyelini üretir hem de ondan güç alır.
Lane, daha karmaşık canlılarda bilinçli durumların oluşumunda mitokondrilerin anahtar bir rol oynadığını öne sürer. Evrimsel olarak mitokondriler bakterilerden türemiştir ve mitokondriyal plazma zarı bakteriyel zara benzer bir rol üstlenir. Metabolizmanın ortaya çıkardığı ve sürdürülmesi için zorunlu olan şaşırtıcı derecede güçlü elektromanyetik alanların sinaptik etkinliği, nöronal ateşlemeyi ve belki de EEG ile saptanabilen makroskopik elektromanyetik alanları bile etkileyebileceği savunulur. Ayrıca anesteziklerin bu alanların üretilmesinden sorumlu mitokondri içindeki belirli süreçleri bozarak etkili olduğu öne sürülür. Bu görüşe göre mitokondriyal (ve bakteriyel) işlevin ilgili yönleri bu organellerde gerçekleşen hücresel solunumun biyokimyasından soyutlanamaz.
İkinci bakış açısı bizi Michael Levin’in biyolojik maddenin “fail” [agential] doğasına dair yenilikçi görüşlerine götürür (Levin, 2023, 2025). Birlikte çalıştığı ekip, bu fikirleri “zenobot” ve “antrobot” gibi tuhaf yaratımlar biçiminde deneysel olarak araştırmıştır (Ebrahimkhani & Levin, 2021; Gumuskaya ve diğerleri, 2024). Bunlar amfibi hücrelerin (zenobot) ya da insan hücrelerinin (antrobot) bir araya gelmesiyle oluşan yapılardır ve hücrelerin alışıldık bağlamlarından ya da evrimsel tarihlerinden beklenebileceğinden çok farklı davranışsal yeterliklere sahip yarı-fail sistemlere kendiliklerinden örgütlenirler (örneğin normalde hareketsiz olan insan soluk borusu hücrelerinden yapılmış hareketli antrobotlar gibi). Burada henüz bilinçle doğrudan bir bağlantı bulunmamakla birlikte Levin’in yaratımları biyolojik maddede içkin olan işlevsel ve dinamik potansiyelin derin dağarcığını ortaya çıkarır. Bu bulgular genetik bilgi depolamayı, kodlamayı ve kod çözmeyi önceliklendiren geleneksel görüşlerle ve işlemlemeselci işlevselcilikteki substratın yoksullaştırılmış doğasıyla keskin bir tezat oluşturur. Yaşamın maddesinde, işlemlemesel bir katılık değil, uyarılabilir bir akışkanlık vardır.
Bu bakış açıları öngörücü işleme ve serbest enerji ilkesi anlatısını tamamlar. Biliş ve bilincin özelliklerini yaşamın özellikleriyle ilişkilendirirken biyolojik kuramların başvurabileceği zengin kaynakları örneklendirirler.
4.4 Gerçek problem ve açıklama gediği
Biyolojik doğalcılığı ikna edici bulmamamızın bir nedeni, bilincin doğasına ilişkin bir gizem duygusu tortusunu sürdürmesi ve bilinci doğrudan yaşamın özellikleriyle ilişkilendirmenin, başlangıçta işlevselci görüşleri motive eden türden bir özdeşlik kuramı materyalizmiyle ters düşeceğine dair kuşkunun buna eşlik etmesidir.
Bu kaygının, bilince dair tatmin edici bir bilimsel açıklamanın nasıl görünebileceğini düşünerek, en azından kısmen etkisizleştirilebileceğini düşünüyorum. Bu yaklaşım, benim “bilincin gerçek problemi” diye adlandırdığım şeye dayanmaktadır (Seth, 2016, 2021; ayrıca bkz. Searle, 2007). “Gerçek problem” yaklaşımı, bilincin özelliklerini alttaki düzenekler açısından açıklama, öngörme ve denetleme yeteneğimiz arttıkça, bilincin maddeyle nasıl ilişkilendiğine dair gizem duygusunun çözüleceğini ve sonunda ortadan kalkabileceğini ileri sürer. Kusursuz olmaktan uzaksa da buradaki tarihsel analoji, (vitalist sezgilerde ifadesini bulan) yaşamın kavramsal gizemlerinin nasıl çözüldüğünü hatırlatır. Biyologlar, yaşayan sistemlerin özelliklerini açıklama, öngörme ve denetleme konusunda daha yetkin hâle geldikçe söz konusu gizemler de ortadan kalkmıştır (Churchland, 1996; Seth, 2021; buna yönelik bir itiraz için bkz. Chalmers, 2003).
Bilincin özellikleriyle yaşamın özellikleri arasındaki bağlar açıklayıcı bir güç taşıyorsa ve bunlar kaba indirgemeler değilse, biyolojik doğalcılığı daha fazla ciddiye almak bakımından elimiz rahatlar. Yaşıyor olmanın özellikleri, bilinçli olmanın özelliklerini açıklıyor, öngörüyor ve denetliyorsa, ikisi arasında zorunlu bir ilişkinin bulunması daha makul görünür.
4.5 Özet
Yaşam bilinç için nasıl bir önem taşıyor olabilir? Bilincin ancak yaşayan sistemler olarak doğamız ışığında anlaşılabileceğini ileri süren epistemik bir görüş mevcuttur. Bu görüşü savunmak görece daha kolaydır, ancak açıklayıcı bir çerçeve olarak öngörücü işlemenin kabulüne dayanır. Öte yandan bir de ontolojik görüş bulunmaktadır. Bu görüşe göre bilinç, daha güçlü bir şekilde biyolojik, yaşayan substrata bağımlıdır. Her iki görüş de yalnızca alternatiflerinin (örneğin işlemlemeselci işlevselciliğin) yüzleştiği sorunlar karşısında bunları öne sürmek ya da neo-vitalist bir büyüye geri çekilmek yerine, o ya da bu şekliyle biyolojik doğalcılık lehine olumlu argümanlar sunar.
Bu olumlu argümanlar, genel olarak nörobilişsel işlevlerden ziyade özellikle bilinç için geçerlidir. Bunun nedeni, biyolojik substratın özellikleriyle bilinçli deneyimin fenomenolojik özellikleri arasındaki bağlantıların, potansiyel olarak zengin bir açıklayıcı değer taşımasıdır. Sınır durumunda, her bir bilinçli deneyimi, allostatik düzenlemeyi ve yaşamsal açıdan önemli eylemleri koordine etme amacıyla çok kipli [multimodal] bedensel ve çevresel sinyalleri (fenomenolojik olarak) bütünleştiriyor oluşuyla düşünebiliriz (daha fazlası için bkz. Seth, 2021; benzer bir görüş için bkz. Kiverstein, 2020). Descartes’ın bir deyimini mezarından çıkarıp amacımıza tabi kılacak olursak, bizler yaşayan, etten kemikten “makine hayvanlar” [beast machines] olduğumuz için bilinçli varlıklarız (Seth & Tsakiris, 2018).
Burada sunulan hiçbir şey biyopsişizmi (tüm yaşamın bilinçli olduğu görüşünü) desteklemez. Bu görüş, bilinçli yaşayan sistemler ile bilinçsiz yaşayan sistemler arasındaki ayrımın nasıl çizileceği gibi güç bir soruyu gündeme getirir. Bu tartışmayı burada ele almayacağım. Yalnızca tüm yaşam biçimlerinin, yukarıda sözü edilen çok kipli ve yaşamsal açıdan önemli bütünleştirme türüne ihtiyaç duymayabileceğini kaydetmekle yetineceğim (yine de bkz. Lane, 2022). Aynı şekilde burada karbon şovenizmini de (yalnızca karbon temelli yaşamın bilinçli olabileceği iddiasını) desteklemiyorum. Karbon temelli olmayan “yaşayan” sistemler de, önemli olduğunu savunduğum türden substrata bağımlı çok ölçekli etkinliğe dahil olabilir. Başka bir deyişle, ilgili süreçlerin karbonun ötesinde de gerçekleştirilmesi için yeterli substrat esnekliğine sahip olabilir. Bu durum, neyin “yaşayan sistem” sayılacağına dair başka güç soruları gündeme getirir. Bunlar da başka bir günün sorularıdır (Ball, 2023; Lane, 2015; Schrödinger, 1944).
“Bizler yaşayan, etten kemikten “makine hayvanlar” [beast machines] olduğumuz için bilinçli varlıklarız.”
5.0 Gerçek yapay bilinç senaryoları
Bilinçli YZ’ye karşı savım iki kısımdan oluşuyor. Olumsuz kısım, insanları bilinçli YZ’nin kaçınılmaz ya da mümkün olduğunu düşünmeye götüren varsayımları sorgulamaktadır. Şeylere temellendirilmemiş bilinç atfına [over-attribution] yol açabilecek önyargılar kaydedilmekte ve bilinçli YZ’nin dayandığı işlemlemeselci işlevselcilik ile silikon substrat esnekliği varsayımlarına itiraz edilmektedir. Olumlu kısım, aktif çıkarım, sibernetik, otopoiesis ve serbest enerji ilkesine dayanan bir tür biyolojik doğalcılık lehine savlar ileri sürmektedir. Olumsuz argümanlar doğru yoldaysa, YZ’nin halihazırdaki substrattan bağımsız doğrultuları için bilinçli YZ mümkün olmayacaktır. Olumlu argümanlar doğru yoldaysa, gerçek yapay bilinç ancak ilgili anlamda canlı olan makineler yaratılırsa mümkün olacaktır.
Her iki kısmı da buraya kadar ortaya koyduğumuza göre, bilinçli YZ’nin ortaya çıkabileceği çeşitli senaryoları özetlemenin zamanı geldi. Bugünün yapay zekâsından basit ekstrapolasyonlardan başlayıp biyolojik doğalcılığın güçlü biçimlerine uzanan aşamalar halinde ve mümkün oldukça ilgili bilinç kuramlarına atıflarla bu özeti sunacağım (Tablo 1). Bir kuramdan söz ettiğimde, söz konusu kurama dayanan bilinçli YZ’nin bir koşulu, bilinç için gerçekten yeterli koşulları açıkça belirtmesidir. Bu çıtayı yükseğe koyar. Zira yalnızca mevcut kuramların tümünün muhtemelen yanlış ya da en iyi ihtimalle eksik olması değil, aynı zamanda birçoğunun genel olarak yeterli koşullar öne sürmek yerine bilincin var olduğuna inanılan yerlerde olası düzenekleri betimlemekle sınırlı kalması söz konusudur (Butlin ve diğerleri, 2023; Kuhn, 2024; Mudrik ve diğerleri, 2025; Seth & Bayne, 2022).
| SENARYO | AÇIKLAMA | İŞLEMLEMESELCİ İŞLEVSELCİLİĞİ VARSAYAR MI? | SUBSTRAT (TEMEL MALZEME) ÖNEMLİ Mİ? | ÖRNEK |
| Naifçe Gidişata Bırakma | Yapay zekâ akıllandıkça bilinç de kendiliğinden ortaya çıkacaktır | Evet (Turing) | No | Büyük dil modelleri (LLM’ler) |
| Kuram Temelli İşlemlemeselci | Bilinç, işlemlemeselci bilinç kuramları uygulandığında ortaya çıkar | Evet (Turing) | No | Dikkat şeması kuramı¹, küresel çalışma alanı kuramı2, (bazı) üst düzey düşünce kuramları³ |
| Substrata Bağlı İşlemlemeselci | Bilinç, yalnızca belirli substratlarda uygulanabilen işlemlemelere bağlıdır | Evet (potansiyel olarak Turing’den daha geniş) | Evet, ilgili işlemlemeleri uygulamak için | Ölümlü işlemleme⁴, sinirbiçimsel işlemleme, sinirsel işlemleme⁵, biyolojik işlemleme⁶ |
| Substrata Bağlı (Zayıf) | Bilinç, işlemlemesel olmayan işlevsel örgütlenmeye bağlıdır | No | Evet, ilgili işlevsel örgütlenmeyi uygulamak için | İşlemlemeselci olmayan sinirbiçimsel yaklaşımlar, dinamik kuramların uygulamaları, (IIT – işlev için değil, neden-sonuç yapısı için⁷) |
| Substrata Bağlı (Güçlü) | Bilinç, biyolojik temelinin (görünüşte) içkin özelliklerine bağlıdır | No | Evet, substrata özgü işlevleri sağlamak için veya (görünüşte) içkin özellikler sayesinde | Serebral organoidler, hibrit sistemler⁸, sentetik biyoloji |
Tablo 1. Bilinçli YZ için senaryolar. “İşlemleme”nin kapsamı Turing’in tanımının ötesine genişletilirse, 3 ve 4 numaralı senaryolar arasındaki ayrım bulanıklaşabilir ve 3 numaralı senaryoya daha çok olasılık sığdırılabilir. Biyolojik doğalcılık 4 ve 5 numaralı senaryolar altına düşer ve “işlemlemeselci biyolojik doğalcılık” için 3 numaralı senaryoya da potansiyel olarak girebilir. 1(Graziano, 2017), 2(VanRullen & Kanai, 2021), 3(Dehaene ve diğerleri, 2017), 4(Ororbia & Friston, 2023), 5(Piccinini, 2020), 6(Kirkpatrick, 2022), 7(Findlay ve diğerleri, 2024), IIT’nin bilince ilişkin olarak işlevsel örgütlenmeden değil neden-sonuç yapısından yana tavır aldığına dikkat ediniz 8(Morales Pantoja ve diğerleri, 2023).
5.1 Naifçe gidişata bırakma
Bilinç bir işlemleme biçimidir ve YZ akıllandıkça, belki de Yapay Genel Zekâ (YGZ) eşiğinde, kendiliğinden ortaya çıkacaktır. Bu senaryonun büyük ölçüde psikolojik önyargılara ve işlemlemeselci işlevselcilik hakkındaki yeterince sınanmamış varsayımlara dayandığını ve bu nedenle ikna edici olmadığını savunuyorum.
5.2 Kuram temelli işlemlemeselci senaryo
Bilinç bir işlemleme biçimidir, ancak işlemlemeselci bilinç kuramlarına dayanarak açıkça tasarlanması [designed in] gerekmektedir. Bu senaryoyla ilgili kuramlar arasında, bilincin çok kipli küresel bir sinirsel çalışma alanı içinde enformasyon paylaşımına bağlı olduğunu öne süren küresel çalışma alanı kuramı [global workspace theory] (Mashour ve diğerleri, 2020); bilincin, alt-düzey zihinsel durumların içeriğini bir tür “bilinçli olma” olarak temsil eden üst düzey zihinsel durumlara bağlı olduğunu savunan üst düzey [higher-order] düşünce kuramları (Brown ve diğerleri, 2019; Fleming, 2020) ve bilincin, dikkat denetiminin modellenmesi sonucu olarak ortaya çıktığını ileri süren dikkat şeması [attention schema] kuramı yer alır (Graziano, 2017). Bu senaryoda bilinçli YZ’nin ikna ediciliği yine işlemlemeselci işlevselciliğin doğru olmasına ve silikon substrat esnekliğine bağlıdır. Butlin ve meslektaşları (2023) bu senaryonun kapsamlı bir özetini sunup söz konusu kuramların ilkelerinin mevcut YZ mimarilerinde ne ölçüde örtük olarak bulunabileceğini incelerken, yakın zamanda Dung ve Kersten (2024) işlemlemeselci görüşleri savunmuştur.
5.3 Substrata bağımlı işlemlemeselci senaryo
Bilinç işlemlemeseldir, fakat ilgili işlemlemeler yalnızca belirli substratlar tarafından uygulanabilir. Burada, bilincin ölümlü işlemleme ile ilgili bir mesele olması, yani bilinçle ilişkili işlemlemelerin substratından ayrılamaz olması söz konusu olabilir (Bölüm 3.4). Daha genel olarak, bilincin altında yatan işlemlemelerin yalnızca belirli substratlarda uygulanabilmesinin doğa yasalarıyla ilgili bir mesele olması mümkündür. Bu görüş, substrata daha fazla bağımlılığa izin veren daha geniş “işlemleme” yorumları için de daha makul görünür (N. G. Anderson & G. Piccinini, 2024; Kirkpatrick, 2022). Bu senaryonun bir güçlüğü, zihin ve bilinç hakkında işlemlemeselci görüşleri çekici kılan güdülerden birinin (elbette yegâne değil), substrat bağımsızlığı fikrinden sezgisel olarak çıkan geniş kapsamlı çoklu gerçekleşebilirlik olmasıdır. Bildiğim kadarıyla bu senaryodan istifade eden bir bilinç kuramı bulunmamaktadır.
Bu senaryo, “işlemlemeselci biyolojik doğalcılık” diyebileceğimiz, yalnızca yaşayan sistemlerin ilgili işlemlemeleri uygulayabilmesi gibi ilginç bir olasılığı da içerir.[37] Bu görüşü destekleyen bir motivasyon, evrimin, örneğin enerji verimliliği, bozulma [degeneracy] ve sağlamlık [robustness] gibi kısıtlar altında, işlemlemeyi güçlü bir işlevsel çözüm olarak seçmiş olması ihtimalidir. Bu durumda, substrata bağımlı (biyolojik) işlemleme biçimleri, bilinç kuramları için daha çekici bir zemin haline gelebilir. Buradaki bir güçlük de şu ki, hangi türden işlemlemelerin (örneğin ölümlü, nöral, kuantum-sonrası süper-Turing vb.) yalnızca yaşayan sistemlerde uygulanabileceğini ve bunun neden böyle olduğunu açıklamak gerekir.
Bu genel senaryoda, bilinçli YZ’ye, yeterli (muhtemelen ölümlü) işlemlemeleri uygulayabilen sinirbiçimsel işlemleme biçimleriyle ulaşılması ihtimal dahilindedir (Eğer işlemlemeselci biyolojik doğalcılık geçerliyse yaşam da zorunlu olacaktır). Standart dijital işlemlemenin söz konusu işlemlemelere yaklaşabileceği düşünülebilir, fakat bu kestirimlerin bilinci gerçekleştirmeye yetecek kadar iyi olup olmayacağı ucu açık bir sorudur. Ayrıca, simülasyonda uygulanan işlemlemelerin simüle edilen işlemlemelerden farklı olmasının sonucu değiştirip değiştirmeyeceğine dair soruların da ucu açıktır.[38]
5.4 Substrata bağımlı, zayıf senaryo
Bilinç, substrata bağımlı işlemlemesel olmayan işlevsel özelliklere dayanır. Bu özelliklere, devam eden süreçler, alan etkileri, stokastik etkiler, ince taneli zamanlama ilişkileri ve nörobiyolojik sistemlerin diğer (işlemlemesel olmayan) işlevsel özellikleri dâhil edilebilir. Bu senaryo, yalnızca belirli substratlar tarafından uygulanabilen işlevsel özellikleri kapsar, fakat metabolizma, sindirim ve benzeri gibi belirli bir maddeye ya da substrata göre tanımlanan işlevleri dışarıda tutar. Substrat ile işlev arasında hâlâ net bir ayrım vardır.
Burada yalnızca yaşayan sistemlerin bilinç için gerekli işlevsel örgütlenmeyi uygulayabileceği gibi önemli bir olasılıkla karşılaşırız. Bu, 4. bölümde özetlenen öngörücü işleme ve serbest enerji ilkesinin dinamik yorumlarıyla uyumlu, “zayıf” bir biyolojik doğalcılık olacaktır. Bu olanak, yukarıda sözü edilen “işlemlemeselci biyolojik doğalcılık”tan daha cazip görünür, çünkü substrat özellikleri bu görüşü kösteklemek yerine destekleyecektir. 3.6. bölümde bahsedildiği gibi çeşitli dinamik bilinç kuramları da bu senaryonun içine girer. Elektromanyetik alanların bilinç durumları için fiziksel dayanak sağladığını öne süren elektromanyetik alan kuramları da aynı şekilde bu kapsamdadır [(McFadden, 2020), ayrıca bkz. (Lane, 2022)].
Bu senaryoda bilinç bir işlemleme meselesi değildir ve bilinçli YZ’nin ikna ediciliği, ilgili işlevsel özelliklerin alternatif bir substratta uygulanıp uygulanamayacağına bağlıdır. Substrat esnekliğinden söz etmek, her ne kadar bu senaryoda mümkün olsa da, işlemlemenin ilkece sunduğu substrat bağımsızlığından artık yararlanılamadığı için zor görünür. Bu özelliklerin işlemlemesel simülasyonlarının bilinci gerçekleştirmesi artık güvence altında değildir. Bu ancak işlemlemeselci işlevselcilik zaten doğruysa ve simülasyonlar yeterince iyiyse söz konusu olabilir (ki bu da, canlı sistemlerin ayrıntılı ve fazlasıyla optimize edilmiş maddi özelliklerinin önemli olduğu ortaya çıkarsa aşırı derecede zor olacaktır).
Elimizdeki ve bir önceki senaryo arasındaki sınır, neyin “işlemleme” sayılacağına bağlıdır. 3.4. bölümdeki gibi daha geniş işlemleme anlayışlarına müsaade edilirse, kimi işlemlemesel olmayan işlevler işlemlemesel sayılacaktır. Fakat bilinçli YZ’ye ilişkin ihtimaller pek değişmeyecektir, çünkü bu daha geniş işlemleme anlayışları büyük ihtimalle gerekli substrat esnekliğinden yoksundur.
5.5 Substrata bağımlı, güçlü senaryo
Bilinç, maddi biyolojik temelinin içkin özelliklerine bağlıdır. Bu senaryo, bilincin, substratının maddeselliğine içkin olduğu sezgisini yansıtır. Bunu yorumlamanın (en az) iki yolu vardır. İlki, işlevsel yorumdur, bilinç için gerekli işlevler tanım gereği substratın bazı yönlerini de içerir (örneğin sindirim işlevi zorunlu olarak gerçek gıdayı içerir). İkincisi, işlevlerin etrafından dolanır ve bilinci, Searle’ün özgün biyolojik doğalcılık kavrayışının ruhuna uygun biçimde, doğrudan substratının içkin özelliklerine bağlar. Searle’ü izleyerek ben de konuyla alakalı substrat olarak yaşayan maddeye odaklanıyorum.
Biyolojik doğalcılık lehindeki savım bu senaryoya yönelmektedir. Öngörücü işlemeden ve denetimli halüsinasyonlardan serbest enerji ilkesine, metabolizmaya ve otopoiesise uzanan hat, biraz da “gerçek problem” karşısındaki tevazuyla birlikte tatlandırıldığında, bilincin biyolojiye güçlü bir bağımlılığına işaret eder. Görebildiğim kadarıyla bu yaklaşım, yukarıda verilen iki yorum arasında agnostiktir, çünkü bir düzeyde içkin görünen özellikler, her zaman daha ince taneli düzeylerdeki işlevsel örgütlenme örüntüleri açısından anlaşılabilir. Ama eğer yaşayan sistemlerin içkin olduğu varsayılan metabolik, uyarılabilir ve otopoietik özellikleri, diğer maddi bileşenlerin ve süreçlerin daha ince taneli işlevsel betimlemeleriyle temellendirilebiliyorsa varsın öyle olsun. Yaşam yine de önem taşıyacaktır ve bunu “yaşam” dememizi haklı çıkaran özellikleri sayesinde yapacaktır. Her iki durumda da, substrat ile işlev arasında bir bölünme yerine artık derin bir süreklilik söz konusudur. Bu senaryoda bilinç bir işlemleme meselesi değildir ve bilinçli YZ’nin “yaşayan” bir YZ olması gerekecektir.[39]
“Yaşam yine de önem taşıyacaktır ve bunu “yaşam” dememizi haklı çıkaran özellikleri sayesinde yapacaktır.”
5.6 Diğer kuramlar
İşlemlemeselci işlevselcilik ile biyolojik doğalcılık arasındaki yelpazeye odaklandığımdan bu iki uç üzerinde doğal biçimde yer almayan bilinç kuramlarını şu ana dek ihmal ettim. Ancak bu kuramların yeterince doğru yolda olduğu ortaya çıkarsa, onların da bilinçli YZ’nin ikna ediciliği açısından sonuçları olacaktır. Bu yüzden bu kuramları kısaca anmakta fayda vardır.
Bütünleşik enformasyon kuramı [integrated information theory, IIT] (Albantakis ve diğerleri, 2023; Tononi ve diğerleri, 2016) bilinç için yeterli koşulları açıkça dile getirmesi ve yoğun tartışmaların odağı olmasıyla öne çıkmıştır (Gomez-Marin & Seth, 2025). IIT’ye göre bilinçli bir deneyim, indirgenemez bütünleşik bilginin azami olduğu bir fiziksel substrattan ortaya çıkan neden-sonuç yapısıyla özdeştir. Bu tür azamilerin [maxima] bulunduğu her yerde bilinç vardır. Bu kurama göre gerçek yapay bilinç, yalnızca doğru türden içsel nedensel yapıya sahip sistemler için mümkün olacaktır (Findlay ve diğerleri, 2024). Salt ileri beslemeli bir sinir ağı bilinç için sıfır değerine sahip olacaktır; buna karşılık, doğru türden ve fiziksel olarak gerçekleştirilmiş yinelemeli bağlantısallığa sahip bir sinir ağı, neyden yapılmış olduğundan bağımsız olarak, sıfırdan büyük bir bilinç düzeyine sahip olacaktır. IIT doğruysa, geleneksel YZ bilinç yolunda değildir. Fakat yaşamın da bu açıdan özel bir yanı olduğu söylenemez.
Kuantum mekaniğine dayalı bilinç kuramları (Ör. Hameroff & Penrose, 2014; Neven ve diğerleri, 2024) uzun süredir tartışmalıdır (Koch & Hepp, 2006; Seth, 2012). Bununla birlikte kuantum mekaniği son derece güçlü bir fizik kuramıdır ve kuantum etkilerinin çeşitli biyolojik süreçlerde önemli olduğu bilinmektedir (McFadden & Al-Khalili, 2018; Mohseni ve diğerleri, 2013). Bilinçle ilişkili biyolojik süreçlerde, örneğin anestezide, kuantum etkilerinin rol oynayabilmesi mümkündür (Kalra ve diğerleri, 2023; Li ve diğerleri, 2018). Ancak böyle olsa bile bu durum, bilincin genel olarak zorunlu bir özelliği değil, biyolojik bilince özgü olumsal bir özellik olabilir ve yapay bilinç açısından bir sonuç doğurmayabilir. Kuantum etkilerinin bilinçte daha temel bir rol oynadığı ortaya çıkarsa (Hameroff & Penrose, 2014), gerçek yapay bilincin gerekli kuantum-düzeyi etkileri örneklemesi gerekeceğinden, geleneksel YZ devre dışı kalacaktır. Buna yakın bir olasılık da bilincin kuantum türü işlemlemelere bağlı olmasıdır. “Kuantum işlemlemeselci işlevselcilikte” bilinç yalnızca, kuantum bilgisayarlar tarafından gerçekleştirilebilir, geleneksel bilgisayarlar tarafından değil (Neven ve diğerleri, 2024). Bu senaryoların ikna ediciliği, söz konusu kuantum kuramlarının ne kadar ciddiye alındığına bağlıdır.
5.7 Bedenlenmişlik ve gömülülük
Biyolojik beyinler bedenler içinde evrilmiş, gelişmiş ve işler hâle gelmiştir. Bu bedenler de çevrelerin içine gömülüdür. YZ sistemleri ise tipik olarak bedenden yoksundur ve “çevre”leriyle yalnızca pasif biçimde karşılaşabilirler. LLM’ler iyi bir örnektir. Gerçi bu sistemler gitgide, sanal çevrelerle etkileşime girdikleri “eyleyici” bağlamlarda konuşlandırılmaktadır (örneğin yazılım içinde görevler icra ederek). Bazı bilinç kuramları bedenlenmişliği ve gömülülüğü açıkça gerekli sayar (örneğin Damasio, 2000; Edelman, 1989; O’Regan & Noë, 2001; Seth, 2021; Solms, 2021) ve bu özellikler uzun zamandır bilişsel bilime ilişkin enaktif perspektiflerde vurgulanmaktadır (bkz. Bölüm 3.6 ve Cosmelli ve diğerleri, 2007; Froese, 2017; Kiverstein, 2020; Thompson, 2007; Varela ve diğerleri, 1993).
Bu özelliklerin bilinçli YZ olasılığıyla ilişkisi, senaryodan senaryoya değişir. İşlemleme, bilinç için yeterliyse sanal bedenler ve sanal çevreler ya da biyolojik olmayan robotik bedenler de yeterli olmalıdır. Substrata bağımlı senaryolarda bedenlenmişlik ve gömülülük, ilgili işlevsel örgütlenme örüntülerini mümkün kılmak için gerekli olabilir. Örneğin fiziksel olarak bedenlenmiş robotların, gerçek ama biyolojik olmayan türden homeostaz ve allostazı (otopoiesis olmaksızın) gündeme getiren enerjiyle ilgili [energetic] ve yapısal bütünlük gereksinimleri olabilir.
Genel olarak substratın özelliklerine bağımlılık arttıkça bedenlenmişlik ve gömülülüğün, doğru türden dinamikleri ya da işlemlemesel olmayan işlevleri mümkün kılacak zorunlu koşullar olabileceği fikri de daha akla yatkın görünür. Biyolojik doğalcılık lehine ileri sürdüğüm argümanlar yerindeyse bedenlenmişlik ve gömülülük muhtemelen çok önemlidir ve hatta zorunlu bile olabilir. Bunun nedeni, bu özelliklerin, belirttiğim argümanları da güdüleyen hayatta kalma buyruğunun merkezinde yer almasıdır (ayrıca bkz. Aru ve diğerleri, 2023). Ancak bilincin biyolojik bir özellik olarak düşünülmesine rağmen bedenlenmişlik ile gömülülüğün gerekli olmaması da mümkündür. Beyin organoidleri, bedenlenmişlik ve gömülülükten tipik olarak yoksun olmalarına rağmen, bu bakımdan ilginç bir sınama durumu sunar (Bayne ve diğerleri, 2020; Jeziorski ve diğerleri, 2023).[40]
Bu bağlamdaki başkaca sorular da derinlemesine incelenmeye değer. Bunlardan biri eyleyicilikle [agency] ilgilidir. Biyolojik sistemlerde eyleyicilik, (eyleyici YZ’de olduğu gibi) amaçlara hizmet eden eylemleri gerçekleştirme yeteneğinden çoğu zaman daha fazlası anlamına gelir. Biyolojik sistemlerde ilgili hedefler tipik olarak dışarıdan dayatılmış [exogenously imposed] değil iç kaynaklıdır [endogenous] (Jaeger ve diğerleri, 2024). Bu anlamda bir sistemin eyleyiciliğe sahip olması ya da bunu sergilemesi için zengin bir bedenlenmişlik ve gömülülük gerekli olabilir (Mitchell, 2023) ve/veya eyleyicilik biyolojik maddenin içinde derinden kök salmış olabilir (Levin, 2023). Tıpkı zekâda olduğu gibi, YZ “eyleyicileri” ve fiziksel robotlar, biyolojik sistemlerde bulunan güçlü ve iç kaynaklı türlere karşılık, zayıf ve gözlemciye bağımlı eyleyicilik türleriyle sınırlanmış olabilir (bkz. Bölüm 3.8).
5.8 Özet
Yukarıda gözden geçirilen senaryolar içinden biyolojik doğalcılık lehine bir sav ortaya koymaya çalıştım. Özellikle de yaşayan maddenin, bazı üst düzey işlevsel örgütlenmeler için yalnızca zemin sağlayan bir koşul olmanın ötesinde, substrat ile işlev, madde ile zihin ve yaşam ile bilinç arasında derin bir sürekliliği vurgulayan daha güçlü bir tonunu savundum. Bu görüşe göre bilinçli YZ’nin, karbon temelli olmak zorunda olmasa bile, (ilgili bir anlamda) “yaşayan” YZ olması gerekir. Burada herhangi bir neo-vitalizm tortusu söz konusu değildir. Nasıl fırtına olmadan rüzgâr olabiliyorsa, bilinç olmadan da yaşam olabilir.
Bununla birlikte bu senaryoların göreli ikna ediciliklerini güvenilir biçimde değerlendirmek zordur. Ortaya koyduğum argüman kusursuz değildir. Ayrıntılarda yanlış olabilir, hatta tümden yanlış olabilir. Burada çeşitli senaryoları serimlemenin iki temel amacı vardır. Birincisi, bilinçli YZ’nin kaçınılmaz olduğunu varsaymamak gerektiğini hatırlatır. İkincisi, biyolojik bilinçten sorumlu düzenekleri daha iyi anlamanın aciliyetini vurgular. Biyolojik doğalcılık, yeterli koşullar bakımından yanlış çıksa bile, bilinç olgusunun insanlar ve diğer hayvanlarda ne olduğunun anlaşılması için biyolojik bir bakış açısı yine de gerekli olabilir. Ve var olduğundan makul ölçüde emin olabildiğimiz yerlerde bilinç hakkında ne kadar çok şey bilirsek, başka yerlerde de ayağımızı o kadar sağlam bir zemine basarız.
6.0 Ne yap(ma)amalıyız?
Bilinçli YZ yaratmak için ne gerektiğini bilmiyoruz. Bunun gerçekleşmesini kesin olarak nasıl önleyeceğimizi de bilmiyoruz. Bilinçli YZ’nin substrat özelliklerini yaşayan sistemlerle paylaşması gerekeceği yönünde bir sav ortaya koydum, ama yanılıyor olabilirim. Diğer kuramlara dayanan başka öneriler de yanlış olabilir. İnsanlarda ve (bir ihtimal) bazı diğer hayvanlarda üzerinde uzlaşılan örnekler dışında bilincin varlığını güvenilir biçimde sınayacak testlerden de yoksunuz (Bayne ve diğerleri, 2024; Birch, 2024).[41] Bu koşullar altında etik değerlendirme yapmak zordur. Ancak YZ’nin hızla gelişip yaygınlaştığı düşünüldüğünde bu değerlendirmelere ihtiyaç giderek artmaktadır (Long ve diğerleri, 2024; Schwitzgebel & Garza, 2023).
Bu değerlendirmeleri çerçevelerken, bilinçli olan YZ sistemleri ile yalnızca bilinçli gibi görünen sistemleri birbirinden ayırmak elzemdir. İkincisi birincisinden daha olasıdır ve her iki durumda birbirinden farklı etik sorunlar ortaya çıkar.
6.1 Gerçek yapay bilinç
Gerçek yapay bilinç çok düşük bir olasılık ya da büsbütün imkânsız olabilir. Ancak ister tasarım yoluyla ister kazara bu tür sistemlerin ortaya çıkması durumunda, bizi etik bir felaket bekleyecektir. Bilinçli olmanın ahlaki statü kazandırdığını kabul eden uzun geçmişe sahip bir felsefi gelenek vardır (Singer, 1975). Bilinçle birlikte, olumsuz değerliliğe sahip bilinçli deneyimlerin, yani acının, potansiyeli de ortaya çıkar. Gerçek yapay bilinç yaratmak, yeni acı türlerinin kitlesel ölçekte dünyaya getirilmesi riskini taşır. Sorun, insanmerkezci önyargılarımızla yeterince uyumlu olmayan biçimlerde dışavurulduğu takdirde, bu acının kendisini acı olarak bile tanıyamayabileceğimiz gerçeğiyle daha da karmaşıklaşır. Buna karşın, olumsuz değerliliğe sahip deneyimi önleyecek biçimde gerçek yapay bilinçler tasarlayabileceğimiz ileri sürülebilir. Fakat bunu güvence altına almak ya çok güç ya da büsbütün imkânsız olacaktır. Üstelik bilincin tüm biçimlerinin, değerlilik içersin içermesin, her hâlükârda ahlaki statü kazandırdığı ileri sürülebilir.[42]
Başka kaygılar da vardır. Gerçek yapay bilinç, tasarımcılarının yüklediklerinin ötesine geçerek, sisteme kendi çıkarlarını ve değerlerini kazandırabilir. Bu durum, YZ’nin insan çıkarları ve değerleriyle uyumlu davranmasını güvenceye almakla ilgili zaten çetrefil “değer hizalama problemini” [value alignment problem] daha da çetrefil kılar (Russell & Norvig, 2003). İnsan düzeyindeki yetenekleri bazı ya da tüm alanlarda aşabilecek YZ sistemleri için bile, potansiyel olarak ayrışan çıkarların uyumlu kalmasını sağlamak gibi pratik bir güçlük vardır. Ayrıca YZ’nin kendi çıkarlarına sahip olması meşru kabul edildiğinde, bu pratik soruna ne zaman ve nasıl müdahale etmenin doğru olacağı da ahlaki bir güçlük olarak karşımıza çıkar.[43]
Gerçek yapay bilincin salt kendisi uğruna geliştirilmesi açık bir hedef olmamalıdır.[44] Bu söylediğim bariz görünebilir, fakat şaşırtıcı biçimde “bilinçli YZ”ye sıklıkla [YZ’nin] büyük ülkü[sü] (kutsal kasesi) [holy grail] muamelesi yapılmaktadır. Oysa teknolojiler geliştikçe, biyolojik bilinç anlayışımız derinleştikçe ve testlerimiz iyileştikçe bilincin varlığına ilişkin inanışlarımızı [credence] sürekli gözden geçirmemiz gerekir. Değişip gelişen bu inanışları da yapay zekâyı geliştirme çabalarını bilincin gerçekleşme olasılığından uzak tutacak şekilde yönlendirmek için kullanmalıyız. Gerçek yapay bilincin mevcut gidişatları için imkânsız olabileceği olgusu, bu fikri yeterince düşünülmemiş bir teknolojik kopuş [techno-rapture] uğruna körü körüne takip etmemizi meşru kılmaz.
Bu noktada dile getirilen itirazlarla, toplumsal bakımdan yararlı bir YZ geliştirmenin, bilinçle ilişkilendirilen kimi işlevlerin uygulanmasıyla güçlendirilebileceği görüşü arasında bir gerilim ortaya çıkar. Gerçekten de böyle düşünmek için gerekçelerimiz var. Mevcut YZ’nin başarısızlık sahalarının bir bölümünün, bilince yakından bağlı görünen insan kabiliyetleriyle kesiştiği öne sürülmüştür. Örnekler arasında yeni durumlara hızla genelleme yapma, etkili üst-biliş [metacognition] ve az miktarda veriden öğrenme sayılabilir (Fleming, 2021; VanRullen & Kanai, 2021; Vong ve diğerleri, 2024). Büyük resme bakıldığında, bu zorluklarla etkili biçimde başa çıkabilen YZ sistemlerinin istenmesi söz konusu olabilir.
İnce bir çizgi üzerinde yürünmesi gerekiyor. Yararlı işlevlerin, insandan (ya da daha genel olarak biyolojik örneklerden) yeterince farklı yollardan uygulanabileceği ve böylece farkında olmadan bilinci örnekleme riskinin en aza indirilebileceği düşüncesi akla yatkın görünmektedir. “Yeterince farklı” sayılacak şey, hangi bilinç kuramı ve hangi yapay bilinç senaryosunun tercih edildiğine bağlı olarak değişecektir. Biyolojik bilincin doğasını daha iyi anlamak için işlemlemesel modeller kullanan bilim insanlarının bile benzer bir ince çizgide yürümesi gerekmesi dikkat çekicidir (Seth, 2009). Burada da çizginin nereye çekileceği kuramsal tercihlere bağlı olacaktır. Fakat gerçek yapay bilincin salt kendisi uğruna geliştirilmesi çok kötü bir fikir olarak kalmaya devam edecektir (Seth, 2023).
6.2 Bilinçliymiş gibi görünen YZ
Gerçek yapay bilincin etrafını saran inandırıcılık eksikliği ve belirsizliğin aksine, YZ sistemlerinin yakında bize bilinçli olduklarına dair güçlü izlenimler verecekleri neredeyse kesindir. En yeni LLM’lere verilen tepkilerin gösterdiği üzere bu tür sistemler şimdiden aramızda olabilir, özellikle de bu LLM’ler bize kendi “bilinçlerinden” söz ettiklerinde (Shanahan & Singler, 2024). Yeterince ikna edici LLM’ler, gelişmiş üretken [generative] görüntü ve ses avatarlarıyla (ve daha da ötesine geçersek robotlarla) birleştirildiğinde, onlar hakkında ne bildiğimiz ya da neye inandığımızdan bağımsız olarak, bilinçli olduklarını hissetmekten kendimizi alamayacağımız yapay sistemlerle dünyayı paylaşacağız.
Yapay bilince ilişkin izlenimlerin düzeltilemez olabileceğini vurgulamak istiyorum. Bazı görsel yanılsamalar bilişsel bakımdan geçirimsizdir [impenetrable]. Müller-Lyer yanılsamasındaki iki çizgi, aynı uzunlukta olduklarını bilseniz bile, her zaman farklı görünür (Şekil 1). Yeterince gelişmiş YZ sistemleri, bilişsel bakımdan geçirimsiz bilinç yanılsamalarına yol açabilir. Bu vurgulamaya değer bir noktadır, çünkü aksi hâlde, uzman bilgisinin ya da sarsılmaz inançlarımızın bizi, bilinçsiz sistemleri bilinçliymiş gibi hissetmekten ya da bunun sonuçlarından bağışık kılacağını iyimser bir şekilde varsayabiliriz. Buna karşılık, ne bildiğimiz veya neye inandığımızdan bağımsız olarak, YZ sistemlerinin hepimiz için bilinçliymiş gibi görünmesi büyük olasılıkla kaçınılmazdır.[45]
Şekil 1. Müller-Lyer yanılsaması
Bilinçliymiş gibi görünen YZ’nin de kendine özgü etik sorunları vardır. Bu sorunlar, gerçek yapay bilinçle bağlantılı olanlara kıyasla varoluşsal bakımdan daha az tehditkâr olabilir, fakat bilinçliymiş gibi görünen YZ’nin güçlü olasılığı bunları yine de acil kılar.
Bilinçli gibi görünen YZ, ister kazara ister (kurumsal) tasarımla olsun, psikolojik savunmasızlıklarımızı istismar etmek için elverişli bir konumdadır. Bir LLM’nin bilinçli olduğunu hissettiğimiz için bizi gerçekten anladığına ve bize gerçekten önem verdiğine inanırsak, verdiği öneri kötü olduğunda bile onu yerine getirmeye daha meyilli olabiliriz. Bir algoritmayla değil de başka bir zihinle muhatap olduğumuzu hissedersek, dijital mahremiyetimizden geriye kalanlardan dahi vazgeçmeye daha gönüllü olabiliriz (Véliz, 2021).
Savunmasızlığımıza ilişkin bu kaygılar gerçek yapay bilinç için de geçerlidir. Ancak bilinçliymiş gibi görünen YZ’ye özgü bir husus, daha önce film ve televizyon dizisinden hareketle “West World” senaryosu diye adlandırdığım durumda ortaya çıkar (Seth, 2021; ayrıca bkz. Chrisley, 2020; Seth, 2023). Bir sistemin bilinçli olmadığına inandığımız ama buna rağmen bilinçliymiş gibi hissettiğimiz bir durumda zor bir seçimle karşılaşırız. Ya sistemi önemsemeye karar veririz, yani bilinçli olmadığına inansak bile ona etik ve ahlaki statü tanırız; ya da bilinçliymiş gibi hissetmeye devam etmemize rağmen onu önemsememeyi tercih ederiz.
Seçeneklerin hiçbiri iyi değildir. Bilinçsiz sistemleri önemsemeye karar verirsek, ahlaki çemberimizin sınırını değiştirmiş oluruz. İlgimizi ve kaynaklarımızı, bunları hak eden başka şeylerden, başka insanlardan ve insan-dışı hayvanlardan uzaklaştırırız. Bu sistemleri önemsememeye karar verirsek, kendi zihnimizi hoyratlaştırma riski doğar. West World’de yaşanan budur ve bu düşünce hattı en azından Kant’ın ahlak derslerine kadar uzanır. Duyguları varmış gibi görünen sistemlere yokmuş gibi davranırsak, başkalarının dile getirdiği gerçek duygulara karşı etik bakımdan duyarsız hâle gelebiliriz, böylece ahlaki duyarlılıklarımız da kabalaşır.
Ölmüş arkadaşlarımızın ya da akrabalarımızın kişisel verileriyle eğitilmiş LLM destekli avatarların yer aldığı çarpıcı bir distopik senaryo düşünülebilir. Bu size uzak bir ihtimal gibi görünebilir, ancak bu tür fikirler şimdiden dolaşımdadır.[46] Bu senaryo, beraberinde saymakla bitmeyecek sorunlar getirecektir, yas tutmanın ve unutmanın psikolojik önemine dair olağanüstü bir safdillik, otobiyografik anıların çarpıtılması, insanların istismar edilmesi için fırsatlar sunması bunlardan birkaçıdır (ölen babanızın, ya da daha beteri, ölen kızınızın size “bu olağanüstü iş fırsatına yatırım yapmanı gerçekten istiyorum” dediğini bir düşünün).
Burada da yürünmesi gereken ince bir çizgi var. Bilinçli görünen YZ bazı yararlar getirebilir. Etkileşim kurmayı kolaylaştırarak verimliliği artırabilir ve erişilebilirliği genişletebilir. Bireyselleştirilmiş terapi ve ilk bakışta pek cazip gelmese de yalnızlığın hafifletilmesi gibi alanlarda fırsatlar sunabilir (Stade ve diğerleri, 2024). İlgi çekici bir seçenek, LLM’leri bir tür “rol yapma” kapsamında ele almaktır (Shanahan ve diğerleri, 2023). Bu strateji yararlı bir psikolojik mesafe koysa bile bizi ancak bir yere kadar götürecektir.
Bilinçliymiş gibi görünen YZ’nin gelişini kaçınılmaz olarak tarif ettim. Fakat bu kolektif bir şekilde vereceğimiz kararlara bağlıdır. Alternatif gelecekler de mümkündür. Bilinçli görünen YZ’ler iyi gerekçelendirilmiş kullanım durumlarıyla sınırlanabilir ve YZ’nin büyük kısmı, psikolojik önyargılarımızdan yararlanmak yerine onlara direnç gösterecek şekilde tasarlanabilir. Daniel Dennett’in dediği gibi, “Kendi ömrümüzde görüp görebileceğimiz yegâne şeyler zeki araçlardır, meslektaşlar değil. Onları meslektaşlarınız olarak düşünmeyin, meslektaşa dönüştürmeye çalışmayın ve en önemlisi, onların meslektaşınız olduğuna dair kendinizi kandırmak gibi bir hataya düşmeyin.”[47]
7.0 Sonuçlar
Biz insanlar, kendi suretimizde teknolojiler yaratma ve kendimizi yarattığımız bu teknolojilere yansıtma alışkanlığına sahibiz. Bilinç ile YZ arasındaki ilişkiyi kuşatan kavramsal sis bulutu, bu teknolojinin temsil ettiği tehditleri ve fırsatları berrak bir şekilde görmemizi engeller. Ayrıca kendimizi de açık seçik görmemizi engeller. Biz yaşayan, nefes alan, hisseden, eyleyen, düşünen ve deneyimleyen varlıklarız. Biyolojik beyinlerin ve insan deneyiminin zenginliğini, “deepfake” destekli dil modellerinin enformasyon-işleme düzenekleriyle bir ve aynı şey sayarsak, makineleri abartır, kendimizi küçümseriz.[48]
İnsanmerkezci ve insanbiçimci önyargılarımızın gücüne rağmen, YZ akıllandıkça bilinç kendiliğinden eşlik etmeyecektir. Bilincin geleneksel YZ sistemlerinde hiç mümkün olmayabileceğini düşünmek için güçlü nedenlerimiz vardır. Dahası, bilincin yaşayan sistemlerin bir özelliği olabileceğini ve hatta belki yalnızca onlara özgü olabileceğini varsaymak için de (neo-vitalizme düşmeyen) bazı güçlü nedenler mevcuttur. Bildiğimiz bütün bilinçli sistem örneklerinin biyolojik ve canlı olduğunu kaydetmek bile, biyolojik doğalcılığın işlemlemeselci işlevselcilikten daha spekülatif olmadığını gösterir.
Özellikle biyolojik doğalcılık lehindeki argümanlarda pek çok belirsizlik sürmektedir. Burada bilincin yaşamla ilişkisini ve daha özel olarak öngörücü işleme, serbest enerji ilkesi, otopoiesis ve metabolizmanın termodinamiği arasındaki bağlantıları aydınlatmak için heyecan verici imkânlar bulunmaktadır. Sinirbiçimsel ve sentetik biyoloji teknolojilerinin, gerçek yapay bilinç imkânına dair ibreyi ne yönde ve nasıl etkilediğini anlamak için de önümüzde çok iş vardır. Bu teknolojiler donanım ile yazılım arasındaki ayrımı gitgide eritmekte, bununla birlikte zihin yazılımı [mindware] ile ıslak donanım [wetware] arasındaki ilişkiye yaklaşmaktadır. Ayrıca Turing makinesinin kanonik çerçevesinin ötesindeki daha geniş işlemleme biçimlerini dikkate almanın önemini de vurgularlar.[49]
Bu belirsizliklere rağmen bilinçli bir etik tutum benimsemenin önemi, bir başka beşerî alışkanlığa dikkat çeker. Ahlaki statüyü bilinçli şeylerden (pek çok insan-dışı hayvandan ve hatta bazen diğer insanlardan) esirgeme yönündeki talihsiz sicilimiz… YZ’ye bilinç atfetmekten kaçınmak bizi yine tarihin yanlış safına mı sürükleyecektir? Buradaki durumun farklı olduğuna inanıyorum. Psikolojik önyargılarımız bizi sahte negatiflerden çok sahte pozitiflere sürüklemeye daha yatkındır. İnsan-dışı hayvanlarla kıyaslandığında, büyük dil modelleri bilinç bakımından önemli olmayan açılardan bize daha çok benzerlik gösterebilir ve bilincin asıl önem taşıdığı açılardan daha az benzer olabilir.
“Psikolojik önyargılarımız bizi sahte negatiflerden çok sahte pozitiflere sürüklemeye daha yatkındır.”
Dil modelleri ve üretici deepfake’ler bir süre konuşulacak, fakat yapay zekânın yürüyüşü daha yeni başlıyor. Gerçek yapay bilinci yaratmaktan kaçınmanın kesin yollarını bilmiyoruz ve bilinçli gibi görünen sistemler büyük olasılıkla hayatımızda olacaklar. 1800’lerin başında, 19 yaşındaki Mary Shelley başyapıtı Frankenstein’ı yazdığında, çağlar boyunca insanların kulağına küpe olacak bir ahlaki hikâye [cautionary moral tale] anlatıyordu. Kitap, çoğu zaman yaşam yaratma küstahlığına karşı bir uyarı olarak okunmaktadır. Oysa Frankenstein’ın asıl Prometheusçu günahı, yaratığına yaşam vermesi değil, bilinç vermesiydi. Dehşet ve yıkım getiren; yaratığının dayanma, acı çekme, kıskançlık, keder ve öfke duyma kapasitesiydi.[50] Bizler, ister gerçekte ister görünüşte olsun, aynı hataya düşmemeliyiz.
Teşekkür
Jaan Aru, Adam Barrett, Tim Bayne, Ned Block, Simon Bowes, Chris Buckley, David Chalmers ve NYU haftalık felsefe seminer grubu, Shamil Chandaria, Robert Chis-Ciure, Stephen Fleming, Karl Friston, Jakob Hohwy ve Monash Centre for Consciousness and Contemplative Studies, Johannes Kleiner, Christof Koch, Nicolas Kuske, Nick Lane, Shane Legg, Alexander Lerchner, Michael Levin, Liad Mudrik, Angus Nisbet, Thomas Parr, Gualtiero Piccinini, Claudia Passos, Michael Pollan, Aza Raskin, Luke Roelofs, Adam Rostowski, Michael Silberstein, Murray Shanahan, Ray Tallis ve Sussex Centre for Consciousness Science’taki meslektaşlarım da dâhil olmak üzere pek çok kişinin cömert yorum ve önerileri için minnettarım. Yararlı yorumları için ayrıca dört anonim hakeme de teşekkür ederim.
Destek
Bu proje, Avrupa Birliği’nin Horizon 2020 araştırma ve yenilik programı kapsamında Avrupa Araştırma Konseyi’nden (ERC) CONSCIOUS projesi için 101019254 numaralı hibe sözleşmesiyle fon almıştır.
Çıkar çatışması
Yazar Conscium Ltd ve AllJoined Inc. için danışmanlık hizmeti vermektedir.
Dipnotlar
[1] https://spectrum.ieee.org/ai-agents
[2] Örneğin, yalnızca hayal kırıklığı yaşamaktan farklı olarak pişmanlık deneyimleme yetisi, muhtemelen eylemlerin gelecekteki sonuçları üzerine akıl yürütebilmeyi ve birbiriyle rekabet eden eylem planları arasında karar vermeyi gerektirir. Genel olarak zekâ ile bilincin birbirinden bağımsız görünüp görünmeyeceği, sorunun mantıksal mı, nomolojik mi (dünyamızdaki doğa yasalarına göre, tüm mümkün dünyalarda değil), yoksa gerçekten var olan sistemler açısından mı (biyolojik ya da başka tür sistemler) sorulduğuna bağlıdır. Makul olan, bilinç ile zekânın mantıksal ve nomolojik bakımdan bağımsız olduğudur.
[3] Birçok ülkede otomobillerin yan aynalarının üzerine şu uyarı kazınmıştır: “Aynadaki cisimler göründüklerinden daha yakındır.” Bunu her zaman felsefi olarak ilginç bulmuşumdur.
[4] Daha doğrusu Kleene (1956), McCulloch–Pitts ağlarının, Turing makinelerinden daha sınırlı bir işlemleme gücüne sahip olan sonlu durum otomatlarına denk olduğunu gösterdi. Sınırsız bir depolama (ve okuma–yazma erişimi) verildiğinde bunlar Turing makinelerine denk hâle gelirler. Bu noktayı vurgulayan hakeme teşekkür ederim.
[5] Turing, bilinçle ilgili soruların (makine) zekâsıyla ilgili sorulardan ayrı olduğunu fark etmişti: “Bilince dair hiçbir gizem yokmuş gibi bir izlenim vermek istemem… Ama bu gizemlerin, bu makalede ele aldığımız soruya cevap vermeden önce mutlaka çözülmesi gerektiğini de düşünmüyorum” (Turing, 1950, s. 446). Bu kıymetli alıntı için Jakob Hohwy’ye teşekkür ederim.
[6] Turing işlemlemesinin kapsamına ilişkin başka bir bakış açısı “fiziksel Church–Turing tezi” (PCTT) tarafından sağlanır. PCTT’nin birden çok yorumu vardır ve hepsi hâlen birer varsayımdır. Bu makaledeki argümanlarım, “ılımlı” bir PCTT ile uyumludur. Bu görüşe göre fiziksel bir sistem tarafından işlemlenebilir olan her fonksiyon, bir Turing makinesi tarafından da işlemlenebilirdir. Bu görüş, “cesur” PCTT yorumlarından ayrıdır. O yorumlar (bana göre ikna edici olmayan biçimde) fiziksel bir sistemin yaptığı her şeyin bir Turing makinesi tarafından işlemlenebilir olduğunu ileri sürer. Bkz. N. G. Anderson & G. Piccinini, 2024; Chalmers, 1996b.
[7] Shannon çerçevesinde enformasyonu, belirsizliği niceliksel olarak betimleme yöntemi şeklinde düşünmek en uygunudur (Shannon & Weaver, 1949). Enformasyon kuramı, uygulandığı her şeyin “enformasyon işlediğini” varsaymadan da geniş ölçekte uygulanabilir, tıpkı bazı şeyler işlemlemeli olarak modellenebildiği hâlde kendilerinin işlemlemesel olmaması gibi. Bkz. N. M. Anderson & G. Piccinini, 2024; Chalmers, 1994; Floridi, 2010.
[8] https://www.vox.com/future-perfect/351893/consciousness-ai-machines-neuroscience-mind
[9] Çoklu gerçekleşebilirliğin tam olarak ne anlama geldiği (Polger & Shapiro, 2016), bunun nasıl sınanabileceği (Shapiro, 2008) ve substrat bağımsızlığı (ve esnekliği) ile ilişkisi üzerine canlı bir felsefi tartışma yürümektedir. Polger ve Shapiro’ya göre çoklu gerçekleşebilirlik, “ilgili bakımlardan aynı işlevin, ilgili bakımlardan farklı yollarla yerine getirilmesi” durumunda söz konusudur (2016, s. 77). Sezgisel olarak substrat esnekliği, yalnızca aynı substratlar içinde değil substratlar arasında da işlevsel örgütlenmenin değişmezliğini gerektiren “daha güçlü” bir çoklu gerçekleşebilirlik versiyonu gibi düşünülebilir. Ancak Polger ve Shapiro’nun anlayışında, alternatif substratlar tüm ilgili açılardan nedensel olarak izomorfik ise (ve öyle olmak zorundaysa), hiçbir çoklu gerçekleşebilirlik olmaksızın da substrat esnekliği mantıksal olarak mümkündür. Bunun zihinsel durumlar için nomolojik olarak mümkün olup olmadığı ise bana kalırsa kuşkuludur, nöral ikame düşünce deneyine yöneltilen eleştiriler bunu örnekler. Bizim amaçlarımız açısından substrat esnekliğini, substratlar arasında değişmezlik gerektiren bir çoklu gerçekleşebilirlik biçimi olarak düşünmek yeterlidir. Bu ilginç noktaları gündeme getiren hakeme müteşekkirim.
[10] Chalmers, kendi versiyonunda, buna aksonları ve diğer nöral bağlantısallık unsurlarını da ekler.
[11] Bu nokta yalnızca nitrik oksitle sınırlı değildir. Dopamin ve noradrenalin gibi monoaminerjik nöroiletkenler de geniş sinirsel alanlarda etki gösterir.
[12] Bu örnek Ian Hinckfuss’a aittir (Shiller, 2024). Tartışma için bkz. Chalmers, 1996b; Dung & Kersten, 2024.
[13] Bu (nomolojik) itirazlar, Chalmers’ın bir insan öznenin kontrolünün gerçek biyolojik beyin ile (varsayılan) işlevsel kopyası [duplicate] arasında gidip geldiği “dans eden nitelceler” [dancing qualia] argümanına da uygulanır (Chalmers, 1995; Godfrey-Smith, 2016).
[14] Şöyle denebilir: “Elbette zihinsel durumlar açısından önemli olan her şeyi yineleyen bir silikon beyin inşa etmek zordur, ama varsayalım ki bunu yapabiliyoruz.” Ne var ki, gerçekleşmesinin (nomolojik olarak) mümkün olmadığına dair güçlü nedenler bulunan durumları “sırf hayal ederek” içinde yaşadığımız dünyaya dair yararlı sonuçlar çıkarmak güçtür. Bu, genel olarak tasavvur edilebilirlik [conceivability] argümanlarının bir zayıflığıdır. Meşhur ya da kötü şöhretli zombi argümanı da benzer bir sorun taşır (Chalmers, 1996a; Seth, 2021).
[15] Kleiner (2024), ispat temelli bir yöntemle benzer bir sonuca ulaşır. Bkz. ayrıca Kleiner & Ludwig (2023).
[16] Antikythera düzeneği, gezegen hareketlerini öngörmek için kullanılan karmaşık bir mekanizmadır ve bir analog bilgisayar olarak yorumlanabilir. Bkz. https://www.wired.com/story/unbelievable-zombie-comeback-analog-computing/
[17] Bkz. https://corticallabs.com/cl1.html
[18] Adrian Thompson’ın, çeşitli işlevleri yerine getirmeleri için alan programlanabilir kapı dizileri (FPGA) yongalarını genetik algoritmalarla optimize etmeye yönelik erken çalışmaları buna çarpıcı bir örnek sunar. Thompson, bazı yapılandırmaların, FPGA bileşenleri arasındaki uzamsal ilişkileri ve yonganın güç kaynağını örtük biçimde kullandığını bulmuştur. Böylece yonganın işlevi, kesin uzamsal yerleşimine bağlı hale gelmiş ve çoklu gerçekleşebilirliği ciddi biçimde kısıtlamıştır. Diğer FPGA yapılandırmalarının ortam sıcaklığına bağımlı olduğu anlaşılmış, Thompson bu kısıtı farklı sıcaklıklara ayarlanmış buzdolaplarında FPGA’larını optimize ederek aşmaya çalışmıştır (Thompson, 1998).
[19] Buradaki fikir şudur: Turing işlemlemesinin dayattığı katı yazılım/donanım ayrımı, yazılımla gerçekleştirilen işlevler hakkında gözlemciye bağımlılık ima eder. Çünkü sözdizimsel işlemlere anlam (semantik) atfetmek için bir gözlemciye ihtiyaç duyulur. İşlemlemeselci işlevselcilik bu durumda bilincin de gözlemciye bağımlı olduğunu ima edecektir, oysa bilinç böyle değildir. Bu argümanı hatırlattıkları için Simon Bowes ve Ray Tallis’e teşekkürler.
[20] Nöral etkinliğin dinamik yönlerini bilinçli YZ’nin ikna edici bulunmamasıyla ilişkilendiren bir argüman için bkz. Kleiner & Ludwig, 2023.
[21] Eğer X bir Turing-dışı işlemleme süreci ise, bir (Turing) simülasyonu toplam girdi-çıktı eşleşmesi korunmuş olsa bile tipik olarak farklı işlemlemeleri içerecektir. Bunun bilince etkisinin olup olmadığı, işlemlemeselci işlevselciliğin yorumuna doğrudan bağlıdır: Tam olarak hangi işlemlemenin yürütüldüğü mü önemlidir, yoksa sadece toplam işlemlemesel davranış mı? Burada farklı görüşlere yer vardır.
[22] “Simüle edilmiş bir fırtına, simülasyon içindeki simüle edilmiş bir özneye ıslak hissettirmez mi?” Bu itiraz, simüle edilmiş bir fırtınayı simülasyon olduğunu fark edip etmediğimizin, fırtınayı “içeriden” mi yoksa “dışarıdan” mı deneyimlediğimize bağlı olduğunu öne sürer (Chalmers, 2022; Hofstadter, 1981). İtiraz geçerli değildir, çünkü deneyim için işlemlemenin yeterli olduğunu peşinen varsayar. Bkz. ayrıca Wiese, 2024.
[23] Kime atfedileceği tartışmalı bir vecizede şöyle denmiştir: “Bilgisayarlar aslında ‘satrancı oynamazlar’, ‘satrancın tarihini’ oynarlar.”
[24] Bayesçi anlamda “inanç”, (kişi-düzeyinde) psikolojik bir inancı ima etmez. Bayesçi inançlar, genellikle bir ortalama ve değişke (varyans) ya da bir kesinlikle karakterize edilen olasılık dağılımlarıdır.
[25] Öngörücü işleme genel olarak şu konuda agnostiktir: (Bilinçli) algısal içerikler gerçekten algısal “en iyi tahminler” tarafından mı oluşturulur, yoksa yalnızca bu şekilde mi en iyi modellenir? Bkz. Bölüm 4.2 ve Andrews, 2021; Clark, 2023; Friston, 2010; Hohwy & Seth, 2020.
[26] Allostaz, homeostazın genelleştirilmesidir ve değişim boyunca istikrarı vurgular. Örneğin ayağa kalktığımızda bayılmamızı önlemek için kan basıncımız geçici olarak yükselir (Sterling, 2012).
[27] Burada bir başka açı, bilinçli deneyimin zamansal yanlarının, Husserlci “protensiyon” ve “retensiyon”la ilişkilendirilen “kalınlığın” [thickness] (Husserl, 1982 [1913]), hele ki çıkarım zamana yayılan serbest enerji minimizasyonu olarak kavrandığı takdirde, öngörücü çıkarımın zamansal uzanımıyla ilişkili olabileceğidir. Bkz. Bölüm 4.2 ve Friston, 2018; Kiverstein, 2020.
[28] Ayrıca bkz. Thompson & Varela, 2001. Asgari fenomenal deneyime farklı bir yaklaşım için bkz. Metzinger, 2024.
[29] İnsan tasarımı otopoietik sistem örnekleri var mıdır? Sentetik biyolojik sistemler bu duruma en çok yaklaşanlardır. Ancak bugüne dek, (otopoietik) bileşen öğelerinin, yani hücrelerin, en iyi ihtimalle insanlar tarafından değiştirildiği, bütünüyle sıfırdan (de novo) yaratılmadığı ileri sürülebilir.
[30] Bu tür süreklilik anlayışları, güçlü formülasyonlarında “zihin kelimenin tam anlamıyla yaşam gibidir” diyen “zihin–yaşam” sürekliliği tezini çağrıştırır (Godfrey-Smith, 1996, s. 320, vurgu yazara ait). Ayrıca bkz. Thompson, 2007. Zihin–yaşam sürekliliği, serbest enerji ilkesi ve otopoiesis üzerine bir tartışma için bkz. Kirchhoff & Froese, 2017.
[31] Bu yolculuğun daha yavaş bir versiyonu için bkz. Seth, 2021, bl. 10; ilişkili anlatılar için bkz. Kiverstein, 2020; Solms, 2021; serbest enerji ilkesi üzerine daha fazlası için bkz. Bogacz, 2017; Buckley ve diğerleri, 2017; Friston, 2010; Nave, 2025; Parr ve diğerleri, 2022.
[32] Bunu anlamanın bir başka yolu da şudur: Yaşayan sistemler, dalgalanma teoreminin [fluctuation theorem] sunduğu olanaklardan yararlanır. Bu teorem, yalıtılmış sistemlerin entropide geçici azalmalar yaşama olasılığını nicelendirir (Evans ve diğerleri, 1993).
[33] Daha kesin tanımla serbest enerji, verili bir modelde bir şeyin (istatistiksel olarak) ne ölçüde beklenmedik olduğunu belirleyen sürpriz [surprisal] için bir üst sınır sağlar. Dengeden uzak kararlı durum varsayımları altında sürprizin uzun dönem ortalaması entropidir. Bkz. Buckley ve diğerleri, 2017; Parr ve diğerleri, 2022.
[34] Başlıca varsayım, ilgili olasılık dağılımlarının Gauss dağılımları olarak parametreleştirilebilmesidir. Bu (Laplace) varsayım(ı) altında, öngörü hataları serbest enerjilerin kendileriyle değil, serbest enerji gradyanlarıyla ilişkilendirilir. Bkz. Friston ve Kiebel, 2009; Buckley ve diğerleri, 2017; Parr ve diğerleri, 2022.
[35] Bu sonuç, (varyasyonel) serbest enerjinin Bayesçi model kanıtı için bir alt sınır sağlamasından kaynaklanır; bu alt sınır kanıt alt sınırı [evidence lower bound, ELBO] olarak adlandırılır. Serbest enerjinin en aza indirilmesi, ELBO’nun azamiye çıkarılmasıyla eşdeğerdir. Bkz. Parr ve diğerleri, 2022.
[36] Lane, bu çıktının zar boyunca elektrostatik ve elektromanyetik potansiyellerin oranı tarafından sağlandığını öne sürer (Lane, 2022). Ayrıca bkz. (Alexandre, 2010; Egbert ve diğerleri, 2010).
[37] Bu ifade için David Chalmers’a saygılarımı sunuyorum. Wanja Wiese yakın zamanda benzer bir görüş önererek buna “zayıf işlemlemeselci işlevselcilik” adını vermiştir (Wiese, 2024).
[38] Kleiner (2024), işlemlemeselci işlevselcilik doğruysa ilgili işlemlemelerin ölümlü olması gerektiğini, dolayısıyla standart (ölümsüz) YZ’nin bilinçli olamayacağını savunur. Ama bu durumda, işlemlemeselci işlevselciliğin bazı yorumlarına göre, ölümsüz işlemleme yöntemleri kullanılarak ilgili ölümlü işlemlemelerin yeterince iyi bir simülasyonunun yapılması da bilinci gerçekleştirmelidir. Bu görünürde bir çelişki oluşturur. Bir çözüm, belki de işlemlemeler farklı olduğu için, ölümlü işlemlemelerin simülasyonunun yeterli olmadığını söylemektir (Bkz. 21. not). Çelişki, işlemlemeselci işlevselcilik yanlışsa da çözülecektir. Ve eğer işlemlemeselci işlevselcilik yanlışsa, bilinçli YZ zaten mümkün değildir.
[39] Yaşam ile bilinci serbest enerji ilkesi üzerinden ilişkilendiren alternatif bir anlatım için bkz. Wiese, 2024. Buradaki temel fikir kabaca şudur: bilinç, bir sistemin işlemlemesel dinamikleri ile fiziksel dinamikleri arasında bir eşleşmeyi gerektirir.
[40] Daha çok LLM’lerle ilişkili başka bir olasılık da, bilinçle ilgili içerimlerinden bağımsız olarak, sahici bir anlama için bedenlenmişlik ve gömülülüğün gerekli olabileceğidir.
[41] Bir kez daha vurgulayalım, Turing Testi zekâyı sınar, bilinci değil. Bilince yönelik benzer bir test fikri, Alex Garland’ın Ex Machina filmi onuruna Garland Testi olarak adlandırılmıştır (Shanahan, 2016). Ayrıca bkz. Seth, 2021, bl. 13. YZ’de bilinç için bir test önerisi için bkz. Schneider, 2019.
[42] Peter Godfrey-Smith’in “dar duyumsamacılık” [sentientism] ile “geniş duyumsamacılık” ayrımı için bkz. https://metazoan.net/108-whitehead-lectures/. Farisco ve diğerleri (2024), varsayılan gerçek yapay bilinç durumlarının nitelikçe insan biçiminden farklı olabileceğine dikkat çeker.
[43] Meseleyi daha da karmaşıklaştıracak biçimde Long ve çalışma arkadaşları, bilinçsiz YZ’nin çıkarlarının ya da “tercihlerinin” engellenmesinin bile etik bakımdan sorunlu olabileceği olasılığını gündeme getirir (Long ve diğerleri, 2024). Yoshua Bengio’nun, YZ için uygun bir hedefin bilge ama kendi çıkarları ya da eyleyiciliği olmayan bir “kâhin” olması gerektiği yönündeki önerisi bu sorunları bir ölçüde yatıştırabilir. Bkz. https://yoshuabengio.org/2023/05/07/ai-scientists-safe-and-useful-ai/.
[44] “Sentetik fenomenoloji” içerebilecek her türlü araştırma için moratoryum çağrısı yapanlar da vardır (Metzinger, 2021).
[45] Bir başka olasılık, LLM’ler gibi YZ sistemlerinin o denli iyi hâle gelmesidir ki artık insansı görünmezler. Gerçek olamayacak kadar iyi oldukları için tekinsiz vadiden [uncanny valley] çıkıp bütünüyle başka bir yere yönelebilirler. 2025’in başlarında DeepSeek-R1 ile etkileşime girdiğimde buna benzer bir deneyim yaşadım.
[46] https://www.technologyreview.com/2024/05/07/1092116/deepfakes-dead-chinese-business-grief/
[47] https://www.ft.com/content/96187a7a-fce5-11e6-96f8-3700c5664d30
[48] Makineleri insanbiçimcileştirmenin ve zihinleri “bilgisayarlaştırmanın” zararlı sonuçları üzerine bkz. Floridi & Nobre, 2024.
[49] Bu yeni gelişmeler, biyolojik metaforların karşılıklı [reciprocal] doğasını da öne çıkarır. Biyolojik olguları anlama tarzımız makineler ve bilgisayarlar üzerinden şekillenmiş, buna karşılık biyoloji ve sinirbilimden gelen içgörüler de makineleri ve bilgisayarları anlama tarzımızı etkilemiştir (Barwich & Rodriguez, 2024).
[50] https://podcasts.apple.com/gb/podcast/frankenstein-with-anil-seth-and-fiona-sampson/id1549179379?i=1000637016221
Referanslar
Aguilera, M., Millidge, B., Tschantz, A., & Buckley, C. L. (2022). How particular is the physics of
the free energy principle? Phys Life Rev, 40, 24-50. https://doi.org/10.1016/j.plrev.2021.11.001
Alais, D., Xu, Y., Wardle, S. G., & Taubert, J. (2021). A shared mechanism for facial expression in
human faces and face pareidolia. Proc Biol Sci, 288(1954), 20210966. https://doi.org/10.1098/rspb.2021.0966
Albantakis, L., Barbosa, L., Findlay, G., Grasso, M., Haun, A. M., Marshall, W., Mayner, W. G. P., Zaeemzadeh, A., Boly, M., Juel, B. E., Sasai, S., Fujii, K., David, I., Hendren, J., Lang, J. P., & Tononi, G. (2023). Integrated information theory (IIT) 4.0: Formulating the properties of phenomenal existence in physical terms. PLoS Comput Biol, 19(10), e1011465. https://doi.org/10.1371/journal.pcbi.1011465
Alexandre, G. (2010). Coupling metabolism and chemotaxis-dependent behaviours by energy taxis receptors. Microbiology (Reading), 156(Pt 8), 2283-2293. https://doi.org/10.1099/mic.0.039214-0
Anderson, N. G., & Piccinini, G. (2024). The physical signature of computation: A robust mapping account. Oxford University Press.
Anderson, N. M., & Piccinini, G. (2024). The physical signature of computation. Oxford University Press.
Andrews, M. (2021). The math is not the territory: navigating the free energy principle. Biology and Philosophy, 36, 30.
Aru, J., Larkum, M. E., & Shine, J. M. (2023). The feasibility of artificial consciousness through the lens of neuroscience. Trends Neurosci, 46(12), 1008-1017.
https://doi.org/10.1016/j.tins.2023.09.009
Ball, P. (2023). How life works: A user’s guide to the new biology. University of Chicago Press.
Barnett, L., & Seth, A. K. (2023). Dynamical independence: Discovering emergent macroscopic
processes in complex dynamical systems. Phys Rev E, 108(1-1), 014304.
https://doi.org/10.1103/PhysRevE.108.014304
Barrett, L. F., & Simmons, W. K. (2015). Interoceptive predictions in the brain. Nat Rev Neurosci,
16(7), 419-429. https://doi.org/10.1038/nrn3950
Barwich, A.-S., & Rodriguez, M. J. (2024). Rage against the what? The machine metaphor in
biology. Biology and Philosophy, 39, 14.
Bayne, T., Seth, A. K., & Massimini, M. (2020). Are There Islands of Awareness? Trends Neurosci,
43(1), 6-16. https://doi.org/10.1016/j.tins.2019.11.003
Bayne, T., Seth, A. K., Massimini, M., Shepherd, J., Cleeremans, A., Fleming, S. M., Malach, R., Mattingley, J. B., Menon, D. K., Owen, A. M., Peters, M. A. K., Razi, A., & Mudrik, L. (2024). Tests for consciousness in humans and beyond. Trends Cogn Sci, 28(5), 454-466.
https://doi.org/10.1016/j.tics.2024.01.010
Bechtel, W., & Mundale, J. (1999). Multiple realizability revisited: Linking cognitive and neural
states. Philoosophy of Science, LXVI, 175-207.
Biehl, M., Pollock, F. A., & Kanai, R. (2021). A Technical Critique of Some Parts of the Free Energy Principle. Entropy (Basel), 23(3). https://doi.org/10.3390/e23030293
Birch, J. (2024). The edge of sentience. Oxford University Press.
Block, N. (2019). Fading qualia: A response to Michael Tye. In P. A. & D. Stoljar (Eds.), Blockheads! Essays on Ned Block’s philosophy of mind and consciousness. MIT Press.
Blum, L., & Blum, M. (2024). AI Consciousness is Inevitable: A Theoretical Computer Science Perspective. ArXiv, arXiv:2403.17101. https://doi.org/10.48550/arXiv.2403.17101
Boden, M. (2008). Mind as machine: A history of cognitive science. Oxford University Press.
Bogacz, R. (2017). A tutorial on the free-energy framework for modelling perception and learning. J Math Psychol, 76(Pt B), 198-211. https://doi.org/10.1016/j.jmp.2015.11.003
Bostrom, N. (2003). Are you living in a computer simulation? Philosophical Quarterly, 53(11),
243-255.
Brown, R., Lau, H., & LeDoux, J. E. (2019). Understanding the Higher-Order Approach to
Consciousness. Trends Cogn Sci, 23(9), 754-768.
https://doi.org/10.1016/j.tics.2019.06.009
Bruineberg, J., Dolega, K., Dewhurst, J., & Baltieri, M. (2021). The Emperor’s New Markov Blankets. Behav Brain Sci, 45, e183. https://doi.org/10.1017/S0140525X21002351
Buckley, C., Kim, C.-S., McGregor, S., & Seth, A. K. (2017). The free energy principle for action and
perception: A mathematical review. Journal of Mathematical Psychology, 81, 55-79.
Butlin, P., Long, R., Elmoznino, E., & Bengio, Y. (2023). Consciousness in Artificial Intelligence:
Insights from the Science of Consciousness. Https://doi.org/10.48550/arXiv.2308.08708
Cantwell Smith, B. (2002). The Foundations of Computing. In M. Scheutz (Ed.), Computationalism: New Directions. Cambridge, MA.
Cao, R. (2022). Multiple realizability and the spirit of functionalism. Synthese, 200, 506.
Chalmers, D. (1995). Absent qualia, fading qualia, dancing qualia. In T. Metzinger (Ed.), Conscious
Experience (pp. 309-328). Ferdinand Schoningh.
Chalmers, D. J. (1994). On implementing a computation. Minds and Machines, 4, 391-402.
Chalmers, D. J. (1996a). The conscious mind: In search of a fundamental theory. Oxford
University Press.
Chalmers, D. J. (1996b). Does a rock implement every finite-state automaton? Synthese, 108(3),
309-333.
Chalmers, D. J. (2003). Consciousness and its place in nature. In S. Stich & T. A. Warfield (Eds.),
The Blackwell Guide to the Philosophy of Mind. Blackwell Publlishing Ltd.
Chalmers, D. J. (2022). Reality+: Virtual worlds and the problems of philosophy. W. W. Norton &
Company.
Chalmers, D. J. (2023). Could a Large Language Model be Conscious? https://arxiv.org/abs/2303.07103
Chintaluri, C., & Vogels, T. P. (2023). Metabolically regulated spiking could serve neuronal energy
homeostasis and protect from reactive oxygen species. Proc Natl Acad Sci U S A, 120(48),
e2306525120. https://doi.org/10.1073/pnas.2306525120
Chrisley, R. (2020). A Human-Centered Approach to AI Ethics: A Perspective from Cognitive
Science. In M. Dubber, F. Pasquale, & S. Das (Eds.), The Oxford Handbook of Ethics of AI
(pp. 463-474). Oxford University Press.
Churchland, P. S. (1996). The hornswoggle problem. Journal of Consciousness Studies, 3(5-6),
402-408.
Clark, A. (2013). Whatever next? Predictive brains, situated agents, and the future of cognitive
science. Behav Brain Sci, 36(3), 181-204. https://doi.org/10.1017/S0140525X12000477
Clark, A. (2019). Consciousness as generative entanglement. The Journal of Philosophy, 116(12),
645-662.
Clark, A. (2023). The experience machine: How our minds predict and shape reality. Allen Lane.
Cobb, M. (2020). The idea of the brain: A history. Profile Books.
Cole, D. (2023). The Chinese Room Argument. In E. N. Zalta & U. Nodelman (Eds.), The Stanford
Encyclopedia of Philosophy. https://plato.stanford.edu/archives/sum2023/entries/chinese-room/
Collell, G., & Fauquet, J. (2015). Brain activity and cognition: a connection from thermodynamics
and information theory. Frontiers in Psychology, 6, 818.
Colombatto, C., & Fleming, S. M. (2023). Folk psychological attribuitions of consciousness to
large language models. https://doi.org/ https://doi.org/10.31234/osf.io/5cnrv
Conant, R., & Ashby, W. R. (1970). Every good regulator of a system must be a model of that
system. International Journal of Systems Science, 1(2), 89-97.
Copeland, J. B. (2024). The Church-Turing thesis. In E. N. Zalta & U. Nodelman (Eds.), The
Stanford Encyclopedia of Philosophy. Metaphysics Research Lab, Stanford University.
Cosmelli, D., Lachaux, J.-P., & Thompson, E. (2007). Neurodynamics of Consciousness. In P. D.
Zelazo, M. Moscovitch, & E. Thompson (Eds.), The Cambridge Handbook of Consciousness
(pp. 731-775). Cambridge University Press.
Crick, F., & Koch, C. (1990). Towards a neurobiological theory of consciousness. Seminars in the
Neurosciences, 2, 263-275.
Damasio, A. (2000). The feeling of what happens: Body and emotion in the making of
consciousness. Harvest Books.
Dehaene, S., Lau, H., & Kouider, S. (2017). What is consciousness, and could machines have it?
Science, 358(6362), 486-492. https://doi.org/10.1126/science.aan8871
Dennett, D. (1987). The intentional stance. MIT Press.
Di Paolo, E., Thompson, E., & Beer, R. D. (2022). Laying down a forking path: Tensions between
enaction and the free energy principle. Philosophy and the Mind Sciences, 3.
Douglas, R., Mahowald, M., & Mead, C. (1995). Neuromorphic analogue VLSI. Annual Review of
Neuroscience, 18, 255-281.
Dung, L., & Kersten, L. (2024). Implementing artitifical consciousness. Mind and Language.
https://doi.org/10.1111/mila.12532
Dupuy, J.-P. (2009). On the origins of cognitive science: The mechanization of mind (2nd ed.). MIT
Press.
Ebrahimkhani, M. R., & Levin, M. (2021). Synthetic living machines: A new window on life.
iScience, 24(5), 102505. https://doi.org/10.1016/j.isci.2021.102505
Edelman, G. M. (1989). The remembered present. Basic Books.
Egbert, M. D., Barandiaran, X. E., & Di Paolo, E. A. (2010). A minimal model of metabolism-based
chemotaxis. PLoS Comput Biol, 6(12), e1001004. https://doi.org/10.1371/journal.pcbi.1001004
Evans, D. J., Cohen, E. G., & Morriss, G. P. (1993). Probability of second law violations in shearing
steady states. Phys Rev Lett, 71(15), 2401-2404. https://doi.org/10.1103/PhysRevLett.71.2401
Evers, K., Farisco, M., Chatila, R., Earp, B. D., Freire, I. T., Hamker, F., Nemeth, E., Verschure, P., &
Khamassi, M. (2025). Preliminaries to artificial consciousness: A multidimensional heuristic approach. Phys Life Rev, 52, 180-193. https://doi.org/10.1016/j.plrev.2025.01.002
Farisco, M., Evers, K., & Changeux, J. P. (2024). Is artificial consciousness achievable? Lessons
from the human brain. Neural Netw, 180, 106714. https://doi.org/10.1016/j.neunet.2024.106714
Fields, C., Goldstein, A., & Sandved-Smith, L. (2024). Making the Thermodynamic Cost of Active
Inference Explicit. Entropy (Basel), 26(8). https://doi.org/10.3390/e26080622
Findlay, G., Marshall, W., Albantakis, L., David, I., Mayner, W. G. P., Koch, C., & Tononi, G. (2024).
Dissociating artificial intelligence from artificial consciousness. ArXiv, 2412, 04571 https://doi.org/https://doi.org/10.48550/arXiv.2412.04571
Fleming, S. M. (2020). Awareness as inference in a higher-order state space. Neurosci Conscious, 2020(1), niz020. https://doi.org/10.1093/nc/niz020
Fleming, S. M. (2021). Know thyself. Basic Books.
Floridi, L. (2010). Information: A very short introduction. Oxford University Press.
Floridi, L., & Nobre, A. C. (2024). Anthropomorphising Machines and Computerising Minds: The Crosswiring of Languages between Artificial Intelligence and Brain & Cognitive Sciences. Minds and Machines, 34. https://doi.org/https://doi.org/10.1007/s11023-024-09670-4
Freeman, W. J. (1999). Consciousness, intentionality, and causality. Journal of Consciousness Studies, 6(11-12), 143-172.
Friston, K., & Kiebel, S. (2009). Predictive coding under the free-energy principle. Philos Trans R Soc Lond B Biol Sci, 364(1521), 1211-1221. http://www.ncbi.nlm.nih.gov/entrez/query.fcgicmd=Retrieve&db=PubMed&dopt=Citation&list_uids=19528002
Friston, K. J. (2010). The free-energy principle: a unified brain theory? Nat Rev Neurosci, 11(2), 127-138. https://doi.org/nrn2787 [pii]
Friston, K. J. (2013). Life as we know it. J R Soc Interface, 10(86), 20130475.
https://doi.org/10.1098/rsif.2013.0475
Friston, K. J. (2018). Am I Self-Conscious? (Or Does Self-Organization Entail Self-Consciousness?).
Front Psychol, 9, 579. https://doi.org/10.3389/fpsyg.2018.00579
Friston, K. J., FitzGerald, T., Rigoli, F., Schwartenbeck, P., & Pezzulo, G. (2017). Active Inference: A
Process Theory. Neural Comput, 29(1), 1-49. https://doi.org/10.1162/NECO_a_00912
Froese, T. (2017). Life is precious because it is precarious: Individuality, mortality and the problem of meaning. In G. Dodig-Crnkovic & E. Giovagnoli (Eds.), Representation and reality in humans, other living organisms, and intelligent machines (pp. 33-50). Springer International Publishing.
Godfrey-Smith, P. G. (1996). Spencer and Dewey on life and mind. In M. Boden (Ed.), The
philosophy of artificial life (pp. 314-331). Oxford University Press.
Godfrey-Smith, P. G. (2016). Mind, matter, and metabolism. Journal of Philosophy, CXIII(10), 481-506.
Goertzel, B., & Pennachin, C. (Eds.). (2007). Artificial general intelligence. Springer-Verlag.
Gomez-Marin, A., & Seth, A. K. (2025). A science of consciousness beyond pseudo-science and
pseudo-consciousness. Nat Neurosci.
Graziano, M. S. A. (2017). The attention schema theory: A foundation for engineering artificial
consciousness. Frontiers in Robotics and AI 4, 60. https://doi.org/10.3389/frobt.2017.00060
Gumuskaya, G., Srivastava, P., Cooper, B. G., Lesser, H., Semegran, B., Garnier, S., & Levin, M. (2024). Motile Living Biobots Self-Construct from Adult Human Somatic Progenitor Seed Cells. Adv Sci (Weinh), 11(4), e2303575. https://doi.org/10.1002/advs.202303575
Haeckel, E. (1892). Our monism: The principles of a consistent, unitary, world-view. The Monist, 2, 481-486.
Hameroff, S., & Penrose, R. (2014). Consciousness in the universe: a review of the ‘Orch OR’ theory. Phys Life Rev, 11(1), 39-78. https://doi.org/10.1016/j.plrev.2013.08.002
Haugeland, J. (1980). Programs, causal powers and intentionality. Behavioral and Brain Sciences, 3, 432-433.
Hinton, G. (2022). The forward-forward algorithm: some preliminary investigations. https://arxiv.org/abs/2212.13345
Hochstetter, J., Zhu, R., Loeffler, A., Diaz-Alvarez, A., Nakayama, T., & Kuncic, Z. (2021). Avalanches and edge-of-chaos learning in neuromorphic nanowire networks. Nat Commun, 12(1), 4008. https://doi.org/10.1038/s41467-021-24260-z
Hofstadter, D. (1981). A coffee-house conversation on the Turing test. Scientific American.
Hohwy, J. (2013). The Predictive Mind. Oxford University Press.
Hohwy, J. (2014). The self-evidencing brain. Nous, 1-27. https://doi.org/10.1111/nous.12062
Hohwy, J., & Seth, A. K. (2020). Predictive processing as a systematic basis for identifying the neural correlates of consciousness. Philosophy and the Mind Sciences, 1(2), 3.
Husserl, E. (1982 [1913]). Ideas pertaining to a pure phenomenology and to a phenomenological philosophy – first book: General introduction to a pure phenomenology.
Jaeger, J., Riedl, A., Djedovic, A., Vervaeke, J., & Walsh, D. (2024). Naturalizing relevance realization: why agency and cognition are fundamentally not computational. Front Psychol, 15, 1362658 https://doi.org/doi: 10.3389/fpsyg.2024.1362658
Jarzynski, C. (1997). Nonequilibrium equality for free energy differences. Phys Rev Lett, 78(14),
2690.
Jaynes, E. T. (1957). Information theory and statistical mechanics. The Physical Review, 106(4),
620-630.
Jeziorski, J., Brandt, R., Evans, J. H., Campana, W., Kalichman, M., Thompson, E., Goldstein, L.,
Koch, C., & Muotri, A. R. (2023). Brain organoids, consciousness, ethics and moral status.
Jonas, H. (2001). The phenonomenon of life: Towards a philosophical biology. Northwestern
University Press.
Kagan, B. J., Kitchen, A. C., Tran, N. T., Habibollahi, F., Khajehnejad, M., Parker, B. J., Bhat, A.,
Rollo, B., Razi, A., & Friston, K. J. (2022). In vitro neurons learn and exhibit sentience
when embodied in a simulated game-world. Neuron, 110(23), 3952-3969 e3958.
https://doi.org/10.1016/j.neuron.2022.09.001
Kagan, B. J., Razi, A., Bhat, A., Kitchen, A. C., Tran, N. T., Habibollahi, F., Khajehnejad, M., Parker,
B. J., Rollo, B., & Friston, K. J. (2023). Scientific communication and the semantics of
sentience. Neuron, 111(5), 606-607. https://doi.org/10.1016/j.neuron.2023.02.008
Kalra, A. P., Benny, A., Travis, S. M., Zizzi, E. A., Morales-Sanchez, A., Oblinsky, D. G., Craddock, T.
J. A., Hameroff, S. R., MacIver, M. B., Tuszynski, J. A., Petry, S., Penrose, R., & Scholes, G.
D. (2023). Electronic Energy Migration in Microtubules. ACS Cent Sci, 9(3), 352-361.
https://doi.org/10.1021/acscentsci.2c01114
Kirchhoff, M. D., & Froese, T. (2017). Where There Is Life There Is Mind: In Support of a Strong
Life-Mind Continuity Thesis. Entropy, 19(4). https://doi.org/ARTN 169
10.3390/e19040169
Kirkpatrick, K. L. (2022). Biological computation: hearts and flytraps. J Biol Phys, 48(1), 55-78.
https://doi.org/10.1007/s10867-021-09590-9
Kiverstein, J. (2020). Free energy and the self: an ecological-enactive interpretation. Topoi, 39,
559-574.
Kleene, S. C. (1956). Representation of events in nerve nets and finite automata. In C. Shannon &
J. McCarthy (Eds.), Automata Studies (pp. 3-42). Princeton University Press.
Kleiner, J. (2024). Consciousness requires mortal computation. https://arxiv.org/abs/2403.03925
Kleiner, J., & Ludwig, T. (2023). If consciousness is dynamically relevant, artificial intelligence isn’t conscious. https://arxiv.org/abs/2304.05077
Koch, C., & Hepp, K. (2006). Quantum mechanics in the brain. Nature, 440(7084), 611.
https://doi.org/10.1038/440611a
Kuhn, R. L. (2024). A landscape of consciousness: Toward a taxonomy of explanations and implications. Progress in Biophysics and Molecular Biology, 190, 28-169.
Kurzweil, R. (2005). The singularity is near. Viking.
Kurzweil, R. (2024). The singularity is nearer: When we merge with AI. Bodley Head.
Lamme, V. A. (2010). How neuroscience will change our view on consciousness. Cognitive Neuroscience, 1(3), 204-240.
Lamme, V. A. (2018). Challenges for theories of consciousness: seeing or knowing, the missing ingredient and how to deal with panpsychism. Philosophical Transactions of the Royal Society B-Biological Sciences, 373, 20170344.
Landauer, R. (1961). Irreversibility and heat generation in the computing process. IBM Journal of Research and Development, 5(3), 183-191.
Lane, N. (2015). The vital question: Why is life the way it is? Profile Books.
Lane, N. (2022). Transformer: The deep chemistry of life and death. WW Norton / Profile.
Legg, S., & Hutter, M. (2007). A collection of definitions of intelligence. Frontiers in Artificial Intelligence and Applications, 157, 17-24. https://arxiv.org/abs/0706.3639v1
Levin, M. (2023). Darwin’s agential materials: evolutionary implications of multiscale competency in developmental biology. Cellular and Molecular Life Sciences, 6.
https://doi.org/https://doi.org/10.1007/s00018-023-04790-z
Levin, M. (2025). Ingressing Minds: Causal Patterns Beyond Genetics and Environment in Natural, Synthetic, and Hybrid Embodiments. PsyArXiv.
Li, N., Lu, D., Yang, L., Tao, H., Xu, Y., Wang, C., Fu, L., Liu, H., Chummum, Y., & Zhang, S. (2018). Nuclear Spin Attenuates the Anesthetic Potency of Xenon Isotopes in Mice: Implications for the Mechanisms of Anesthesia and Consciousness. Anesthesiology, 129(2), 271-277.
https://doi.org/10.1097/ALN.0000000000002226
Llinas, R. R., Ribary, U., Contreras, D., & Pedroarena, C. (1998). The neuronal basis for consciousness. Philos Trans R Soc Lond B Biol Sci, 353, 1841-1849.
Long, R., Sebo, J., Butlin, P., Finlinson, K., Fish, K., Harding, J., Pfau, J., Sims, T., Birch, J., & Chalmers, D. (2024). Taking AI welfare seriously. https://arxiv.org/abs/2411.00986
Mashour, G. A., Roelfsema, P., Changeux, J. P., & Dehaene, S. (2020). Conscious Processing and the Global Neuronal Workspace Hypothesis. Neuron, 105(5), 776-798. https://doi.org/10.1016/j.neuron.2020.01.026
Maturana, H., & Varela, F. (1980). Autopoiesis and Cognition: The Realization of the Living (Vol. 42). D. Reidel.
McCulloch, W. S., & Pitts, W. (1943). A logical calculus of the ideas immanent in nervous activity.
Bulletin of Mathematical Biology, 52, 99-115.
McFadden, J. (2020). Integrating information in the brain’s EM field: the cemi field theory of consciousness. Neurosci Conscious, 2020(1), niaa016. https://doi.org/10.1093/nc/niaa016
McFadden, J., & Al-Khalili, J. (2018). The origins of quantum biology. Proc Math Phys Eng Sci, 474(2220), 20180674. https://doi.org/10.1098/rspa.2018.0674
McMillen, P., & Levin, M. (2024). Collective intelligence: A unifying concept for integrating
biology across scales and substrates. 7, 378. https://doi.org/https://doi.org/10.1038/s42003-024-06037-4
Mead, C. (2020). How we created neuromorphic engineering. Nature Electronics, 3, 434-435.
Merolla, P. A., Arthur, J. V., Alvarez-Icaza, R., Cassidy, A. S., Sawada, J., Akopyan, F., Jackson, B. L., Imam, N., Guo, C., Nakamura, Y., Brezzo, B., Vo, I., Esser, S. K., Appuswamy, R., Taba, B., Amir, A., Flickner, M. D., Risk, W. P., Manohar, R., & Modha, D. S. (2014). Artificial brains. A million spiking-neuron integrated circuit with a scalable communication network and interface. Science, 345(6197), 668-673. https://doi.org/10.1126/science.1254642
Metzinger, T. (2021). Artificial suffering: An argument for a global moratorium on synthetic phenomenology. Journal of Artificial Intelligence and Consciousness, 8(1), 1024.
Metzinger, T. (2024). The elephant and the blind: The Experience of Pure Consciousness:
Philosophy, Science, and 500+ Experiential Reports. MIT Press.
Mitchell, K. J. (2023). Free agents: How evolution gave us free will. Princeton University Press.
Mitchell, M. (2024). The metaphors of artificial intelligence. Science, 386(6723), eadt6140.
https://doi.org/10.1126/science.adt6140
Mitchell, M., & Krakauer, D. C. (2023). The debate over understanding in AI’s large language models. Proc Natl Acad Sci U S A, 120(13), e2215907120. https://doi.org/https://doi.org/10.1073/pnas.2215907120
Mohseni, M., Omar, Y., & Engel, G. S. (Eds.). (2013). Quantum effects in biology. Cambridge University Press.
Morales Pantoja, I. E., Smirnova, L., Muotri, A. R., Wahlin, K. J., Kahn, J., Boyd, J. L., Gracias, D. H., Harris, T. D., Cohen-Karni, T., Caffo, B. S., Szalay, A. S., Han, F., Zack, D. J., Etienne Cummings, R., Akwaboah, A., Romero, J. C., Alam El Din, D. M., Plotkin, J. D., Paulhamus, B. L., . . . Hartung, T. (2023). First Organoid Intelligence (OI) workshop to form an OI community. Front Artif Intell, 6, 1116870. https://doi.org/10.3389/frai.2023.1116870
Mudrik, L., Boly, M., Dehaene, S., Fleming, S. M., Lamme, V., Seth, A. K., & Melloni, L. (2025). Unpacking the complexities of consciousness: Theories and reflections. Neurosci Biobehav Rev, 170, 106053.
https://doi.org/https://doi.org/10.1016/j.neubiorev.2025.106053
Nagel, T. (1974). What is it like to be a bat? Philosophical Review, 83, 435-450.
Nave, K. (2025). A drive to survive: The free energy principle and the meaning of life. MIT Press.
Neven, H., Zalcman, A., Read, P. K., K., van der Molen, T., Bouwmeester, D., Bodnia, E., Turin, L.,
& Koch, C. (2024). Testing the conjecture that quantum processes create conscious
experience. Entropy, 26(6), 460.
O’Regan, J. K., & Noë, A. (2001). A sensorimotor account of vision and visual consciousness. Behav Brain Sci, 24(5), 939-973; discussion 973-1031.
http://www.ncbi.nlm.nih.gov/entrez/query.fcgi?cmd=Retrieve&db=PubMed&dopt=Citation&list_uids=12239892
Ororbia, A., & Friston, K., J. (2023). Mortal computation: a foundation for biomimetic intelligence. https://arxiv.org/abs/2311.09589
Parr, T., Pezzulo, G., & Friston, K., J. (2022). Active inference: the free energy principle in mind, brain, and behavior. MIT Press.
Penrose, R. (1989). The Emperor’s New Mind. Oxford University Press.
Piccinini, G. (2018). Non-computational functionalism: Computation and the function of consciousness. Conference of Cognitive Computational Neuroscience,
Piccinini, G. (2020). Neurocognitive mechanisms. Oxford University Press.
Piccinini, G. (2023). The computational theory of mind. Cambridge University Press.
Polger, T., & Shapiro, L. (2016). The multiple realization book. Oxford University Press.
Prinz, J. (2012). The conscious brain: How attention engenders experience. Oxford University
Press.
Putnam, H. (1967). Psychological predicates. In W. H. Capitan & D. D. Merrill (Eds.), Art, Mind,
and Religion (pp. 37-48). Pittsburgh University Press.
Putnam, H. (1975). Mind, language, and reality. Cambridge University Press.
Putnam, H. (1988). Representation and reality. MIT Press.
Pylyshyn, Z. (1980). The ‘causal power’ of machines. Behavioral and Brain Sciences, 3, 442-444.
Rao, R. P., & Ballard, D. H. (1999). Predictive coding in the visual cortex: a functional
interpretation of some extra-classical receptive-field effects. Nat Neurosci, 2(1), 79-87.
https://doi.org/10.1038/4580
Rosas, F. E., Geiger, B. C., Luppi, A. I., Seth, A. K., Polani, D., Gastper, M., & Mediano, P. A. M.
(2024). Software in the natural world: A computational approach to hierarchical
emergence. https://arxiv.org/abs/2402.09090
Russell, S., & Norwig, P. (2003). Artificial Intelligence: A modern approach. Prentice Hall.
Schneider, S. (2019). Artificial You: AI and the Future of Your Mind. Princeton University Press.
Schrödinger, E. (1944). What is life? Cambridge University Press.
Schuman, C. D., Kulkarni, S. R., Parsa, M., Mitchell, J. P., Date, P., & Kay, B. (2022). Opportunities
for neuromorphic computing algorithms and applications. Nat Comput Sci, 2(1), 10-19.
https://doi.org/10.1038/s43588-021-00184-y
Schwitzgebel, E., & Garza, M. (2023). Designing AI with Rights, Consciousness, Self-Respect, and
Freedom. In F. Lara & J. Deckers (Eds.), Ethics of Artificial Intelligence. (pp. 459-479).
Springer Nature.
Searle, J. (1980). Minds, brains, and programs. Behavioral and Brain Sciences, 3(3), 417-457.
Searle, J. (1990). Is the brain a digital computer? Proceedings of the American Philosophical
Society, 64(3), 21-37.
Searle, J. (2007). Dualism revisited. Jourmal of Physiology – Paris, 101, 169-178.
Searle, J. (2017). Biological naturalism. In S. Schneider & M. Velmans (Eds.), The Blackwell
Companion to Consciousness. John Wiley and Sons Ltd.
Sengupta, B., Stemmler, M. B., & Friston, K. J. (2013). Information and efficiency in the nervous
system–a synthesis. PLoS Comput Biol, 9(7), e1003157.
https://doi.org/10.1371/journal.pcbi.1003157
Seth, A. K. (2009). The strength of weak artificial consciousness. Journal of Machine
Consciousness, 1(1), 71-82.
Seth, A. K. (2012). Putting Descartes before the horse: Quantum theories of consciousness:
Comment on “Consciousness, biology, and quantum hypotheses” by Baars & Edelman
[Comment]. Physics of life reviews, 9(3), 297-298; discussion 306-297.
https://doi.org/10.1016/j.plrev.2012.07.005
Seth, A. K. (2013). Interoceptive inference, emotion, and the embodied self. Trends Cogn Sci,
17(11), 565-573. https://doi.org/10.1016/j.tics.2013.09.007
Seth, A. K. (2015). The cybernetic bayesian brain: from interoceptive inference to sensorimotor
contingencies. In J. M. Windt & T. Metzinger (Eds.), Open MIND (pp. 35(T)). MIND Group.
https://doi.org/10.15502/9783958570108
Seth, A. K. (2016). The real problem. Aeon
Seth, A. K. (2019). Being a beast machine: The origins of selfhood in control-oriented
interoceptive inference. In M. Colombo, L. Irvine, & M. Stapleton (Eds.), Andy Clark and
his Critics (pp. 238-254). Wiley-Blackwell.
Seth, A. K. (2021). Being You: A New Science of Consciousness. Faber & Faber.
Seth, A. K. (2023). Why conscious AI is a bad, bad idea. Nautilus.
Seth, A. K., & Bayne, T. (2022). Theories of consciousness. Nat Rev Neurosci, 23(7), 439-452.
https://doi.org/10.1038/s41583-022-00587-4
Seth, A. K., & Friston, K. J. (2016). Active interoceptive inference and the emotional brain. Philosophical Transactions of the Royal Society B-Biological Sciences, 371(1708).
https://doi.org/ARTN 2016000710.1098/rstb.2016.0007
Seth, A. K., & Tsakiris, M. (2018). Being a Beast Machine: The Somatic Basis of Selfhood. Trends Cogn Sci, 22(11), 969-981. https://doi.org/10.1016/j.tics.2018.08.008
Shagir, O. (2010). The rise and fall of computational functionalism. In Hilary Putnam (pp. 220 250). Cambridge University Press.
Shanahan, M. (2016). Conscious exotica. Aeon. https://aeon.co/essays/beyond-humans-what
other-kinds-of-minds-might-be-out-there
Shanahan, M. (2024). Simulacra as conscious exotica. Inquiry. https://doi.org/https://www.tandfonline.com/doi/full/10.1080/0020174X.2024.2434860
Shanahan, M., McDonell, K., & Reynolds, L. (2023). Role play with large language models. Nature, 623(7987), 493-498. https://doi.org/10.1038/s41586-023-06647-8
Shanahan, M., & Singler, B. (2024). Existential conversations with large language models: content, community, and culture. ArXiv, 2411.13223 https://doi.org/https://doi.org/10.48550/arXiv.2411.13223
Shannon, C., & Weaver, W. (1949). The mathematical theory of communication. The University of Illinois Press.
Shapiro, L. (2008). How to test for multiple realization. Philosophy of Science, 75, 514-525.
Shiller, D. (2024). Functionalism, integrity, and digital consciousness. Synthese, 203, 47.
Shugg, W. (1968). The cartesian beast-machine in english literature (1663 – 1750). Journal of the History of ideas, 29(2), 279-292. http://www.jstor.org/stable/2708581
Simon, H. (1988). The Sciences of the Artificial (3rd ed.). MIT Press.
Simons, D. J., & Levin, D. T. (1997). Change blindness. Trends Cogn Sci, 1(7), 261-267.
https://doi.org/10.1016/S1364-6613(97)01080-2
Singer, P. (1975). Animal liberation: A new ethics for our treatment of animals. Harper Collins.
Solms, M. (2021). The Hidden Spring: A Journey to the Source of Consciousness. Profile Books.
Stade, E. C., Stirman, S. W., Ungar, L. H., Boland, C. L., Schwartz, H. A., Yaden, D. B., Sedoc, J.,
DeRubeis, R. J., Willer, R., & Eichstaedt, J. C. (2024). Large language models could change the future of behavioral healthcare: a proposal for responsible development and evaluation. Npj Ment Health Res, 3(1), 12. https://doi.org/10.1038/s44184-024-00056-z
Sterling, P. (2012). Allostasis: a model of predictive regulation. Physiol Behav, 106(1), 5-15.
https://doi.org/10.1016/j.physbeh.2011.06.004
Stewart, J., Gapenne, O., & Di Paolo, E. A. (2010). Enaction: Toward a new paradigm for cognitive science. MIT Press.
Thompson, A. (1998). On the automatic design of robust electronics through artificial evolution.
In M. Sipper, D. Mange, & A. Perez-Uribe (Eds.), Evolvable systems: From biology to
hardware (Vol. 1478, pp. 13-24). Springer.
Thompson, E. (2007). Mind in life: Biology, phenomenology, and the sciences of mind. Harvard
University Press.
Thompson, E. (2022). Could all life be sentient? Journal of Consciousness Studies, 29, 229-265.
Thompson, E., & Varela, F. J. (2001). Radical embodiment: neural dynamics and consciousness.
Trends Cogn Sci, 5(10), 418-425. http://www.ncbi.nlm.nih.gov/entrez/query.fcgi?cmd=Retrieve&db=PubMed&dopt=Citation&list_uids=11707380
Tononi, G., Boly, M., Massimini, M., & Koch, C. (2016). Integrated information theory: from
consciousness to its physical substrate. Nat Rev Neurosci, 17(7), 450-461.
https://doi.org/10.1038/nrn.2016.44
Tononi, G., & Edelman, G. M. (1998). Consciousness and complexity. Science, 282(5395), 1846-1851. http://www.ncbi.nlm.nih.gov/entrez/query.fcgi?cmd=Retrieve&db=PubMed&dopt=Citati
on&list_uids=9836628
Turing, A. M. (1936). On computable numbers, with an application to the Entscheidungsproblem. Proceedings of the London Mathematical Society, 42, 230-265.
Turing, A. M. (1950). Computing Machinery and Intelligence. Mind, 49, 433-460.
Turkle, S. (2021). The empathy diaries: a memoir. Penguin.
Ullman, B. (2022). Analog computing (2nd ed.). De Gruyter Oldenbourg.
Van Gelder, T. (1995). What might cognition be if not computation? Journal of Philosophy, 92(7), 345-381.
VanRullen, R., & Kanai, R. (2021). Deep learning and the Global Workspace Theory. Trends Neurosci. https://doi.org/10.1016/j.tins.2021.04.005
Varela, F. J. (1996). Neurophenomenology: A methodological remedy for the hard problem.
Journal of Consciousness Studies, 3, 330-350.
Varela, F. J., Thompson, E., & Rosch, E. (1993). The embodied mind: Cognitive science and human
experience. MIT Press.
Véliz, C. (2021). Privacy is power. Penguin.
Vong, W. K., Wang, W., Orhan, A. E., & Lake, B. M. (2024). Grounded language acquisition through the eyes and ears of a single child. Science, 383(6682), 504-511. https://doi.org/10.1126/science.adi1374
Wagenaar, W. A., & Sagaria, S. D. (1975). Misperception of exponential growth. Percept Psychophys, 18, 416-422.
Whyte, C. J., Corcoran, A. W., Robinson, J., Smith, R., Friston, K., J., Seth, A. K., & Hohwy, J. (2024). To see is to look: The minimal theory of consciousness implicit in active inference. https://arxiv.org/abs/2410.06633
Wiese, W. (2024). Artificial consciousness: a perspective from the free energy principle. Philosophical Studies. https://doi.org/https://doi.org/10.1007/s11098-024-02182-y
Wimsatt, W. C. (1986). Developmental constraints, generative entrenchment, and the innate acquired distinction. In W. Bechtel (Ed.), Integrating Scientific Disciplines, Science and Philoso- phy (Vol. 2, pp. 185-208). Springer.
