🐙 Cthulhu, teologia AI i paradoks Moraveca
5 notatek z rozmowy Kuby Jeziornego (Blix) i Kuby Filipowskiego (Netguru) w podcaście "Two White Belts".
Drodzy,
Do poniższych notatek i wypisów zainspirowała mnie znów rozmowa między Kubą Jeziornym (BLIX) i Kubą Filipowskim (Netguru) w ich podcaście Two White Belts. To jedyny podcast, który zawsze odsłuchuję, bo panowie udowadniają, że jako członkowie zarządów spółek technologicznych można w rozmowie wyjść poza miękisz digital transformation i EBITDA i wpleść trochę niskomarżowych dywagacji spoza HackerNews i Business Insidera.
Dziś więc rekapitulacja interesujących mnie wątków i kilka groszy rozwinięcia:
👻 1. Bezcielesna świadomość i paradoks Moraveca, czyli o AI i dualizmie duszy i ciała
🔥 2. Test Prometeusza zamiast Turinga i wolna wola jako warunek świadomości
🐙 3. Cthulhu, Bóg i noumen
⛪ 4. Precesja sztucznej inteligencji, symulakra i teologia AI
➗ 5. Demon Laplace’a i marzenie o świecie matematycznym
Czas potrzebny na przeczytanie: 7 min 39 sekund.
👻 1. Bezcielesna świadomość i paradoks Moraveca, czyli o AI i dualizmie duszy i ciała
Kuba Filipowski na początku rozmowy przytacza pytanie, które planował zadać Samowi Altmanowi z OpenAI podczas jego wizyty w Warszawie:
Czy AGI (Artificial General Intelligence) pochodzić będzie jako ewolucja od modelu językowego czy jako efekt technologii takich jak auta bezzałogowe, które mają większą interakcję ze światem otaczającym?
Innymi słowy: czy świadomość musi być ustrukturyzowana jak język? A zatem czy sztuczna inteligencja też będzie językowa?
To odwieczne pytanie o dualizm duszy i ciała - oraz prymat jednego nad drugim - jest fundamentalnym zagadnieniem w filozofii od Platona (który przemijalnego świata materialnego nie trawił), przez Arystotelesa, chrześcijaństwo i nie kończąc wcale na Kartezjuszu, który w słynnej Rozprawie o metodzie stawiał akt myślenia, wątpienia jako podstawę dowodu istnienia (nawet gdyby wszystko wokół było złudą i gdyby nawet nie posiadał ciała):
Ale równocześnie zastanowiłem się, iż podczas gdy silę się przypuścić, że wszystko jest fałszywe, trzebaż, abym ja, który to myślę, był czymś; i zważając, iż ta prawda: myślę, więc jestem, jest tak pewna i niezłomna (…).
Następnie, rozpatrując z uwagą, czym jestem, uznałem, iż mogę udać, jakoby nie miał ciała i jakoby nie było żadnego świata ani miejsca gdzie bym był; nie mogę jednak udawać, jakobym nie istniał. (…) natomiast, gdybym tylko przestał myśleć, choćby nawet wszystka reszta tego, co sobie wyobraziłem, była prawdą, nie miałbym żadnego powodu mniemać, iż istnieję.
Przy okazji wcześniejszych notatek o AI, ciele, twarzy i estetycznej inflacji nasuwała mi się refleksja, że w technologicznym dyskursie wciąż mocno zakorzeniony jest ten chrześcijańsko-platoński i kartezjański dualizm duszy (świadomości) i ciała.
Zarówno w obszarze sprawczości umysłu względem ciała (wellbeing, “kontroluję w pełni moje ciało”, "jestem odpowiedzialny za mój stan") jak i w rozważaniach nad sztuczną inteligencją dominuje milczące założenie, że do osiągnięcia przez maszynę świadomości na miarę człowieka nie trzeba ciała i doświadczenia organów.
Kuba Jeziorny w rozmowie stawia pytanie, czy więc świadomość musi mieć ciało i przytacza paradoks Moraveca, że obliczeniowy koszt funkcji poznawczych i przetwarzanie podstawowych bodźców sensorycznych jest często bardziej energochłonny niż abstrakcyjne myślenie.
Innymi słowy komputerowi łatwiej pomnożyć miliardy macierzy niż wbić równo gwóźdź, a to może jakoś ilustruje różnice między nauką a techniką czy technologią, które nie muszą iść w parze: znajomość rachunku różniczkowego nie koniecznie uczyni nas lepszym piłkarzem, a i dobry piłkarz potrafi trafiać do bramki (technika i technologia) bez matury z fizyki (nauka). 1:0 dla ciała.
Mądrość rozumu i mądrość ciała: "Inteligentny to ten, co potrafi się wykaraskać z problemów, w które mądry się nie pakuje".
Ma marginesie: zwrócę uwagę na fascynujące pytania wokół ciała w filozofii, które stawiał np. Gabriel Marcel: czy ciało "posiadamy", czy nim "jesteśmy"? Ta subtelna różnica ma swoje odbicie w języku francuskim, jak zauważa Michel Henry, który rozróżnia "żywe ciało" (fr. chair) od "ciała fizycznego" (fr. corps). Odsyłam w tym względzie do wspaniałego Ciało człowieka. Studium z antropologii filozoficznej Marka Drwięgi.
🔥 2. Test Prometeusza zamiast Turinga i wolna wola jako warunek świadomości
Debata na ten temat prowadzi do znacznie szerszego zagadnienia, które ma swoje korzenie w filozofii i kulturze: uprzywilejowanie umysłu, czyli logocentryzm. W kulturze zachodniej dominuje przekonanie, że umysł jest nadrzędny wobec ciała, co jest odzwierciedlone w podkreślaniu znaczenia racjonalności kosztem doświadczeń cielesnych.
(Oczywiście na poziomie deklaratywnym, bo obecna w kapitalizmie ascetyczna afirmacja inteligencji, zaradności i sprytu, równoważona jest ekscesem przyjemności i kultu ciała od wellness przez otaczanie się przedmiotami i drugą stronę konsumpcjonistycznego medalu, czyli zbieranie doświadczeń).
Pochodną tego intelektualizmu jest przekonanie, że świat jest matematyczny, podlegający kwantyfikacji, a emocje i afektywność zostały w zachodnim świecie zepchnięte do roli podrzędnej roli wobec waloryzowanego rozumu. Kuba Filipowski wskazuje, że w kontekście sztucznej inteligencji, w tej dominancie poznawczej umyka nam jeden element. Skupiamy się na inteligencji i świadomości, zapominając o roli woli, która jest fundamentalnym aspektem ludzkiego doświadczenia.
Ostatnio przykuło moją uwagę, że w miejscu standardowego Testu Turinga George Strakhov proponuje Test Prometeusza. Zgodnie z tą propozycją, świadomość nie jest tylko aktem rozumu, ale także aktem woli. Tragiczność, rozumiana jako konflikt, jest warunkiem świadomości i ludzkiej kondycji, bo wola pojawia się tam, gdzie mamy konflikt: “muszę wybrać A lub B”. Analogicznie do konfliktu tragicznego jako starcia równorzędnych wartości i dylematu.
Tę koncepcję woli i jej roli w definiowaniu świadomości można zobaczyć w biblijnej historii Adama i Ewy, gdzie gest wolnej woli - popełnienia grzechu - jest kluczowym elementem człowieczeństwa.
Fenomenologia Husserla dodaje jeszcze jeden element do tej dyskusji, wskazując, że świadomość jest zawsze intencjonalna tzn. skierowana na coś, innymi słowy “coś zawsze mamy w świadomości, o czymś myślimy, jesteśmy czegoś świadomi”. W dyskusji padło jeszcze zagadnienie pamięci i czy ona również nie jest warunkiem świadomości? (czy “pamięć” nie jest analogonem parametrów i wag w modelach języka sztucznej inteligencji?)
🐙 3. Cthulhu, Bóg i noumen
Kiedy myślimy o nadludzkiej sztucznej inteligencji, często nasze wyobrażenia obciążone są antropomorficznym obrazem: istota ludzka, android, robot.
Kuba Jeziorny w kontrze do tego stawia hipotetycznie inny obraz AI: Cthulhu, boską wizję czegoś zupełnie niepojętego i niepodobnego do czegokolwiek innego, której nie rozumiemy i którą pozostaje nam jedynie czcić.
Przywodzi mi to Immanuela Kanta w fundamentalnej Krytyce czystego rozumu, który wyróżnił w naszym poznaniu fenomeny i noumeny. O co chodzi z fenomenami?
Z grubsza o to, że zasadniejsze jest mówić nie o “zielonym jabłku”, ale że “jabłko nam się jawi jako zielone” (fenomen w naszej świadomości), ale do samego jabłka nie mamy bezpośredniego wglądu. Jabłko odbija światło absorbując kolor czerwony i błękit, których nasz aparat wzrokowy nie wyłapuje, przez ogniskową naszej gałki ocznej wydaje się okrągłe etc.
Innymi słowy: nasze postrzeganie świata jest zawsze oparte na naszych własnych warunkach poznania, które są subiektywne i warunkują sposób, w jaki postrzegamy świat. Podmiot - jak sama nazwa wskazuje - podmiata pod siebie rzeczywistość i konstytuuje ją porządkując począwszy od kategorii czasu, przestrzeni a skończywszy na języku (Wittgenstein w XX wieku powie “o czym nie można mówić o tym trzeba milczeć”).
Noumen - "rzecz sama w sobie" - to z kolei byt, który istnieje niezależnie od świadomości, jest absolutnie niepoznawalny i nie może stać się "rzeczą dla nas".
W kontekście AI, noumen może być użytecznym modelem do myślenia o czymś, co jest zbyt obce, by je zrozumieć w ludzkich kategoriach. Wyobraźmy sobie coś co nie posługuje się naszym językiem, ani w ogóle językiem, bo porzuciło założenia, że każda wiedza jest językowa (taki eksperyment pozwala nam pojąć ile z wiedzy jest niejęzykowe i jak znaczące może być rozróżnienie na wiedzieć, rozumieć a wyrazić).
Muzyka czy obraz wzbudzają poczucie wzniosłości (tu notatki o pojęciu wzniosłości w Love, Death & Robots Netflixa) bez słowa. Być może istota boska/AI w duchu mickiewiczowskiego “Język kłamie głosowi, a głos myślom kłamie” porzuci język jako niedoskonałe narzędzie?
⛪ 4. Precesja sztucznej inteligencji, symulakra i teologia AI
W notatkach o VRIO, związkach teologii i AI, ergodyczności i case study Sega vs. Nintendo (1991) też zaintrygowała mnie dialektyka technologii i teologii tj. ile w maszynie czy sztucznej inteligencji jest naszej projekcji Boga, a ile w nas tworzących myślące maszyny jest boskich aspiracji?
Takie pytania znajdują odzwierciedlenie w: Dekalogu I Krzysztofa Kieślowskiego, gdzie widzimy tragiczne skutki zbyt dużego zaufania, jakim ojciec obdarza komputer. W serialu Wychowane przez wilki obserwujemy napięcia między maszyną na usługach fanatyków religijnych a ateistyczną społecznością pod kuratelą sztucznej inteligencji. No i w końcu w filmie Prometeusz, gdzie eksplorowane są wszystkie napięcia i złożoności między człowieczeństwem a pierwiastkiem boskim: ludzkość, twórcy naszego gatunku, androidy.
Jak zauważa Kuba Jeziorny, fascynującym aspektem sztucznej inteligencji jest więc jej precesja w sferze kulturowej, zanim stała się realnym fenomenem naukowym. Pomysł AI jako nadrzędnej, nieludzkiej istoty, początkowo wypłynął jako okultystyczne wizje matematyków, filozofów i pisarzy, więc w tym sensie, sztuczna inteligencja najpierw zaistniała jako symulakrum w rozumieniu Baudrilliarda, czyli kopia bez oryginału, którą wtórnie wytworzyliśmy z naszych wyobrażeń.
Kuba nawiązuje w rozmowie do realizmu spekulatywnego, którego reprezentantem jest Quentin Meillassoux i zgrubnej tezy, że jeśli wszystko jest możliwe, to również możliwy jest Bóg (jeśli wszechświat jest nieskończony to istnieje pewnie identyczna Ziemia, na której czytasz ten newsletter wyższy/-a o 3 cm). W pewien sposób nawiązuje to do ontologicznego dowodu na istnienie Boga Św. Anzelma, który argumentował, że jeśli Bóg jest idealną istotą, to… musi posiadać przymiot istnienia.
➗ 5. Demon Laplace’a i marzenie o świecie matematycznym
Ostatnia myśl, która wydaje mi się istotna w dyskusji to podkreślenie przez Kubów, że wielkie modele językowe takie jak ChatGPT-4, nie są deterministyczne, ale probabilistyczne (nie mamy pewności co wyplują).
Biorąc pod uwagę nasze długotrwałe zauroczenie fizykalizmem i scjentyzmem, mam wrażenie, że w obliczu AI stajemy przed swoistym Schadenfreude.
Od oświecenia byliśmy uwiedzeni ideałem demona Laplace’a - teoretycznej istoty, która zna pozycję i prędkość każdej cząsteczki we wszechświecie i dzięki temu może przewidzieć przyszłość i odtworzyć przeszłość. Koncepcja, że świat jest kwantyfikowalny kusi nas, bo to świat reguł, zasad, zdeterminowanych aksjomatami i porządkiem, które próbujemy odkryć i pojąć.
Tymczasem potencjalnie największy wynalazek i twór ludzkości - sztuczna inteligencja - wymyka się matematycznemu determinizmowi na rzecz prawdopodobieństwa: nie wiemy co wypluje. Trochę jakbyśmy wchodząc po drabinie niepodważalnej wiedzy musieli ją odrzucić na samym szczycie.
Jeśli kantowski zwrot kopernikański wskazywał, że nasze zrozumienie świata zależy od naszych umysłowych struktur, które kształtują nasze postrzeganie świata to może nadzieja, że świat jest matematyczny jest kolejną projekcją i nie różni się niczym od wiary w Boga?
Miłej niedzieli,
Kamil Stanuch
PS. Jak oceniasz dzisiejszy mail?