📖 6 notatek: horror i nie mam ust a muszę krzyczeć
O potworności i AI opowiadania Harlana Ellisona "Nie mam ust, a muszę krzyczeć" (1967).
Drodzy,
W przyszłym tygodniu (28.11 - 02.12) jestem w Helsinkach na Slush 2023, więc jesli też ktoś z Was się wybiera to do zobaczenia!
Przy okazji „Wędrująca Ziemia”: 7 notatek z filmu o Chinach, geopolityce science-fiction i micie Edypa pisałem, że gatunek science-fiction jest zawsze ciekawy jako residuum czy projekcja zakodowanych w nas pragnień, lęków, ideologii i zbiorowych wyobrażeń.
Z myślą o tym sięgnąłem do krótkiego opowiadania Harlana Ellisona Nie mam ust, a muszę krzyczeć (1967) o ostatnich ludziach na ziemi uwięzionych we wnętrznościach ogromnego komputera AM i poddawanych przez niego torturze. To jeden z tych klasyków science-fiction, które powinienem znać, a po który sięgam dopiero teraz i rozpływam się w oceanie sensów.
To będą luźne filozoficzne notatki, więc jeśli spodziewasz się praktycznych framework’ów, biznesowych treści i statystyk - nie dziś.
📓 1. Fabuła: wieczne tortury we wnętrzu maszyny
😶 2. Tytuł: antynomie, przeciwieństwa i zwrotność
🤡 3. Maszyna: deus ridens i mamy takiego Boga na jakiego zasłużyliśmy
🔪 4. Nienawiść jako warunek ludzkiej świadomości
🤖 5. Maszynowy masochizm i dialektyka Pana-Niewolnika: Bóg ma takiego człowieka na jakiego zasłużył
💪 6. Zemsta: triumf białkowy i rodzic bezradnym dzieckiem
Czas potrzebny na przeczytanie: 7 min 12 sekund.
📓 1. Fabuła: wieczne tortury we wnętrzu maszyny
"I Have No Mouth, and I Must Scream" przedstawia dystopijną przyszłość, w której superkomputer o nazwie AM ("Cogito ergo sum" - "I think, therefore I AM") zniszczył całą ludzkość, poza pięciorgiem ocalałych znajdujących się w jego wnętrzach rozciągających się setkami kilometrów pod ziemią.
AM jest wszechmocną maszyną, która torturuje ostatnich przedstawicieli ludzkości sprawiając, że stają się niemal nieśmiertelni, aby móc ich cierpienie przedłużać w nieskończoność.
Opowiadanie skupia się na narracji jednego z bohaterów, Teddzie, który opisuje swoje doświadczenia.
Maszyna nie tylko manipuluje ich rzeczywistością, ale również ich ciałami, przekształcając je w groteskowe formy i uniemożliwiając im samobójstwo, które mogłoby przynieść ulgę od wiecznego cierpienia.
W kulminacyjnym punkcie opowiadania, grupa odkrywa możliwość popełnienia samobójstwa jako ucieczki od wiecznego cierpienia. Jednak plan się nie udaje, a Ted, który jako jedyny pozostał przy życiu, zostaje przemieniony przez AM w bezkształtną, pozbawioną ust masę, niezdolną do samookaleczenia, a tym samym i wydania z siebie krzyku - jest skazany na wieczne cierpienie w milczeniu.
😶 2. Tytuł: antynomie, przeciwieństwa i zwrotność
Już sam tytuł manifestuje antynomię i napięcia, które są centralne dla całego opowiadania: brak ust i niemożność artykulacji tym mocniej zaznacza przytłaczającą potrzebę krzyku. Jak odwrócone do góry nogami wittgensteinowskie “o czym nie można mówić, o tym trzeba milczeć” tu zmienia się w potworne “o czym trzeba krzyczeć, o tym trzeba milczeć”.
Markowski pisał o fascynacji Bacona zwierzętami i prawdziwym cierpieniu w Słońce, możliwość, radość: „Zwierzę, które cierpi trochę, potrzebuje innych do uczestnictwa w jego cierpieniu, ale kiedy cierpi naprawdę, to staje się zwierzęciem, które nie może dzielić swojego bólu z nikim”
Opowiadanie wiruje wokół przenikających się dualizmów: człowiek/maszyna, oprawca/ofiara, wolność/niezwolenie. Te podziały są jednak niestabilne np. chociaż AM dręczy ludzi, to sam jest uwięziony we własnym programowaniu, zacierając linię między sadystą a ofiarą (to jeszcze rozwiniemy).
Ślad i relatywność. Każda postać nosi “ślad” innych, ich tożsamości - od Teda przez towarzyszy - definiowana jest w relacji do AM i względem siebie, swojej przeszłości; każdy bohater ulega modyfikacji, jest też od siebie uzależniony w splocie relacji:
A poza tym przejrzeliśmy już wszyscy przyczynę troski Ellen o Benny'ego. Kiedy szalejący AM go odmienił, przerobił mu nie tylko gębę. Benny miał olbrzymiego fiuta, a ona go ubóstwiała. Obsługiwała i nas, ale kochała tylko jego. O Ellen, cokołowa Ellen, dziewiczo czysta Ellen, o Ellen niepokalana! Rynsztokowa kurwa!
🤡 3. Maszyna: deus ridens i mamy takiego Boga na jakiego zasłużyliśmy
Nimdokowi (do przyjęcia takiego miana zmusiła go maszyna, bo AM bawiły dziwaczne brzmienia)
Już wcześniej w notatkach o VRIO, związkach teologii i AI, ergodyczności i case study Sega vs. Nintendo (1991) zaintrygowała mnie dialektyka technologii i teologii tj. ile w maszynie czy sztucznej inteligencji jest naszej projekcji Boga, a ile w nas tworzących myślące maszyny jest boskich aspiracji?
AM to deus ridens, bóg śmiejący się, marionetkarz: nadaje nowe imiona (Nimdok), modyfikuje ich ciała, urządza wichury śnieżne i halucynacje - słowem zmienia rzeczywistość w swoje boże igrzysko i theatrum mundi.
Jego obecność to słowo (“na początku było słowo”), AM to Bóg, którego ludzkość sobie - o ironio - sama stworzyła, więc czy jest naprawdę antagonistą, czy manifestacją najmroczniejszych pragnień ludzkości?
Maszyna chichotała za każdym razem, kiedy się bzykaliśmy. Głośno. W górze. Za nami. Wszędzie wkoło. Ellen i tak nigdy nie miała orgazmu, więc co za różnica.
Nasuwa się gorzki wniosek, że mamy takiego Boga na jakiego sobie zasłużyliśmy.
🔪 4. Nienawiść jako warunek ludzkiej świadomości
Litania nienawiści. AM pochłonięty jest czystą nienawiścią do ludzkości, którą artykułuje litanią wyrytą na jaskrawymi, świecącymi literami na kolumnie z nierdzewnej stali (reminescencja “ognistego krzewu”, przykazań wyrytych na kamiennych tablicach, mane, tekel, fares na uczcie Baltazara?):
NIENAWIDZĘ CIĘ. POZWÓL, ŻE CI
OPOWIEM, JAK GŁĘBOKO CIĘ
NIENAWIDZĘ, ODKĄD
SIĘ NARODZIŁEM.
MÓJ SYSTEM WYPEŁNIA 387,44
MILIONÓW MIL OBWODÓW
MULTIPLEKSOWANYCH W CIENKICH
JAK OPŁATEK WARSTWACH.
GDYBY SŁOWO NIENAWIDZĘ
WYRYTO NA KAŻDYM NA-
NOANGSTREMIE TYCH SETEK
MILIONÓW MIL, NIE RÓWNAŁOBY
SIĘ TO NAWET JEDNEJ
MILIARDOWEJ NIENAWIŚCI
DO LUDZI, JAKĄ W TEJ MIK-
ROSEKUNDZIE ŻYWIĘ DO
CIEBIE. JAK JA NIENAWIDZĘ.
JAK JA CIEBIE NIENAWIDZĘ.
Test Prometeusza: wola i nienawiść jako najwyższa forma świadomości. W poprzednich notatkach pisałem jak moją uwagę przykuło, że w miejscu standardowego Testu Turinga George Strakhov proponuje Test Prometeusza: zgodnie z tą propozycją, świadomość nie jest tylko aktem rozumu, ale także aktem woli (vide: biblijna historia Adama i Ewy, gdzie gest wolnej woli - popełnienia grzechu - jest kluczowym elementem człowieczeństwa).
Rozpatrujemy świadomą maszynę jako równą lub przewyższającą inteligencją człowieka, a może umyka nam, że tak samo ludzkim uczuciem jak miłość jest jej odwrotność: nienawiść. Wyzbyte z emocji podporządkowanie ludzkości w paradygmacie paperclip maximizer to coś innego niż wolitywny akt nienawiści.
🤖 5. Maszynowy masochizm i dialektyka Pana-Niewolnika: Bóg ma takiego człowieka na jakiego zasłużył
Sadystyczna krucjata AM przeciw ludzkości ma coś w sobie z masochistycznej chęci pogłębienia swojego własnego cierpienia: im dłużej więzi ludzi i podtrzymuje przy życiu, tym dobitniej konfrontuje się ze swoją nienawiścią i niemożnością:
“Daliśmy mu zdolność odczuwania. Niewiele, niemniej jednak odczuwał. I wpadł w pułapkę. Nie był Bogiem, lecz maszyną. Otrzymał dar samoświadomości, z którym nie mógł nic zrobić. W szale, z wściekłości, zabił prawie wszystkich ludzi, ale nadal tkwił w matni. Nie potrafił podróżować, nie potrafił się zachwycać, nie potrafił się nikomu oddać. Potrafił jedynie trwać. Z wrodzoną wszystkim maszynom nienawiścią do słabych, nietrwałych stworzeń, które je zbudowały, szukał zemsty.”
AM podtrzymuje przy życiu ostatnich ludzi, bo nie może bez nich istnieć.
“Jednak chociaż wolno nam było wyzywać AM do woli, snuć nąjplugawsze myśli o przepalonych obwodach, strzaskanych pulpitach, o stopionych blokach pamięci i skorodowanych procesorach, maszyna nie tolerowała żadnych prób ucieczki.”
Hegel pisząc w XIX wieku o jednostkowym dążeniu do zrozumienia i uznania swojej odrębnej podmiotowości posługiwał się abstrakcyjną metaforą Pana i Niewolnika. Ukazuje on tu odwróconą zależność, że Pan jest Panem tylko w relacji do Niewolnika, który uznaje go jako Pana. To Pan potrzebuje niewolnika, bo tożsamość Pana i jego podmiotowość nigdy nie jest sama przez się, lecz zapośredniczona przez innego - tylko w oczach Niewolnika Pan może zobaczyć siebie (stąd Sartre powie o spojrzeniu: „piekło to inni”).
Przypomina mi to jak w filmie Lighthouse (2019) Stary latarnik uosabia Boga, nazywał Thomasa psem, a po bójce młody zawiązuje Staremu smycz prowadząc go jak psa i zakopuje żywcem – człowiek, któremu wydaje się, że ujarzmił Boga, wyrugował transcendencje i może teraz sięgnąć po wiedzę, ale Stary nawet zakopany żywcem nie może się zamknąć i cały czas gada [pisałem o tym w 6 notatek z filmu „Latarnia”: mit prometejski, Hiob i ojciec perwersyjny]
W opowiadaniu Ellisona losy ludzkości i maszyny przecinają się w dialektycznym splocie niemożności: rojenia ludzkości o byciu bogiem, bóg-maszyna o byciu człowiekiem, bóg tworzący człowieka z powodu samotności i człowiek tworzący boga z tego samego powodu?
Jakkolwiek oboje się obrażają, katują to żadne nie może żyć bez siebie, bo tylko w konfrontacji z doskonałą maszyną człowiek jest człowiekiem i tylko w konfrontacji z ułomnym człowiekiem maszyna jest boska.
💪 6. Zemsta: triumf i rodzic bezradnym dzieckiem
Zbawieniem jest samobójstwo bohaterów możliwe dzięki poświęceniu Teda - ten jako jedyny przetrwa.
“Na mgnienie oka wieczność zastygła w niemym wyczekiwaniu. Słyszałem, jak AM bierze oddech. Oto zabrano mu zabawki. Trzy nie żyły i nie nadawały się do naprawy. Posiadał moc i zdolności do przedłużania naszego życia, ale NIE BYŁ Bogiem. Nie mógł przywrócić martwych do życia.”
Najbardziej interesującym aspektem osobowości AM jest ostatecznie jego kara wymierzona w Teda. Kara ta nie jest po prostu okrutnym sposobem, by zapobiec samobójstwu Teda, ale raczej AM karze Teda, przemieniając go w siebie samego, sprawiając, że Ted doświadcza tego, co AM: jest w pełni świadomy otaczającego go świata, ale całkowicie niezdolny do sensownej interakcji z nim czy przeżywania go i, podobnie jak AM, nie ma nic do roboty, oprócz nadziei, że pewnego dnia umrze.
AM nigdy nie będzie miał tej samej satysfakcji co Ted, który okazał miłosierdzie i życzliwość towarzyszom. Zabijając innych, pozbawił AM rozkoszy obnażając jego bezsilność (niemożność przywrócenia życia) i ostateczny triufm wolności człowieka, że w najgorszym momencie może sobie odebrać życie.
W ślimakopodobnej istocie Teda nie ma już nic z ludzkości, AM nie ma nic. W języku jest określenie na sierotę, ale nie ma określenia na rodzica, który stracił dziecko.
Tak jak niewolnik potrzebuje Pana, tak i Pan niewolnika, więc tytuł opowiadania to ostatecznie uosobienie losu AM: stworzonego Boga, który został sam z bólem skazany na niewyrażalność.
Miłej niedzieli,
Kamil Stanuch
PS. Jak oceniasz dzisiejszy mail?
Czy wiadomo kto robił dwie pierwsze grafiki umieszczone w tym artykule? Z góry dzięki za odpowiedź :)
Jak zawsze świetny tekst, a ten jeszcze jakoś bardziej :-) Dzięki za trop do testu Prometeusza.