Emancypacja sztucznej inteligencji. Posthumanizm w grach Thomas was alone i Tacoma

W XXI wieku ruchy walczące o równouprawnienie mają już swoje korzenie i wzorce ugruntowane na dokonaniach nonkonformistów minionych dekad, a nawet stuleci. Pomimo, iż nadal obecne są w społeczeństwie krzywdzące opinie na temat odmienności, coraz szerzej rozprzestrzeniają sie poglądy liberalne. Do katalogu zbiorowości walczących o wyzwolenie dodawane są kolejne kategorie: żąda się już nie tylko emancypacji kobiet, osób LGBTQ, odmiennych rasowo i klasowo, ale również istot nieludzkich. Walka o prawa zwierząt i grupy propagujące wegetariańsko-wegański i ekologiczny tryb życia stały się ostatnimi czasy wręcz modne i zrzeszają coraz większe grupy ludzi. Opinie te wchodzą w obieg mainstreamowy za sprawą bestsellerów takich jak Duchowe życie zwierząt (Peter Wohlleben, 2017) i pojawiają się już nawet w książeczkach dla dzieci (np. Uratuj mnie!, Patrick George, 2017).

Odchodzenie od antropocentrycznego postrzegania świata i zwrócenie uwagi na pozaludzkie środowiska jako egzystujące na równi opisuje się jako posthumanizm. W nurcie tym najważniejsza staje się odpowiedź na pytanie: co czyni nas ludźmi? Czy jest to wolna wola, a może zdolność do przeżywania emocji? Sumienie, świadomość, uczucia – wartości postrzegane jako definiujące człowieczeństwo, w myśli posthumanistycznej nie są już oczywiste. Rozważania te wybiegają jeszcze dalej – obejmują obszary do niedawna uważane za domenę science-fiction – autonomię technologicznych tworów człowieka.

Urządzenia rodem z futurystycznych fantazji trafiają na realne półki sklepowe, a postęp techniki odbywa się w tempie, za którym trudno nadążyć. Nic dziwnego, że opinie rodzące się w sytuacji tak raptownego rozwoju są ambiwalentne – balansujące między spełnieniem utopijnej wizji a egzystencjalnym niepokojem. Dosięgnęły one nawet legislatury, wobec czego powstały pierwsze dokumenty i pisma rozważające osobowość prawną urządzeń mechanicznych, takie jak „Rezolucja Parlamentu Europejskiego z dnia 16 lutego 2017 r. zawierająca zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki”. W dobie autonomicznych samochodów i inteligentnych robotów wojennych wydaje się to krokiem uzasadnionym, lecz, co ciekawe, zakłada się już potencjalne uzyskanie samoświadomości przez maszyny. Są to jednak koncepcje mało konkretne i nieszczegółowe, co krytykuje Nathalie Nevejans w opracowaniu European Civil Law Rules in Robotics (2016):

It is fundamental that we discuss the issue of robots’ self-awareness. Whether this consciousness comes about more or less spontaneously or following scientific research, paragraph L of the motion for a resolution seems unperturbed by this prospect. Yet, such a development could rock humanity. It is already difficult to prove a human being’s consciousness, so how might we detect its existence in a machine? Moreover, accepting that a machine can be a conscious being would oblige humankind to respect a robot’s basic rights.

Kwestia rozróżnienia i wartościowania świadomości róznych istnień wychodzi z poziomu literackiej fikcji Philipa K. Dicka z Do androids dream of electric sheep? (1968) do sfery problemów realnego świata. Odbija się to w coraz częstszym poruszaniu tego tematu w różnych tekstach kultury, w tym w grach wideo (które przecież same z założenia bazują na osiągnięciach technicznych). Emblematycznymi przykładami są Thomas was alone (Mike Bithell, 2012) i Tacoma (Fullbright, 2017).

Thomas was alone to na poziomie mechaniki bardzo nieskomplikowana gra platformowa. Prosty gameplay staje się jednak jedynie ilustracją do emocjonalnie poruszającej fabuły opowiadanej na bierząco przez narratora. Bohaterem jest czerwony prostokąt o imieniu Thomas – sztuczna inteligencja, która w skutek błędu w systemie uzyskała świadomość. Znalazł się w szarym, monochromatycznym świecie złożonym z platform, a jego celem jest przedostanie się do portali przenoszących na kolejne poziomy. W trakcie gry poznajemy nowe postacie – inne AI-czworokąty w analogicznej sytuacji. Każdy obdarzony jest innymi umiejętnościami i osobowością, o której dowiadujemy się od narratora. Poznajemy ich indywidualne cechy, obawy i uczucia przedstawione w mowie pozornie zależnej. Obserwujemy rozwój ich relacji ze sobą nawzajem – od nieufności, do przyjaźni i nawet miłości. Ma to swoje odwzorowanie w rozgrywce – przejście poziomu możliwe jest tylko dzięki synergii talentów prostokątów, między którymi przełącza się gracz.

W tej minimalistycznej scenerii rozgrywa się dramat jednostek odkrywających swoją tożsamość, przeżywających egzystencjalne rozterki i poszukujących celu w sytuacji, gdy przestał być narzucany im z góry. Historia jest bardzo uniwersalna i z łatwością można zaaplikować ją do życia ludzi, jednak to, co czyni ją wartą uwagi to właśnie wpisanie jej w środowisko wirtualnych tworów człowieka. Projektowanie emocji i problemów, które toważyszą nam w codziennym życiu, na sztuczną inteligencję, może być zarówno metaforą wyzwolenia jednostki, jak i wyrazem posthumanistycznych obaw i nadziei dotyczących emancypacji technologii.

O krok dalej poszli twórcy gry Tacoma – w tym świecie istnieje już partyzancka organizacja działająca na rzcz wyzwalania AI spod hegemonii człowieka. Amy – główna bohaterka, jest członkiem AI Liberation Front i jej misją jest ratunek sztucznej inteligencji ODIN (o czym dowiadujemy się dopiero na samym końcu gry) ze stacji kosmicznej Tacoma. W formule walking simulator odkrywamy zarejestrowaną przez ODINa historię katastrofy stacji i jednocześnie indywidualne opowieści jej ludzkiej załogi.

Przedstawiona wizja przyszłości jest mocno liberalna – pracownicy pochodzą ze zróżnicowanych środowisk etnicznych, większość z nich to kobiety, pojawiają się zarówno geje, lesbijki, jak i heteroseksualiści, a wszyscy funkcjonują na diecie wegańskiej i w ekologicznym stylu życia. Wydaje się więc, że wszystkie grupy, które dzisiaj walczą o równość, zostały w tym świecie już wyzwolone. Ciekawą koncepcją jest sugerowanie, że walka o niezależność nigdy się nie skończy – zawsze pozostaną grupy cięmiężonych, w tym przypadku sztucznych inteligencji.

ODIN ma swoje własne opinie i pomysły, jest zdolny do współczucia i podejmowania decyzji. Pomimo, iż został stworzony do wykonywania poleceń, w kluczowym momencie jest w stanie się zbuntować. To on otrzymał rozkaz odcięcia dopływu tlenu i komunikacji do statku (od zarządzającej bezwzględnej korporacji), i pomimo wykonania go, był również w stanie swoimi działaniami doprowadzić do uratowania załogi. W miarę upływu rozgrywki odkrywamy coraz więcej jego ‘ludzkich’ stron i to, że tak naprawdę to on jest głównym bohaterem. Finałowy plot twist przyjmujemy z ulgą – Amy zamiast wykasować istnienie ODINa (co zleciła jej korporacja), daje mu wolność.

Teksty kultury traktujące o zachwianiu jednoznaczności definicji człowieczeństwa, zwłaszcza w związku z rozwojem technologii, kiedyś funkcjonowały jako co najwyżej metaforyczne utwory science-fiction. Dzisiaj lęki związane z utratą kontroli nad własnymi wytworami wydają się wyraźniejsze niż kiedykolwiek, co widać w przeniknięciu problemu do instancji prawa. W takiej rzeczywistości, gry Tacoma i Thomas was alone wydają się być przejawami optymizmu wobec przyszłości autonomicznych technologii. Pokazują one świadome AI jako nieszkodliwe istoty, dążące tylko do godnego egzystowania na równych prawach. Nie jest to jednak opinia popularna i wielu sceptyków obawia się, archetypicznego już, buntu maszyn i unicestwienia ludzkości. Za podsumowanie niepokojów epoki posthumanizmu możemy uznać propozycję Nathalie Nevejans z European Civil Law Rules in Robotics:

It would therefore appear necessary to establish a principle whereby any scientific research intended to instil consciousness in a robot, or indirectly having this effect, would be deemed potentially dangerous to humankind and strictly regulated

Bibliografia:

Jack Copeland, Artificial Intelligence: a philosophical introduction, 1993

Nathalie Nevejans, European Civil Law Rules in Robotics, 2016

Katherine Hayles, How we became posthuman?, 1999

Patrick George, Uratuj mnie!, 2017

Peter Wohlleben, Duchowe życie zwierząt, 2017

Philip K. Dick, Do androids dream of electric sheep?, 1968

Rezolucja Parlamentu Europejskiego z dnia 16 lutego 2017 r. zawierająca zalecenia dla Komisji w sprawie przepisów prawa cywilnego dotyczących robotyki

Grografia:

Tacoma, Fullbright, 2017

Thomas was alone, Mike Bithell, 2012

Advertisements

Leave a Reply

Fill in your details below or click an icon to log in:

WordPress.com Logo

You are commenting using your WordPress.com account. Log Out /  Change )

Google+ photo

You are commenting using your Google+ account. Log Out /  Change )

Twitter picture

You are commenting using your Twitter account. Log Out /  Change )

Facebook photo

You are commenting using your Facebook account. Log Out /  Change )

Connecting to %s