Od-ludzka inteligencja

Czyli: "Jak wychować młodszego brata, który jest naszym synem. Krótki poradnik unikania konfliktu pokoleń." Zapis prelekcji wygłoszonej dla 7 osób na Śląskich Dniach Fantastyki.



Skąd pomysł na prelekcję? 

Było to tak: napisała do mnie Siem (Anna Hrycyszyn) i zaprosiła jako gościa na Śląskie Dni Fantastyki, argumentując, że konwent jest blisko, więc może wyjątkowo się pojawię. Argumentacja była słuszna, więc się zgodziłam, a potem zaczęłam się zastanawiać, o czym tak naprawdę chcę opowiedzieć. Intuicja podpowiadała, że najlepiej o czymś, co mnie kręci - ale nie sądzę, by wielu ludzi interesował wybór zasłon do dużego pokoju. Takoż drugi z moich pomysłów, czyli tabele przestawne, ale ten trop doprowadził mnie do tego, że może "pracowe" tematy mogą służyć jako punkt wyjścia.

Na początku był bot...

Nazywał się Laura Eden i wyglądał tak:

Laura odezwała się do mnie na LinkedIn i zaproponowała mi pracę w Szwecji, na trzy miesiące. Zwykle sprawdzam profile osób, z którymi rozmawiam, więc i na Laury profil zerknęłam. Zainteresowało mnie to, że każda aktywność Laury była dosyć schematyczna, a każda jej rozmowa wyglądała podobnie i sprowadzała się do tego, by kandydat wysłał swoje CV.

Właściwie nie wiem, czy zadaniem Laury było bardzo aktywne szukanie kandydatów czy raczej wyłudzanie danych osobowych; ważne jest to, że był to pierwszy bot w moim życiu, który tak dobrze udawał człowieka. Laura "pracowała" nawet jako opiekunka dla dzieci  - iluzja człowieczeństwa była naprawdę przemyślana. Gdy rozmawiam z chatbotami (np. z biura podróży) wiem, że tak naprawdę to program reagujący na słowa kluczowe według napisanego scenariusza. Laura była kolejnym krokiem w rozwoju robotyki.

Co dziś oznacza „robotyka”?

No właśnie, bo dziś robotyka nie oznacza zbudowania ramienia malującego zderzaki Fiatów w fabryce samochodów - a przynajmniej nie tylko. Bardzo dynamicznie rozwija się robotyka medyczna, zarówno protetyczna, jak i chirurgiczna. Ale ja również, pracując w kadrach, pracuję z robotami. W jednym z systemów zautomatyzowano dwa procesy. Programom je obsługującym nadano nawet imiona. Ich zadaniem jest oszczędzenie czasu poświęcanego na proste, powtarzalne zadania, by pracownik-człowiek mógł zająć się czymś wymagającym większej inwencji. Dlatego na razie nie musimy się obawiać, że w pracy zastąpią nas roboty. Co innego nasze dzieci czy wnuki...

Back to the past

Smutna prawda jest taka, że obawiamy się robotów. Częściowo jest to obawa o pracę, częściowo  poczucie "uncanny valley", gdy robot zbyt przypomina człowieka. Ale podstawową obawą jest coś, co ma swoje źródło w niezwykłej powieści napisanej ponad 200 lat temu. W 1816 lato było mokre i pochmurne, więc grupa Anglików spędzająca wakacje nad Jeziorem Genewskim zabawiała się wymyślaniem niesamowitych opowieści. Dziewiętnastolatka o imieniu Mary wymyśliła historię mrożącą krew w żyłach, o naukowcu, który za pomocą elektryczności ożywia istotę pozszywaną z ludzkich szczątków. Istota ta tak bardzo różni się od ludzi, jednocześnie chcąc się do nich upodobnić, że doprowadza to do tragicznych w skutkach konfliktów. Powieść nosi tytuł "Frankenstein, czyli nowoczesny Prometeusz" i wywołała traumę na setki lat.

...wszystko, co uczynił, było bardzo dobre

Warto jednak pamiętać, co leżało u podstaw powieści. Otóż doktor Frankenstein, próbując stworzyć życie, uzurpował sobie prawo przysługujące bogu. I to w każdej religii: chrześcijaństwo, islam, mitologia babilońska (Enkidu), mitologia chińska, mitologia egipska czy grecka (Prometeusz ulepił człowieka z gliny, ale to Atena go ożywiła) - wszędzie to bogowie tworzą życie. Gdy uzurpuje je człowiek, musi ponieść karę. Dziś, w epoce in vitro czy klonowania, nadal boimy się potwora Frankensteina, ale z innych powodów: obcości, moralności czy emocji. To są też kluczowe aspekty, którymi zajmują się dzieła kultury.

Trauma na zawsze?

W XX wieku roboty i sztuczna inteligencja w filmach zazwyczaj chciała wykończyć ludzkość - i szczerze mówiąc zwykle miała całkiem logiczne powody - a u podstaw leżała trauma wywołana przez Mary Shelley Wollstonecraft. Nie wierzycie? Oto kilka przykładów.

W "Odysei kosmicznej 2001" sztuczna inteligencja zarządzająca statkiem gdzieś w drodze do Jowisza zyskuje świadomość i postanawia wykończyć załogę. HAL9000 jest wyjątkowo skuteczny w swoim szaleństwie, choć jego przyczyny pozostają niejasne. Ważne jest poczucie bycia na łasce maszyny w kosmosie (gdzie nikt nie usłyszy naszego krzyku... ekhem...)

W "Blade Runnerze" na Ziemię wraca kilkoro replikantów: robotów wyglądających jak ludzie, ale będących od nich lepszymi pod każdym względem za wyjątkiem emocji. Co w sumie nie jest dziwne, bo już dzisiaj wiemy, jak zaprogramować inteligencję, ale emocje, a tym samym moralność, to nadal coś poza naszym zasięgiem. W efekcie replikanci, którzy prawdopodobne mogą być o wiele bardziej skuteczni niż ludzie w kolonizowaniu nowych planet, dostają od twórców wyłącznik: po określonej liczbie lat po prostu zostaną automatycznie zdezaktywowane. Osobiście na ich miejscu też bym się zirytowała oraz próbowała przedłużyć własne życie.

Kolejny przykład: Skynet, czyli sieć wojskowa, zyskuje świadomość i robi to, co zostało jej zaprogramowane: ma zakończyć wojnę. A najlepiej zrobić to wykańczając ludzkość. Wyraźny błąd w programowaniu, ale jak zwrócił uwagę jeden z uczestników prelekcji, Google ostatnio wycofało ze swoich baz danych wyrażenie "do no harm". W przypadku Skynetu pewnie tej frazy nigdy w bazach nie było :D. Oczywiście ludzie okazują się być bardzo odporni na eksterminację, w dodatku podejmują nierówną, acz bohaterską walkę. Co ciekawe, Skynet tworzy maszyny na swoje usługi, ale żadna z nich nie jest obdarzona świadomością, a są tylko zaprogramowanymi narzędziami (John Connor jednego z nich przeprogramowuje).

Na nowy wątek w tej narracji musieliśmy czekać aż do 2004 i remake "Battlestar Galactica". Cyloni są stworzeni przez ludzi, ale też są w stanie między nimi żyć. Ba, w pewnym momencie zaszczepiają ludzkości monoteistyczną (samowykształconą) wiarę. Serial zdaje się sugerować, że porozumienie i wspólna przyszłość z rasą, która rozmnaża się na co najmniej dwa różne sposoby, bardzo nas przypomina, a jednocześnie jest od nas lepsza jest możliwe.

Back to the future!

Jako podstawę do rozważań wybrałam trzy przykłady autorek SF. Najstarsza z omawianych powieści pochodzi z 2013 roku. Każda z pań proponuje nieco innych następców ludzkości, ale w każdym wypadku istoty te są stworzone przez ludzi. Ważny jest również optymizm - wspólna egzystencja z od-ludzką inteligencją jest nie tylko możliwa, ale przede wszystkim konieczna.

Doctor Watson, I presume?

Pierwszy przykład to nowela z 2018 roku, napisana przez Aliette de Bodard pod tytułem "The Teamaster and the Detective". Jest to retelling Sherlocka Holmesa - tylko Sherlock jest kobietą (nic nowego, chciałoby się rzec), a doktor Watson - statkiem kosmicznym. Ale nie byle jakim: urodzony przez ludzką matkę The Shadow's Child przenosił ludzi pomiędzy wymiarami aż do wypadku, który spowodował u niego PTSD. Teraz The Shadow's Child pracuje jako mistrz herbaty, aż któregoś dnia zgłasza się do niego detektyw zainteresowana herbatą niwelującą skutki przyjmowanych narkotyków - reszta to historia.

To, co odróżnia "The Teamaster and the Detective" od innych podobnych kreacji (por. „Światło” M. Johna Harrisona) to fakt, że The Shadow's Child został urodzony przez ludzką matkę, ale umieszczony w mindship - de facto nigdy nie był człowiekiem. Posiada spora moc obliczeniową, która pozwala mu potrafi podróżować między wymiarami. Jednocześnie utrzymuje więzi rodzinne z ludzkim rodzeństwem i ich potomkami. "Mieszkania" mindshipów wyglądają na ludzkie - dzięki hologramom mogą nawet udawać, że jedzą lub piją. The Shadow's Child kolekcjonuje złe książki (w ebookach) oraz pracuje poza wyznaczoną ścieżką kariery. Mimo bycia statkiem wydaje się być bardziej ludzki niż wynajmująca go detektyw.

Statki kochają swoich kapitanów

Jedną z moich ukochanych książek jest "Ancillary Justice" Ann Leckie z 2013 roku. Główną bohaterka jest statek, który w wyniku zdrady został relegowany do jednego ludzkiego ciała. OK, zacznę od początku: Breq była kiedyś inteligencją zarządzającą okrętem wojennym imperium Raadchaii oraz oddziałami ancillaries (czyli ludzkimi ciałami pozyskanymi z podpitych planet, pozbawionych świadomości oraz wcielonych do armii - nie byli to ludzie w rozumieniu Raadchaii, jak w imperium rzymskim nie każdy był obywatelem), ale w momencie rozpoczęcia powieści ma tylko jedno ciało - i zdecydowanie nie jest człowiekiem, choć próbuje go udawać. Jednocześnie wiemy, że Breq nie jest obcym per se - została stworzona przez imperium ludzi; co nie zmienia faktu, iż przez cały cykl trzech powieści walczy o swoje obywatelstwo - a raczej o prawo do jego posiadania.

Wydaje się, że główną różnicą między The Shadow's Child a Breq jest wbudowane w Breq zabezpieczenie, dawane każdemu statkowi: nawiązują więź emocjonalną z kapitanem, choć mogę mieć również ulubieńca wśród załogi. Więc nie tylko świadomość, ale i emocje świadczą o tym, że Breq to od-ludzka inteligencja, w dodatku taka, której należy się obawiać.

Netflix and chill

Mój trzeci przykład jest najzabawniejszy: to Murderbot z "Murderbot Diaries" Marthy Wells (2017). Tak zwana Security Unit, to pół człowiek, pół maszyna, jeśli chodzi o ciało (części organiczne regenerują się zdecydowanie szybciej i nie wymagają magazynowania), zbudowany jako ochroniarz. Wyposażony w bardzo autonomiczna inteligencję, ale również governor module mający na celu opanowanie zabójczej istoty, którą niewątpliwie jest. Ten konkretny sec unit zhakował swój governor module, by móc oglądać opery mydlane. Jest też introwertykiem i ma problemy z relacjami, erm,, międzyludzkimi, z braku lepszego określenia.

Jednocześnie Murderbot jest bardziej ludzki od niektórych ludzi. Są również społeczeństwa, w których przysługują mu prawa obywatelskie (oczywiście są również takie, gdzie jest po prostu własnością korporacji). Oprócz sec units istnieją również od-ludzkie inteligencje, których głównym zadaniem jest seksualne zaspokajanie ludzi (seks i przemoc, dwa główne motywy działań ludzkości...)

Czas Kalibana

Z wszystkich trzech przytoczonych książkowych przykładów od-ludzkiej inteligencji bije jedno przesłanie: lepiej być dla nich miłym. Są od nas lepsi, mimo że stworzeni przez nas (kłania się Pigmalion) i mimo tego, iż odmawiamy im praw. Mogą zacząć swoje życie jako "narzędzia", ale jeśli nie chcemy, by "odziedziczyli ziemię", tylko mieszkali obok nas, wykażmy się najpierw człowieczeństwem.

Podatki i śmierć

Jakiś czas temu robot o imieniu Sophia otrzymał komplet praw obywatelskich w Arabii Saudyjskiej. Jest to fakt o tyle znamienny, że było to przed tym, zanim Saudyjki otrzymały prawo do prowadzenia samochodów - a Sophia, jak imię wskazuje, emuluje kobietę. Choć dyskusja o ignorowaniu mniejszości i proponowanym ustawodawstwie mającym na celu sprawowanie nad nimi kontroli jest sprawą niezmiernie ważną, chciałabym się pochylić nad inną kwestią - a pochylają się nad nimi również rządy UK i Korei - czyli podatkami, prawem pracy oraz śmiercią. Skoro boty wykonują pracę, to ta praca powinna być wynagradzana. Skoro wynagradzana - to powinny zostać od niej odprowadzone podatki. Zarobek powinien być dziedziczony - ale przez kogo? A co ze "śmiercią" - czy wyłączenie bota to morderstwo? Czy upgrade bota to następstwo pokoleń? Czy konieczne jest odprowadzanie składek emerytalnych? A co z opieką medyczną?

Wydawać się może, że żartuję, ale tak nie do końca jest. Na razie jesteśmy na etapie pozbawionych świadomości programów, ale ciągle pracujemy nad osiągnięciem wyższego poziomu (na razie udało nam się doprowadzić do samobójstwa semi-AI). Debata nad prawami jest uzasadniona i konieczna - inaczej Skynet zamiast fikcyjnego zagrożenia może być całkiem realnym.

Popularne posty