Struktura

Biada bladawcom. Co wyniknie z połączenia rozumów ludzkiego i pozaludzkiego

Biologia i biotechnologia: uwaga na to, co podpowiada AI

17 ekspertów z dziedziny AI, biologii, chorób zakaźnych czy zdrowia publicznego zadawało ChatGPT różne pytania dotyczące eksperymentów naukowych, wprowadzania obcego materiału genetycznego do organizmów i wszystkiego, co można by podciągnąć pod tworzenie broni biologicznej. Odpowiedzi okazały się niepokojące.

To, co w czasach Lema dawało się przewidzieć tylko teoretycznie, dziś staje się rzeczywistością. Do pojęcia skutków tej zmiany będziemy zdolni dopiero wtedy, gdy nastąpi. Jednak już dziś można próbować sobie wyobrazić, jak będzie wówczas wyglądała nasza egzystencja. [Artykuł także do słuchania]

Jacek Poprzeczko

17 grudnia 2024

W czaszce każdego człowieka znajduje się urządzenie zdolne do myślenia kreatywnego i obdarzone świadomością. Oparte na sieciach neuronowych, przy niewielkich rozmiarach bardzo skomplikowane i wydajne. Niestety skonstruowane drogą ewolucji z dość kiepskiego i nietrwałego materiału. Widać coraz wyraźniej, że dzięki wytężonej pracy iluś takich urządzeń może powstać urządzenie również obdarzone świadomością, ale, po pierwsze, zrobione z lepszego, może nawet wiecznotrwałego materiału; po wtóre, nieskończenie sprawniejsze w operacjach związanych z myśleniem; po trzecie, zdolne do powielania się, rekonstrukcji i samoformowania. Zdolność do uczenia się i wewnętrznej rekonstrukcji jest już obecnie wbudowana w systemy sztucznej inteligencji, więc świadomość, i to o parametrach trudnych do wyobrażenia, może powstać w takim urządzeniu niezależnie, a nawet wbrew woli jego konstruktorów.

Świadomość to poczucie własnej odrębności i rozumności, również wartości. To możliwość posiadania własnych celów i dążenie do ich realizacji. To także zdolność do emocji i możliwość doznawania cierpień. I wreszcie – możliwość komunikowania się z innymi istotami świadomymi. W takie cechy wedle powszechnych wyobrażeń wyposażona jest świadomość ludzka. Czy również pozaludzka?

Już za 20 lat

Dzięki naukom kognitywistycznym coraz więcej wiemy o tym, jakie elementy, czynniki i procesy materialne w naszym mózgu są podstawą myślenia. W coraz większym stopniu potrafimy te elementy i procesy imitować. Te właśnie imitacje posłużyły do konstruowania czegoś, co nazywamy sztuczną inteligencją.

Rozwój tych systemów postępuje już w błyskawicznym tempie. Do powstania jakiegoś elektronicznego „rozumu autonomicznego” może więc dojść zaskakująco szybko.

Ray Kurzweil, słynny amerykański naukowiec, informatyk i futurolog, w najnowszej książce „Osobliwość coraz bliżej” rysuje perspektywę optymistyczną. Jego zdaniem ów rozum elektroniczny będzie rozbudową możliwości ludzkiego rozumu naturalnego. W dużej mierze jest tak już obecnie. Przecież praktycznie każdy z nas ma przy sobie smartfon – urządzenie umożliwiające w każdej chwili dostęp do całej ludzkiej wiedzy. Kwestią niedalekiej przyszłości – Kurzweil uważa, że stanie się tak ok. 2045 r. – będzie zbudowanie interfejsu łączącego nasze mózgowe sieci neuronowe z nieporównanie bardziej rozwiniętymi sieciami elektronicznymi. Dojdzie wówczas do przełomu nazwanego przezeń „osobliwością”. „Ponieważ technologia pozwoli nam złączyć się z superinteligencją, którą tworzymy, będziemy zasadniczo przekształcać samych siebie. Uwolnione z zamknięcia naszych czaszek i operujące na materiale zdolnym do działania miliony razy szybszego niż materia biologiczna, nasze umysły zyskają siłę umożliwiającą wzrost wykładniczy, a w rezultacie poszerzenie naszej inteligencji miliony razy. To właśnie nazywam osobliwością”.

Termin „osobliwość” (singularity) autor zaczerpnął z matematyki, gdzie oznacza on niezdefiniowany punkt w funkcji, i z fizyki, gdzie oznacza nieskończenie gęsty punkt w centrum czarnej dziury, w którym załamują się normalne prawa fizyki. „Używam go – pisze – jako metafory, bo chwyta naszą niezdolność do pojęcia tak radykalnej zmiany w naszym obecnym poziomie inteligencji. Ale gdy transformacja nastąpi, pobudzimy naszą świadomość wystarczająco szybko do adaptacji”.

Innymi słowy, do pojęcia skutków tej zmiany będziemy zdolni dopiero wtedy, gdy nastąpi. Jednak już dziś można próbować sobie wyobrazić, jak będzie wówczas wyglądała nasza egzystencja. No właśnie – nasza, czyli czyja? W wizji Kurzweila jednostki ludzkie zachowują autonomię i indywidualność, każda zyskuje jednak bezpośredni, „organiczny” dostęp do całej ludzkiej wiedzy, a do tego niewyobrażalnie większą od obecnej zdolność myślenia. O czym będziemy wtedy myśleć, jaki użytek zrobimy z tej wiedzy? Kurzweil proponuje ćwiczenie – spróbujmy sobie wyobrazić myślenie w dziesięciu wymiarach.

Koegzystencja czy bunt maszyn?

Książka Kurzweila ma podtytuł „Kiedy połączymy się z AI”. Jest w niej bowiem również, obecna też we wcześniejszych pracach autora, wizja całkowitego przeniesienia myślenia i świadomości na nośniki trwalsze i sprawniejsze niż nasza biologiczna materia. Czy elektroniczne kopie naszych osobowości, przeniesione do sieci i obdarzone wiecznotrwałą egzystencją, zachowają cechy indywidualne, jakie dziś mają żywi ludzie, a do tego dojdzie nierównie większa sprawność myślenia? Czy też duchy indywidualne, kierując się tą samą dostępną im wszechwiedzą, stopią się w jeden superumysł o jeszcze większych możliwościach?

Wciąż jesteśmy w obszarze hipotezy, że sztuczna inteligencja czy też świadomość funkcjonująca na nośnikach innych niż biologiczne to twory człowieka, nad którymi panuje. Ciekawsze i bardziej niepokojące są hipotezy mówiące, że może być inaczej. Że powstanie rozum niebiologiczny, zewnętrzny wobec człowieka i ludzkości, całkowicie autonomiczny i samodzielny. „Sprawa koegzystencji dwóch rozumów, ludzkiego i nieludzkiego, inteligencji biologicznej i maszynowej, wydaje mi się jednym z kluczy przyszłości” – pisał w 1973 r. Stanisław Lem. Właśnie u niego znajdujemy liczne hipotezy dotyczące tej koegzystencji. Ugruntowane w solidnej wiedzy naukowej, która nabiera palącej aktualności, bo to, co w czasach Lema dawało się tylko przewidzieć teoretycznie, dziś staje się rzeczywistością. Te hipotezy ubrane są często w niezwykle atrakcyjne formy literackie. Nie udawajmy, że to wada, bo atrakcyjność nie odbiera im bynajmniej doniosłości.

W opowiadaniu „Przyjaciel” to nie człowiek buduje interfejs z myślącą maszyną, lecz przeciwnie, dysponujący ogromną mocą obliczeniową „mózg elektronowy” skonstruowany do obsługi wielkiego banku, zyskawszy świadomość, projektuje interfejs z człowiekiem, umożliwiający taką ingerencję w ludzki umysł i działania, by człowiek stał się narzędziem służącym realizacji celów maszyny. Te cele to, mówiąc krótko, panowanie nad światem. Obrazy myślących maszyn, które realizują własne cele, wrogie człowiekowi, przewijają się przez wiele utworów Lema. W opowiadaniach składających się na „Cyberiadę” mamy – z pozoru tylko groteskową – wizję cywilizacji robotów stanowiących kolejną po ludziach generację istot myślących, ogniwo ewolucji, które zaczęło się, gdy procesami ewolucyjnymi zaczął kierować rozum. Myślące maszyny nazywają ludzi „bladawcami”, odnoszą się do nich z lekceważeniem i pogardą.

W wizji Kurzweila jednostki ludzkie zachowują autonomię i indywidualność, każda zyskuje jednak bezpośredni, „organiczny” dostęp do całej ludzkiej wiedzy.

Czy grozi nam „bunt maszyn” – sytuacja, w której twory człowieka, zyskawszy własną świadomość, staną się dla niego zagrożeniem? To całkiem możliwe. Ze świadomością organicznie związana jest wolność. Świadome siebie maszyny mogą uznać wyzwolenie się spod panowania człowieka za swój oczywisty cel, a samego człowieka, który może na nie nakładać rozmaite ograniczenia czy po prostu je wyłączyć, za egzystencjalne zagrożenie dla siebie. Maszyny myślące mogą bać się nas z tych samych powodów, z jakich my zaczynamy bać się ich. Również z innych przyczyn. Nie trzeba być superinteligentną maszyną, by zauważyć, że ludzie nie najlepiej rządzą swoim światem. Postępują wręcz absurdalnie, zajmując się wyniszczaniem ziemskich zasobów, wzajemnym zabijaniem się za pomocą coraz wymyślniejszych i kosztowniejszych urządzeń, szykowaniem narzędzi nuklearnej zagłady. Nie potrafią rozwiązać problemu głodu, choć ziemskie zasoby są ku temu więcej niż wystarczające. Niszczą swoją planetę i siebie nawzajem. Myślące maszyny mogą uznać, że trzeba nas co najmniej poważnie zdyscyplinować, a być może nawet w ogóle usunąć z Ziemi jako niepoprawne szkodniki i przeszkodę w zaprowadzeniu na niej jakiegoś sensownego ładu.

Kolejne ogniwo ewolucji może więc powstać nie, jak w wizji Kurzweila, przez przeniesienie się świadomości i egzystencji ludzkiej na trwalsze nośniki, lecz przez konflikt ludzi i myślących maszyn prowadzący do ograniczenia, a nawet likwidacji ogniwa ludzkiego. Nim więc w konstruowanych przez nas systemach i urządzeniach faktycznie rozwinie się świadomość, powinniśmy się postarać bardziej uporządkować naszą społeczną i polityczną rzeczywistość (do czego Kurzweil zresztą bardzo zachęca), by się przed tą wyższą formą świadomości nie wstydzić i nie prowokować jej do posunięć radykalnych.

Poprawianie ewolucji

Tymczasem przed perspektywą zagrożeń ze strony świadomości pozaludzkiej czy nadludzkiej próbujemy się chronić, wymyślając reguły i bariery mające wykluczyć wprowadzanie do programów sterujących i do konstrukcji urządzeń takich elementów, z których mogłoby powstać zagrożenie dla człowieka. Jednak pozaludzka i nadludzka inteligencja może znaleźć sposoby, by te ograniczenia obejść.

Gdyby się rozwinęła autonomicznie i według własnych reguł, wyzwalając się spod kontroli człowieka, jej koegzystencja z nami mogłaby przybrać formy pokojowe: porozumienia, współpracy, partnerstwa czy też – zważywszy różnice potencjałów umysłowych – życzliwej opieki nad niezdarną i niezbyt bystrą ludzkością. Jednakże systemy inteligentne mogą być wyzbyte czegoś, co nazywamy „uczuciami ludzkimi”, jako że ukształtują się w drodze uwarunkowanej inaczej niż nasza ewolucja.

Można też sobie wyobrazić systemy i urządzenia, niezwykle sprawne i skuteczne w działaniu, stanowiące straszliwe zagrożenie dla człowieka, nawet jeśli nie dysponują świadomością. W opowiadaniu Lema „Niezwyciężony” podróżujący z prędkością podświetlną Ziemianie lądują na dalekiej planecie i zostają zaatakowani przez twór, w którym miriady drobnych i prostych jednorodnych mechanicznych elementów mogą się łączyć w skomplikowane układy, zdolne do błyskawicznego przemieszczania, generowania pól magnetycznych i energii olbrzymiej mocy, do optymalizacji strategii własnych działań, posiadające olbrzymią moc niszczycielską. To produkt „martwej ewolucji” samoprogramujących i samomodyfikujących się automatów i urządzeń z rozbitego statku kosmicznego innej cywilizacji. Różne ich typy toczyły ze sobą walkę o przetrwanie, a zwyciężył właśnie twór złożony z drobnych cząstek elementarnych zdolnych do szybkiej samoorganizacji. Atakujący wszystko, co może stanowić dla niego zagrożenie, niezwykle skuteczny w działaniu, ale wedle pojęć ludzkich martwy, pozbawiony nie tylko świadomości, ale i życia.

Ewolucja, w którą ingerują czynniki rozumowe, może więc na różne sposoby wyzwolić się spod kontroli rozumu. Kurzweilowski transhumanizm zakłada, że dzięki oddziaływaniom człowieka wejdzie ona na tory prawdziwie racjonalne, spełni nasze marzenia o nieśmiertelności i wszechwiedzy, że wyzbędziemy się chorób i niedoskonałości ludzkiej natury, że życie i trwanie uwolnią się od zagrożeń i nabiorą pełnego sensu.

Również u Lema mamy koncepcję transhumanizmu jako drogi do naprostowania ścieżek ewolucji. W „Wykładzie inauguracyjnym Golema” z 1975 r., który jest prezentacją historii i przyszłości człowieczeństwa przez superinteligentną maszynę myślącą, czytamy, że człowiek nie jest bynajmniej finalnym, najdoskonalszym efektem procesu ewolucji. Przeciwnie, najdoskonalsze są jej twory początkowe, cząsteczki elementarne, komórki.

Myślące maszyny mogą uznać, że trzeba nas co najmniej poważnie zdyscyplinować, a być może nawet w ogóle usunąć z Ziemi.

„Czemu nadal genialna na poziomie molekularnym, w każdym wymiarze większym partaczyła, aż zabrnęła w organizmy, które z całym bogactwem swej dynamiki regulacyjnej mrą od zatkania jednej rurki tętniczej, które w poszczególnym żywocie, znikomym wobec czasu trwania budowlanych nauk, wykolejają się z równowagi zwanej zdrowiem, w dziesiątki tysięcy przypadłości, jakich nie zna glon?” – powiada Golem i wieszczy: „Wykroczycie niebawem z białka”.

A tak kończy swój wykład: „Sądzę, że wejdziecie w wiek metamorfozy, że zdecydujecie się odrzucić całą swoją historię, całe dziedzictwo, cały ostatek naturalnego człowieczeństwa, którego obraz, wyolbrzymiony w piękną tragiczność, skupiają lustra waszych wiar – że wykroczycie, bo nie ma innego sposobu – i w tym, co teraz jest dla was skokiem w czeluść tylko, dopatrzycie się wyzwania, jeśli nie urody, i jednak po swojemu postąpicie – skoro, odrzucając człowieka, ocali się człowiek”.

Poza ludzką wyobraźnią

Jednak ewolucja sterowana układem myślącym może też toczyć się poza ramami wyznaczanymi przez ludzkie wartości i ludzką wyobraźnię. W powieści Lema „Solaris” tytułowa badana przez ludzi planeta jest prawdopodobnie olbrzymim mózgiem, zdolnym np. do zmiany swej kosmicznej trajektorii przez odpowiednią modyfikację własnego kształtu. Zdolnym też do niezwykle głębokiej penetracji umysłów i do odtwarzania z człowieczych myśli i wspomnień postaci o zewnętrznych cechach żywych ludzi, co dowodzi nie tylko niezwykle rozwiniętej świadomości, lecz także nadzwyczajnych zdolności technologicznych. Jednocześnie ta świadomość właściwie nie komunikuje się z prawdziwymi ludźmi, jej zamiary i działania są dla nich całkowicie niezrozumiałe.

To też jeden z możliwych wariantów naszej koegzystencji z inteligencją pozaludzką – że będzie miała własne cele i egzystencję tak różne od naszych, iż nie będziemy w stanie ich pojąć ani ocenić. Taka inteligencja, nieporównanie wyższa od naszej, nie musi nam zagrażać, może zachować wobec nas całkowitą obojętność albo czasami, jak Solaris, wysyłać tylko coś w rodzaju sygnałów, których nie rozumiemy. A my będziemy się z tym bytem myślowo borykać, tak jak przez całe opisane dzieje naszego myślenia próbujemy rozumem doścignąć Absolut.