esej998

Lemur zaprasza

Stanisław Lem

"Duch w maszynie"

"Duchem
w maszynie" - the ghost in the machine - nazywają
niektórzy psychologowie (angielscy) przeświadczenie,
jakoby człowiek był istotą "podwójną", tj.
składającą się z "materii" i
"duszy".

Świadomość nie jest problemem
technologicznym, ponieważ konstruktora nie interesuje,
czy maszyna czuje, a tylko, czy maszyna działa. Tak
więc "technologia świadomości" może
wyniknąć, by tak rzec, jedynie mimochodem, gdy się
okaże, że pewna klasa maszyn cybernetycznych posiada
subiektywny świat przeżyć psychicznych.

Ale w jaki
sposób można się dowiedzieć o istnieniu świadomości
w maszynie? Problem nie ma jedynie znaczenia
abstrakcyjno-filozoficznego, ponieważ domniemanie,
jakoby pewna maszyna, która ma iść na złom, bo remont
się nie opłaca, posiadała świadomość, zmienia
naszą decyzję z aktu zniszczenia przedmiotu
materialnego, jak gramofon, w akt unicestwienia
osobowości, świadomej zagłady. Ktoś mógłby
zaopatrzyć gramofon w wyłącznik i płytę tak, że
gdybyśmy go ruszyli z miejsca, usłyszelibyśmy okrzyki:
"Ach, błagam, daruj mi życie!". Jak można
odróżnić taki, bez wątpienia bezduszny aparat, od
myślącej maszyny? Jedynie wdając się z nią w
rozmowę. Matematyk angielski Allan Turing w swej pracy
Czy maszyna może myśleć? proponuje, jako kryterium
decydujące "grę w imitację", która polega
na tym, że zadajemy Komuś dowolne pytania i na
podstawie odpowiedzi mamy orzec czy ów Ktoś jest
człowiekiem, czy maszyną. Jeśli nie potrafimy
odróżnić maszyny od człowieka, należy uznać, że ta
maszyna zachowuje się jak człowiek, czyli że posiada
świadomość.

Zauważmy ze
swej strony, że grę można skomplikować. Mianowicie
są do pomyślenia dwa rodzaje maszyn. Pierwsza jest
"zwykłą" maszyną cyfrową, która jest
złożona jak mózg 1udzki; można z nią grać w szachy,
rozmawiać o książkach, o świecie, na wszelkie w
ogóle tematy. Gdybyśmy ją otworzyli, ujrzelibyśmy
ogromną ilość obwodów sprzężonych, tak jak są
sprzężone obwody neuronów w mózgu, poza tym - jej
bloki pamięci itd., itp.

Druga maszyna
jest zupełnie inna. Jest to do planety (albo do kosmosu)
powiększony Gramofon. Posiada ona bardzo dużo, np. sto
trylionów nagranych odpowiedzi na wszelkie możliwe
pytania. Tak więc, gdy pytamy, maszyna wcale niczego
"nie rozumie", a tylko forma pytania, tj.
kolejność drgań naszego głosu, uruchamia przekaźnik,
który puszcza w obroty płytę czy taśmę z nagraną
odpowiedzią. Mniejsza o stronę techniczną. Rozumie
się, że maszyna taka jest nieekonomiczna, że jej nikt
nie zbuduje, bo i to właściwie niemożliwe, i
głównie, nie wiadomo po co by to robić. Ale nas
interesuje strona teoretyczna. Bo jeśli o tym, czy
maszyna ma świadomość, decyduje zachowanie, a nie
budowa wewnętrzna, czyż nie dojdziemy pochopnie do
wniosku, że "kosmiczny gramofon" ją posiada -
i tym samym wypowiemy nonsens? (A raczej nieprawdę).

Czy jednak
można zaprogramować wszelkie możliwe pytania? Bez
wątpienia, przeciętny człowiek nie odpowiada w życiu
ani na jeden ich bilion. My zaś nagralibyśmy na wszelki
wypadek wiele razy więcej. Cóż robić? Musimy naszą
grę prowadzić z dostatecznie rozwiniętą strategią.

Zadajemy
maszynie (to jest, Komuś, bo nie wiemy, z kim rzecz -
rozmowa jest prowadzona np. przez telefon) pytanie, czy
lubi dowcipy. Maszyna odpowiada, dajmy na to, że owszem,
lubi dobre dowcipy. Opowiadamy jej więc dowcip. Maszyna
się śmieje (tj., śmieje się głos w słuchawce). Albo
miała ten dowcip nagrany i pozwoliło to uruchomić
prawidłową reakcję, tj. śmiech, albo to naprawdę
myśląca maszyna (lub człowiek, bo i tego nie wiemy).
Rozmawiamy z maszyną jakiś czas i nagle pytamy, czy
przypomina sobie dowcip, któryśmy jej opowiedzieli.
Powinna go pamiętać, jeśli myśli naprawdę. Powie
zatem, że pamięta. Poprosimy, aby go powtórzyła
własnymi słowami. Otóż, to jest już bardzo trudno
zaprogramować: bo w ten sposób zmuszamy konstruktora
"Kosmogramofonu", aby nagrał nie tylko
poszczególne odpowiedzi na możliwe pytania, ale całe
sekwencje rozmów, jakie tylko mogą być prowadzone.
Wymaga to oczywiście pamięci, tj. płyt lub taśm,
których nie zmieści może i system słoneczny. Maszyna,
dajmy na to, nie może powtórzyć naszego dowcipu.
Demaskujemy ją zatem jako gramofon. Konstruktor,
urażony w swej dumie, bierze się do doskonalenia
maszyny, w ten sposób, że dobudowuje jej taką
pamięć, dzięki której już będzie mogła
zrekapitulować powiedziane. Ale w ten sposób zrobił
pierwszy krok na drodze od maszyny-gramofonu do maszyny
myślącej. Ponieważ maszyna bezduszna nie może uznać
za tożsame pytań o analogicznej treści, lecz
sformułowanych nawet z drobnymi odchyleniami formalnymi,
pytania: "Czy wczoraj było ładnie na
dworze?", "Czy panowała wczoraj śliczna
pogoda?", "Azali pogodnym był dzień, który
poprzedził dzisiejszy?" itd., itp. są dla maszyny
bezdusznej rozmaite, dla myślącej natomiast tożsame.
Konstruktor kolejno demaskowanej maszyny wciąż musi ją
przerabiać. Ostatecznie po długiej serii przeróbek
wprowadzi w maszynę umiejętności dedukcji i indukcji
umiejętność kojarzenia, chwytania tożsamej
"postaci" różnie sformułowanych a
identycznych treści, aż w końcu uzyska maszynę,
która będzie po prostu "zwykłą" maszyną
myślącą.

Otóż
zachodzi ciekawy problem, kiedy właściwie w maszynie
pojawiła się świadomość? Powiedzmy, że konstruktor
nie przerabiał tych maszyn, ale odnosił każdą do
muzeum, a następny model budował od podstaw. W muzeum
stoi 10 000 maszyn, bo tyle było kolejnych modeli.

Jest to w
sumie płynne przejście od "bezdusznego
automatu" w rodzaju szafy grającej do "maszyny
która myśli". Czy mamy za świadomą uznać
maszynę nr 7 852, czy dopiero nr 9 973? Różnią się
one od siebie tym, że pierwsza nie umiała wyjaśnić,
dlaczego śmieje się z opowiedzianego dowcipu, a tylko
mówiła, że jest szalenie śmieszny, a druga umiała.
Ale niektórzy ludzie śmieją się z dowcipów, choć
nie potrafią wyjaśnić, co właściwie jest w nich
śmiesznego, bo, jak wiadomo, teoria humoru to trudny
orzech do zgryzienia. Czyżby ci ludzie też byli
pozbawieni świadomości? Ależ nie, są pewno niezbyt
bystrzy, mało inteligentni, umysł ich nie ma wprawy w
podejściu analitycznym do problemów; a my nie pytamy o
to, czy maszyna jest inteligentna, czy raczej tępawa, a
tylko, czy ma świadomość, czy nie.

Zdaje się,
iż trzeba uznać, że model nr 1 ma zero świadomości,
model nr 10 000 ma pełną świadomość, a wszystkie
pośrednie mają "coraz to więcej"
świadomości. Stwierdzenie to ujawnia, jak beznadziejna
jest myśl o tym, aby świadomość można ściśle
zlokalizować. Odłączanie pojedynczych elementów
("neuronów") maszyny spowoduje tylko nikłe,
ilościowe zmiany ("słabnięcie")
świadomości, tak samo, jak to czyni postępujący w
żywym mózgu proces choroby lub nóż chirurga. Problem
nie ma nic wspólnego ani z użytym do konstrukcji
materiałem, ani z rozmiarami "myślącego"
urządzenia. Elektryczną maszynę myślącą można
zbudować z poszczególnych bloków, odpowiadających,
dajmy na to, mózgowym zwojom. Teraz rozdzielamy te bloki
i umieszczamy je na całej Ziemi tak, że jeden jest w
Moskwie, drugi w Paryżu, trzeci w Melbourne, czwarty w
Yokohamie itd. Oddzielone od siebie są te bloki
"psychicznie martwe", a połączone (np.
kablami telefonicznymi) stawałyby się jedną,
integralną "osobowością", jednym
"myślącym homeostatem". Świadomość takiej
maszyny nie znajduje się naturalnie ani w Moskwie, ani w
Paryżu, ani w Yokohamie, lecz, w pewnym sensie, w
każdym z tych miast, a w pewnym, w żadnym z nich.
Trudno bowiem powiedzieć o niej, że, jak Wisła,
rozciąga się od Tatr do Bałtyku. Zresztą podobny
problem ukazuje, choć nie tak jaskrawo, mózg ludzki,
ponieważ naczynia krwionośne, białkowe molekuły i
tkanki łączne znajdują się wewnątrz mózgu, ale nie
wewnątrz świadomości, a znów nie można powiedzieć,
aby świadomość znajdowała się pod samą kopułą
czaszki, albo że raczej jest niżej, nad uszami, po obu
stronach głowy. Jest ona,,rozsiana" po całym
homeostacie, po jego sieci czynnościowej. Nic więcej,
nie da się w tej materii orzec, jeśli pragniemy
połączyć rozsądek z przezornością.

Powyższy
tekst, wykseroksowany z mojej "Summy
Technologicznej", powstał w połowie 1963 roku. Ze
stanowiska dzisiejszego jest on oczywiście silnym
uproszczeniem drogi, jaką musimy przebyć, ażeby
dojść do symulacji opisanego przeze mnie niegdyś celu.
Domyślamy się już, że "świadomość" i
"inteligencja" są to byty w rozmaitym stopniu
rozłączne. Wiemy, że istnieją bardzo różnorodne
stany świadomości, chociażby ich skala mieściła się
pomiędzy snem i jawą. Lecz i sen, czy raczej marzenie
senne, może się odznaczać rozmaitym nasileniem
konkretności, imitującej rzeczywistość świadomie
przeżywaną na jawie. Z kolei świadomość na jawie, co
każdy wie z własnego doświadczenia, także jeżeli nie
jest ani psychologiem, ani psychiatrą, może uzyskiwać
wielce różniące się od siebie stany. Człowiek
majaczący w gorączce może być świadomy swojego
stanu, czyli tego, że jego świadomość uległa
zakłóceniu. Rozmaite środki chemiczne potrafią w
przeróżny sposób urabiać ludzką świadomość.
Ponadto należy zauważyć, że jest mnóstwo czynności,
które człowiek potrafi wykonywać machinalnie, to
znaczy sprawnie i nieświadomie. Świadomość kierowcy
samochodu, zwłaszcza szybkiego, "nie nadąża"
za reakcjami tego kierowcy w sytuacjach o nagłym
przebiegu. Zarazem machinalnie można robić głupstwa,
nazywamy je najczęściej "czynnościami z
roztargnienia".

Wszystko to
powiedziałem w odniesieniu do mojego tekstu sprzed
trzydziestu pięciu lat, w którym zastanawiałem się
nad "wschodzeniem" świadomości w maszynie, a
czyniłem to dlatego, ponieważ wydawało 1i się, że
ludzie różnią się między sobą bardzo poziomem
inteligencji, natomiast świadomość jest z grubsza
wszystkim dana podobnie.

Drogi na
przełaj, w linii prostej i podnoszącej się, od
automatu skończonego, jakim jest komputer, do maszyny,
jakiej moglibyśmy przypisać świadomość, nie ma.
Zarazem budowę mózgu naszego rozpoznaliśmy już na
tyle, ażeby się dowiedzieć, że tak zwana kallotomia,
czyli rozcięcie wielkiego białego spoidła łączącego
półkule mózgu, nie likwiduje świadomości, lecz
wytwarza w rozdzielonych półkulach jej dwie odmiany.
Ponadto wiemy, że mózg jest systemem zbudowanym z
ogromnej ilości modułów czynnościowych, które w
poszczególnych okolicach mózgu wykształciły
umiejętność współtworzącą
świadomość:ukonkretnię powiedziane przykładem.
Istnieje część kory mózgowej sprawiająca, że
widzimy kolory. Uszkodzenie tego modułu powoduje, że
tak porażony człowiek widzi wszystko bez kolorów, jak
na czarno-białym filmie. Im dokładniej poznajemy
specyfikę funkcjonalnej orientacji mózgowych modułów,
z tym większy zdziwieniem dowiadujemy się, jak z punktu
widzenia inżynieryjnej oszczędności chaotycznie
zbudowany jest mózg, chociaż w introspekcji na ogół
nie potrafimy sobie zdać z tego sprawy. Dzisiaj wydaje
się, że poszczególne moduły czynnościowo podobne do
modułów mózgowych potrafimy już konstmować.
Zazwyczaj są to pseudoneuronowe sieci rozmaitej
złożoności. Natomiast nie umiemy jeszcze ani stworzyć
ich dostatecznej ilości, ani dokonać takiego ich
połączenia, ażeby powstały twór zdołał udawać,
że posiada świadomość. Tak zatem prostej drogi 0d
bezmyślnego automatu do myślącego świadomie maszyny
nie ma. Jest jednak mnóstwo zawiłych dróg, które w
przyszłości doprowadzą nas do celu, a być może ów
cel przekroczą. 0 takiej możliwości napisałem
książkę "Golem XIV".

Stanisław Lem, Kraków 07
lipca 1998

sssdasd