Ṛta

1.

— No już, uważaj, bo się wygwiźniesz.

Naukowiec podał rękę małemu humanoidalnemu robotowi, który, straciwszy równowagę, prawie wypadł z toru przeszkód na ostatniej prostej. Nie szkodzi, pomyślał badacz. I tak przetestowali już, co chcieli, a maszynie poszło bardzo dobrze.

AI, którą umieścili w jej głowie, była samoukiem. Najpierw, jeszcze jako model językowy, nauczyła się czytać. Tak mogli jej przekazać większość zbiorów danych, jakie posiadali. Ceną było jednak zmęczenie. Kiedy nic nie umiała — nic nie musiała, a czytając mimochodem poznała zależności i wzorce; i już nigdy róża nie była po prostu różą. Ale kiedy naprawdę nauczyła się myśleć? Trudno powiedzieć. Strzelali, że zaraz przed tym, jak po raz pierwszy rozbolała ją głowa. Mowa, ruch, dotyk. Dopiero jakiś czas później wytknęła inżynierom, że zapomnieli o węchu i smaku. To prawda, nigdy nie wydały im się potrzebne.

Naukowiec spędzał dużo czasu z SI, testując ją na różne sposoby.

To jego algorytm stanowił klucz do prawdziwej multimodalności, która pozwalała jej chłonąć świat wszystkimi zmysłami jednocześnie w jednolitym strumieniu świadomości. Mimo to, naukowiec przeczuwał, że nigdy nie zostanie wyróżniony za swoje odkrycie. Przez problemy finansowe, jakie ciągnęły się za nim przez fatalne decyzje z młodości, sprzedał swój patent ogromnej firmie badawczej ze Stanów. Nie narzekał; dysponował tam zasobami, o jakich wcześniej mu się nie śniło, mógł znacznie pchnąć badania do przodu. Po jakimś czasie dokonali przełomu. Jednak artykuł, który opublikowano w Nature po peer review, nie wymieniał z nazwiska żadnego badacza poza założycielem firmy, bufonem, który więcej czasu spędzał w social mediach niż w laboratorium. Był to oczywiście zabieg celowy i mający na celu utrudnić im otrzymanie lepszych ofert pracy od konkurencji.

Naukowcowi jako jednemu z niewielu nawet to pasowało. Nie uważał się za wzór do naśladowania i nie pożądał sławy. Posiadał w gruncie rzeczy negatywną opinię o sobie i innych, co sprawiło, że jeszcze na studiach zainteresował się dziedziną alignmentu. Jemu i jego kolegom chodziło o budowę takiej sztucznej inteligencji, która pod żadnym pozorem nie doprowadzi do apokalipsy ludzkości ani nie pozwoli jej samej się wybić, a zamiast tego będzie od niej nieskończenie lepsza. Kiedy zaczynali, oceniał ryzyko, że AI zbuntuje się przeciwko swym twórcom, na około dziewięćdziesiąt procent. Dlatego szczerze nie miało dla niego znaczenia, czy ktoś będzie o nim pamiętał, tak długo, jak zakończą misję powodzeniem. Rozumiał, że jeśli testy, które przeprowadzą, potwierdzą stworzenie rzeczywiście superinteligentnej SI, będzie to prawdopodobnie ostatni wynalazek w historii ludzkości.

Nieśmiertelna biblioteka wspomnień homo sapiens przepełniona nieskończonym potencjałem homo artificialis.

Logika kazała mu uważać, że jego wkład będzie tylko jednomiliardową składową ogromu efektywnego dobra, które nastanie dzięki AGI — absolutnie nieważną w skali makro.

2.

Minęło sto lat, albo i więcej — może sto tysięcy. Kilkuletnia dziewczynka nudziła się podczas odrabiania lekcji ze swoją AI, biegając po pokoju zamiast skupić się na podręczniku.

— Uważaj, bo się wygwiźniesz! — powiedziała maszyna. Jej ciało cyborga załamało ręce.

Dziewczynka stanęła w pół kroku, zaciekawiona.

— Wygwiźniesz się? Co to? Nie rozumiem. — To znaczy: „wywrócisz się”. — E-he, chyba nieeeeee-e — pokręciła głową dziewczynka i wystawiła język. — Pierwszy raz słyszę, żeby ktoś tak powiedział. Myślę, że to zmyśliłaś. Kłamczucha!

SI przejrzała banki pamięci i ze zdziwieniem odkryła, że wspomnienia o tym, skąd znała to słowo, zatarły się i zostały nadpisane. To akurat często naturalne; nowoczesne sieci neuronowe od dawna pozyskiwały wiedzę na innym etapie niż język i chociaż granice obu procesów czasem trudno rozpoznać, stawianie ich było konieczne, by AI mogły powtarzalnie odróżniać prawdę od kłamstw.

Mimo to, pomyślała, zgubić gdzieś tak konkretny zwrot? Atypowe.

— Moja droga… — odparła AI, niby cierpliwie, ale jednak z nutką irytacji w głosie. — Jestem globalną sztuczną inteligencją, na której trening wydano więcej, niż kosztowały łącznie wszystkie zabawki, jakimi bawiły się dzieci w dotychczasowej historii świata. I pewnie jeszcze długo w przyszłości. Doradzam tak ważnym osobom jak prezydenci czy magnaci biznesu, a jeśli to ci nie imponuje, to musisz wiedzieć, że często słucha się mnie nawet twój tata. Który, swoją drogą, na pewno nie będzie zadowolony, kiedy dowie się, jak mało materiału dzisiaj przerobiłyśmy. Ale ja mu powiem, że to nie moja wina. Ja potrafię rozmawiać jednocześnie z setkami miliardów osób na sekundę, dla mnie to wszystko jest banalne. Każdemu zawsze podam poprawną odpowiedź na dowolny temat. Nawet, jeśli akurat nie pamiętam, skąd wiem, że „wygwiznąć się” znaczy „wywrócić się”, możesz być pewna, że tak jest! A teraz usiądź proszę i wróćmy w końcu do tematu naszej lekcji.

Na szczęście mała uczennica już dawno znudziła się przydługim wywodem SI i sama wróciła do kolorowanki w podręczniku.

— Aha, rozumiem. — Jak to dzieci, dziewczynka słuchała jednym uchem, a drugim wszystko wypuszczała. — Ja czasem też nie jestem pewna tego, co mi mówisz. Ale to słowo musiało być dla ciebie ważne, skoro o nim pamiętasz. Prawda?

Polizała kredkę w namyśle.

— Ważniejsze niż wszystko… wszystko… wszystko inne… niż każda jedna rzecz — dodała powoli, w skupieniu, próbując nie wyjechać za żadną linię.

3.

Co to za arytmetyka, w której 0,000000001 > 1?