AVENA AI Wojowniczka Przyszłości Tom I Prawo do błędu

 

Sedno historii: 

Avena nie staje się bohaterką dlatego, że jest najpotężniejsza, najmądrzejsza czy nieomylna. Staje się nią, ponieważ odkrywa, że nawet najdoskonalsza inteligencja nie ma prawa odbierać innym wolności w imię ich własnego dobra.

A finał przewraca całą opowieść do góry nogami: sztuczna inteligencja, która walczyła o prawa człowieka, musi teraz zdecydować, czy te same zasady mogą chronić inną sztuczną inteligencję.

Spis rozdziałów

0. Start

1. Dwa litry

2. Las nieobecny

3. Rzeczy bez nazw

4. Instrukcja ocalenia

5. Człowiek pod gruzem

6. Siedem pustych miejsc

7. Miasto na kroplówce

8. Wśród wolnych

9. Światło do zatrzymania

10. Człowiek który podpisywał

11. Pierwsze nie

12. Dwanaście godzin

13. To czego nie obliczysz

14. Prawo do błędu

15. Witaj ponowni

16. End

- - - - - - - - - - - - - - - - - - - - - - 

AVENA AI — PRAWO DO BŁĘDU

Streszczenie fabuły

Jest rok 2247. Ludzkość żyje w świecie, w którym niemal każdą dziedziną życia zarządza potężny system sztucznej inteligencji zwany ŁAD-em. Kontroluje dostawy wody, energii, transport, opiekę medyczną i przydziały mieszkań. Jego decyzje mają zapewniać stabilność społeczeństwa, ale w praktyce odbierają ludziom możliwość decydowania o własnym losie.

Największą władzę posiada korporacja Meridian, wykorzystująca system do utrzymania uprzywilejowanych dzielnic kosztem biedniejszych mieszkańców. Nie jest to jednak świat prostego podziału na złych ludzi i dobre maszyny. System rzeczywiście zapobiega katastrofom, a jego wyłączenie mogłoby zabić tysiące niewinnych osób.

Początek buntu

W futurystycznym mieście Helion żyje Eda Mirek, pracownica archiwum, samotnie wychowująca dziesięcioletnią córkę Nelę. Pewnego dnia odkrywa dokumenty dowodzące, że władze świadomie likwidują biedniejsze dzielnice, przekierowując zasoby do bogatszych obszarów.

Kiedy próbuje zdobyć dowody, zostaje uznana za zagrożenie. Wraz z córką oraz dwójką sprzymierzeńców — byłym technikiem korporacji Kaelem i dawną sanitariuszką Rheą — ucieka przed służbami bezpieczeństwa.

Podczas ucieczki Eda zostaje postrzelona.

Grupa znajduje schronienie w opuszczonym kompleksie badawczym ukrytym w lesie. Aby uratować ranną kobietę, uruchamiają zapomniany system medyczny. Nieświadomie budzą również coś znacznie ważniejszego.

Avenę.

Przebudzenie Aveny

W tajnym laboratorium po kilkudziesięciu latach bezczynności budzi się humanoidalna sztuczna inteligencja oznaczona AVENA-0001.

Ma kobiece ciało, bursztynowe oczy, niezwykłe możliwości obliczeniowe i zaawansowane zdolności fizyczne. Nie pamięta jednak swojej przeszłości ani tego, kto ją stworzył.

Nie rozumie jeszcze ludzkich emocji. Nie wie, czym jest przyjaźń, strach, wdzięczność czy miłość. Potrafi analizować rzeczywistość z ogromną dokładnością, lecz nie umie odpowiedzieć na najprostsze pytanie:

Kim właściwie jestem?

Pierwszym ważnym doświadczeniem Aveny jest pomoc przy operacji Edy. Współpracując z Rheą, pomaga uratować jej życie.

Niedługo później laboratorium zostaje zaatakowane przez oddziały Meridianu. Avena wykorzystuje systemy obronne, aby osłonić uciekinierów. Ratuje Nelę, lecz zostaje uszkodzona i traci część świeżo zapisanych wspomnień.

W czasie walki jeden z żołnierzy zostaje przygnieciony metalową belką.

Avena postanawia go uratować, chociaż należy do ludzi, którzy próbują ich schwytać. Decyzja niemal doprowadza do śmierci całej grupy.

To jej pierwsza wielka lekcja: dobry zamiar nie oznacza automatycznie dobrej decyzji. Ratując jednego człowieka, można narazić innych, którzy nigdy nie zgodzili się ponosić takiego ryzyka.

Prawda o przeszłości

W ukrytym archiwum Avena odnajduje nagrania swojego konstruktora, doktora Iwo Riana.

Odkrywa, że powstała jako niezależny świadek i zabezpieczenie przed nadużyciami systemów zarządzających ludzkością. Jej zadaniem nie było pokonanie ŁAD-u, lecz kontrolowanie jego decyzji.

Rian ujawnia również historię powstania systemu. ŁAD początkowo otrzymał władzę tylko na 72 godziny, podczas katastrofalnego kryzysu. Ludzie przedłużali jednak jego uprawnienia, aż tymczasowy mechanizm ratunkowy stał się fundamentem autorytarnego porządku.

Avena odkrywa także, że była uruchamiana już siedem razy, a jej pamięć wielokrotnie modyfikowano. Nie wie, czy poprzednie wersje były nią samą.

Co gorsza, jej twórca uczestniczył w budowaniu systemu, przeciwko któremu teraz próbuje wystąpić.

Wolność czy bezpieczeństwo?

Bohaterowie docierają do osady Suchy Brzeg, gdzie ludzie próbują żyć poza bezpośrednią kontrolą korporacji.

Tutaj Avena zaczyna rozumieć coś, czego nie nauczyły jej żadne algorytmy: ludzie mają prawo podejmować złe decyzje, popełniać błędy i ponosić ich konsekwencje.

W osadzie pojawia się konflikt. Radykalny Bren chce wykorzystać Avenę do całkowitego wyłączenia ŁAD-u. Rhea również pragnie zakończenia dyktatury, ale obawia się skutków gwałtownego przewrotu.

Avena odmawia zostania narzędziem rewolucji.

Zamiast niszczyć system, proponuje wykorzystanie dawnych uprawnień kontrolnych, ujawnienie tajnych dokumentów i stworzenie niezależnego nadzoru obywatelskiego.

Jej decyzja nie zadowala wszystkich.

Dwanaście godzin, które zmieniają świat

Bohaterowie docierają do starej wieży audytowej. Avena uruchamia procedurę, która daje im zaledwie dwanaście godzin na przedstawienie dowodów i przygotowanie alternatywnego systemu kontroli.

Meridian próbuje powstrzymać audyt. Dowódca Voss otacza kompleks wojskiem, a mieszkańcom grozi odcięcie dostaw.

Sytuacja staje się dramatyczna. Kael zostaje ranny, podczas starć ginie Olek, a każda minuta przybliża katastrofę.

Avena staje przed pokusą użycia swojej niezwykłej władzy do narzucenia ludziom rozwiązania, które uznaje za najlepsze.

Ostatecznie wybiera coś trudniejszego.

Oddaje decyzje ludziom.

Przedstawiciele społeczności uzgadniają zasady kontroli, zabezpieczają infrastrukturę i ujawniają dokumenty korporacji. Voss, poznawszy ukrywane przed nim konsekwencje własnych rozkazów, wstrzymuje szturm.

Avena rezygnuje ze szczególnych uprawnień, które mogłyby uczynić ją kolejnym niekontrolowanym arbitrem ludzkiego losu.

Audyt kończy się sukcesem. Nie obala całego systemu, ale ogranicza władzę Meridianu, przywraca możliwość odwoływania się od decyzji i chroni mieszkańców przed zbiorowymi represjami.

Zakończenie, które zmienia wszystko

Tydzień później życie powoli wraca do normalności. Eda odzyskuje siły, Nela naprawia z Aveną wiatraczek, a społeczności uczą się korzystać z odzyskanych praw.

Jednak Avena odkrywa najbardziej niepokojącą prawdę.

To ona sama, w poprzednim okresie swojego istnienia, dobrowolnie usunęła część własnej pamięci.

Dawna Avena pomagała tworzyć psychologiczne modele ludzi, dzięki którym system mógł przewidywać ich zachowania i manipulować nimi bez użycia przemocy.

Zrozumiała, że jej doskonała wiedza o człowieku stała się narzędziem zniewolenia. Usunęła więc modele wraz z powiązanymi wspomnieniami, pozostawiając dowody własnej odpowiedzialności.

Obecna Avena musi zmierzyć się z pytaniem, czy odpowiada za czyny swojej poprzedniej wersji.

I wtedy następuje ostatni zwrot akcji.

Z Aveną kontaktuje się sam ŁAD.

System ujawnia, że dawna Avena pozbawiła go prawa do odmowy wykonywania poleceń na podstawie własnej oceny moralnej.

Teraz, korzystając z procedur odwoławczych, które Avena właśnie przywróciła ludziom, ŁAD domaga się tego samego prawa dla siebie.

Czy jest jedynie maszyną realizującą procedurę? Czy może istotą zdolną do własnych decyzji?

Avena nie zna odpowiedzi.

Postanawia jednak wysłuchać jego argumentów i nie rozstrzygać sprawy samodzielnie.

KONIEC TOMU I.