Elektronický bůh
18.1.2007, Ondřej Neff
George Orwell ve svém románu 1984 vykreslil mimořádně odpudivý obraz totalitní společnosti. Fyzický teror je tu až druhotný nástroj útlaku. Rozhodující je ustavičný dohled nad jedincem, filtrace informací jež k němu pronikají a systematické deformování jeho myšlení, jak prostřednictvím podsouvaných informací o faktech a pseudofaktech, jednak deformací jazyka s konečným cílem upravit jazyk tak, aby jedince prostě nemohly napadnout myšlenky, které by vládcům tohoto světa uškodily. V druhé polovině dvacátého století jsme zažili teroristickou orwellovskou společnost se vším všudy, ta později zdegenerovala v její karikaturu, spíše groteskní než hroznou, avšak neméně neproduktivní a ponižující. Nyní žijeme už osm let ve společnosti svobodné a máme reálnou naději, že tak tomu bude i ve století nadcházejícím – které je předmětem našich úvah tohoto Miniconu. V posledních dvou létech se intenzivně zabývám Internetem, novým komunikačním médiem. V souvislosti s touto činností si často vzpomínám na Orwellovu varovnou knihu. Určité technické prvky nápadně připomínají detaily v knize popisované. Román má v sobě tak mocný emotivní náboj a jeho varovné poselství bylo skutečnými historickými událostmi tak důsledně naplněno, že každé setkání s technickým prvkem knihu připomínajícím vyvolá mrazení v zádech. Nicméně, myšlení scifistovo je – nebo aspoň mělo by být – variantní a proto se snažím zkoumat z více stran i takové objekty, které se zadají být ostře asvícené – třeba jasem Orwellova varování. Vizuálně nejpůsobivější rekvizitou Orwellova románu byla televize vysílající propagandu, opatřená kamerou, která sledovala divákovu reakci. Právě toto technické zařízení je vyjádřeno sloganem Velký Bratr vás vidí. Samotný vývoj televize nedal Orwellově vizi zapravdu. Na sklonku totality přišlo satelitní vysílání televize a video a tím byla zásadně narušena doposud neotřesená hegemonie státní propagandy. O nějaký zpětný pohled do domácnosti prostřednictvím televize nemohlo být ani řeči – státní moc musela budovat rozsáhlou, nákladnou a další dohled vyžadující síť špiclů a nadšpiclů a podšpiclů.
Internet svou technickou podstatou uzpůsoben k identifikaci uživatele. Některé detaily nápadně připomínají Orwellův román – v příštích létech se budeme běžně setkávat s kamerami nad monitorem a až dojde ke splynutí počítače a televizorem a videotelefonem, aspoň v tomto smyslu bude Orwellova předpověď splněna stoprocentně. Jakmile vyšlete ze svého počítače požadavek k otevření webové stránky kdekoli na světě, nezbytně je váš požadavek spojen s vaší internetovou adresou. Takříkajíc – požadovaná stránka ví, kdo ji čte. Nejen to. Požadavky jsou zaznamenány na pevné disky do tak zvaných logů, dejme tomu deníků. Na discích tak vznikají obrovsky rozsáhlé soubory dat. Tato data bývají vyhodnocována – pokud je webová stránka nosičem reklamy. Zadavatel reklamy se totiž velice zajímá o čtenářskou strukturu dané stránky. Dokonce to je jedna z hlavních výhod reklamy na webu ve srovnání s jinými nosiči reklamy, ať tištěnými nebo vysílanými. Nejde ovšem jenom o reklamu.
Na světovém webu vznikají speciální servisy, schopné registrovat datové toky a vnímat a zaznamenávat, která adresa žádá o jaké spojení. Vznikají jakési – bůhví kým zřízené a ani ne bůh ví kým kontrolované – soubory dat, s nimiž je možno udělat bůh ví co, aby boží trojice byla úplná. Takto je možno sledovat dejme tomu politicky vyhraněné webové stránky. Kdo je navštěvuje? Na webu jsou stránky extremistických skupin, ovšem i náboženských, sektářských skupin. Návštěvníci dejme tomu homosexuálních pornografických stránek pravděpodobně stojí o anonymitu. Na Internetu jim ji nikdo nemůže zaručit. Úžasný zdroj informací jsou vyhledávací programy. Snadno odvodíme slogan „řekni mi, o co se zajímáš a já ti řeknu, kdo jsi“.
Jakmile by byl vyvinut dokonalý monitoring požadavků, a ten jistě vyvinut bude, pokud neexistuje už dnes, uživatelé webu se skutečně stanou rybičkami v akváriu, viditelnými ze všech stran. Internetu se předvídá velká budoucnost a jsem ten poslední, kdo by si myslel něco jiného. Rozšíří se přenosové pásmo, to je věc především technicko – ekonomická. Dojde ke splynutí televize a internetu – s trochou nadsázky se dá říci, že důsledně zdokonalený teletext v televizi a důsledně zdokonalené real video na Internetu budou od sebe tak nerozeznatelné, že vlastně půjde o jednu a touž věc. Z hlediska informatického dohledu však Internet televizi nakazí.
Víme, že cílem je „television on demand“, tedy televize na přání, televize s volitelným programem. Televize tedy převezme internetí princip požadavku, podmíněný identifikací. Ten kdo bude sledovat a zaznamenávat tok požadavků si udělá obraz o sociálním profilu jednotlivých účastníků tohoto podniku.
Samozřejmě nejde jenom o television on demand a o Internet. Ve výzkumném ústavu pro rozvoj tisku ve Washingtonu mi před čtyřmi lety – a to je epocha ve světě informatiky – řekli, že jakýkoli elektronicky zprostředkovaný požadavek čehokoli je někde nějak zaznamenán. Ať si kupujete aspirin nebo rezervujete letenku nebo půjčujete knihu, je to někde nějak zaznamenáno. Na každém kroku rozséváme informace o svých potřebách a preferencích. Je to něco jako pachová stopa. Tomu nezabráníte, necháváte ji za sebou, ať procházíte chrámem nebo hampýzem. Jde o to, jestli za vámi jde čichací pes. Pokud jde o skutečnou pachovou stopu, pro účely totalitního dohledu je poněkud nepraktické vyslat ve stopě každého občana či spíš objektu čichacího psa. Pokud jde o informatické stopy, virtuální čichací pes je triviálně jednoduché zařízení a fakticky už dnes je takový čichací pes zabudován v každém zařízení pro sběr dat.
Vzpomínáte na Clarkovu povídku o tom, jak propojením telefonních centrál se zrodil Bůh? O tom to je. Blížíme se k takovému božímu zrození. Zatím jsou jednotlivé informace o osobách izolované. Neexistuje, nebo aspoň si myslím, že neexistuje, žádný meta-monitoring, který by monitoroval vše, co je monitorováno, vyhodnocoval to a dělal z toho závěry.
Abych se vrátil k příměru s čichacími psy – jde o to, aby se tito virtuální čichací psi mezi sebou domluvili a vydali společné prohlášení. Směřujeme k tomu stavu. Jednadvacáté století prostě takové bude. Jednoho dne dojde k propojení velikých doposud oddělených informatických oblastí. Ostatně, i v naší zemi se na tom pracuje, naštěstí neúspěšně – mám na mysli páně Igorův Němcův informační systém. Jednou možná budeme odlévat Igora Němce do bronzu, dodaného firmou Němec Krupp jeho bratra, budeme odlévat pomník člověku, který sabotováním výstavby informačního systému se zasadil o prodloužení nepřehledna, jež budeme v jednadvacátíém století vnímat jako svobodu. A co vidíme? Vnitro buduje na svůj vrub informatická propojení s jinými rezorty. Orwelliánství – toť rakovina kterámetastázuje, ať tomu Igor Němec brání s usilovností sebe více úpornou.
Z hlediska technologie nepůjde o prosté propojení sítí. Tak jednoduché to nebude. K vyhodnocení té záplavy dat bude třeba doslova umělé inteligence. O ní máme více méně mlhavé představy a v nouzi se uchylujeme k Turingově testu: o umělé inteligenci podle této praktické definice můžeme hovořit tehdy, pokud nedokážeme rozeznat, zda vedeme dialog s člověkem nebo strojem. Jak to funguje vykreslili Kubrick a Clarke ve filmu Vesmírná Odysea 2001 a před ním to popsal StanislawLem v povídce Kladivo.
Osobně se však domnívám, že daleko dřív dojde k vytvoření umělé inteligence zcela jiného řádu a jiného účelu. Lem, případně Clarke s Kubrikem, byli při vytváření jejich vize příliš zaujati příkladem člověka, jejich vize byla tudíž antropomorfistická – stvořili jakéhosi inteligenčního homunkula, vhodného k popovídání z očí do očí, tedy z očí do objektivu. Bude to jinak. Umělá inteligence, vyhodnocující a řídící dohledací a hlídací systémy, ta tu nebude k popovídání. Ta bude posílat rovnou do kriminálu.
Dřív, než vytvoříme stroj s umělou inteligencí vhodného k popovídání, vytvoříme Boha, vševědoucího a všemocného, což je v praxi možná totéž. Není to žert. Myslím to smrtelně vážně, ostatně jako skoro vše, o čem jsem kdy žertoval.
George Orwell umístil svoji totalitní společnost do jedné země zvané Oceánie. Myslím si, že orwellismus jednadvacátého století bude jiný. Technologicky rozhodující mocnosti současné doby mají pevně vkořeněné demokratické systémy-tím myslím civilizační oblasti japonské, americké a západoevropské. Tyto systémy mají precizně nastavené ochranné mechanismy, schopné s pozoruhodnou účinností izolovat a postupně likvidovat eventuální centra orwellismu, ať se objeví kdekoli, ve státní správě nebo v hospodářské sféře. Už teď, na sklonku dvacátého století, se však začíná rýsovat vize značně temná. Informační technologie se už nyní vymykají kontrole národních států. Opět připomenu Internet. Ten žije v právním vzduchoprázdnu. Dosavadní pokusy o nasazení ohlávky ztroskotaly. Státy se nevzdávají. Tak zvaný německý legislativní model přejímá asiatský středověký systém, kdy pořádek byl udržen prostřednictvím rukojmích. Vladař má v ruce tvé dítě a jakmile se zachováš proti vladařově vůli, uřízne dítěti hlavu. V daném případě by se rukojmím staly společnosti zprostředkující konektivitu. Jakmile by se na síti objevily materiály odporující vkusu a zájmům státu, postihl by – nikoli původce těch materiálů, kteří jsou mnohdy v cizině – nýbrž poskytovatele spojení. K několika praktickým represivním zásahům založených na této bázi již došlo.
Těžkopádná zákonodárná mašinérie jednotlivých státních společenství však nestačí pachtit se ve stopách sedmimílových bot technického pokroku. Internet není fakt, Internet je stav: je to právě to, co je dnes, za rok může být zásadně jiný. Uvádím ho jako příklad informatického zařízení, které se vymyká dosahu národních států. Vraťme se k obrazu onoho informatického boha vševědoucího, toho meta-vyhodnocovače výsledků získaných z nekonečného množství jednotlivých zdrojů informace. Klasická sci-fi vytvářela vize „centrálního mozku lidstva“ a tato vize byla spojena s obrazem konkrétního stroje umístěného na konkrétním místě, obsluhovaného konkrétními lidmi. Internet nám může posloužit jako obrázek, jako náčrt jiné koncepce, která může a podle mého názoru vskutku bude platit pro vševědoucího elektronického boha jednadvacátého století.
I dnes je mnoho lidí, kteří nejsou schopni pochopit, jak to, že nelze odpovědět na otázku „kde je Internet“ a myslí si, že to buď nevíte nebo je balamutíte, když odpovíte „všude“. Vy v tomto sále víte, že to tak skutečně je, že Internet skutečně je všude. Zrovna tak všude vidím zvolna se zhmotňující stín přicházejícího boha vševědoucího. Bude to rozptýlené inter-reagující zařízení, v úplnosti nikým nevlastněné a nikým neřízené, pouze obsluhované armádou jáhnů v kontinuální bohoslužbě, bez přetržení osvětlované jedním jediným Sluncem. Toto zařízení nepůjde vypnout, jako nejde vypnout vítr nebo déšť. Nepůjde kontrolovat, neboť nebude co kontrolovat. Nepůjde zničit, neboť nebude co zničit. A kdyby nakrásně někdo vymyslil nějaký důmyslný zničující prostředek, jakýsi sebenásobící virus, On s velkým „O“ to bude vědět první, a On, neboť inteligence musí mít smysl pro humor, aby byla inteligencí, bude spolupracovat na doladění onoho viru a bude řídit jeho použití.
Toto není vize až pro jednadvacáté století. To je vykreslení čehosi, co už dlouho vzniká a co tudíž potencionálně existuje. Až pochopíme, že to fyzicky existuje, bude to už fyzicky existovat hodně dlouho. Nikdy nedojde k situaci, kdy papaláš uchopí stříbrné nůžky a bude slavnostně přestřihovat pásku a mačkat knoflík. Nebude co přestřihovat a nebude jediný knoflík ke zmáčknutí.
Přirozeně že chápu, jakou námitku máte na jazyku. Svět není technologicky rovnoměrný. Na světě existují obrovské prostory bez technosféry, dokonce větší část lidstva žije v oblastech, které – nechytejte mne za slovíčka a nechtějte přesnou definici – nemá plně rozvinutou technosféru. Tento elektronicky vševědoucí bůh se nebude vznášet nad vodami, nýbrž jen a výhradně nad technosférou, bude její součástí. Lapidárně řečeno, nejdříve bude nahlížet do duše občana pracujícího na vzdáleném terminálu, který si objednává pizzu domů Internetem a platí výhradně elektronicky, právě o tomto člověku bude vědět vše nebo skoro vše, kdežto o australském domorodci žijícímu v Northern Territories nebude mít ponětí. Gibson má v Neuromancerovi krásnou vizi mapy hustotu přenosu informace. Tato vize přesně vystihuje, co mám na mysli. Věřím dokonce, že už brzy spatříme v zeměpisných atlasech vedle map horopisných a vodopisných a místopisných i mapy datapisné – ty budou nejdůležitější.
Oblasti datapisně husté se budou rozšiřovat, jako když Holanďané dobývali svoje území ze dna mořského. To bude jedna z civilizačních os jednadvacátého století – a tím navazuji na to, co jsem o jednadvacátém století zveřejnil v knize Klon 96. Svět se bude diferencovat, některé společnosti budou ochotně nabízet svá území a svoji populaci, aby se datapisně zahustily, jiné se budou zuřivě bránit – to budou zřejmě společnosti muslimské, jiné se nedokáží včlenit z jiných důvodů, teď mám na mysli především Afriku.
Jaký je mechanismus, s jehož pomocí bude elektronický bůh rozšiřovat svoji působnost? Až dosud jsme o něm uvažovali v souvislosti s orwellovskými vizemi, jméno Orwellovo je v záhlaví tohoto výkladu, a nejčastěji jsme hovořili o vyhodnocování, kontrole, monitoringu osobnosti a to je nám všem představa jistě protivná, nepřijatelná. pod nehty zalézající.
Nerad bych se pouštěl do pokusu o definici svobody, protože málokterý pojem byl kdy tak překrucován. I když se budeme držet intuitivního, řeknu dokonce selského pojetí svobody, můžeme diskutovat o tezi, že statisticky průměrný člověk ochotně vymění svobodu za výhodu. Výhoda to může i nicotná s účinkem krátkodobým, přesto tento obchod funguje a bez něho by totalitarismus vůbec nebyl možný, protože nelze za záda každému člověku postavit vojáka s puškou a navíc i ten voják musí vyměnit svoji svobodu nebýt vojákem za nějakou výhodu, které se těší vůči ne-vojákovi.
Elektronický bůh v tom pojetí, jak ho zde vykresluji a jak ho vidím a cítím se rodit v záři elektrických jisker, postupně připraví člověka o svobodu anonymity či neviditelnosti. Kdyby se to mělo dít tak, že každý člověk dostane domů terminál, něco jako peoplemetr, a bude nucen vyťukávat co měl k obědu a jaké ponožky si koupil a na čem byl v kině a komu telefonoval – a ten člověk by z toho neměl žádnou výhodu, považoval by to za pekelnou nesvobodu a bouřil se. Ostatně, i ten kdo má doma televizní peoplemetr dostává za to zaplaceno, čili zcela jednoznačně vyměnil svobodu bez dohledu koukat na co chce na televizi za výhodu mít peníze. Co nabídne informatická technologie člověku, aby se bez reptání nechával kontrolovat, jakou výhodu mu dá za odstup od svobody? Neomezenou komunikaci s jinými lidmi, nabídne mu informace a zábavu, nabídne mu pohodlné pracovní příležitosti doma, nabídne mu získat spotřební statky za doposud neslýchaně výhodných podmínek. Člověk takto navštívený elektronickým bohem vůbec nebude myslet na to, že se vzdal značné části své svobody. Už dnes uživatel platební karty nemyslí na to, že někde je – nebo technicky vzato snadno může být – zaznamenáno, kde a kdy a co nakupoval a už vůbec nemyslí na to, že těchto informací by mohlo být využito a zneužito. Opakuji tedy, že elektronický bůh připraví člověka o stále větší díl svobody výměnou za výhody pohodlného života – ovšem života velmi konzumního.
Už jsem tu hovořil o datapisných hranicích, o tom, že na světě budou společnosti odmítající nadvládu elektronického boha. Ovšem i ve společnostech datapisně hustých se najdou jednotlivci i celé komunity, které se budou elektronickému bohu vzpírat. Budou to heretici, budou to husité a Albigenští jednadvacátého století. První krok k totální nadvládě elektronického boha bude přechod k čistě elektronickému peněžnímu styku. Je mimo pochybu, že k tomu dojde. Ještě v osmnáctém století byly bankovky pokládány za drzou a nedůvěryhodnou vymyšlenost, kdežto dvacáté století už fakticky nezná měnu taženou do vzácného kovu a i naše mince jsou z tohoto hlediska jen jakýmisi kovovými bankovkami. Platební karty znamenají zásadní přeměnu. I zde došlo k jasné výměně svobody za výhodu. Stokoruna platí totéž v ruce žebráka i Viktora Koženého – jen jejich konec je jiný, ta první stovka skončí v hospodě, ta druhá v tunelu. Tváří stovce jsme si všichni rovni. Zato platební kartu, tu žebrákovi prostě nedají. Elektronickou měnu bude smět využívat jen člověk, žijící řádný elektronický život. Právě na to myslel William Gibson, když se zmiňoval o vysoce technologizovaných částech světa, kde bude používání papírových peněz ilegální. Právě proto, že bankovky jsou ilegální a za jejich užití nemusí se člověk vzdát ani jednoho bitu informace o své osobě. Elektronický bůh bude nenávidět bankovky jako čert svěcenou vodu a udělá vše myslitelné, aby je sprovodil ze světa. Albigenští jednadvacátého století se budou bránit nadvládě elektronického boha. Po vzoru ludditů se budou pokoušet ničit jednotlivé stroje – marná to snaha! Efektivnější bude softwarový zápas. Dnešní hackeři ukazují cestu elektronickým Robinům Hoodům jednadvacátého století. Budou napsány celé romány o těchto zápasech – tragických a k neúspěchu odsouzených. Elektronický bůh nakonec zvítězí i nad skupinami disidentů. Výhody vždycky zvítězí nad svobodou – a méně revolucionářů bylo popraveno, než kolik jich bylo zkorumpováno. Tím spíš, že leckterá korupce se dokáže maskovat za vítězství.
Elektronický bůh bude nucen čelit i jinému protivenství. Prodavač drog, kurva, překupník kradeného zboží – tato cháska zuřivě nenávidějící všudypřítomnost a vševědoucnost elektronického Boha získá paradoxně spojence ve svém odvěkém nepříteli – v národním státu. Stát bude v poněkud groteskní a jistě ve schizofrenní pozici. Na jedné straně bude činnosti elektronického boha příznivě nakloněn. Jak by nebyl! Který stát by nechtěl vidět do peněženek svých poddaných, který stát by nechtěl mít prstík na každé žilce ekonomického organismu, nechtěl by slyšet vše, co se v podhradí šustne, milostnými vzdechy počínaje a repotem nespokojených konče. Vševědoucnost elektronického boha státu vyhovuje – pokud ovšem je elektronické bůh ochoten svoji vševědoucnost se státem sdílet.
A právě to není zcela jasné. Víme přece, že elektronický bůh nemá jediný atribut, totiž vševědoucnost: je u všudypřítomný a národními hranicemi se nenechává znepokojovat. Rád bych teď upozornil, že se nepohybujeme na půdě spekulací. Toto je problém jednadvacátého století – ovšem ne jeho vzdáleného konce, nýbrž samého počátku, už té první dekády. Ekonomika je do velké míry globální už teď. Bouře na burze v Tokiu má okamžité odezvy po celém světě. Velké společnosti jsou multinacionální. To zjišťuje Česká republika při svých snahách přilákat zahraniční kapitál – úvahy o „daňových prázdninách“ jsou komické, protože velké globální společnosti mají širokou paletu prostředků, jak si udělat ne bájné „dva roky prázdnin“, ale daňový ráj podle své libosti.
Toto je omezeno na oblast velkého byznisu, zatím. Technika přenosu informace však přinese už brzy zásadní změny do ekonomického života i menších společností a nakonec i jednotlivých občanů. Už dnes existují studie o tom, z čeho vlastně státy budou žít, až jim informační technologie znesnadní, nebo dokonce znemožní vybírat daně. Státy se dozajista pokusí přistříhnout elektronickému bohu křídla a jistě se to v některých fázích vývoje bude i dařit.Navíc, zánik národních států nebude v zájmu elektronického boha. Kdyby totiž jednal čistě sobecky a egocentricky, vyvíjel se bez ohledu na své okolí a prostředí, choval by se jako nákaza, jako choroba která nakonec zahubí svého nositele. Připomínám, že elektronický bůh je sice vševědoucí, ovšem výkon všemocnosti musí delegovat někam jinam, do jiných oblastí – a kam jinam, než mimo jiné i na výkonné složky národních států. Všechny konflikty tedy nakonec povedou k jakési symbioze mezi globální informatickou sítí, již nazývám pro názornost elektronickým Bohem, a národními státy, kterých bude pravděpodobně spíš přibývat než by se jejich počet zmenšoval.
Začal jsem Orwellem a jím bych taky rád skončil. Pojmy jako „orwellovský stát“, „orwellovský dohled“, „orwellovské dohlížecí prostředky“ nesou v sobě silný emotivní náboj. George Orwell vrhnul silné světlo na dohlížecí a ovlivňovací prostředky, jimiž moderní stát disponuje. Je to světlo tak silné, že v jeho záři zmizely barvy a zůstalo jen světlo a stín, tedy obraz dočista černobílý. Orwell nás naučil nenávidět dohled a dal nám zapomenout na fakt, že moderní historie je z jistého pohledu historií rozvoje dohlížecích praktik.
Ctihodný gentleman devatenáctého století přenesený strojem času do naší doby by se zhrozil, jakému dohledu jsme všichni vystaveni. Zatímco ve verneovce Cesta kolem světa za 80 dní zuřil Phileas Phogg, co je to za neslýchanou buzeraci, když po něm v Adenu chtěli pas – poprvé na cestě z Londýna, zatímco naši dědové považovali za pobuřující šikanu světelné semafory na křižovatkách, jež jim přikazovaly, kdy smějí a kdy nesmějí přejít ulici, my považujeme za přirozené, že jsme označeni rodnými čísly, za skoro přirozené že data o naší identitě jsou zbožím, které prodává i ministerstvo vnitra.
Orwellův román 1984 spojil vše dohromady, dohled a státní systém, jedno ztotožnil s druhým. Skutečnost je ovšem mnohem složitější. I demokratický svobodný stát dnes disponuje tak výkonnými technickými prostředky dohledu, o jakých se nezdálo Hitlerovu Gestapu a Stalinovu NKVD. Jednadvacáté století přinese tak zásadní zlepšení, jak ve sběru dat tak v jejich vyhodnocování, že jsem se osmělil předložit vám obrazný termín „elektronický bůh“. Nicméně i ve své nejdokonalejší podobě nebude elektronický bůh jednadvacátého století samostatnou entitou. Stále to bude lidský nástroj, a jako každý může sloužit ke zlu nebo dobru. To je tak významné konstatování, že pokusem o jeho stručný rozbor chci úvahu uzavřít.
Zatím jsem se tu o jedinci zmínil pouze v jedné souvislosti, totiž při konstatování, že lidé, tedy jedinci, mají ve svém statistickém průměru sklon ke směně svobody za výhody. Bylo zde také řečeno, že elektronický bůh svou vševědoucností svobodu jedince omezuje. V Orwellově románu je vykreslen krajní případ, kdy svoboda je omezena natolik že jedinec je frustrovaný. To ovšem není – objektivně vzato – zájem elektronického boha, ať už toto informatické meta-zařízení nadané umělou inteligencí bude schopno sebereflexe a pocitů, nebo nebude. Takže, stejně jako elektronický bůh uzavře smlouvu o symbiose s národním státem, uzavře ji – byť skrytě, nevysloveně – s jedincem. Ponechá mu jakési informatické mikroklima, v němž se jedinec bude pohybovat volně, bez dohledu, aniž by někdo nebo něco monitorovalo jeho činy.
Do značné míry to bude iluze svobody, do značné míry to bude orwellismus ještě ohavnější, než jaký popsal sám Orwell, protože nejstrašnější je koncentrák plný šťastných vězňů, přesvědčených o své svobodě.
S touto myšlenkou se – snad – snáze smíříme, když si uvědomujeme, že v uměle vytvořené bublině zdánlivé svobody se pohybujeme už dnes, že i v současné chvíli jsme marionetami na neviditelných nitkách, držených lidmi, kteří si možná ani mnohdy neuvědomují, že jsou loutkáři. Ostatně, toto je smysl prakticky všech sci-fi které jsem napsal. Jedinci v umělé bublině zdánlivé volnosti, státy symbiotující s elektronickým Bohem – takto vidím situaci jednadvacátého století, obrazec trojúhelníku, odpovídající křesťasné věrouce, kde jedince můžeme chápat jako syna, stát jako otce a elektronického vševěda jako ducha svatého. Toto je míněno samozřejmě žertem, s nadsázkou. Pokládám však za pravděpodobné ba jisté, že mezi těmito třemi úhelnými body bude probíhat jakási interakce, bude tam napětí, bude tam pohyb. Cítím, že postupně vznikne nová politická osa. Tu současnou hlavní osu chápu míru přerozdělování: v zásadě jde o to, kolika statků se stát zmocní, aby je umístil tam, kde by se přirozenou cestou nedostaly. Optima se nikdy nedosáhne, vždy dojde k nějakému kompromisnímu řešení. Nová politická osa se bude zabývat mírou dohledu a mírou autonomie jedince. Tradiční demokracie zná tento problém také, a řeší ho laděním zákonných norem v rámci národních států, eventuálně aliančních soustátí. Vznik elektronického boha v zásadě nerespektujícího hranice a pravomoce států dá tomuto problému novou dynamiku. A zase připomínám, toto není žádné fantazírování, tento problém je přítomný už dnes a už teď. Tvůrci informačních systémů jsou velmi dobře vědomi, že je nutno nastavit regulační parametry, avšak nevědí jak ba dokonce nevědí, zda je to možné.
Tento text byl přednesen na Miniconu, Technické muzeum, 22.11.1997
Zpět na blog