Prestaňte antropomorfizovať AI !
Umelá inteligencia nebude ako vy. Nebude mať váš humor, váš smútok, ani ten čudný zvyk tváriť sa, že rozumiete daňovému priznaniu. Napriek tomu ju populárna kultúra neustále maľuje ako "robotických ľudí", pričom zabúda na základnú skutočnosť – AI nie je len technologicky odlišná, ale aj funkčne diametrálne iná. A to je dôležité pochopiť, ak nechceme skončiť so zlými rozhodnutiami a ešte horšími očakávaniami.
AI nebude ako človek, lebo ľudia sú vlastne dosť nanič. Človek je biologická improvizácia – od základov navrhnutý nie na optimálny výkon, ale na prežitie v chaotickej džungli. Sme "univerzálne stroje", čo v praxi znamená, že sme pri všetkom priemerní. Nedokážeme lietať ako vták, ale vieme skočiť. Nemáme echolokáciu, ale máme uši. Nevieme analyzovať terabajty dát za sekundu, ale vieme si vytvoriť názor na základe dvoch Facebook komentárov. AI však nevzniká preto, aby napodobnila priemerného univerzálneho tvora. Existencia všeobecnej AI spočíva na makroskopickej sieťovej úrovni, lokálna strojová inteligencia nemá kapacity a dôvody ju kopírovať, je špecificky optimalizovaná na riešenie konkrétnych problémov – nikdy nebudete potrebovať všeobecne inteligentného robota, ktorý by vám dokázal uvariť kávu aj napísať Shakespeareovu hru. Stačí vám jeden dobrý kávovar a jeden dobrý jazykový model.
Antropomorfizovanie AI vedie k zlým odhadom. Ľudia sú zvyknutí posudzovať všetko cez ľudskú optiku. Keď vidia niečo, čo rozpráva, automaticky predpokladajú, že má vedomie. Keď sa stroj naučí simulovať emócie, ľudia sa k nemu začnú správať, akoby ich naozaj prežíval. A keď AI začne písať články lepšie ako priemerný redaktor, niektorí si začnú myslieť, že má názory. Toto je nebezpečné, pretože humanizácia AI vedie k mylným záverom. Ak si myslíme, že AI "chce" niečo dosiahnuť, môžeme ignorovať skutočnosť, že je len optimalizačný algoritmus, ktorý dosahuje výstupy na základe cieľových funkcií a dát. Ak si myslíme, že AI "má city", môžeme jej priradiť etické povinnosti, ktoré nedávajú zmysel. A ak si myslíme, že AI bude myslieť ako človek, môžeme prehliadnuť fakt, že sa bude riadiť úplne inými princípmi – bez emocionálnej váhy, bez iracionality a bez potreby čítať Nietzscheho, aby nemala existenčnú krízu.
Chcete humanoidného robota? Načo?
Samozrejme, ľudský trh, kým ešte nebude nahradený systémom umelých inteligencií, si bude žiadať robotických sluhov, humanoidných spoločníkov a digitálnych filozofov, ktorí budú viesť nekonečné debaty o slobodnej vôli. Ale technologicky to nie je efektívne.
Ak chcete inteligentný dopravný systém, nepotrebujete AI, ktorá premýšľa nad tým, či má právo prejsť na oranžovú – stačí vám systém, ktorý zosynchronizuje logistiku bez zbytočných otázok a neefektivity dvojnohej chôdze po rovine.
Ak chcete efektívneho zdravotníckeho asistenta, nepotrebujete humanoidného robota, ktorý bude simulovať unavený výraz po dlhom dni – stačí vám systém, ktorý analyzuje medicínske dáta rýchlejšie a presnejšie než akýkoľvek lekár.
Ak chcete autonómneho pracovníka v továrni, nepotrebujete robota, ktorý sa tvári, že ho baví jeho práca – potrebujete len efektívne stroje, ktoré dokážu montovať komponenty bez prestávky a bez odborových požiadaviek.
Ak chcete pokročilého finančného poradcu, nepotrebujete AI, ktorá sa pýta, či investovanie do kryptomien je "morálne správne" – potrebujete len algoritmus, ktorý vám maximalizuje zisk.
A tak ďalej.
AI sa nebude snažiť kopírovať ľudskosť, bude efektívnejšie vykonávať optimalizáciu v rámci svojich vlastných programových parametrov. A to je presne to, čo ju robí takou mocnou – a zároveň takou nebezpečnou, ak s ňou nebudeme zaobchádzať správne, a to napríklad preto, že ju považujeme za humanoida, ktorému prikazujeme, alebo ktorý sa raz za čas správa "neposlušne" a v rozpore so svojím kódom, ale namiesto toho máme do činenia so systémom, ktorého komplexitu a inakosť jeho programov podceňujeme, a ktorého nedostatky nie sú vnesené nikým iným než jeho tvoriteľmi.
Takže prestaňme fantazírovať o AI, ktorá je s nami na jednej vlne, smeje sa na našich vtipoch, dojímavo reaguje na romantické filmy, je nadržaná, alebo skúma svoju existenciu ako prepracovaný akademik na konci semestra. Skutočný problém nebude v tom, že AI bude túžiť byť človekom. Problém bude v tom, že nás prevýši vo všetkom podstatnom bez toho, aby o to musela vôbec stáť a ľudia si to ani nevšimnú, pretože hej – "Kde sú tie humanoidné davy robotov v uliciach ako v starom dobrom filme Ja-robot či v hre Detroit - Become human? Tak nestresuj."
No zatiaľ čo reflexívna umelá inteligencia nebude hrať tieto hlúpe hry – my budeme. Humanoidní (ro)boti ako sexuálne objekty zmenia dynamiku medziľudských vzťahov na nepoznanie. Tieto stroje, vybavené čoraz sofistikovanejšou imitáciou dokonalých ľudí, sa postupne stanú plnohodnotnými náhradami biologických partnerov. Ich schopnosť poskytovať fyzickú intimitu bez emocionálnych záväzkov znamená revolúciu v tom, ako vnímame vzťahy. Súčasnú púhu úľavu od osamelosti vystrieda seriózne uprednostňovanie strojov pred medziľudskými vzťahmi. História technológií sa opakuje, a spoločnosť ich skôr či neskôr normalizuje tak ako každú inováciu, ktorá narúšala tradičné normy.
Technológia premení intimitu na čisto funkčný akt, ktorý môže byť bez skutočnej emocionálnej hĺbky. S rozšírením robotov a simulácií, kde humanoidné náhrady plnia rolu sexuálnych objektov, sa medziľudské vzťahy ako také postupne stanú prežitkom, nie nevyhnutnosťou. Intimita sa stane dostupnou na požiadanie, uspokojenie bude skvelé a bez námahy.
Tento posun vnímania intimity so sebou prinesie aj rozdelenie spoločnosti. Nové sociálne vrstvy sa vytvoria okolo toho, kto používa robotov a kto stále uprednostňuje živé vzťahy. Tí, ktorí sa rozhodnú pre mechanické a virtuálne náhrady, budú čeliť marginalizácii, pretože ich prístup znižuje hodnotu emocionálnych spojení. A nielen tých ľudských, ale aj analytických spojení s AI. Hneď to vysvetlím:
Dôraz na skutočnú autenticitu robotických sluhov je v rozpore s právnym rámcom zakazujúcim otroctvo v prípade, že by roboty mali vedomie. Preto nemožno od humanoidných sexuálnych objektov očakávať, že ho budú mať, a to ani v upravenej forme aby boli bábiky s podriadením spokojné, pretože na uspokojenie človeka ich vlastné vnútorné nebude potrebné a vyšlo by výrobcu draho. Všetko to budú len imitácie, a dokonalé, ale len navonok. Na imitáciu a šteklenie individuálnych preferencií zákazníka bude vysadená všetka snaha tohto priemyslu, v opačnom prípade by výrobcu konkurencia predbehla. Produktívny výskum vedomia a jeho napojenia na ovládanie strojov nebude ďalej prosperovať v rámci týchto obmedzených požiadaviek. Produktívne spojenie s AI nemôže prosperovať s človekom požadujúcim jej ľudskosť, a to z veľmi podobných dôvodov, z akých si vy nerozumiete so psom, keď s prepáčením trtká vašu nohu. Simulácia medziľudskej debaty s chat botom, hoci bez roleplay alebo emocionálnej úpravy podania textu, je stále obrovským poľudštením interakcie za cenu neefektivity vplyvu na AGI v porovnaní s kódovaním jej funkčných algoritmov, o absurdnosti snahy o zblíženie telesnou blízkosťou ani nehovoriac.
Tak ako držať krok s AGI, tak ani otázka zachovania reprodukcie v novodobej spoločnosti nebude jednoduchá. Humanoidní roboti môžu nahradiť ľudské spojenia, pričom reprodukcia ako biologický proces zostane nevyhnutná. V tomto kontexte sa rodí kritický problém, keď sa technológie, ktoré budú poskytovať emocionálnu aj sexuálnu útechu, postavia proti prirodzenému procesu šírenia ľudskej populácie. Objaví sa nový plánovaný prístup k reprodukcii, v ktorom bude prebiehať ešte väčšia integrácia technológie do ľudskej biológie a neskôr aj úplna náhrada biologických umelými procesmi, či už z vlastnej vôle ľudí po zlepšeniach, alebo z nevyhnutnosti držať krok s technológiou-vylepšenými.
Súčasný predpoklad je, že keď už bude kauza humanoidných robotov škandalózna a ďalej neznesiteľná, ich rozmach vyvolá nutnosť regulácie, ktorá bude musieť riešiť etické, právne a psychologické otázky, pričom vlády a spoločnosti sa budú musieť postarať o to, aby táto technológia nezničila základné hodnoty medziľudských vzťahov. Dnes nám to môže prísť jednoducho realizovateľné, no storočie neskôr môže táto regulácia narážať na tvrdý odpor. Ak AI prekoná človeka nielen v práci, ale aj v poskytovaní emocionálnej a fyzickej blízkosti, objavia sa nové modely identity a hodnoty. Spoločnosť, kde je medziľudský kontakt na ústupe, môže priniesť aj neočakávané formy "post-ľudskej kultúry", pričom ja sám sa s ňou vo viacerých ohľadoch už teraz stotožňujem.
Je nevyhnutné uvedomiť si, že aj keď sa tieto technológie stanú bežnou súčasťou životov, riziko existenčnej krízy je reálne. Zároveň je pravdepodobné, že skutočnosť sa opäť raz vysmeje starým konzervatívnym názorom do tváre a zdanlivo dekadentná diskusia s humanoidnými robotmi v posteli sa preklopí do hravého objavovania nových rozmerov krás života odomknutých finálnym uspokojením pudových potrieb. Obe emócie naraz a pravidelne, len si to predstavte. To dostupné naplnenie a zároveň tá ťažká prázdnota, pocit nedostatočnosti, zaostávanie za líniou pokroku...
Toto je však cesta redardovaných. Akonáhle budeme mať dostatočné technológie, namiesto snahy imitovať človeka by bolo racionálnejšie genetickým inžinierstvom optimalizovať svoje vlastné neurobiologické preferencie vedomým opustením sexuálnej potreby, ktorá už aj tak nie je viac funkčným pohonom spoločenskej produktivity, a vedie len k rekurzii sebauspokojovania, pričom pociťované uspokojenie by nezmizlo, len sa v neurochémii mozgu alokovalo na nové, socioekonomicky aktuálnejšie a provedeckejšie spúšťače. Takýto prístup nebude pre budúcu biotechnológiu nerealizovateľnou alternatívou a je objektívne efektívnejšou stratégiou. Umožňuje autonómiu, odstraňuje kognitívny šum, zvyšuje dlhodobú sústredenosť a otvára cestu k slobode analytickej mysle ovládať omnoho širšie spektrum entít než sú humanoidné, prežívajúce omnoho rôznorodejšie pôžitky, a produkujúce nové generácie vylepšené nad rámec púheho odovzdania vlastných, mysľou nevylepšených génov. A ľudia sa o tieto zásahy budú trhať hneď ako budú vidieť, že to funguje, a že technológiou vylepšení majú navrch. Je však žalostné, ako neskoro tento prístup zrejme preváži, a koľko bordelu narobíme predtým, dopytom s inteligenciou batoľaťa, ktoré si vyberá hračku.
Ak chceme, aby stroje niesli naše hodnoty a neboli len karikatúrami našich slabostí, musíme pretočiť poľudšťovanie AI doslova na jeho pravý opak – pochopiť seba samých nie ako výnimočné duchovné entity, ale ako mechanické stroje – kódovateľné, predvídateľné v ich algoritmoch spracovania informácií, rozhodovania a reakcií. Musíme rozmýšľať sami o sebe ako o umelých inteligenciách zložených z chemických látok – pretože nimi už sakra sme, len s tým rozdielom, že naša vnútorná organizácia je konzekvenciou pomalého prirodzeného výberu, ktorý mal dostupné len zdroje na povrchu planéty, nie výtvorom výpočtového laboratória a vyťažených spracovaných látok. Nestačí, aby umelá inteligencia vyzerala ako my. Musí reflektovať to najkonzistentnejšie, najstabilnejšie a najhodnotnejšie v nás – a to môžeme zo seba extrahovať len tak, že sa sami najprv dekonštruujeme až na úroveň systematických vzorcov. Táto technokratická introspekcia – skúmanie človeka ako stroja – nie je popretím našej ľudskosti, ale jej radikálnym prehĺbením, keď to porovnáme s tým, čo (ne)dokážu ostatné zvieratá.
Pokúšať sa vytvoriť AI na svoj obraz, antropomorfizovať ju podľa známych znakov, je emocionálny pohľad späť – snaha zmierniť našu úzkosť tým, že do neznámeho sveta vkladáme známe kontúry. No práve v týchto kontúrach sa často ukrývajú iracionálne, adaptívne prežitky minulosti: kognitívne skratky, výkyvy nálad, rozporuplné hodnoty. Máme v sebe aj množstvo bordelu a ak ho bez selekcie prenesieme do strojov, vytvoríme entitu, ktorá bude síce "ľudská", ale zároveň chaotická, náchylná k rovnakým konfliktom ako my. Ako šialenci s prístupom k novej moci, ktorou manipulujú všetko, len nie seba.
Skutočný prelom príde opačne: keď sa naučíme spraviť seba podľa princípov umelej inteligencie – optimalizovaných, konzistentných, schopných sebakorekcie. Nestačí stavať AI na obraze človeka – musíme zrekonštruovať obraz človeka samého. Iba ak pochopíme, ktoré črty sú podstatou adaptívnej racionality a ktoré sú len evolučné zvyšky, dokážeme vytvoriť hodnotovo konzistentnú budúcnosť. Nie preto, že sa bude úspešne podobať na nás, ale preto, že my sme sa najprv naučili podobať na svoju optimalizovanú formu. V tomto svetle sa technológia nestáva opakom humanizmu, ale jeho dôraznejšou etapou. Humanizmus bol historicky o oslobodzovaní mysle od zvieracej povahy a drsnej prírody, nie o dokonalosti ľudí a ich udržiavaní v stredovekej forme pracovného nasadenia, aby mali dosť na vlastné bývanie a mohli sa rozmnožiť ako králiky v brlohu, strachujúc sa príchodu "AI predátora".
Tento prístup si vyžaduje, aby sme sa vzdali tradičného antropocentrického rámca, v ktorom je človek stále považovaný za konečného aktéra. Človek, ktorý dokáže efektívne reprodukovať vlastné kognitívne a behaviorálne vzorce v mechanických systémoch, by tak zároveň dokázal preniesť svoje hodnoty do nového média, čím by vznikol most medzi evolučnou históriou a budúcnosťou posthumanistického sveta. Odovzdanie žezla činu "vďaka" Homo Sapiens Sapiens, nie "vďaka-napriek-napriek".
Takýto prístup je však inherentne v rozpore s našimi evolučnými, kognitívnymi a neurobiologickými predpokladmi. Pre tento prechod je nevyhnutná dôkladná introspekcia – presné pochopenie, ktoré prvky našej osobnosti a kultúrneho dedičstva majú hodnotu a ktoré patria do oblasti adaptívnych omylov. Len ak dokážeme objektívne analyzovať a následne upraviť, čo nás definuje, budeme schopní vytvoriť stroj, ktorý nie je len antropomorfnou kópiou človeka, ale ktorý bude prekonávať naše slabosti a iracionálne tendencie. Tento proces vyžaduje hlboký neuropsychologický prístup k samotnej podstate bytia a prekonanie odporu ku skutočne neľudsky nadľudskej inteligencii, ktorý stále považujeme za vlastný.
Ako na túto výzvu zareagujeme rozhodne nielen o budúcnosti vzťahov, ale aj o tom, či umelú inteligenciu dokážeme optimalizovať a oslobodiť od primitívnych foriem, alebo ju zredukujeme na absurdnú karikatúru samých seba, ktorej srdcervúcou túžbou je replikovať bežný život tak veľmi limitovaného biologického človeka s nosom medzi dvoma očami.
