275. Skutočná väzenská dilema
Jedného dňa mi napadlo, že štandardné znázornenie Väzenskej dilemy je nesprávne. V jadre Väzenskej dilemy je táto symetrická matica odmien:
1: S 1: P
2: S (3, 3) (5, 0)
2: P (0, 5) (2, 2)
Hráč 1 a hráč 2 si môžu každý vybrať S alebo P. Výsledný úžitok pre 1 a 2 sú prvé a druhé číslo v dvojici. Z dôvodov, ktoré budú zrejmými, "S" znamená "spolupráca" a "P" znamená "podraz".
Všimnite si, že hráč v tejto hre (berieme z pohľadu prvého hráča) má tento rebríček preferencií ohľadom výsledku: (P, S) > (S, S) > (P, P) > (S, P).
Zdalo by sa, že P dominuje S: Ak si druhý hráč vyberie S, pre vás je lepšie (P, S) než (S, S); a ak si druhý hráč vyberie P, pre vás je lepšie (P, P) než (S, P). Takže si múdro vyberiete P, a keďže matica odmien je symetrická, druhý hráč si tiež vyberie P.
Kiež by ste boli obaja menej múdri! Obaja dávate prednosť (S, S) pred (P, P). Čiže, obaja dávate prednosť vzájomnej spolupráci pred vzájomným podrazom.
Väzenská dilema je jedna z veľkých základných tém v teórii rozhodovania, a napísalo sa o nej ohromné množstvo materiálu. Čo robí drzým moje tvrdenie, že zvyčajný spôsob, ako si predstavujeme Väzenskú dilemu má vážnu chybu, prinajmenšom pokiaľ ste človek.
Klasické znázornenie Väzenskej dilemy je nasledujúce: ste zločinec, a vy a váš spolupáchateľ ste boli obaja dopadnutí štátnou mocou. Nezávisle, bez možnosti spolu komunikovať, a bez možnosti neskôr zmeniť svoj názor, sa musíte rozhodnúť, či budete svedčiť proti vášmu spolupáchateľovi (P) alebo zostanete ticho (S).
Obom z vás momentálne hrozí jeden rok väzenia; svedectvo (P) odoberie jeden rok z vášho rozsudku, a pridá dva roky k rozsudku vášho spolupáchateľa.
Alebo možno vy a nejaký neznámy človek, iba raz, bez poznania histórie toho druhého a bez možnosti dodatočného zistenia, kto to bol, sa rozhodujete, či hrať S alebo P, o odmenu v dolároch zodpovedajúcu štandardnému grafu.
Ach, áno - v tej klasickej vizualizácii si máte predstaviť, že ste dokonale sebeckí, a že vám nezáleží na vašom spolupáchateľovi, alebo na hráčovi v druhej miestnosti, že ignorujete negatíva straty priateľstva a možnej pomsty do budúcnosti zo straty spoluväzňa.
Toto posledné upresnenie robí toto klasické znázornenie, podľa môjho názoru, falošným.
Nemôžete sa vyhnúť klamu spätného pohľadu, ak dáte porote pokyny, aby sa tvárila, že nepozná skutočný výsledok množiny udalostí. A bez komplikovaného úsilia, za ktorým stojí značné poznanie, nemôže neurologicky nepoškodený človek predstierať, že je naozaj, dokonale sebecký.
Narodili sme sa so zmyslom pre spravodlivosť, česť, empatiu, súcit, a dokonca altruizmus - výsledok toho, že naši predkovia sa adaptovali na hranie iterovanej Väzenskej dilemy. Nedokážeme naozaj, úprimne, absolútne a naprosto dávať prednosť (P, S) pred (S, S), aj keď môžeme naprosto dávať prednosť (S, S) pred (P, P), a (P, P) pred (S, P). Predstava, že náš spolupáchateľ strávi tri roky vo väzení, nás nemôže vôbec neovplyvniť.
V tej zamknutej kobke, kde hráme jednoduchú hru pod dozorom ekonomických psychológov, nie sme naprosto a absolútne necitliví voči cudzincovi, ktorý by mohol spolupracovať. Nie sme naprosto šťastní z predstavy, že by sme mohli podraziť a cudzinec spolupracovať, čím by sme získali päť dolárov, a cudzinec nedostane nič.
Inštinktívne sa fixujeme na výsledok (S, S) a hľadáme spôsob, ako argumentovať, že by to malo byť spoločné rozhodnutie: "Ako môžeme zabezpečiť vzájomnú spoluprácu?" je inštinktívna myšlienka. Nie: "Akým trikom môžem dosiahnuť, aby druhý hráč hral S, kým ja zahrám P pre maximálnu odmenu?" Pre niekoho so sklonom k altruizmu alebo cti alebo spravodlivosti, nemá Väzenská dilema naozaj tú kritickú maticu odmien - bez ohľadu na to, aké sú finančné odmeny pre jednotlivcov. (S, S) > (P, S), a tá hlavná otázka je, či to ten druhý hráč vidí tiež rovnako.
A nie, nemôžete dať pokyny ľuďom, ktorých práve zasväcujete do teórie hier, že majú predstierať, že sú celkom sebeckí - rovnako ako nemôžete dávať pokyny ľuďom, ktorých práve zasväcujete do antropomofizmu, aby predstierali, že sú maximalizátori očakávaných kancelárskych spiniek.
Aby sme zostavili Skutočnú väzenskú dilemu, situácia musí vyzerať nejako takto:
Hráč 1: Ľudia, Priateľská umelá inteligencia alebo iná humánna inteligencia.
Hráč 2: Nie-Priateľská UI alebo mimozemšťan, ktorému záleží iba na triedení kamienkov.
Predstavme si, že štyri miliardy ľudí - nie celý ľudský druh, ale jeho podstatná časť - práve trpí smrteľnou chorobou, ktorú môže vyliečiť iba látka X.
Látku X však možno vyrobiť iba v spolupráci s maximalizátorom kancelárskych spiniek z inej dimenzie - látka X sa používa aj na výrobu kancelárskych spiniek. Maximalizátorovi kancelárskych spiniek záleží iba na počte kancelárskych spiniek v jeho vlastnom vesmíre, nie v našom, takže mu nemôžeme ponúknuť, že mu tam vyrobíme kancelárske spinky, ani sa vyhrážať, že ich zničíme. Nikdy predtým sme s maximalizátorom kancelárskych spiniek neinteragovali a nikdy viac ani nebudeme.
Aj ľudstvo aj maximalizátor kancelárskych spiniek dostanú jedinú šancu zmocniť sa ďalšej časti látky X pre seba, tesne pred tým, ako spojenie medzi dimenziami skolabuje; ale proces dobývania zničí časť látky X.
Matica odmien je takáto:
1. / 2. Hráč
S / S (zachránené 2 miliardy ľudských životov, získané 2 kancelárske spinky)
P / S (+3 miliardy životov, +0 kancelárskych spiniek)
S / P (+0 životov, +3 kancelárske spinky)
P / P (+1 miliarda životov,+1 kancelárska spinka)
Vybral som takúto maticu odmien, aby som vytvoril pocit rozhorčenia pri predstave, že maximalizátor kancelárskych spiniek je ochotný vymeniť miliardy ľudských životov za pár kancelárskych spiniek. Je jasné, že maximalizátor kancelárskych spiniek by jednoducho mal dať všetku látku X nám; lenže maximalizátor kancelárskych spiniek nerobí to, čo by mal, ale jednoducho maximalizuje kancelárske spinky.
V tomto prípade naozaj dávame prednosť výsledku (P, S) pred výsledkom (S, S), bez ohľadu na spôsob, ako k tomu došlo. Omnoho radšej by sme žili vo vesmíre, kde boli z choroby uzdravené 3 miliardy ľudí a nevyrobili sa žiadne kancelárske spinky, než obetovať jednu miliardu ľudských životov na vytvorenie 2 kancelárskych spiniek. V prípade, ako je tento, sa nezdá správne spolupracovať. Nevyzerá to ani spravodlivo - taká veľká obeť od nás, pre taký malý zisk maximalizátora kancelárskych spiniek? A upresnime, že tento spinkový činiteľ neprežíva žiadnu bolesť ani radosť - iba dáva výstup akcie, ktoré navigujú jeho vesmír, aby obsahoval viac kancelárskych spiniek. Spinkový činiteľ nebude prežívať žiadnu radosť zo získania kancelárskych spiniek, žiadnu bolesť zo straty kancelárskych spiniek, ani žiaden bolestivý pocit, že sme ho zradili.
Čo urobíte vtedy? Budete spolupracovať vtedy, keď naozaj, definitívne, skutočne a absolútne chcete tú najväčšiu odmenu, akú môžete získať, a ani trošičku vám v porovnaní s tým nezáleží na tom, čo sa stane tomu druhému hráčovi? Keď sa zdá správne podraziť ešte aj keď ten druhý hráč spolupracuje? Keď sa jeho rozhodnutie ani nedá nazvať spoluprácou, ale iba výstupom typu B?
Takto vyzerá matica odmien skutočnej Väzenskej dilemy - situácia, kde (P, S) vyzerá správnejšie než (S, S).
Ale celý zvyšok logiky - všetko o tom, čo sa stane, ak obaja činitelia rozmýšľajú týmto spôsobom a obaja podrazia - zostáva rovnako. Pretože maximalizátorovi kancelárskych spiniek sú ľudská smrť, ľudská bolesť, a ľudský pocit zrady rovnako ľahostajné, ako sú nám kancelárske spinky. A predsa obaja dávame prednosť (S, S) pred (P, P).
Ak ste sa niekedy pýšili tým, že by ste spolupracovali vo Väzenskej dileme... alebo ste pochybovali o závere klasickej teórie hier, že "rozumná" voľba je podraziť... čo potom poviete na horeuvedenú Skutočnú väzenskú dilemu?
PS: V skutočnosti si nemyslím, že rozumní činitelia by mali vždy podraziť v jednorazových Väzenských dilemách, kde druhý hráč bude spolupracovať vtedy, keď očakáva, že urobíte to isté. Myslím si, že existujú situácie, kde dvaja činitelia môžu rozumne dosiahnuť (S, S) namiesto (P, P), a získať príslušné výhody.
Niektoré zo svojich úvah vysvetlím, keď budeme hovoriť o Newcombovom probléme. Ale nemôžeme sa rozprávať o tom, či je možná rozumná spolupráca v tejto dileme, dokiaľ sme sa nezbavili inštinktívneho pocitu, že výsledok (S, S) je pekný alebo dobrý sám o sebe. Musíme vidieť ďalej ako len po prosociálnu nálepku "vzájomná spolupráca", ak máme pochopiť matematiku. Ak máte intuíciu, že (S, S) je z pohľadu Hráča 1 lepšie ako (P, P), ale nemáte intuíciu, že (P, S) je tiež lepšie ako (S, S), ešte si neuvedomujete, čo robí tento problém zložitým.
Dodatok pre altruistov (Matej Athos): Nie je to jednoduchá otázka, ako v rôznych situáciách dosiahnuť (S, S). V prípade medziľudských vzťahov je morálne správnejšie určiť si tento cieľ než dosahovanie (P, S). Avšak na tom nezáleží: aj v tom prípade aby sme pochopili, čo všetko bráni v tvorbe spolupráce, musíme vychádzať z predpokladu, že (P, S) v praxi dominuje (S, S) – na úrovni jednotlivca to nie je jednoznačné, ale na úrovni génov áno. Väzenská dilema nemá "správnu odpoveď". Jednotlivec je odmeňovaný za to, že sa mu podarí zmanipulovať druhého pre vlastný zisk – s týmto základným pravidlom nedokážeme urobiť nič, či už sa nám súťaženie páči alebo nepáči, spolupráca sa vyvíja ako nadstavba na tomto. Matica odmien sú iba základy, na ktorých sa v rôznych situáciách stavajú rôzne domy až mrakodrapy intríg. To je to, čo robí problém zložitým a prosociálne sústredenie na (S, S) to musí robiť v celom objeme mrakodrapu: nestačí jednotlivcom jednoducho povedať, že ten mrakodrap je zbytočný, napriek tomu, že je. Ak rezignujete na celý problém preto, že odmietnete analyzovať niečo, s čím nesúhlasíte, potom nevyhnutne skončíte horšie ako ten, kto drzo uprednostňuje vás podraziť a preto to bude analyzovať, pričom úroveň vzdelania v tejto veci robí spoločnosť morálnejšiu aj v tom prípade, že ich motivuje (P, S). Väzenská dilema má pre nás poučku: ak chcete aby váš spôsob myslenia vyhral, musíte pochopiť ako myslia druhí, prijať v procese pochopenia ich spôsob myslenia ako svoj vlastný a vytvoriť nadstavbu, ktorou ich prekonáte. Zlepšovanie sa v snahe oklamať druhého a rozpoznať jeho klamstvá nás vedie k vzájomnému pochopeniu.
