Rozumnosť od Algoritmov po Zombie je viac ako 700-stranová zbierka dvoch rokov písania popredného amerického vývojára umelej inteligencie Eliezera Yudkowskeho preložená do slovenčiny Viliamom Búrom. Yudkowsky je spoluzakladateľom a pracovníkom Výskumného Ústavu Strojovej Inteligencie v Kalifornii a tiež autorom stránky Less Wrong, kde prispievajúci riešia témy súvisiace s ľudskou (ne)rozumnosťou - a tých nie je málo. Keď si to tak vymenujeme, hlavne...
...intuitívne skreslenia, argumentačné klamy, vzorce a experimenty ľudského správania, filozofiu vedy, teóriu evolúcie, evolučnú psychológiu, teóriu vedomia, teóriu mnohých svetov, teóriu hodnoty, teóriu rozhodovania a to všetko z racionalistického pohľadu založenom na teórii pravdepodobnosti.
Z literatúry popularizujúcej vedu a kritické myslenie je to to najlepšie, čo som čítal. Nie že by som mal toho načítaného práve veľa, ale málokto čítal viac. Keďže prečítať a najmä pochopiť tento dokument celý s jeho 333-mi článkami je len pre fajnšmekerov vzhľadom k tomu, že jeden článok som si v priemere musel prejsť 3-krát aby som ho celý pochopil, prepísal som sem nižšie len tie články alebo ich upravené verzie, ktoré mi prídu hodné zdieľania. Najmä aby som na ne mohol poslať link kedykoľvek budem zhodou diskusných okolností chcieť.
Najhoršie na čítaní Yudkowskeho je, že najskôr má človek problém s pochopením a potom keď už pochopí, tak má problém so zdieľaním nadšenia, keďže výbornosť niektorých článkov spočíva na okamžitom chápaní súvislostí, ktoré sú v iných článkoch. Urobil som niekde ľahké úpravy, aby sa články dali pochopiť samotné. Ťažko je mi vyberať najlepšie z nich, ale... top 3 zaujímavé pre úplný začiatok sú za mňa toto, toto a toto a top 3 zaujímavé po prečítaní celého dokumentu toto, toto a toto. Top 3 najdôležitejšie lekcie racionality sú toto, toto a toto a top 3 morálne lekcie toto, toto a toto. Existuje aj intelektuálne náročnejšia literatúra, no máloktorá získala také ocenenie komunity.
Čo je charakteristické pre Yudkoskeho štýl úvah: Podobne ako samotné AI, neexistuje jasný vopred daný cieľ, na ktorý sú orientované. Pointou je definovanie princípov, vďaka ktorým možno lepšie uvažovať o spracovaní informácií pre reálne využitia, najmä v kontextoch humanizmu.
Povedzme, že máme dve skupiny vojakov. V skupine 1 pešiaci nevedia o taktike a stratégii; iba seržanti vedia o taktike, a iba dôstojníci vedia o stratégii. V skupine 2 každý na každej úrovni vie všetko o taktike a stratégii.
Prvou cnosťou je zvedavosť. Pálčivé nutkanie vedieť znamená viac ako slávnostná prísaha nasledovať pravdu. Cítiť pálčivé nutkanie zvedavosti vyžaduje, aby si bol nevedomý, a aby si zároveň túžil zanechať svoju nevedomosť. Ak v hĺbke srdca veríš, že už vieš, alebo ak si v hĺbke srdca neželáš vedieť, potom tvoje vypytovanie bude bez cieľa a...
"Potláčanie nepríjemných myšlienok môže byť bežné v náboženstve alebo politike, ale nejde o cestu k poznaniu; nemá miesto v úsilí vedy." - Carl Sagan
"Je podstatné, aby sa človek usiloval celým svojím srdcom, a aby pochopil, že pokiaľ nemá úmysel prekonať ostatných v tom, čo robí, tak je ťažké dosiahnuť čo i len priemer." -Budo Shoshinshu
Nasledujúca úloha je asi tá najkontroverznejšia dilema v histórii teórie rozhodovania:
Vo všeobecnosti odpoveď na otázku: "Ako veľké organizácie prežijú?" znie: "Nijako!" Prevažná väčšina veľkých moderných inštitúcií - niektoré z nich extrémne životne dôležité pre fungovanie našej zložitej civilizácie - v prvom rade ani nikdy neexistovala.
Efekt diváka, známy aj ako ľahostajnosť diváka, je, že väčšie skupiny v prípade naliehavej situácie reagujú s menšou pravdepodobnosťou - čím menej ľudí je prítomných, tým je väčšia pravdepodobnosť, že niekto zasiahne.
Existuje množina proroctiev, ktoré znejú: "V Budúcnosti budú všetku prácu robiť stroje. Všetko bude automatizované. Dokonca aj takú práca, ktorú dnes považujeme za 'intelektuálnu', ako inžinierstvo, budú robiť stroje. My budeme sedieť a vlastniť kapitál. Nikdy viac už nebudeme musieť pohnúť prstom."
Ako, ach, ako sa nemilujúcemu a nemysliacemu vesmíru podarilo vypľuť mysle, ktoré sú schopné lásky?
Predstavte si, že nejaká choroba, alebo príšera, alebo vojna, alebo niečo zabíja ľudí. A predstavte si, že máte dostatok prostriedkov na to, aby ste uskutočnili iba jednu z nasledujúcich dvoch možností:
Jedného dňa mi napadlo, že štandardné znázornenie Väzenskej dilemy je nesprávne. V jadre Väzenskej dilemy je táto symetrická matica odmien:
"Ktokoľvek zachráni jediný život, je to akoby zachránil celý svet."
Keby som si mal vybrať jednu vetu, ktorá sa opiera o obsah blogu Overcoming Bias viac než hocijaká iná, akú som napísal, tá veta by bola: Ľubovoľná Budúcnosť Ľudstva, ktorú nevytvaruje systém cieľov s podrobnou spoľahlivou dedičnosťou od ľudskej morálky a metamorálky, nebude obsahovať takmer nič hodnotné.
Jedného dňa som stretol niekoho, kto o sebe tvrdil, že je úplný sebec, a povedal mi, že aj ja by som mal byť úplný sebec. V ten deň som mal zlomyseľnú náladu, tak som povedal:
"Problémom je podporovanie rovnako nedbanlivého súkromného štandardu poznania ako je ten spoločenský."
Kedysi som zadal nasledujúcu domácu úlohu: Urobte výpis zásobníka ľudského poznávacieho algoritmu, ktorý vytvára debaty o "slobodnej vôli". Všimnite si, že táto úloha je silno odlišná od debaty, či slobodná vôľa existuje alebo neexistuje.
Makroskopickú dekoherenciu, čiže mnohé svety, po prvýkrát navrhol v roku 1957 Hugh Everett III. Jeho článok bol ignorovaný. John Wheeler povedal Everettovi, aby šiel za Nielsom Bohrom. Bohr ho nebral vážne.
Z času na čas počujete niekoho tvrdiť, že by sa kreacionizmus nemal vyučovať v školách, najmä nie ako konkurenčná hypotéza k evolúcii, pretože kreacionizmus je automaticky vylúčený z vedeckého hľadiska, pretože sa odvoláva na "nadprirodzeno".
Ukazuje sa, že väčšina vecí vo vesmíre nemá myseľ. Toto tvrdenie by medzi mnohými dávnejšími kultúrami vyvolalo nedôverčivosť. Zvyčajný pojem je "animizmus". Mysleli si, že stromy, kamene, rieky a kopce všetky mali duchov, pretože, hej, prečo nie?
Poznámka na úvod: Pre lepšie pochopenie zábavných miest je vhodné prečítať si najskôr Filozofické zombie.
Vaša "zombia" vo filozofickom použití tohto pojmu, je údajná bytosť, ktorá sa správa v každom ohľade rovnako ako vy - rovnaké správanie, rovnaká reč, rovnaký mozog; každý atóm a kvark v presne rovnakej polohe, pohybujúca sa podľa rovnakých kauzálnych zákonov pohybu - akurát, že vaša zombia nemá vedomie.
"Newton bol najväčším géniom, aký kedy žil, a najšťastnejším; nemôžeme totiž zaviesť poriadok sveta viac než raz."
"Väčšina bosoriek neverila v bohov. Vedeli, že bohovia existujú, samozrejme. Občas s nimi mali do činenia. Ale neverili v nich. Poznali ich príliš dobre. Bolo by to ako veriť v poštára."
Existuje starý trik ako bojovať s nespokojnosťou, kde si urobíte zoznam vecí, za ktoré ste vďační, ako je napríklad strecha nad vašou hlavou. Prečo si teda neurobiť zoznam schopností, ktoré máme, ktoré by boli úžasne cool, keby boli magické, alebo keby ich malo iba pár vybraných jednotlivcov?
Mnoho rokov pred bratmi Wrightovcami ľudia snívali o lietaní pomocou čarovných nápojov. Na čírej túžbe lietať nebolo nič nerozumné. Na želaní hľadieť zhora na oblaky nebolo nič skazené. Akurát tá časť o "čarovných nápojoch" bola nerozumná.
Lamia od Johna Keatsa (1819) si isto zaslúži nejakú odmenu za najslávnejšiu otravnú báseň:
Máte mincu. Tá minca je nevyvážená. Vy neviete, akým spôsobom je nevyvážená. Niekto vám akurát povedal: "Táto minca je nevyvážená" a to je všetko, čo povedal. Vyberiete mincu, vyhodíte ju a priplesnete rukou. Teraz - skôr než zdvihnete ruku a pozriete sa - ste ochotní povedať, že pripisujete pravdepodobnosť 0,5 tomu, že na minci padla hlava?
Vždy, keď počujem niekoho opisovať kvantovú fyziku ako "divnú" - vždy, keď počujem niekoho plakať nad tajomným účinkom pozorovania na pozorované, alebo nad čudesnou existenciou nelokálnych korelácií, alebo nad neuveriteľnou nemožnosťou poznania polohy a hybnosti zároveň - pomyslím si: Tento človek nikdy nebude rozumieť fyzike bez ohľadu na to,...
V časoch úsvitu science fiction mimozemskí votrelci občas uniesli dievčinu v roztrhaných šatoch a odniesli ju s úmyslom zneuctiť, ako sa s láskou zobrazovalo na mnohých obálkach dávnych časopisov.