Apollo - verze politického počítače o kterou bychom měli usilovat

Toto je spíše poznámka, než článek.
Navazuje na předchozí článek na stejné téma.

Video uvedené pod tímto článkem se věnuje problému generačních lodí a stojí za to ho vidět celé.

Já se ale zaměřím pouze na jeden malý prvek. Jde totiž o otázku společnosti na generačních lodích, jejíž řešení by bylo pro naší společnost prospěšné, i kdyby nakonec nebylo použito v mezihvězdných lodích.

Na druhou stranu takové počítače jako je (fiktivní) počítač Apollo jsou podmínkou pro udržení lidských společností v extrémních podmínkách, ať už tím myslíme generační lodě, vesmírné kolonie na jiných kosmických tělesech nebo samostatně obývané struktury v otevřeném vesmíru. 

Také bych měl zmínit, že návrhy pocházejí z designové soutěže Project Hyperion, kde se na prvním místě umístili autoři projektu Chrysalis včetně absolventa z ČVUT.

Nicméně počítač na který upozorňuji, pochází z projektu Systema Stellare Proximum a řešení, při kterém předešlá řešení a návrhy řešení předkládá počítač, ale rozhodnutí vynáší Chorus složený z lidí je přesně tím druhem mé představy budoucnosti demokracie. 

Trochu problém je, že se řítíme do doby, kdy bude veškerá politická AI diskreditována technologickými fašisty, snažícími se předat rozhodovací pravomoce extrémně nedokonalému systému, který navíc vznikl k úplně jinému účelu. 

Nicméně zpátky k samotnému politickému počítači. 

V první řadě takový počítač (také vlivem efektu černé labutě) nemůže zabránit vzniku krizí. Tedy, dokáže zabránit vzniku krize, která by byla zaviněna přímo chybným rozhodnutím, ale nedokáže zabránit krizi vzniklé dynamikou společnosti, nebo vnější příčinou.  

Není to ani jeho účel. Má pomáhat až s jejich řešením a následnou rekonstrukcí. Hlavně si má ale pamatovat předešlé reakce a jejich důsledky. Pokud dobře rozumím, má vyhledávat události, které se nějakým způsobem podobají nastávající krizi a vytvářet tak jakýsi dějinný hypertext s projekcí simulovaných možností. 

 

Děsivá verze politické AI

 Pokud sem občas zavítáte, asi tušíte, že jsem velký propagátor umělé inteligence v politice,

To, k čemu se však v současné době schyluje, nepředstavuje jen dezinterpretaci, ale skutečnou hrozbu pro lidstvo. A to ani v nejmenším nepřeháním. 

Má vize využití AI v politice byla postavená hlavně na představě navrhování možných směrů vývoje společnosti. AI měla tvořit mapy možností na základě různých navržených předpokladů. 

Mělo jít o poměrně malou AI, čerpající informace z ověřených zdrojů. Tedy ze zdrojů, které by opět byly ověřené lidmi a které by i sama AI podrobovala další analýze na základě statistických postupů běžně používaných při hodnocení kvality vědeckých prací. Ano je to vytváření predikcí na základě statistických modelů, ale hlavně přísně hlídaných a velmi kriticky posuzovaných zdrojů.

Taková AI neměla nikdy mít rozhodovací pravomoci. Měla mapovat důsledky přijatých rozhodnutí v prvním, druhém až X-tém kroku včetně možností dodatečných zásahů v delším časovém úseku. 

V principu mělo jít o zviditelnění neintuitivních důsledků rozhodnutí. Jako příklad neintuitivních důsledků intuitivního rozhodnutí lze uvést zrušení rozsudku Roe v. Wade, který byl iniciován křesťanským bojem proti interrupcím a snahou o vysokou porodnost. Výsledkem byla ale vlna nevratných sterilizací žen, které volily mezi rizikem neposkytnutí zdravotní péče (rozuměj smrti) při komplikovaném těhotenství a možností nemít vůbec děti. Z žen, které by mohly mít děti někdy později, se tedy staly ženy, které nebudou mít děti nikdy.  

Podobně by taková AI mohla ukazovat na nevhodná, nedostatečná nebo fundamentálně chybná řešení v ekonomice, ekologii, zdravotním nebo důchodovém systému. 

Namísto toho se ale děje něco úplně jiného. Do rozhodujících rolí jsou pasovány v podstatě jazykové modely krmené informacemi z veřejných zdrojů, tedy z toho, co v plné šíři splňuje označení "informační stoka". Na vyhodnocování pravdivosti v tuto chvíli nejsou AI dostatečně nastaveny a nemají ani žádně etické principy, kromě zákazů daných jejich programátory, které ale dokáží obejít.

Armáda USA už také přiznala použití AI v rozhodujících aplikacích. Tedy pravděpodobně dala AI možnost zvolit, kdo je nepřítel a zabít ho. Pokud by dala politické AI stejné pravomoce na současné úrovni vývoje, nešlo by jen o život jednoho člověka, ale o možnost rozpoutání války.   

Meonovo o video AI Claude

Konec věku hojnosti – Jak se ze včerejších hrdinů stávají zítřejší padouchové

 Přináším opět jednu úvahu, ke které mě dovedl vývoj Elona Muska od kosmického vizionáře k podivně zmatenému záporákovi. Těch lidí, kterým se v poslední době stalo něco podobného bylo více, ale jí nemám v úmyslu se při tak krátkém zamyšlení zabývat jednotlivými případy. 

Všechny je od zmíněného Elona Muska přes Roberta Dawkinse, J. K. Rowlingovou až po Stocktona Rushe a mnoho, mnoho dalších, spojují dva rysy: velké bohatství, úspěch v určitém oboru a totální nekompetence v oboru, kterému se nakonec rozhodli věnovat (zpravidla totálně odlišném než ve kterém slavili největší úspěchy) a absurdní víra ve vlastní inteligenci.

Jako člověka a fanouška pokroku mě samozřejmě mrzí, když jsou mí hrdinové korumpováni, ale o to více mě zajímá, jak k tomu vlastně došlo. Napadá mě několik možností. První se týká samotného bohatství. A právě tomu se zde budu věnovat.

Bohatství není jen množství nějakých předmětů a prostředků, je to také potenciál konat cokoli. Moc v pravém slova smyslu.Všechny velké sociálně inženýrské projekty prováděli velmi bohatí lidé – ty dobré i ty špatné. Je otázkou, jestli je vůbec morální, aby se tak velká moc koncentrovala v rukou jednoho člověka, který se takto vlastně stává panovníkem i když bez formálního procesu korunovace. 

Pokud byste se ptali mě, tak ne. Není to morální. Chápu, že člověk může vykonávat odpovědnou práci, za kterou si zaslouží dvojnásobek nebo trojnásobek průměrného platu pokud se zeptáte, jestli si někdo zaslouží desetinásobný plat, řeknu že spíše ne, ale pokud půjde o ještě vyšší násobky, pak musím říct že je za nimi vždy cítit něco zlého. 

Úplně jinak se ovšem k problému postavila Ayn Rand, která chápe bohatství jako primárně zasloužené a záporáci jsou zde ti, kteří se snaží tvůrčí duchy brzdit v jejich snahách. V zásadě říká, že bohatí si své bohatství zasloužili svou prací, inteligencí atd. 

Její díla nabyla velké popularity hlavně v padesátých letech a dodnes je z vyjádření extrémních boháčů cítit "etos zaslouženosti", když mluví o své gigantické inteligenci (aniž by jí ovšem někdo něčím doložil) nebo tvrdé práci. 

Problém je, že musíte být jistým způsobem asociální, aby vám nedošlo, že tento mýtus používáte kvůli udržení vlastní integrity. Nemůžete si připadat předurčeni k dobytí Marsu nebo otevření cesty do oceánu pro veřejnost a přitom vědět, že majetek, který k tomu používáte pochází z morálně problematických zdrojů. Musíte věřit, že jste k bohatství přišli právem.

Mýtus o nezměrné inteligenci bohatých jen zřídka postihne přímo pachatele veškeré zkázy, tak jak se to stalo Stocktonovi Rushovi, když nejen ignoroval testy svého DSV Titan, ale nechal vypnout i systém který měl varovat před poškozením trupu. Mnohem častěji dopadne na početné zástupy lidí, kteří zůstanou pro budoucnost neznámí.

Dojít k představě vlastní nadřazenosti ať už z důvodu bohatství, inteligence, moci, nebo všech těchto tři faktorů dohromady, je neskutečně snadné. Pokud znáte průměrné rozložení inteligence v populaci, musí vám být jasné, že to, co považujete za náhodný vzorek budou většinou lidé průměrně inteligentní. I relativně slabě nadprůměrně inteligentní jedinec tedy snadno propadne tendenci nahlížet na lidstvo svrchu pokud se od něj oddělí hrází bohatství.

 Poznámka: Název tohoto příspěvku je narážkou na knihu Hojnost Budocnost je lepší, než si myslíte od Petera H. Diamandise a Stevena Kotlera.