Děsivá verze politické AI

 Pokud sem občas zavítáte, asi tušíte, že jsem velký propagátor umělé inteligence v politice,

To, k čemu se však v současné době schyluje, nepředstavuje jen dezinterpretaci, ale skutečnou hrozbu pro lidstvo. A to ani v nejmenším nepřeháním. 

Má vize využití AI v politice byla postavená hlavně na představě navrhování možných směrů vývoje společnosti. AI měla tvořit mapy možností na základě různých navržených předpokladů. 

Mělo jít o poměrně malou AI, čerpající informace z ověřených zdrojů. Tedy ze zdrojů, které by opět byly ověřené lidmi a které by i sama AI podrobovala další analýze na základě statistických postupů běžně používaných při hodnocení kvality vědeckých prací. Ano je to vytváření predikcí na základě statistických modelů, ale hlavně přísně hlídaných a velmi kriticky posuzovaných zdrojů.

Taková AI neměla nikdy mít rozhodovací pravomoci. Měla mapovat důsledky přijatých rozhodnutí v prvním, druhém až X-tém kroku včetně možností dodatečných zásahů v delším časovém úseku. 

V principu mělo jít o zviditelnění neintuitivních důsledků rozhodnutí. Jako příklad neintuitivních důsledků intuitivního rozhodnutí lze uvést zrušení rozsudku Roe v. Wade, který byl iniciován křesťanským bojem proti interrupcím a snahou o vysokou porodnost. Výsledkem byla ale vlna nevratných sterilizací žen, které volily mezi rizikem neposkytnutí zdravotní péče (rozuměj smrti) při komplikovaném těhotenství a možností nemít vůbec děti. Z žen, které by mohly mít děti někdy později, se tedy staly ženy, které nebudou mít děti nikdy.  

Podobně by taková AI mohla ukazovat na nevhodná, nedostatečná nebo fundamentálně chybná řešení v ekonomice, ekologii, zdravotním nebo důchodovém systému. 

Namísto toho se ale děje něco úplně jiného. Do rozhodujících rolí jsou pasovány v podstatě jazykové modely krmené informacemi z veřejných zdrojů, tedy z toho, co v plné šíři splňuje označení "informační stoka". Na vyhodnocování pravdivosti v tuto chvíli nejsou AI dostatečně nastaveny a nemají ani žádně etické principy, kromě zákazů daných jejich programátory, které ale dokáží obejít.

Armáda USA už také přiznala použití AI v rozhodujících aplikacích. Tedy pravděpodobně dala AI možnost zvolit, kdo je nepřítel a zabít ho. Pokud by dala politické AI stejné pravomoce na současné úrovni vývoje, nešlo by jen o život jednoho člověka, ale o možnost rozpoutání války.   

Meonovo o video AI Claude