Lukáš Rejzek

Když minulý rok společnost Open AI představila pokročilý jazykový model Chat GPT, rozvířila rozsáhlou debatu o tom, co pokročilé neuronové sítě (princip, na kterém AI staví) udělají s lidstvem. Učitelé začali řešit, jak zabránit zneužití AI studenty při psaní svých závěrečných prací, firmy zas, jak ji co nejefektivněji implementovat do svých obchodních modelů. Experti se teď horlivě pouštějí do rozsáhlých analýz o kolik pracovních míst v budoucnu kvůli umělé inteligenci přijdeme a do záře reflektorů se opět dostala v poslední dekádě již evergreenová otázka: ovládnou nás zanedlouho roboti a umělá inteligence?

Není vládnutí jako vládnutí

Důležité je ujasnit si, co chápeme pod ovládnutím. Je to stav, kdy nás ve spoustě činností dokážou pokročilé AI technologie nahradit, a to, že už v některých sférách velmi výrazně ovlivňují naše chování – jako třeba algoritmy na sociálních sítích, které nás mají udržet co nejdéle online? V takovém případě už jsme nadvládě AI velmi blízko. Vždyť kromě sociálních sítí a internetových vyhledávačů nás systémy strojového učení (podle expertů je zavádějící označit všechny za AI) řídí i na křižovatkách v podobě semaforů, skrze navigace rozhodují, kudy se vydáme na dovolenou nebo za jakou cenu koupíme letenku. Pokročilé neuronové sítě tyto jevy ještě zintenzivní.

Nemalá část veřejnosti se ovšem strachuje i scénáře, známého z apokalyptických filmů jako Cameronův Terminátor, kdy získají stroje určitý typ vědomí a využijí své schopnosti k „úmyslnému“ podrobení si lidstva či k systematickému zneužití lidí pro své účely. To podporuje třeba i děsivě vyhlížející titulek o tom, že AI už dokáže číst lidské myšlenky. Scénář vědomého převratu strojů je ale zatím velmi nepravděpodobný, protože momentální technologie něco takového ani neumožňuje.

Hranice tvořivosti AI?

Když mluvíme o počítačových systémech, které mohou v blízké době získat vědomí, máme na mysli tzv. generativní AI, tedy jakousi kreativní verzi umělé inteligence, která je schopna vytvářet nový autentický obsah. Dnes jsou to tedy především pokročilé jazykové modely jako GPT-4 a softwary na generování originálních obrázků jako DALL-E (oba produkty spadají pod Open AI). Ačkoliv nás všechny šokovaly vysokou kvalitou, je potřeba uvědomit si, jak vlastně fungují. I když GPT 4, Google Bard nebo Microsoft Bing Chat vytvoří stylisticky i obsahově velmi kvalitní texty, které nás mohou v lecčem inspirovat a přinášet nové poznatky, stále je to jen pokročilý kompilát.

Zjednodušeně řečeno tyto systémy pracují jen s mimořádně robustní databází všemožných textů, na jejichž základě pak pomocí frekvenčních analýz a schopnosti poučit se ze zpětné vazby, hádají, jaké další slovo doplní za slovo předchozí. Podobně pracují i obrazové generátory, místo slov ovšem s odstíny barev a křivkami. Člověk si může zpříjemnit večer třeba tak, že bude trápit Chat GPT s početními úlohami a přesvědčovat ho, že dva krát dva nejsou čtyři, ale pět, za což se mu pak chat omluví a přizná chybu. Nemá v sobě totiž žádnou kalkulačku, jen mnoho a mnoho textového materiálu z lidské produkce a ví, že ne vždy odpoví uspokojivě pro tazatele.

Kde leží skutečné riziko?

Systém se samozřejmě učí spoustu nových věcí a větných struktur, ale vždy je mu podnětem reakce dopisovatelů, on sám nemá z podstaty věci možnost ubírat se směrem, ke kterému nedostal lidský impuls. I ve výše zmíněných případech algoritmů sociálních sítí, jen numericky provádí vůli lidského provozovatele. Filozof a matematik Jan Sokol v jedné ze svým posledních úvah nad AI pro Deník N zmínil, že je pro počítač vlastně nemožné vygenerovat opravdu náhodné číslo – aplikace, které toto nabízejí, ve skutečnosti pracují s předem připravenými číselnými řadami. Software na hraní šachů zas dokáže v současnosti téměř vždy vyhrát nad lidským protivníkem – s novým oslnivým tahem však nepřijde, jen využije své rychlosti a přesnosti, aby našel numericky nejefektivnější řešení dle zadaných lidských parametrů.

Skutečná hrozba tedy není zlovůle stroje (ta neexistuje), ale zadavatel příkazů pro něj. Z technologického hlediska dokáže AI už nyní napáchat hrozivé věci – autoritářské státy využívají systémy na rozpoznávání obličejů k perzekuci odpůrců režimu, ničivé zbraně používají AI pro navigaci a v oblasti kyberprostoru se také otevírá mnoho cest pro její nekalé využití. Měli bychom proto zaměřit pozornost na to, jak regulovat využívání AI v různých sektorech, ne kvůli ní, ale kvůli jejím zlým pánům. Ona nám to určitě odpustí.

Text vznikl v rámci předmětu Společenské a ekonomické důsledky digitalizace na IMS FSV UK.