Vyhrají ti, kdo se AI naučí používat, a prohrají ti, kdo se jí bojí, předpovídá profesor Pěchouček

Od začátku roku 2024 se v oblasti umělé inteligence odehrála spousta velkých věcí, které mohou naznačovat, jak se tento obor bude vyvíjet dál. Vědecká redakce se zeptala na hrozby i naděje spojené s tímto fenoménem profesora Michala Pěchoučka.

Společnost Open AI, která se označuje za tahouna oboru, měla celou dobu své existence ve své „ústavě“ pravidlo, že nebude spolupracovat s armádami. Letos oznámila, že ho ruší a současně začala spolupracovat s americkou armádou. Dá se očekávat, že letos AI výrazněji a viditelně proniknou i do tohoto sektoru? A jak ho mohou ovlivnit?

AI je natolik významná a v principu univerzálně aplikovatelná technologie, že bychom spíš měli hledat argumenty, proč by do nějakého sektoru proniknout neměla. Jistě, obavy z nasazení AI v obraně v minulosti byly, například v Googlu i na některých univerzitách. Nicméně AI se v technologicky vyspělých konfliktech používá už dekády a má pro nás dvě zásadní výhody.

Zaprvé na rozdíl od brutálního a nesofistikovaného válečného konfliktu snižuje počet civilních obětí a infrastruktur. Zadruhé víme, že je potřeba do tohoto technologicky vyspělého válčení investovat, protože přesně to dělá protivník. Například v oblasti kybernetické bezpečnosti jsou země jako Čína nebo Severní Korea velmi vyspělé a tím pádem pro západní svět nebezpečné. Právě v kybernetické bezpečnosti je AI jednou z hlavních zbraní, která dokáže s poměrně velkou přesností odhalovat útoky a bránit internet.

Mezi další oblasti, kde AI inovuje ozbrojené konflikty, patří drony, které hromadně nahrazují nejen pilotované prostředky, ale i konvenční střely. Nicméně největším tématem obrany v kontextu umělé inteligence je sofistikované šíření dezinformací a různých falešných videích (deepfakes), což tvoří základní strategii takzvaných hybridních konfliktů. Ve volebním roce 2024 takovýchto konfliktů a útoků uvidíme mnoho, hlavně – ale nejen – ve Spojených státech. Hybridní útoky, jinak také kognitivní válčení, jsou produkt sofistikovaného nasazení různých metod umělé inteligence. A proti umělé inteligenci se nedá bránit jinak než umělou inteligencí.

Na setkání v Davosu letos zaznělo, že asi čtvrtina šéfů největších korporací chce nahrazovat lidi algoritmy. Podobná čísla zveřejnil Mezinárodní měnový fond a analytici z PwC. Jsou tyto odhady reálné a jaké obory jsou už letos v největším ohrožení?

Jsou to reálná čísla. Může to být více, může to být méně. Jedná se o odhady, o jejichž přesnosti je velmi těžké vést korektní diskusi. Důležité je, že těch šéfů je opravdu hodně a že se ohrožení pracovních míst umělou inteligencí do jisté míry týká většiny z nás. Bylo by nezodpovědné tuto hrozbu podceňovat diskusemi o přesnosti takových odhadů.

Dříve se o práci báli především výrobní profese a řidiči. Automatizace výroby ale postoupila natolik, že se nějakého masivního nahrazování manuální práce neobávám. Nakonec AI nikdy nenahradí instalatéra. Stejně tak jako nástup autonomního řízení oproti očekávání nenahradil řidiče z povolání.

AI nahrazuje hlavně různé intelektuální a kreativní profese a to v míře, která je opravdu až překvapivá. Mluvím o právnících, manažerech, reklamních a PR profesionálech, překladatelích, novinářích, finančních analyticích. Zajímavá bude situace v IT a softwarových profesích, kde nástup AI zautomatizuje významnou část psaní software. Vzhledem k tomu, že přesně nevíme, kolik software ještě bude potřeba napsat, tak se nám těžko odhaduje, jestli budeme v následujících letech potřebovat méně, nebo více programátorů.

Jaký dopad může mít expanze AI na Českou republiku? Jsme už dostatečně vyspělou ekonomikou, abychom byli zasažení silně, jak PwC predikuje u těch nejvíc automatizovaných států?

Česká republika na tom není dobře. Je právě již dostatečně vyspělou zemí, kde je poměrně dost sofistikované práce s vyšší přidanou hodnotou, která se bude automatizovat. Zároveň však nejsme žádnými AI šampiony a AI průmysl je v Česku poměrně malý. Abych nějak zjednodušeně vysvětlil tu nevýhodu: když AI nahradí právníky ve Spojených státech, tak právníci neodvedou tolik daní do státní pokladny a sníží se objem ekonomiky.

Zároveň ale právní kanceláře budou používat AI software, za který zaplatí Open AI a Microsoftu. Těm porostou tržby, odvedou vyšší daně a zase tím objem ekonomiky zvýší. V Česku platí jen ta první půlka. Nahrazením českých právníků se sníží jejich počet a množství odvedených daní, ekonomický benefit z toho ale bude mít americká ekonomika. Stát bohužel nepodporuje cíleně český AI průmysl a tím nepomáhá tomu, abychom se takovémuto scénáři vyhnuli.

Na webu Gizmodo se objevil text, který říká, že jedinou skupinou, která z AI opravdu teď profituje, jsou manažeři, jimž to umožňuje snižovat náklady v podobě lidské pracovní síly. Komu podle Vás v současné době pomáhají AI nejvíc?

Některým manažerům AI pomáhá a jiné nahradí. Je to jako u většiny intelektuální práce. Šance, že vám AI takovou práci vezme, je spíše nižší, ale šance, že vám ji sebere někdo jiný, kdo ji umí perfektně používat, je dost vysoká. Takže manažeři, kteří AI nepoužívají, se o svoji práci budou bát snad nejvíc. Sofistikované AI nástroje dnes pomáhají třeba s běžnou administrativou. Umí automaticky pořizovat zápis z jednání, psát e-maily a zprávy, připravovat prezentace nebo sledovat a vyhodnocovat efektivitu týmu.

„Ve většině scénářů bude umělá inteligence pravděpodobně zhoršovat celkovou nerovnost. To je znepokojivý trend, který musí tvůrci zákonů aktivně řešit, aby zabránili tomu, že tato technologie bude dále rozdmýchávat sociální napětí,“ varuje Mezinárodní měnový fond. Existuje nějaké takové řešení, když se AI jsou schopné naučit nové činnosti zřejmě mnohem rychleji než lidé?

Vysvětlím to na příkladu České republiky. Potřebujeme čtyři konkrétní věci. Zaprvé pomoci lidem pochopit AI změnu a dopad na jejich životy. A následně je třeba masivně investovat do celoživotního vzdělávání. Aktivně tak snížíme nerovnost mezi těmi, kdo mají znalosti a schopnosti AI ve své práci používat, a těmi, kdo tuto výhodu mít nebudou a budou logicky na trhu práce ohroženi.

Zadruhé musíme umět inovovat oblasti práce a služeb, které budou na AI nezávislé. Jedná se o takzvanou people-to-people economy, tedy velmi volně přeloženo o mezilidskou ekonomiku. Je potřeba vytvářet co možná nejvíce pracovních míst v asistenčních a sociálních službách, cestovním ruchu nové generace, vzdělávání a coachingu, ochraně mentálního zdraví a podobně.

Zatřetí musíme vytvořit takové podmínky, aby v době AI prosperovala ekonomika země. Aby se na daních vybralo dost peněz, které nám zaplatí právě tu people-to-people economy, a abychom dokázali udržet sociální systém. Je velmi důležité pouze nekonzumovat AI technologie vyráběné americkými firmami, které z toho profitují a odvádějí daně v USA. Ale aby i u nás vznikaly technologie, za které budou platit uživatelé po celém světě. Jinými slovy musíme se stát seriózním hráčem a partnerem v AI, a ne jen AI montovnou, nebo v horším případě pouhou AI kolonií.

A v neposlední řadě musíme chránit lidi před negativními dopady AI. Sem spadá třeba použití AI v kybernetických útocích, různé scamy, deepfaky a podvodné útoky, ale také algoritmická manipulace a šíření dezinformací. To je naše velká odpovědnost.

Čím dál více se postupy strojového učení uplatňují také v robotice; jako například třeba tento robot od Google. Dá se v nejbližších letech očekávat takový průnik AI i do fyzického světa v nějakém větším měřítku?

S jistou dávkou nadsázky bych řekl, že AI a robotika k sobě mají poměrně daleko a exponenciální rozvoj umělé inteligence, především generativní AI, nemá a nebude mít exponenciální dopad v robotice. Velké změny a velký pokrok očekávám především v tom, že fyzický svět bude čím dál více instrumentalizovaný, to znamená bude pomocí čidel a senzorů napojen na velké jazykové modely. AI už se nebude trénovat jen z dat na internetu, ale také z fyzického světa. Bude se trénovat na různých modelech chování lidí, informacích o používání dopravy, ze satelitních dat nebo z epidemiologických informací.

Od řady vlivných osobností se už objevilo také varování před AI jako aktérem v mnoha volbách, jež letos proběhnou, zejména v těch amerických. Jak by mohly vypadat nějaké způsoby, jimiž AI volby ovlivní?

AI ovlivnila Brexit, americké volby v roce 2016, loňské volby na Slovensku. Dá se říct, že od okamžiku, kdy na sociálních sítích může být personalizovaná politická reklama, tak algoritmy ovlivňují, jaké si děláme názory na politiku. Myslím, že v okamžiku, kdy vznikaly sociální sítě, se na nich měla politická reklama zakázat. Nicméně v poslední době máme ještě další fenomén, který zcela zásadně ovlivňuje volební výsledek, a to živelné šíření dezinformací a vytváření různých alternativních realit. A zde je umělá inteligence, pomocí různých metod hlasové impersonace a syntetického vytváření či upravování fotek a videí, opravdu silným nástrojem pro manipulaci voličů v libovolné zemi. Největší síla umělé inteligence pro stranu zla je ale v tom, že dokáže optimalizovat a navrhovat, jaká alternativní realita má největší šanci ovlivnit mínění veřejnosti v daném okamžiku.

Open AI už oznámila, že omezí schopnosti svých umělých inteligencí zasahovat do amerických voleb. Je to ale vůbec realistické při schopnosti „AI ukecat“ a jak by něco takového mohla udělat?

Ano, je to možné. Zabývá se tím nový obor AI Safety řešící otázku bezpečnosti umělé inteligence. Už dnes OpenAI do jisté míry úspěšně filtruje otázky typu „Jak se dá sestrojit biologická zbraň?“ nebo „Jak sestrojit počítačový virus?“ Také sociální sítě mají svá oddělení pro moderaci obsahu, jejich úkolem je odstraňovat evidentně nepravdivé a manipulativní výroky, k čemuž používají právě AI.

Různé sítě to dělají různě dobře – například X patří spíše k minimalistům zajišťování bezpečnosti toho, co se objeví na jejich platformě. Takže si myslím, že OpenAI bude chtít ovlivnit volby právě filtrováním a moderací promptování, které by mohlo být zneužitelné pro neférovou manipulaci veřejného mínění a ovlivňování voleb.

V pořadu Otázky Václava Moravce jste řekl, „že to, co jsme věděli o umělé inteligenci před rokem, už neplatí“. V čem byl podle Vás ten největší posun? A troufl byste si říct, jak bude vypadat AI za rok?

Největší posun byl v tom, že se AI dostala přímo k lidem a že množství lidí, kteří s ní v různých profesích přicházejí do styku, se skokově mnohanásobně zvětšilo. A díky tomu se AI dozvídá mnohem více o lidech a o jejich práci, než tomu bylo v minulosti. Jak jsem již zmínil, vývoj AI je exponenciální. To znamená, že vždy platí, že pokrok v loňském roce je pozorovatelně menší než letos a v následujícím roce bude zase pozorovatelně větší. Takže jediné, co můžeme s velkou určitostí říct, je, že jestli nás rok 2023 překvapil, tak nás rok 2024 překvapí ještě více.

Největší pokrok očekávám v tom, jak se budou velké jazykové modely specializovat na jednotlivé odborné, intelektuální lidské činnosti. Jak budou vynikat v přesnosti (což není případ dnes) a díky tomu budou perfektně dělat čím dál více práce za právníky, lékaře nebo vědce. A právě v oblasti vědecké práce očekávám, že se naše poznávání o světě v blízké budoucnosti zrychlí a budeme schopni rychleji a dříve přicházet s vynálezy, například v energetice, zdravotnictví nebo klimatických otázkách.

Hodně se mluví o regulaci – bývalá šéfová AI v Bílém domě mi před rokem a půl řekla, že USA jsou dobré v inovaci, Evropa v regulaci. Jak by mohla a měla vypadat účinná regulace AI?

O regulaci se toho už hodně řeklo a napsalo, tak se nechci opakovat. Důležité je, aby byla regulace AI koordinovaná napříč demokratickým světem. Rozhodně by se v ní nemělo závodit ani soutěžit. Neměla by omezovat budoucí inovaci, ale naopak ji má podporovat. Měla by nově vznikajícím firmám a start-upům v AI umožnit efektivně konkurovat velkým AI firmám tak, aby byla na trhu co největší konkurence, a ne oligopol jen několika velkých dodavatelů.

Technologický rozvoj AI by měl být co možná nejvíce transparentní a kontrolovatelný. Tady vidím problém přehnané regulace, která by mohla zapříčinit, že se část vývoje přesune do podzemí do laboratoří, které nebudou kontrolovatelné. Domnívám se, že je správné regulovat spíše používání AI než technologický rozvoj. Tak to ostatně navrhuje právě AI Act, který klasifikuje různé způsoby použití podle míry nebezpečí pro člověka.

Obáváte se toho, jak s AI pracují státy označované jako totalitní? Nepomohou jim AI doposud jen těžko představitelnými způsoby utužit a konzervovat režim? Například snaha Číny, aby její AI měly socialistické zásady, anebo její snahy o to, aby se na výchově a vzdělávání víc podílely AI kontrolované vládou? Jsou nějaké další cesty zneužití?

Ano, totalitní státy dnes AI používají primárně pro ovládání a ovlivňování populace ve svých zemích. Tedy zdánlivě neohrožujícím způsobem pro Západ. Nicméně totalitní režimy hodně investují do rozvoje svých AI schopností vést kybernetické konflikty a do šíření dezinformací za účelem vměšování se do chodu zemí k nim nepřátelských, tedy i nám. Například způsob, jakým dokáže Rusko řídit narativ ve střední Evropě, je stejně děsivý jako brutální válka ve stylu dvacátého století na Ukrajině.

Co mě ale děsí, je používání umělé inteligence v personalizaci vzdělávání. AI bude schopna vytvářet vzdělávací kurikula a AI učitele na míru dle zájmů a schopností každého dítěte. To má dvě strany. Ta dobrá je, že děti budou moct snáz vynikat v tom, v čem mají nadání, a nebudou se muset tolik trápit s tím, co jim nejde. Děsivé je ale to, že to budou algoritmy, které rozhodnou o tom, kdo má co studovat. Například když bude ve společnosti potřeba více zubařů, tak algoritmy zajistí, že více studentů půjde studovat stomatologii. A to je pro mě dystopie. Ztráta svobody lidí a dětí rozhodovat o svém vzdělání, osudu a budoucnosti. Jsem ale přesvědčen, že země EU nikdy takové používání AI nepřipustí.

V Číně ho ale možná připustí. Důsledkem toho může být, že za 20 let budou na celosvětovém trhu práce dominovat právě absolventi čínských vzdělávacích systémů, protože prostě budou lepší. Nemám nápad, jak tomu předejít.

Co se má dnes člověk, který chce zůstat relevantní na trhu práce, vlastně učit?

Myslím si, že klíčovým artiklem na trhu práce budoucnosti bude empatie. Jednak empatie vůči lidem, protože ta s nástupem technologií upadá a pro mnoho zaměstnání bude i nadále naprosto klíčová, ale hlavně empatie vůči technologiím a algoritmům. Lidé se musí neustále celoživotně vzdělávat, aby si sami dokázali udělat dobrý názor na to, jak v jejich povolání může AI pomoct. Měli by AI chodit naproti a kreativně vymýšlet způsoby, jak jim může práci zkvalitnit a zrychlit. Protože jak jsem již zmiňoval, nemusíme se bát toho, že nám práci vezme AI, ale toho, že nám ji vezme člověk, který ji umí skvěle používat. Každý by se měl snažit o to, aby byl právě tím, kdo umí AI používat. Prohrají ti, kteří se AI bojí, bagatelizují a považují ji za módní vlnu. Ti co argumentují, že AI nemá přece mysl a emoce, mají sice pravdu, ale před nástupem AI na pracovním trhu je to neochrání.

A děti? Ať se učí matematiku a novodobé dějiny. Ať čtou knihy, čímž si rozvíjí mozkovou kapacitu a fantazii, která dnes právě kvůli absenci čtenářství u dětí zakrňuje.

Kdybyste mohl doporučit čtenářům tři knihy o AI, jaké by to byly?

Já čtu v oblasti AI odborné publikace a ve volném čase spíše beletrii. Myslím, že velmi relevantní dystopický pohled na alternativní budoucnost nabízí Atlas mraků od Davida Mitchella. Vždy jsem byl fascinován prvním dílem Matrixu od sester Wachowski, které dokázaly před čtvrt stoletím predikovat a alegoricky vyjádřit ztrátu svobody, kterou nám technologie mohou nabídnout. A jako třetí bych doporučil futuristickou trilogii Do ráje od Hanya Yanagihara, která dokázala vybarvit alternativní budoucnost, kde je rozvoj technologií zcela zásadně přibržděn důležitějšími problémy, které musí lidstvo řešit, v tomto případě vlnami opakované virové pandemie.

Profesor Pěchouček byl i hostem pořadu Hyde Park Civilizace: