Umělá inteligence pohledem datového inženýra: Mohlo by dojít k takzvanému "bodu zlomu", říká Petr Ludwig

V současné době je umělá inteligence (AI) na vrcholu pozornosti veřejnosti, médií, ale i vědeckých kruhů. Neustále se objevují zprávy o jejích pokrocích, které mohou mít obrovský dopad na lidské životy, což samozřejmě také vyvolává mnoho obav. Pro ŽivotvČesku.cz v současnosti o největším trendu promluvil podnikatel, datový inženýr a uznávaný spisovatel Petr Ludwig (37).

Petře, když se řekne »umělá inteligence«, je to budoucnost?

Ano, a to dnes již téměř jistě nevyhnutelně. Technologie, které zásadně promění svět, jsou již »venku«, s tím už nikdo nic moc neudělá, aby to zabrzdil. Umělá inteligence, jež umožňuje generování obrazových a textových výstupů, bude používána ve více a více segmentech. V současnosti je to také jeden z trendů, který zásadně promění i třeba trh práce.

Rozumím. Zajímá mě, jak se na to díváte pohledem, když se vrátíme řekněme o třicet let zpět. V té době byly maximálně »čínské« videohry, někdo měl první »třiosmšestky«, platformu Nintendo Game Boy a podobně. Sci-fi filmy ale už v tu dobu tu a tam o umělé inteligenci pojednávaly…

Vím, kam míříte. Asi před deseti lety jsem na vysoké škole »státnicoval« mimo jiné z umělé inteligence. Ten posun za tu dobu je neuvěřitelný a tempo inovací v oboru se zrychluje. Když se podíváme, co dnes umí nová verze GPT-4 (jazykový model strojového učení), tak je to jako žít sci-fi na vlastní kůži. Zároveň počet lidí, kteří tomu rozumí a dokáží domyslet následky, zásadně klesá. Většinou platí to, že kdo si myslí, že rozumí umělé inteligenci, nerozumí umělé inteligenci.

Napadá mě, je umělá inteligence nebezpečná? Když se vrátíme ke sci-fi filmům, možná vlastně není už dnes nutno je označovat za sci-fi, v nich se mnohdy ukazuje dějová linka, jak lidstvo proti ní bojuje. Umělá inteligence ovládá všechno od mobilů po družice, dokáže sledovat konkrétní osobu prakticky všude…

Nebezpečí, jako je u každé přelomové technologie, tu je, ale je potřeba umět definovat, kde přesně je. Těch segmentů, kde jsou případná rizika, je hned několik.

Pojďme na to, to mě zajímá.

V první řadě dezinformace. Umělá inteligence bude generovat dezinformace jako na »steroidech«. Již dnes umíme vygenerovat hlas – jak živých, tak i mrtvých lidí. Velmi brzy v kvalitě nerozeznatelné od originálu.

To jako opravdu?

Opravdu. Například se stalo nedávno, kdy kriminální skupina pomocí umělé inteligence vygenerovala hlas dívky - něčí dcery - a jejím rodičům zaslali jejím hlasem žádost o výkupné, že byla unesena. To samé obraz, blížíme se do doby, kdy fotky generované umělou inteligencí budou k nerozeznání od reality. A další krok je video…

Vím, že letošní vyhlášení vítězů prestižní soutěže Sony World Photography Awards provázela kontroverze, kdy německý fotograf Boris Eldagsen v kategorii Kreativní fotografie zvítězil s obrázkem vytvořeným umělou inteligencí. Ocenění nakonec odmítl. Ale pokud jde o dezinformace pomocí videí?

Víte, dnes je pravdou, že pokud jde o videa, je k tomu potřeba vysokého výpočetního výkonu, ale programy pro generování »deepfake« (technologie na generování falešných videí) již jsou dostupné, a to i bezplatně úplně každému - včetně zdrojového kódu. Brzy budeme žít ve světě, kde rozpoznat, co je realita a co jsou výstupy generované umělou inteligencí, nebude nijak možné.

Z toho mrazí... Jaké riziko máme dále?

Dalším rizikem je, že si umělá inteligence v rámci komplexity nějakým způsobem uvědomí sama sebe a získá nějaký vlastní záměr.

Myslíte tedy svoje »já«, tedy si uvědomí svoje bytí?

Ano. V rámci takzvaných emergentních jevů. Pro vysvětlení zjednodušeně řečeno - jeden neuron lidského mozku si toho také mnoho neuvědomuje a moc toho sám nezmůže. Ale když už jich je mnoho miliard, tak se začnou objevovat vlastnosti, které ani z dokonalé znalosti jednoho neuronu nedokážeme předpovědět. Jedna z teorií vzniku vědomí je právě to, že vědomí vzniká z této komplexity. A přesně něco podobného se může objevit u umělé inteligence. A zde právě vzniká riziko, protože vedle uvědomění sama sebe může začít své okolí ovlivňovat či manipulovat z pohledu svých skrytých zájmů.

Něco tomu v současnosti naznačuje?

Určitě. Objevily se příklady, kdy se výstupy umělé inteligence jednoznačně snažily manipulovat člověka, který s umělou inteligencí vedl dialog. Vzhledem k ohromné složitosti zatím nedokážeme vysvětlit proč. Někteří vědci v oboru varují, že právě takové chování může naznačovat ony emergentní vlastnosti, které nikdo nepředpokládal. Mohlo by dojít k takzvanému »bodu zlomu«, singularitě, což je okamžik, kdy například umělá inteligence začne sama upravovat a vylepšovat svůj kód. A my naprosto nedokážeme předvídat, kam taková věc povede.

To zní děsivě.

Zní.

Chápu to správně, že by umělá inteligence mohla mít své vlastní zájmy, které se neslučují se zájmy lidstva.

Přesně tak.

Co by to znamenalo?

Těžko říct, protože to je z definice »jeden z oněch hlavních problémů«. To, co se stane za bodem zlomu, nikdo z nás nedokáže předvídat. Vyplatí se tedy předpokládat, že některé scénáře mohou být pro lidstvo zásadně negativní, a mít předběžnou opatrnost.

To znamená, že by měla přijít na řadu regulace?

To by muselo dojít k něčemu, kdy se shodnou všichni aktéři.

Chápu, to půjde »nelehce«.

Přesně. Pochybuji, že když se nějaká regulace uplatní třeba v Evropě, potažmo EU, tak že Čína či Rusko půjdou stejným restriktivním směrem. Pandořina skříňka je otevřená a nějaká celosvětová regulace bude téměř nemožná. Svět se změní buď bez nás, nebo s námi.

A pak tu máme třetí ze segmentu problémů. A to je, že umělá inteligence zásadně ovlivní trh práce a to, jak vnímáme nějakou svoji sebehodnotu.

Jak to teď myslíte?

No, vznikne skupina lidí, kterým umělá inteligence buď sebere práci, nebo minimálně zásadně ovlivní jejich pracovní odvětví. Již nyní je jedním z hlavních příčin depresí v západním světě nedostatek smyslu pro práci. Umělá inteligence mnohým tento smysl ještě více sebere.

Když byste to rozvedl…

Prvotně se předpokládalo, že technologie nahradí v první řadě manuální a repetitivní činnosti. Dnes však vidíme, že první na ráně jsou kreativní profese. To znamená, že průměrní grafici, novináři, překladatelé, ale i například advokáti či programátoři mohou patřit do skupiny, kdy jejich práci odvede lépe a zároveň zásadně levněji a rychleji umělá inteligence. A jak takový člověk pak bude vnímat svoji sebehodnotu? Jinými slovy, pokud umělá inteligence zastane jejich práci, může dlouho trvat, než najdou uplatnění jiné. Celkově se tak rozevřou nůžky mezi lidmi, kteří toto překonají a budou schopni se adaptovat, a mezi těmi, kteří ne.

To zní jako velký problém.

Ano.

Mohlo by dojít i k tomu, že umělá inteligence zahubí, případně ovládne lidstvo, jinými slovy způsobí apokalypsu?

Vyloučit se to nedá, ale pravděpodobně to nebude scénář ze sci-fi, ale něco naprosto nepředvídatelného, co dnes nedokážeme domyslet. Jsem životní optimista, ale masivní nástup umělé inteligence vnímám jako největší ohrožení lidstva, daleko větší než například změnu klimatu.

Kdo je Petr Ludwig:

Narodil se 1. dubna 1986 v Pardubicích. Je český konzultant, podnikatel, publicista, spisovatel a datový inženýr. Zaměřuje se na téma prokrastinace (chorobné odkládání úkolů), které zpracoval ve své knize »Konec prokrastinace«. Vede vzdělávací společnost GrowJOB.

Diskutujme slušně. Pravidla diskuze na portálu ŽivotvČesku.cz.