Co nastane, až stroje začnou myslet? Bude to náš poslední vynález a lidé se stanou nadbyteční. Má to být kolem roku 2030

Umělá inteligence (AI), kterou zná většina lidí, se v současné době omezuje na úzké využití v různých odvětvích. Jedná se například o počítačové zpracování přirozeného jazyka, které se věnuje analýze či generování textů a vyžaduje, aby stroj do určité míry (nikoliv absolutně) porozuměl přirozenému jazyku. Mnoho analytiků považuje za průlomový mezník ve vývoji AI rok 2015, a to díky úspěšným výsledkům v mnoha různých oblastech.

Názory na to, jestli je možné sestavit stroj, který myslí, vnímá a řeší problémy jako lidé, se různí. Zatímco vědecký mainstream to sice připouští, ale zůstává v tomto směru střízlivý, nadšení fandové vědy se nemůžou dočkat, až tento převratný moment v lidských dějinách nastane.

Futurista Bernard Marr tvrdí, že existují čtyři různé typy umělé inteligence. Ten poslední a nejvyšší mají představovat stroje, které si uvědomují nejen emoce a duševní stavy druhých, ale i své vlastní. Taková AI bude mít stejné potřeby, touhy a emoce jako lidé. Na takové úrovni dosud nebyla AI úspěšně vyvinuta, protože nemáme hardware ani algoritmy, které by ji podporovaly. Marr zároveň připouští, že tato úroveň nebude ještě znamenat vrchol umělé inteligence a že existuje ještě pátý typ.

Když nepoznáte, že komunikujete se strojem

Umělou inteligenci, která se chová opravdu inteligentně, poznáte tak, že ji nerozlišíte od člověka. Měla by projít Turingovým testem, který určí, zdali stroj umí prokázat lidskou inteligenci. Probíhá tak, že testující člověk ve své přirozené řeči klade libovolné otázky, na které v oddělené místnosti odpovídají stroj a člověk. Testující si přečte vytištěné odpovědi, a pokud nedokáže rozpoznat, jestli komunikuje s člověkem, nebo se strojem, znamená to, že umělá inteligence testem úspěšně prošla.

Roku 2014 se na univerzitě v Readingu konala soutěž, v níž zvítězil chatbot ruského programátora Veselova, kterému se podařilo přesvědčit třetinu rozhodčích, že komunikují s člověkem. Odborníci považují tento úspěch za příliš slabý, a to i proto, že se program vydával za třináctiletého ukrajinského chlapce, pro něhož je angličtina druhým jazykem. Kromě toho se mnoha otázkám vyhýbal. Za opravdový úspěch by se považovalo, kdyby stroj zmátl alespoň 70 % rozhodčích.

Umíte-li trochu anglicky, můžete si vyzkoušet komunikaci s chatbotem sami zde. Rychle získáte pocit, že místo člověka komunikujete s píšící encyklopedií. Chatboty „nepřemýšlejí“. Fungují spíše tak, že v obrovském množství dat, která mají načtena, dokážou v komunikaci rozeznat patterny (vzory) a jako reakci na tyto patterny v dotazu automaticky skládají slova odpovědi.

Stroje si lidské mozky namažou na chleba

Pro odborníky není inteligence žádným záhadným tajemstvím. Považují ji za schopnost, která umožňuje nacházet nové cesty, jež dokáží spojit předchozí zkušenosti. K novým vynálezům dochází tak, že se staré objevy zkombinují novým způsobem. Počítač může dělat totéž – skládá kousky informací novými způsoby, aby se naučil nové věci. Je to, jako když z dílků puzzle vytváříme stále nové obrazce.

Roger Whitaker považuje za nejdůležitější vlastnost AI to, že se stává stále chytřejší. Až jednou dosáhne lidské úrovně, nezůstane na ní dlouho. Pár let, ne-li dní, poté se z ní samovolně vyvine umělá „superinteligence“. Nick Bostrom hovoří o „intelektu, který je chytřejší než nejlepší lidské mozky v prakticky každém odvětví, včetně vědecké kreativity, obecné moudrosti a sociálních dovedností“.

John J. Xenakis se domnívá, že takzvané singularity – bodu, kdy se AI stane autonomní a sebezdokonalující – bude dosaženo do roku 2030. Do té doby má být vyvinut algoritmus superinteligentního počítače, který lidé použijí k vývinu počítačů inteligentnějších, než jsou oni sami.

Poslední vynález lidstva

Jeff Zaleski hovoří o AI jako o „našem posledním vynálezu“. Po něm už nebude třeba vymýšlet nic dalšího. AI vynalezne cokoliv mnohem rychleji a efektivněji než my.

Objevují se ale i varovné hlasy: Bude-li mít vědomý stroj svobodnou vůli, bude-li moci plánovat své jednání, mít touhy a ambice, všechny tyto věci se mohou obrátit proti nám. A jakmile stroj učiníme vědomým a vzdáme se tím kontroly nad jeho činy, se vší pravděpodobností se zbavíme klíče, kterým bychom ho mohli „vypnout“.

Jakmile bude superinteligence vyvinuta, lidé se stanou zastaralí, už nebudou schopni přispívat vlastnímu světu a ztratí důvod své existence.

Slavný vědec Stephen Hawking prohlásil: „Vývoj plné umělé inteligence by mohl znamenat konec lidské rasy… Rozjela by se vlastní silou a přetvářela se stále rostoucí rychlostí. Lidé, které omezuje pomalá biologická evoluce, by nemohli konkurovat a byli by poraženi.“

Polidštíme robota

Hans Peter Willems se domnívá, že naopak potřebujeme, aby AI měla vědomí. Zavedeme-li do stroje umělé vědomí, může se zdát, že se tím nad ním „vzdáváme kontroly“. Ve skutečnosti to ale může být jediný způsob, jak stroj ovládat, nebo alespoň mít nad ním nějakou kontrolu. Nehumánní inteligence by měla být co nejtěsněji přizpůsobena lidskému světu, aby se do naší společnosti mohla nenásilně integrovat. Čím více se bude podobat našemu myšlení, tím lépe se přizpůsobí naší společnosti a bude v ní bezpečně fungovat. Chceme-li, aby AI prospívala jako platný člen lidské společnosti, musíme jí dát vědomí.

Moderní věda je natolik složitá a vědci přicházejí s natolik nečekanými teoriemi, že leckdy jenom skutečný odborník dokáže rozlišit legitimní podivnost od naprosté magořiny. Takže se nedivme, až někdo přijde s podobným závěrem, jaký vyjádřil Karel Čapek ve své slavné hře R. U. R.: „Jedinou nadějí pro lidstvo je polidštit roboty láskou.“

Zdroje: Stephen Hawking pro BBC NEW, 2. 12. 2014; CUNNINHGHAM Anne, Artificial Intelligence and the Technological Singularity. Greenhaven Publishing, 2017.