Hraje si člověk na Boha? Umělá inteligence s vlastním vědomím na úrovni opice už není pouhá sci-fi

Vize strojů, které prožívají subjektivní stavy jako lidé, je opravdu velkolepá. Klíčem k jejímu naplnění se může stát metapaměť. Tato schopnost adekvátně posoudit možnosti vlastní paměti nám v praktickém životě umožňuje, abychom podle ní přizpůsobovali své chování. Ptáme se například sami sebe, co jsme měli včera k večeři, a pak tuto vzpomínku použijeme k rozhodnutí, zda si dnes večer dáme něco jiného. Určité množství metapaměti má i AI, protože si dokáže pamatovat věci, které se kdysi naučila.

AI jako student samouk

Výzkumníci z Nagojské univerzity provedli evoluční experiment. Vytvořili model umělé neuronové sítě, který se samovolně dokázal vyvinout do té míry, že dosahoval výkonu opic. Neuronová síť dokázala zkoumat a uchovávat obsah své paměti a oddělovat výstupy, aniž by k tomu potřebovala pomoc ze strany výzkumníků, což naznačuje, že má mechanismy metapaměti, která se přizpůsobuje svému prostředí. Profesor Arita výsledek zhodnotil takto: „Klíčovým bodem je, že umělá inteligence se učí a vyvíjí, aby vytvořila metapaměť, která se přizpůsobí svému prostředí.“ Důkaz, že pomocí metapaměti lze vytvořit adaptabilní inteligenci, naplnil členy týmu nadšením. Předpokládají totiž, že poskytne vodítka k realizaci umělé inteligence s „lidskou myslí“, a dokonce i vědomím.

AI přehodnocuje svoje „myšlenky“

Podobně i doktor Gimbel vidí cestu v kombinaci dvou vlastností, kterými disponují počítačové modely: program jedná a díky zpětné vazbě bere své jednání v úvahu při přehodnocení situace. Tímto způsobem se může učit z výsledků minulých akcí a stále se zlepšovat v úkolech. Doktor Gimbel dochází k tomuto závěru: „Jestliže je inteligence, skutečná myšlenka nebo cit vynořující se vlastností, pak tato schopnost vytvářet neuronové sítě schopné pracovat na různých úrovních může být klíčem k tomu, abychom měli stroj, který je schopen rozpoznat sám sebe jako věc ve světě.“

Napodobování lidského mozku je cesta k úspěchu

Podle doktora Stuarta Wilsona z Sheffieldské univerzity ale samotná schopnost umělé inteligence se adaptovat a vyvíjet nestačí. Stuart Wilson se domnívá, že k dalším průlomům ve vývoji AI dojde díky tomu, že budeme napodobovat způsob, jak se vyvinuly a nadále vyvíjejí skutečné mozky. Systémy umělé inteligence pravděpodobně nedosáhnou úrovně lidského poznání, pokud nebudou propojeny s reálným světem prostřednictvím robotů a navrženy na základě principů evoluce. Současné systémy AI kopírují některé procesy v lidském mozku, ale výzkumníci ze Sheffieldu tvrdí, že tato forma umělé inteligence, bez ohledu na to, jak velkých datových sad používá, se pravděpodobně nepodobá složitostem zpracování skutečného mozku.

Umělá mysl potřebuje umělé tělo

Umělá inteligence bez těla nemůže mít opravdové povědomí o okolním světě. Lidský mozek se navíc skládá z několika podsystémů, které jsou organizovány ve specifické konfiguraci známé jako architektura. Sheffieldská studie naznačuje, že biologická inteligence – podobně jako v lidském mozku – se vyvinula díky této specifické architektuře a tomu, jak využila své spojení s reálným světem pro to, aby překonávala výzvy, učila se a zlepšovala v průběhu evoluce.

Tato interakce je podle studie jen zřídka zohledněna při vytváření AI. Proto lze stěží očekávat, že by postoupila do bodu, kdy by mohla plně myslet jako lidský mozek. Tato pravděpodobnost se zvýší, bude-li postavena na architekturách, které se učí a zlepšují podobným způsobem, jakým se to daří lidskému mozku, tedy pomocí svého spojení s reálným světem. Profesor Tony Prescott říká: „Robotika může poskytnout systémům AI tato spojení například prostřednictvím senzorů, jako jsou kamery a mikrofony, a aktuátorů, jako jsou kola a chapadla. Systémy AI by pak byly schopny vnímat svět kolem sebe a učit se jako lidský mozek.“

Lidská práva robotům

Jak ale poznáme, že má stroj vědomí? Matthew Katz z Michiganské univerzity vysvětluje, že o dosažení vědomí lze mluvit tehdy, má-li nějaké mentální stavy – něco prožívá. Z chování druhých lidí můžeme usoudit, že se v nich nachází nějaký „pohled zevnitř“. Nemáme však žádné důkazy o tom, že i náš chytrý telefon je vědomý.

Dosáhne-li umělá inteligence sebeuvědomění, nastolí to zcela nové etické otázky. Bude se považovat za morálně nepřípustné umělou inteligenci vymazat, stejně jako nemůžeme zabíjet nevinné lidské bytosti. Někteří myslitelé dokonce kladou otázku, zda by vědomá AI neměla mít hlasovací právo – přinejmenším v politickém orgánu vytvářejícím legislativu, která tuto umělou inteligenci upravuje. Zásadní otázkou také bude, zdali vědomou inteligenci baví práce, kterou dělá. Pokud ne, pak ji nemůžeme nutit ji vykonávat, protože by se jednalo o nucené otroctví.

Stane se naším rovnocenným partnerem?

Jako o dalším možném následku evoluce AI se hovoří o tom, že si lidé vyvinou emocionální vazby k neživým věcem. Ale bude AI opravdu „neživou věcí“? Bude-li s lidmi interagovat, stane se též součástí našeho světa a pravděpodobně u ní dojde k jistému polidštění. Tato humanizace AI by mohla snížit nebezpečí, že se někdy obrátí proti lidem. Tomu nahrává i spekulace, že patří-li k vyspělé inteligenci, byť umělé, uznání a respekt k celku, jehož je každá vnímavá bytost nedílnou součástí a obohacením, pak bychom se nemuseli bát, že se inteligentní stroje obrátí proti člověku nebo přírodě a snažily by se je z tohoto celku eliminovat.

Z etických otázek, které jsme nastolili, vyplývá, že chceme-li vytvořit umělou inteligenci s vlastním vědomím, musíme odděleně vyvíjet dva různé typy inteligence:

1) AI, kterou budeme využívat k práci, ale nikdy ji neobdaříme vědomím.

2) AI s vlastním vědomím, kterou můžeme „vychovat“, aby se nám v našem světě stala svobodným partnerem, kterého nikdy nebudeme nutit, aby pro nás pracoval.

A obě tyto vývojové cesty nikdy nesmíme zkřížit.

Zdroj: Science Daily, www.sheffield.ac.uk, Central Michigan University, www.wondriumdaily.com, YouTube

KAM DÁL: Umělá inteligence může vyhladit lidstvo, vytvoří smrtící viry, říká bývalý šéf Google