Marek Rosa: Na cestě k obecné umělé inteligenci

Jak se liší proces vývoje obecné umělé inteligence od práce na úzké umělé inteligenci?

U úzké umělé inteligence máte obvykle velmi jasný cíl, čeho by měla umělá inteligence dosáhnout. Pokud má rozpoznávat obrázky, měla by být nakonec schopna roztřídit obrázky do kategorií a tříd, nebo v nich identifikovat určité objekty. Pokud jde o obecnou AI, je obvykle velmi těžké definovat konečný cíl a funkci. To je jeden z hlavních problémů jejího vývoje. 

Dalším pak je, že mnoho odborníků v obecnou umělou inteligenci nevěří. Nejsou přesvědčeni, že je možné vyvinout AI se schopnostmi na úrovni člověka, zejména s ohledem na širokou zobecnitelnost, která by takový systém vyžadoval. Argumentují ve prospěch úzké AI: tvrdí, že pokud můžeme pro každý úkol vyvinout specifický systém, není potřeba najít jiné,  komplexnější řešení. Potenciál víceúčelového řešení, které by nám obecná AI přinesla, se zdá být nedosažitelný taky protože současné přístupy upřednostňují monolitické systémy. V tom se GoodAI odchyluje od běžných konvencí. Zaměřujeme se na vývoj modulární architektury, která ztělesňuje kumulativní aspekt kultury učení a přizpůsobování.

Jaký je tedy váš přístup?

V případě GoodAI nechci budovat organizaci, v rámci které se bude jeden tým zabývat konkrétním specifickým problémem, jiný tým bude vyvíjet jiný samostatný projekt, a obecná umělá inteligence možná nakonec vzejde z kombinace řešení několika úzkých problémů. Chci usilovat o obecnou AI hned od začátku – i když to dost možná bude znamenat, že se například prvních pět let úplně zasekneme. Chci se tak vyhnout plýtvání časem nebo rozptylování výzkumníků problémy, které nejsou pro náš cíl relevantní.

Co myslíte, že bude vaším konečným produktem?

V současné době se nacházíme ve fázi základního výzkumu: jsme stále na začátku a pracujeme na základních vědeckých poznatcích o obecné umělé inteligenci. Další fáze by měla vést k formulaci hypotézy a vývoji nějaké rané technologie. Tyto počáteční předpoklady musíte samozřejmě otestovat, obvykle aplikací technologie v praktických situacích, případně v rámci komerčních využití. 

Máme určité vize, nápady, dokonce i směr, který považujeme za hodný následování. Zatím však nemůžeme dokázat, že naše vize jsou správné. Tato práce je teprve před námi. Vzhledem k tomu je ale dobré zamýšlet se nad finálním produktem už teď. Budoucnost naší společnosti vidím v několika etapách. 

Věřím, že v pozdějších fázích budeme mít funkční obecný systém s umělou inteligencí, který se dokáže samostatně učit a sám přijít na to, jak řešit řadu různorodých úloh. Obecný systém by se měl dokázat sám naučit, jak se dál učit. V ideálním případě budeme moci obecnému systému vysvětlit problém jednoduše a bez potřeby definovat složitou ztrátovou funkci nebo obstarat obrovské množství trénovacích dat. Systém by si pak sám našel potřebná data, naučil se jak nejlépe k problému přistupovat, a problém vyřešil.

Na jaké úspěchy jste v GoodAI hrdí už teď?

Máme naší architekturu Badger jako rámec, v rámci kterého přemýšlíme o obecné umělé inteligenci. Myslím, že je dobrá, i když zatím nemá praktické výsledky. Rozhodně ale pomáhá našemu týmu i externím výzkumníkům: máme díky němu společný jazyk, kterým můžeme mluvit o obecné AI, popisovat, co se děje ve vnitřní a vnější smyčce, nebo diskutovat o rozdílu mezi učením a inferencí.

Důležitým krokem je také klást lepší otázky a formulovat lepší hypotézy, a provádět tak i lepší experimenty. Zatím jsme provedli pouze několik menších, průběžných experimentů se systémy složenými z více článků, které spolu mohou tvořit celek, komunikovat a vytvořit určitý emergentní pohyb.

To samozřejmě samo o sobě ještě není obecná umělá inteligence. Ale podobné experimenty nám pomáhají pochopit komunikaci, učení a koordinaci mezi jednotlivými komponenty komplexních systémů. Nejdůležitější je, abychom byli schopni ukázat, že se agenti skutečně mohou učit a plnit libovolné úkoly bez předem definovaného cíle. To je to, o co se snažíme.

Zmínil jste se o tzv. Badger architektuře. Pokud tomu dobře rozumím, jde o jiný přístup k postupu učení umělé inteligence, že?

Ano. V tradičních přístupech k AI máte obvykle k dispozici učící se algoritmus, soubor dat a modifikovatelnou neuronovou síť. Poté, co neuronovou síť vycvičíte, může provést zadanou úlohu a vygenerovat tak správný výstup. V rámci naší architektury Badger jsou tyto základní kameny stále přítomny, ale náš přístup je odlišný. 

V kontextu architektury Badger máte systém, který je v praxi jedním mozkem vytvořeným z mnoha menších komponentů, takzvaných expertů. A všichni tito experti jsou zároveň dílčími agenty, kteří mají stejné nastavení, což znamená, že mají stejnou neuronovou síť se stejnými cestami, ale různými vnitřními stavy. Je užitečné o tom přemýšlet z hlediska neurovědy. 

Všichni experti mají stejnou DNA, vycházejí ze stejné struktury, ale každý má jiný vnitřní stav. Například jeden je právě aktivován, jiný se aktivovat chystá, další má mnoho neurotransmiterů určitého typu, zatímco jiný má jiné. Každý neuron je v jiném stavu, pokud jde o aktivaci, a liší se také tím, jak je propojen s ostatními neurony. Ale jejich nastavení – jejich vnitřní fungování – je vždy víceméně stejné.

V Badgerově architektuře inicializujeme mozek, na kterém spolupracuje mnoho těchto expertů – nebo neuronů – které jsou stejné, jen mají různé stavy. A pak je tu tréninková procedura vnitřní smyčky a vnější smyčky. Vnitřní smyčka je přirovnatelná k životním zkušenostem agenta. Během vnitřní smyčky neměníme nastavení jednotlivých expertů ani neuronovou síť, která umožňuje učení. A pak je tu vnější smyčka, která představuje něco jako evoluci: tam můžeme měnit základní sdílenou DNA. Takže pouze ve vnější smyčce měníme expertní nastavení neuronové sítě. 

Jak může být tato změna užitečná? 

Chceme, aby spolu tito experti mohli komunikovat a měnit své vnitřní stavy. Nechceme, aby učení bylo výsledkem změny cest a propojení mezi neurony, chceme, aby ke změně docházelo uvnitř samotných expertů. Navíc je tu i mnoho dalších výhod. Chceme například, aby vnitřní smyčka dokázala řešit úlohy, které vnější smyčka řešit nedokáže nebo je nedokáže řešit dost efektivně. Když tradiční vědci zabývající se umělou inteligencí hovoří o metaučení, mají na mysli fixní učenlivé algoritmy, které se snaží vyřešit nějakou úlohu. V našem případě se chceme nejprve naučit algoritmus a pak ho použít k řešení libovolného druhu úlohy.

Jak tento nový přístup přijala komunita zabývající se umělou inteligencí?

Řekl bych, že byl přijat dobře, i když nezpůsobil žádnou revoluci. Neobdrželi jsme žádnou kritiku, která by tvrdila že náš přístup nebude fungovat nebo že jsme něco důležitého vynechali. Řekl bych že zatím nejtvrdší kritika připomíná, že jsme ještě neprokázali, že náš přístup je účinnější než jiné alternativy. 

Jeden ze způsobů, jak můžeme ukázat výhody našeho přístupu oproti jiným algoritmům spočívá v tom, že pokud zvýšíte počet expertů v systému, mělo by to vést k výraznějšímu zlepšení jeho schopností. Obecně se lidé z komunity umělé inteligence o náš neobvyklý přístup zajímají, ale chtějí také vidět výsledky, které naznačují, že je v určitých důležitých parametrech lepší než konkurence. Máme naplánováno několik experimentů, jejichž prostřednictvím to můžeme ukázat.

V roce 2020 jste zahájili grantový program GoodAI. Můžete hovořit o grantech, které jste dosud rozdali? 

Hlavní myšlenkou je, že chceme spolupracovat s dalšími výzkumníky na otázkách a projektech souvisejících s Badger architekturou. Reálně nemůžeme najmout každého jako součást GoodAI, výzkumní pracovníci se často naplno věnují své akademické kariéře nebo jsou zapojeni do jiných dlouhodobých projektů. Máme za to, že granty budou pro nás i pro ně nejjednodušší variantou, i v kombinaci s naším odborným workshopem, který pořádáme každé léto. 

Ne všechny žádosti o granty ale souvisejí s Badgerem; ty, které se odchylují od našeho výzkumného zaměření jsme museli odmítnout. Některé žádosti ale vypadají velmi slibně. 

V roce 2014 jste GoodAI založili v Praze. Proč jste si vybrali Prahu a ne západoevropská města, kde jsou místní inovační ekosystémy často vyspělejší?

Ani jsem neuvažoval o tom, že bych GoodAI založil v jiné zemi. GoodAI vznikla před osmi lety a tehdy nebyly rozdíly mezi komunitami AI tak výrazné. Byla to jiná situace. Teď bych řekl, že se blíží AI zima – nebo aspoň podzim. Tehdy jsem si říkal, že potřebuji jen talentované lidi se kterými budu spolupracovat, dobrý nápad na kterém budu pracovat, dobrý plán a konceptuální rámec. S tím můžeme pokračovat v práci bez ohledu na to, co se stane. Pokud budeme potřebovat lidi z jiných zemí, vždycky se můžeme pokusit dostat je do Prahy, nebo třeba založit pobočku jinde. Vlastně teď zvažuji otevření pobočky ve Spojených státech nebo v Kanadě.

Přemýšlíte o tom, protože nemáte přístup ke špičkovým talentům tady v Praze?

To bych neřekl. Hledáme lidi, kteří už mají zkušenosti ve velmi specifických oblastech výzkumu umělé inteligence, které odpovídají našemu frameworku Badger. V Praze jich moc není, i když v jiných zemích ano. Snažíme se je oslovit například prostřednictvím grantového programu. I kdybychom otevřeli pobočku například v Montrealu, bude náročné oslovit těch několik málo odborných výzkumníků, protože ti už jsou obvykle ve své kariéře dobře etablovaní. Jinými slovy, není to tak, že bychom chtěli jentak každého, kdo je dobrý ve výzkumu umělé inteligence. Hledáme velmi specifický výzkumný profil.

„Přál bych si, aby byli čeští výzkumníci ochotnější riskovat a investovat do základního výzkumu.“

Co si v této souvislosti myslíte o českých vzdělávacích institucích a akademických výzkumných ústavech, pokud jde o AI? 

Myslím, že situace je dobrá, ale samozřejmě vždy existuje prostor ke zlepšení. V čem bych se osobně chtěl více prosadit, je více pozornosti věnované základnímu výzkumu a méně projektům aplikovaného výzkumu. Opravdu bych rád viděl více vědců, kteří se věnují klíčovým otázkám v oblasti AI a také více institucí, které tolerují vyšší riziko, které se se s takovým výzkumem často pojí.

Celkově bych chtěl, aby čeští výzkumníci byli ochotnější riskovat a dělat základní výzkum. To je cesta, kterou se dá přijít na něco mimořádného a jedinečného. Právě to by mělo být jedním z nejdůležitějších měřítek pro výběr nových projektů: ne to, že se mi to zrovna líbí nebo že mi to může vydělat peníze. Měli bychom si naopak vybírat výzkumné projekty proto, že jsou originální a jiní výzkumníci se do nich nepouštějí. S takovou metrikou se výzkum stává zajímavým.

Může existovat obecná umělá inteligence bez úzké umělé inteligence a naopak? 

Ve skutečnosti si myslím, že úzká AI je pro obecnou umělou inteligenci velmi užitečná. V jistém smyslu si myslím, že obecná AI je právě úzká AI, kde je úkolem, jak autonomně vylepšit učící se algoritmy. 

Vývoj úzké AI se zaměřuje na určitou praktickou úlohu, jako jsou například samořídící auta, rozpoznávání obrazu nebo zvuku. Při vývoji obecné AI se často používají stejné nástroje zaměřené na vývoj učícího se algoritmu, který se pak použije sám o sobě nebo pro nějaké další úlohy. Proto si myslím, že metody a přístupy spojené s úzkou AI jsou pro nás nesmírně užitečné. Výzkumníci pracující na úzké AI vytvářejí nástroje, hardware a poznatky, které jsou pro nás rozhodně užitečné.

Na čem pracujete nyní? A co je pro GoodAI na obzoru v blízké budoucnosti? 

Velmi intenzivně pracujeme na stávajících projektech, včetně projektu VeriDream, což je konsorcium financované EU, které vytváří řešení s podporou AI v robotice. Společně s Université Sorbonne vyvíjíme algoritmy Quality Diversity, které zlepší pohyb robotických nohou a mohou najít využití ve videohrách i jiných odvětvích. 

Dále je tu projekt AI Game. Jeho vizí je vytvořit hru, kde by hlavní herní mechaniky spočívaly v trénování herních agentů, jejich autonomním učení a rozhodování v herním prostředí. Nedávno jsme v rámci AI Game změnili směr a začali pracovat s předtrénovanými jazykovými modely. 

Díky použití jazykových modelů herní agent rozumí tomu, co mu napíšeme, a dokáže podnět přeložit do rezhodnutí, které jsou v herním světě možné. Pokud mu napíšu, aby vzal sekeru a někoho zabil, udělá to, až bude mít náladu. Když náladu mít nebude, budu ho jako hráč muset přesvědčit. Můžu se mu snažit zalíbit a nějak mu zalichotit, nebo ho můžu vydírat a vyhrožovat třeba zabitím jeho manželky. 

To je ale jen několik vtipných příkladů. Game AI už zaznamenává dílčí úspěchy, ale myslím, že nás ještě čekají další revoluční kroky. Snažíme se najít rovnováhu mezi vývojem hry, která efektivně trénuje umělou inteligenci, a zážitkem, který ze hry má uživatel. Měla by to být zábava.

A nakonec taky zkoumáme, jak naše znalosti a výzkum v oblasti kolektivních a multiagentních systémů uplatnit v praxi. Začali jsme se zabývat technologií dronů, protože věříme, že tato oblast je zralá pro rychlé inovace a prototypování. Zajímají nás aplikace, kde je potřeba lepší situační povědomí a sběr informací, přičemž skupiny dronů fungují jako nosiče různých druhů senzorů a vzájemně se doplňují. V této fázi se zabýváme identifikací situacích, v rámci kterých můžeme s takovou technologií generovat přidanou hodnotu. Navíc někteří z nás v GoodAI jsou nadšenci do robotiky a dronů, takže je to pro nás přirozený krok.