prg․ai meetup: Vývoj role her v umělé inteligenci s Murraym Campbellem

Hry jsou v centru pozornosti výzkumníků již od prvních vážných pokusů naprogramovat myslící stroj v 50. letech 20. století. Dlouhou dobu se vědci domnívali, že hry, jako jsou šachy, jsou klíčem k odhalení tajemství inteligence, aby ji bylo možné napodobit. A přestože DeepBlue před více než čtvrtstoletím porazil Kasparova (a šachové programy od té doby dosáhly výrazně nadlidských výkonů), stále existuje mnoho neznámých v tom, co dělá entitu inteligentní.

Co je to vlastně hra?

Murray Campbell ze skupiny AI Foundations v IBM byl přímo v centru dění, seděl naproti Garrymu Kasparovovi a byl rukama onoho pověstného počítače, takže si je této nesrovnalosti dobře vědom. Začíná zásadnější otázkou: Co je to hra a proč jsou hry užitečné? Hry jsou úkoly, ve kterých se snažíme překonat překážky. Jsou prostředím, kde činíme zajímavá, informovaná rozhodnutí. Ale co je nejdůležitější, hry mají dobře definovaná pravidla, akce a cíle (na rozdíl od skutečného života), což je činí užitečnými pro výzkumníky umělé inteligence. Jsou vynikajícím hřištěm pro zkoušení našich algoritmů. Čas od času však výzkumníci narazí na (výpočetní) limit toho, jaké hry je možné studovat a jak lze jejich výsledky využít jinde. Murray nám ukazuje, jak se to projevuje v zájmu komunity AI o hry versus jiné techniky.

Šachy a obecná inteligence

Zpět k šachu. Jedním z důvodů, proč nás Deep Blue ani AlphaZero nepřiblížily k obecné umělé inteligenci, je skutečnost, že zatímco pro člověka jsou šachy náročné na zvládnutí, pro počítač představují velmi jednoduché prostředí, které lze řešit bez složitého uvažování. To v padesátých a šedesátých letech minulého století vyvolalo u mnoha vědců přílišný optimismus. Murray však vysvětluje, že „jediným“ aspektem, který je na šachách obtížný, je obrovská velikost stavového prostoru, což má za následek vysoké hardwarové nároky, které nebyly až do konce minulého století prakticky splnitelné. Přesto nám při dostatečném výpočetním výkonu zůstávají jednoduché programy, které nevypadají ani nepůsobí jako lidský mozek.

Poznání, že se lidské inteligenci ani zdaleka neblížíme, vedlo v průběhu minulého století k četným změnám v paradigmatu umělé inteligence. Murray se domnívá, že od uvažování přes expertní systémy až po současnou „éru učení“, ačkoli učení zůstane zásadní i v budoucnu, stále nám v našich programech AI chybí některé kritické (možná symbolické) složky.

Spolupráce mezi lidmi a umělou inteligencí a budoucnost her s umělou inteligencí

S rostoucím zapojením umělé inteligence do našeho každodenního života se hry mohou stát zajímavým měřítkem, které nám ukáže možnosti a meze spolupráce člověka s počítačem nebo člověka s umělou inteligencí. Pro konkrétní hru přichází Murray s rozdělením času do čtyř epoch. V první fázi jsou počítačové programy ve hře mnohem slabší a nepřinášejí lidským expertům velkou přidanou hodnotu. Ve druhé fázi se programy stávají dobrými ve specifických schopnostech, se kterými mohou pomáhat lidským expertům. Ve třetí éře se umělá inteligence obecně stává lepší než lidé, nicméně v její výkonnosti existují určité mezery, kterým se experti mohou vyhnout. A konečně čtvrtá fáze znamená stadium, kdy jakýkoli lidský vstup prakticky ztrácí smysl, protože program AI se stává výrazně lepším ve všech aspektech hry a jeho rozhodnutí jsou pro experta nesrozumitelná.

To je vhodná paralela k jakémukoli lidskému jednání, které řeší algoritmy umělé inteligence, a vede k realistickému, ale zároveň střízlivému poznání. Možnosti spolupráce člověka s umělou inteligencí mají své datum spotřeby, po němž budou lidé z příslušných oborů vytlačeni překonanou umělou inteligencí. Murray na závěr doporučuje zvolit si kariéru v oboru, kde je časový interval a možnost spolupráce s AI co největší.

Kromě této paralely Murray naznačuje, že interaktivní hry (například textové adventury) by se mohly stát důležitým testovacím místem pro obecné algoritmy, které si vedou velmi dobře i v neviditelných hrách. Hry by tak mohly nahradit i některé zavedené benchmarky strojového učení, které dnes způsobují mnoho problémů.

Q&A highlights

• Ohledně srovnání počítačů hrajících šachy a psaní esejí ChatGPT Murray upozorňuje, že zatímco lidští hráči si šachy nadále užívají jako zábavnou činnost, nezbytné a často všední činnosti (které nám však pomáhají rozvíjet se), jako je psaní, jsou v ohrožení.
• Jedním z důvodů, proč byla složitost umělé inteligence v minulosti podceňována, bylo nepochopení významu a složitosti systému-1 thinking (jak jej definoval Kahneman), tvrdí Murray. Výzkumníci se soustředili na systém-2 reasoning a selhali.
• Přenos znalostí mezi počítačovými programy a lidmi je obtížný a je třeba je vysvětlit. Někdy jsou i ty nejlepší návrhy umělé inteligence bez pochopení důvodů k ničemu.
• Murrayova současná práce se zaměřuje na přidání zdůvodňování do algoritmů AI a na vytvoření benchmarků, které spolehlivě odhalí, zda je model AI (např. LLM) schopen zdůvodňovat.

Autorem textu je AI výzkumník FEL ČVUT Martin Krutský.