prg.ai meetup: Tomáš Mikolov v rozhovoru s Richem Suttonem

Na sklonku dvoutýdenního festivalu Dny AI 2024, série akcí pro všechny zájemce o tuto technologii, se mnoho odborníků, talentů a nadšenců do AI sešlo v prostoru Next Zone, aby vyslechli názory dvou významných vědeckých osobností, Rich Suttona a Tomáše Mikolova. První z dvojice zahajuje akci energickým vystoupením o podstatě inteligence.

Inteligence, spolupráce a lidský rozvoj

Sutton začíná poukazáním na skutečnost, že porozumění a vytváření inteligence patří k nejstarším lidským snahám a velkým dějinným výzvám. Od biologie přes psychologii až po filosofii mysli se lidé nepřetržitě dotazují na původ naší mysli. Důsledkem toho se mnoho zvídavých inženýrů snaží „hrát si na Boha“ a replikovat (nebo dokonce vylepšovat) lidské schopnosti na neživých objektech. Rozsah těchto experimentů potvrzuje fakt, že takové snahy jsou dokonce vtěleny do našich mytologií (v českém kontextu můžeme připomenout legendu o Golemovi). Dosavadní zlepšení našich znalostí o inteligenci vždy vyústila v prosperitu a obohacení ekonomiky, alespoň průměrně vzato (pokud průměr vztáhneme na různé roky a národy). Můžeme však spoléhat na to, že tento trend bude pokračovat i v budoucnosti?

Inteligence, aneb absolutní dobro? 

Rich Sutton zaujímá vysoce (techno-)optimistický pohled. Podle jeho mínění je inteligence nejen „nejmocnějším fenoménem ve vesmíru“ s potenciálem „v budoucnu hýbat hvězdami“. Je také absolutním dobrem, k jehož přispění bychom měli všichni směřovat. Provokativně vnímá možné superinteligentní stroje (programy, které by lidstvo předčily ve většině intelektuálních úkolů najednou) jako naše potomstvo a ušlechtilejší nástupce neefektivních lidí.

Je třeba poznamenat, že obě tyto poznámky vyvolaly mnoho otázek u části publika (a autora tohoto článku). Čtenáře žádám, aby kriticky přemýšleli nad následujícími otázkami: Za prvé, je jasné, že celkový součet studia a vytváření větší inteligence bude pozitivní? Nebo byste vyžadovali konkrétní hodnocení rizik a přínosů k podpoře tohoto tvrzení? Za druhé, jak bychom měli měřit ušlechtilost? A ku prospěchu koho by měla být technologie vyvíjena?

Úspěchy a nedostatky umělé inteligence

Sutton poté pokračuje vysvětlením důvodů současného úspěchu umělé inteligence. Poukazuje na Mooreův zákon (který tvrdí, že výpočetní výkon vzhledem k velikost hardwaru se přibližně zdvojnásobuje každé dva roky), což je podloženo i daty ukazujícími rostoucí velikosti špičkových AI modelů v průběhu let. Sutton však poznamenává, že na rozdíl od zlepšení hardwaru, téměř nedochází k průlomovým vylepšením na algoritmické straně. Současné všudypřítomné velké jazykové modely jsou založeny na technologii, která je nejméně sedm let stará (nebo ještě starší, v závislosti na tom, kterou část algoritmu zdůrazníte). Podle jeho názoru je současné paradigma, které silně spoléhá na učení s/bez učitele, odsouzeno k selhání a brzy narazí na zákon klesajících výnosů. Jako alternativu doporučuje učení zpětnovazebním (reinforcement) učením, protože zpětnovazební učení by mělo lépe odpovídat reálnému učení zvířat a lidí.

Definice inteligence

Když ale mluvíme o správných a nesprávných směrech výzkumu umělé inteligence, neměli bychom začít tím, co inteligence vlastně je? V průběhu dějin používali vědci a inženýři různé pracovní definice. Například Turing předpokládal, že inteligentní stroje by se měly „chovat jako lidé“. Rich naopak chce mít definici inteligence méně antropomorfizovanou. Přiklání se k „[schopnosti] dosahovat cílů přizpůsobováním chování“.

Kontrola a decentralizace

Ale jaké cíle bychom měli do našich AI systémů programovat? Sutton si představuje, že bychom měli vytvořit rozmanitou společnost interagujících agentů s mnoha cíli. V jeho libertariánských názorech je přijetí decentralizovaného prostředí, kde si agenti pomáhají čistě ze vzájemného prospěchu, nejlepší cestou k dosažení bezpečné a přínosné budoucnosti s AI. Na druhé straně barikády jsou podle něj volání po centralizované (bezpečnostní) kontrole AI, kterou Rich je přirovnal k volání po omezení svobod, např. svobody slova. Žádám čtenáře, aby sám posoudil následující otázky: Povedou rozmanité cíle spíše ke spolupráci se vzájemným prospěchem, nebo ke konkurenci o nedostatkové zdroje? Je regulace AI dalším omezením našich práv, nebo může mít pozitivní dopad na celek?