CZDEMOS4AI: Prospěšný multiagentní AI avatar v malé demokratické společnosti

CZDEMOS4AI: Prospěšný multiagentní AI avatar v malé demokratické společnosti

Interdisciplinární výzkumný projekt podpořený Technologickou agenturou České republiky (2024-2029) | TQ12000040

Cílem interdisciplinárního projektu CZDEMOS4AI, propojujícího právní, etická, pedagogická, mediální, bezpečnostní a psychologická studia, je výzkum celospolečenských dopadů aplikace umělé inteligence (dále AI) v nové fázi vývoje demokracie označované jako „otevřená“ (open democracy), jejímiž základními atributy jsou dialog o hodnotách, transparentnost a participace veřejnosti ve vztahu k AI.

Projekt CZDEMOS4AI v souladu s 5. veřejnou soutěží SIGMA (DC5) téma AI zastřešuje, když se zaměřuje na vznik sociálně-odpovědného multiagentního AI avatara i jeho percepci v malé demokratické společnosti. Aplikovatelnost inovativního AI avatara, designovaného na základě principů otevřené demokracie a požadavků společnosti, povede též k efektivnímu výkonu státní a veřejné správy v oblasti resilience.

Tento bezprecedentní projekt pod vedením Fakulty sociálních věd Univerzity Karlovy, a hlavního řešitele projektu prof. Nika Hynka, se zapojením širokého konsorcia partnerů získal prestižní grant Technologické agentury ČR v rámci programu SIGMA zaměřený na řešení aktuálních celospolečenských výzev. Podpořen byl částkou 125 milionů korun do konce roku 2029.

Úvodní workshop: Otevřená demokracie ve vazbě na umělou inteligenci

Při startu projektu se výzkumný tým zaměřil na představení projektového záměru širší odborné veřejnosti. V prosinci 2024 proběhl úvodní workshop na téma „Otevřená demokracie ve vazbě na umělou inteligenci“, kde byly představeny dílčí výsledky a postupy v projektu. Workshop pořádal spolek prg.ai, který v rámci projektového konsorcia zaštiťuje externí prezentaci projektu a komunikaci s veřejnou správou. Akce se zúčastnili nejen samotní realizátoři projektu, ale také na 40 zástupců odborné veřejnosti, kteří mají k vývoji multiagentního AI avatara co říci a kteří jej také pomohou popularizovat široké veřejnosti.

„CZDEMOS4AI není o hledání řešení krize zastupitelské demokracie pomocí umělé inteligence, ale o zlepšování společenských procesů prostřednictvím aplikace prospěšné AI s využitím demokratických metod,“ říká profesor Nik Hynek, hlavní řešitel projektu. „Projekt zdůrazňuje význam sladění AI, které zajišťuje, aby technologie sloužila cílům, preferencím a etickým principům jednotlivců a společnosti,“ dodává.

Úvodem se výzkumný tým věnuje nastavení transparentních pravidel pro zpracování datových zdrojů. Důraz bude kladen na soulad s platnými právními úpravami, včetně GDPR a Aktu o umělé inteligenci. V roce 2025 začne intenzivní práce na přípravě datových korpusů nutných k vývoji. Následně dojde k vytvoření prototypů jednotlivých asistentů, které budou dále expertně testovány a rozšiřovány s důrazem na zachování demokraticky vyjádřených veřejných preferencí.

Work Packages

Projekt CZDEMOS4AI se soustředí na čtyři klíčové oblasti fungování společnosti.

„Asistenti CZDEMOS4AI budou vyvíjeni tak, aby jejich odpovědi na zadané požadavky byly v souladu s fakty, zvyklostmi a normami, které odráží stav poznání a dobrou praxi aplikovanou v národním kontextu s cílem posílit resilienci klíčových institucí. Dosáhnout tohoto cíle pomocí dostupných velkých jazykových modelů je obtížné, protože jejich vývoj není primárně zaměřen na sladění, které by umožnilo jejich bezpečné využití v národním kontextu“, vysvětluje doktor Petr Špelda, vedoucí technické platformy projektu.

V průběhu projektu vzniknou AI asistenti v těchto výzkumných a vývojových oblastech:

WP 1: Historicko-edukační asistent

Interaktivní pomůcka pro pedagogy, lektory a studenty. Pomůže jim s kontextualizací historických událostí a procesů a reflexí historické paměti.

Historicko-edukační AI avatar se zaměří na interpretaci minulosti, školní dějepis a public history. Cílem nejsou odpovědi na faktografické otázky, ale snaha naučit se, jakým způsobem klást otázky z minulosti či zohledňovat historický a společenský kontext. Avatar bude poskytovat odpovědi s využitím textů umožňujících vhled do teorie a praxe historické gramotnosti, a to včetně porozumění tomu, jak vzniká historické poznání. Díky tomu bude schopen historické znalosti uplatnit v různých situacích.

Vedoucí: Mgr. et Mgr. Čeněk Pýcha, Ph.D. | Ústav informačních studií a knihovnictví FF UK

WP2: Bezpečnostně-mediální asistent

Bude sloužit k posílení informační odolnosti za pomoci faktografického vyvážení komunikace v rámci krizových situací.

Přizpůsobení umělé inteligence nuancím krizového zpravodajství v národním kontextu. Bezpečnostně-mediální asistent umožní cílenější vyhledávání konkrétních informací s odpovídající úrovní podrobností pro místního obyvatele a v českém jazyce.

Vedoucí: Mgr. Angelika Suchanová, Ph.D. | Katedra bezpečnostních studií UK

WP3: Právní asistent

Bude vyvinut na unikátním právním datovém korpusu čítajícím cca 300 000 právních dokumentů, kde budou zúročeny dosavadní zkušenosti obou hlavních garantů této části projektu, tj. ÚSP AV ČR a PF MUNI.

Právní asistent tak bude plnit funkci specifického AI analytického nástroje pro práci s českými právními texty, zejména pak právními dokumenty (od r. 1918-). AI avatar bude operovat na základě zadání v běžné hovorové češtině, přičemž bude úzce provázán se systémem e-Sbírka.

Vedoucí: JUDr. Ján Matejka, Ph.D. | Ústav státu a práva AV ČR

WP4: Duševně-zdravotní asistent

Pro podporu duševního zdraví a adiktologie bude pomáhat s diagnostikou a poradenstvím při řešení rizik digitálního chování a usnadní identifikaci problémového chování v online prostředí.

Vedoucí: prof. Mgr. Roman Gabrhelík, Ph.D. | Klinika adiktologie 1. LF UK a VFN