Lokální, ověřitelná, pod dohledem člověka. Jak vzniká česká odpovědná AI

Otázka, kterou si projekt CZDEMOS4AI klade, zní jednoduše: lze generativní AI rozvíjet jako důvěryhodnou a veřejně prospěšnou infrastrukturu? Takovou, která pomůže informačně přetížené společnosti orientovat se ve složitých tématech, rozhodovat se podle kvalitních dat a přitom udržet poslední slovo v rukou člověka? Odpověď na ni jednoduchá není.

Projekt pod vedením Institutu politologických studií na Fakultě sociálních věd UK a hlavního řešitele prof. Nika Hynka běží do roku 2029 a je financován z prostředků Technologické agentury ČR v rámci programu SIGMA. Jeho řešitelské týmy se sešly 8. června 2026, aby své čtyři vznikající asistenty poprvé vystavily přímé zpětné vazbě lidí zvenčí. Hynek zahájil konferenci připomenutím společné linie všech čtyř oblastí: důrazu na etiku, právní srozumitelnost a společenskou odpovědnost.

Stát jako síť AI asistentů

Tón konference udal v keynote vládní zmocněnec pro AI Lukáš Kačena. Představil priority Hospodářské strategie 2.0 – podmínky pro nasazení AI ve firmách i státní správě, podporu výzkumu nebo přístup k infrastruktuře – za jejíž první výsledky označil AI Factory v Ostravě a Národní centrum umělé inteligence při ČVUT.

Jádrem jeho vstupu byla vize agentního státu po estonském vzoru. Občan by svůj problém svěřil vstupnímu agentovi, který dotaz pochopí a předá specializovaným agentům jednotlivých úřadů. Každý úředník by měl vlastního AI asistenta pro práci s dokumenty i legislativou, rozhodoval by ale stále sám. A jednotliví agenti by spolu komunikovali společným protokolem. Stát by byl postavený na vlastních jazykových modelech, kde je každé dílčí rozhodnutí dohledatelné, a tím i kontrolovatelné.

Proč na to jít lokálně

Že běžné velké modely k takovému cíli nestačí, vysvětlil vedoucí technické platformy Petr Špelda z FSV UK na tematické přednášce, která návštěvníky konference vpravila do technologického rámce projektu. Jak poznamenal, vývoj komerčních modelů necílí primárně na alignment, který by zaručil odpovědi v souladu s fakty a normami českého prostředí. Resilience státu přitom podle Špeldy stojí na resilienci jeho expertů – projekt si tak klade za cíl efektivně zapojovat do vývoje specializovaných AI modelů odborníky působící ve státní správě.

Martin Popel z Matematicko-fyzikální fakulty UK pak ukázal, jak model postavený MFF UK a společností MAMA AI zpracovává základní dotazy a vytváří na ně odpovědi za pomoci interních zdrojů, například databáze ČTK. Představil také, jak se hodnotí kvalita výstupů na třech úrovních: nejdříve na základě zpětné vazby od relevantních expertů, dále od zapojené veřejnosti, posléze od AI.

Čtyři asistenti, čtyři lekce

Po úvodu dostaly prostor workshopy, kde si návštěvníci jednotlivé asistenty sami vyzkoušeli.

Historicko-edukační avatar pod vedením Čeňka Pýchy z Filozofické fakulty UK má pomáhat učitelům a učitelkám předávat témata z oblasti historického vzdělávání. Workshop posloužil jako jeho vůbec první ohnisková skupina a hned narazil na rozdíl mezi tím, co od odpovědi očekává expert a co laik – veřejnost se ptá jinak a model má potíž otázky správně uchopit. Poznatky teď půjdou do korekce zdrojů i ladění promptů.

Na bezpečnostně-mediálním asistentovi spolupracují Angelika Suchanová z FSV UK, Martin Čmejrek z MAMA AI a ČTK. Míří na situace, ve kterých se ztrácejí ověřené informace – například povodně z roku 2024, válka na Ukrajině nebo Green Deal. Model staví na nezávislých datech ČTK a zatím se testuje na tématu povodní. První výsledky naznačují specifičtější odpovědi než běžné nástroje. Tým ale zdůraznil, že cílem není představit konkurenta velkým modelům, nýbrž replikovatelný směr vývoje na národní úrovni.

Právní asistent vznikající pod vedením Jána Matejky z Ústavu státu a práva AV ČR vzniká na korpusu zhruba 300 000 právních dokumentů a má být napojený na systém e-Sbírka. Matejka zdůraznil, že v právu neexistuje prostor pro pravděpodobnostní odpovědi – vše se musí řídit předpisy a právním řádem. Jako závažný technický problém byl identifikován nedeterministický přístup AI, kdy model na totožný dotaz odpovídá řádově, a dokonce i polarizačně odlišnými výstupy. Auditovatelnost zdrojů se proto stává základním principem celé právní části.

Duševně-zdravotní asistent, kterého má na starosti Roman Gabrhelík z 1. lékařské fakulty UK, má být oporou odborníkům pracujícím s digitálními závislostmi. Workshop mapoval, co od nástroje potřebují: orientační průzkum postavil na první místo transparentní vývoj a přístup z více zařízení, hned za nimi práci s prověřenými zdroji a personalizaci na konkrétní kazuistiky. Otevřela se i otázka tónu komunikace a nakládání s citlivými daty klientů.

Etika, která drží krok

Závěr konference patřil etice. Předsedkyně etické rady Anetta Jedličková ocenila, že etická dilemata v projektu nezaostávají za technologií, ale drží s ní krok. Jako principy prostupující všemi týmy jmenovala transparentnost a srozumitelnost, ověřitelnost výstupů, ochranu soukromí, potlačování zkreslení, jasně vymezenou odpovědnost a expertní dohled nad vývojem i nasazením.

Nad vším přitom stojí jedna ambice projektu: nikoliv nahradit lidské rozhodování, ale posílit důvěru v něj ověřitelnými daty a správným kontextem.