Praha, 14. ledna 2025 – Pod vedením Fakulty sociálních věd Univerzity Karlovy začíná bezprecedentní interdisciplinární projekt CZDEMOS4AI, jehož cílem je zkoumat celospolečenské dopady umělé inteligence a její potenciál pro posílení demokratických principů. Projekt širokého konsorcia partnerů získal prestižní grant Technologické agentury ČR. V rámci 5. veřejné soutěže programu SIGMA zaměřené na řešení aktuálních celospolečenských výzev byl podpořen částkou 125 milionů korun do konce roku 2029.

Projekt propojuje právní, etická, pedagogická, mediální, bezpečnostní a psychologická studia s cílem vyvinout společensky odpovědného multiagentního AI avatara. Ten bude navržen tak, aby ve vztahu k AI splňoval principy „otevřené demokracie“ - hodnotový dialog, transparentnost a participaci veřejnosti. Očekává se, že využití tohoto asistenta povede mimo jiné k efektivnějšímu výkonu veřejné správy a zvýšení odolnosti společnosti.

„CZDEMOS4AI není o hledání řešení krize zastupitelské demokracie pomocí umělé inteligence, ale o zlepšování společenských procesů prostřednictvím aplikace prospěšné AI s využitím demokratických metod,“ říká profesor Nik Hynek, hlavní řešitel projektu. „Projekt zdůrazňuje význam sladění AI, které zajišťuje, aby technologie sloužila cílům, preferencím a etickým principům jednotlivců a společnosti,“ dodává.

Asistenti pro klíčové oblasti fungování společnosti

Projekt CZDEMOS4AI se soustředí na čtyři klíčové oblasti fungování společnosti. V průběhu pěti let mají vzniknout AI asistenti s následujícím zaměřením:

• Historicko-edukační asistent bude interaktivní pomůckou pro pedagogy, lektory a studenty, pomůže jim s kontextualizací historických událostí a procesů a reflexí historické paměti.
• Bezpečnostně-mediální asistent bude sloužit k posílení informační odolnosti za pomoci faktografického vyvážení komunikace v rámci krizových situací.
• Právní asistent pro práci s českými právními texty bude sloužit jako analytický nástroj nad rozsáhlým datovým korpusem právních dokumentů (od roku 1918-) a bude operovat na základě běžné hovorové češtiny.
• Duševně-zdravotní asistent pro podporu duševního zdraví a adiktologie bude pomáhat s diagnostikou a poradenstvím při řešení rizik digitálního chování a usnadní identifikaci problémového chování v online prostředí.

„Asistenti CZDEMOS4AI budou vyvíjeni tak, aby jejich odpovědi na zadané požadavky byly v souladu s fakty, zvyklostmi a normami, které odráží stav poznání a dobrou praxi aplikovanou v národním kontextu s cílem posílit resilienci klíčových institucí. Dosáhnout tohoto cíle pomocí dostupných velkých jazykových modelů je obtížné, protože jejich vývoj není primárně zaměřen na sladění, které by umožnilo jejich bezpečné využití v národním kontextu“, vysvětluje doktor Petr Špelda, vedoucí technické platformy projektu.

Plány v prvním roce realizace

Při startu projektu se výzkumný tým zaměřil na představení projektového záměru širší odborné veřejnosti. Ještě koncem minulého roku proběhl úvodní workshop na téma „Otevřená demokracie ve vazbě na umělou inteligenci“, kde byly představeny dílčí výsledky a postupy v projektu. Workshop pořádal spolek prg.ai, který je součástí projektového konsorcia a zaštiťuje externí prezentaci projektu a komunikaci s veřejnou správou.

Dále se úvodem výzkumný tým věnuje nastavení transparentních pravidel pro zpracování datových zdrojů. Důraz je kladen na soulad s platnými právními úpravami, včetně GDPR a Aktu o umělé inteligenci.

V roce 2025 začne intenzivní práce na přípravě datových korpusů nutných k vývoji. Následně dojde k vytvoření prototypů jednotlivých asistentů, které budou dále expertně testovány a rozšiřovány s důrazem na zachování demokraticky vyjádřených veřejných preferencí.

Konsorcium projektu CZDEMOS4AI tvoří:

• Univerzita Karlova
  • Fakulta sociálních věd
  • Fakulta humanitních studií
  • Filozofická fakulta
  • Matematicko-fyzikální fakulta
  • 1. lékařská fakulta
• IPSOS, s.r.o.
• Ústav státu a práva AV ČR, v. v. i.
• prg.ai, z. s.
• MAMA AI Coolma, s.r.o.
• Česká tisková kancelář
• Masarykova univerzita
• PHYSTER TECHNOLOGY, a.s.

Kontakt:

Michal Šenk, manažer projektu (michal.senk@fsv.cuni.cz)

Filip Hartmann, vnější vztahy a komunikace (filip@prg.ai)