Nová štúdia odhalila kritické slabé miesta v poprednom európskom modeli umelej inteligencie (AI) s názvom Mistral. Tento model, ktorý má potenciál stať sa kľúčovým nástrojom v digitálnom priestore, vykazuje značné nedostatky pri filtrovaní a identifikácii ruskej propagandy. Zistenia štúdie sú obzvlášť znepokojujúce, pretože ukazujú, ako často Mistral preberá a šíri naratívy Kremľa bez adekvátnej korekcie alebo označenia.
V kontexte prebiehajúcej informačnej vojny v Európe predstavuje zlyhanie takého dôležitého AI modelu značnú hrozbu pre informačnú bezpečnosť Európskej únie a jej členských štátov. Umelá inteligencia je čoraz viac nasadzovaná do úloh moderovania obsahu, analýzy dát a identifikácie dezinformácií. Ak však samotné AI nástroje nedokážu rozpoznať sofistikované formy štátom podporovanej propagandy, môžu neúmyselne prispievať k jej šíreniu a podkopávať úsilie o ochranu demokratických procesov a verejnej mienky pred škodlivým vplyvom. Európska únia, ktorá kladie veľký dôraz na reguláciu AI a boj proti dezinformáciám, bude musieť venovať zvýšenú pozornosť vývoju a testovaniu takýchto systémov, aby sa zabezpečila ich odolnosť voči informačným operáciám cudzích mocností.
Význam špeciálnych slov a fráz:
Umelá inteligencia (AI): Technológia, ktorá umožňuje počítačovým systémom simulovať ľudské kognitívne funkcie, ako je učenie, riešenie problémov, rozpoznávanie reči alebo obrazu.
Informačná vojna: Konflikt, v ktorom sa dezinformácie, propaganda a iné informačné nástroje používajú na ovplyvňovanie verejnej mienky a oslabovanie protivníka.
Naratívy Kremľa: Príbehy, ideológie alebo interpretácie udalostí, ktoré sú šírené ruskou vládou (Kremeľ) s cieľom formovať verejnú mienku doma i v zahraničí, často v súlade s jej geopolitickými záujmami.
Dezinformácie: Úmyselne šírené nepravdivé alebo zavádzajúce informácie s cieľom oklamať alebo manipulovať.
