Bratislava 22. augusta (TASR) - Umelá inteligencia (AI) dnes píše texty, vytvára obrázky a videá, odpovedá zákazníkom v online chatoch či napodobňuje ľudský hlas. Od 2. augusta v EÚ platia nové pravidlá (AI Act), ktoré majú spotrebiteľom pomôcť zistiť, kedy za obsahom alebo komunikáciou stojí AI. Upozornila na to riaditeľka spotrebiteľskej organizácie dTest Eduarda Hekšová.

Zdôraznila, že nie každý obrázok, text alebo video vytvorené pomocou AI musí byť na prvý pohľad jasne označené. Článok 50 AI Actu preto stanovuje viacero povinností, ktoré sa líšia podľa typu systému a spôsobu jeho použitia. Jedna z nich sa týka priamo poskytovateľov systémov vytvárajúcich alebo upravujúcich text, obraz, zvuk či video.

Medzi najprísnejšie regulované oblasti patria podľa Hekšovej tzv. deepfakes, teda obsah vytvorený alebo upravený pomocou AI, ktorý môže pôsobiť ako skutočný. Môže ísť napríklad o video osoby, ktorá nikdy nepovedala zobrazené výroky, alebo o fotografiu udalosti, ktorá sa v skutočnosti nestala.

Pokiaľ niekto pri svojej profesijnej činnosti vytvorí alebo upraví pomocou AI obrazový, zvukový či audiovizuálny obsah, ktorý sa podobá skutočným osobám, miestam, objektom alebo udalostiam a môže byť mylne považovaný za autentický, musí podľa nej jeho umelý pôvod jasne uviesť. V prípade, že takýto obsah by mohol niekoho uviesť do omylu, hoci aj neúmyselne, osoba, ktorá ho pomocou AI vytvorila, musí na túto skutočnosť zrozumiteľne upozorniť. Postačí na to napríklad ikona „AI“ alebo krátke oznámenie na začiatku audionahrávky.

Ďalšie pravidlo sa podľa nej týka chatbotov a ďalších systémov určených na priamu komunikáciu s ľuďmi. Pri komunikácii so zákazníckou podporou e-shopu alebo online asistentom využívajúcim AI by mal byť spotrebiteľ o tejto skutočnosti informovaný. Výnimkou môžu byť prípady, keď je už zo samotných okolností zrejmé, že človek komunikuje s AI systémom. Odlišná situácia môže nastať aj vtedy, ak sú výstupy pred odovzdaním používateľovi skutočne kontrolované človekom.

AI Act pamätá podľa Hekšovej aj na systémy, ktoré rozpoznávajú alebo analyzujú emócie na základe biometrických údajov, napríklad hlasu či podoby tváre. Ak sú ľudia takémuto systému vystavení, prevádzkovateľ ich musí o tejto skutočnosti informovať.

Osobitné pravidlo sa vzťahuje aj na texty určené na informovanie o záležitostiach verejného záujmu. Ak boli vytvorené alebo upravené pomocou AI, ich pôvod musí byť za stanovených podmienok jasne označený.

Dodala, že nové pravidlá sa nevzťahujú na bežné súkromné používanie AI. Nové povinnosti sa budú týkať najmä profesionálnych poskytovateľov a používateľov AI systémov. „Transparentnosť bude v ére umelej inteligencie čoraz dôležitejšia. Spotrebitelia by mali mať lepšiu možnosť rozpoznať, kedy do obsahu alebo komunikácie zasiahla umelá inteligencia a či sledujú autentický obsah alebo obsah vytvorený pomocou AI. Práve to je hlavným cieľom nových pravidiel,“ uzatvorila Hekšová.

dTest je najväčšou českou spotrebiteľskou organizáciou, ktorá na trhu pôsobí už od roku 1992. Táto nezisková organizácia je vydavateľom spotrebiteľského časopisu dTest, ktorý vychádza na slovenskom a českom trhu.