Paríž 12. septembra (TASR) – Zástancovia umelej inteligencie tvrdia, že jej potenciál je neobmedzený – to však znamená, že ju môžu zneužiť aj kyberzločinci. Informuje TASR na základe materiálov agentúry AFP, Európskeho parlamentu a spoločnosti Microsoft.

Jednou z oblastí, kde možno využiť potenciál umelej inteligencie (AI), ako sú rôzne chatovacie programy typu ChatGPT alebo Bard od spoločnosti Google, je tvorba textu. Teoreticky je teda možné zneužiť tieto nástroje na zdokonalenie neoprávneného získavania údajov (phishingu) pomocou textu, napríklad e-mailov. Ich hlavnou slabinou a identifikačným znakom je najmä v slovenčine nízka gramatická a štylistická úroveň textov.

Veľkí vývojári AI nástrojov tvrdia, že takéto využitie chatovacích programov blokujú. Preto vznikli kópie zamerané práve na tvorbu podvodných e-mailov, ako napríklad FraudGPT a WormGPT. Pre chýbajúce zázemie veľkej spoločnosti je ich účinnosť zatiaľ otázna, experti sa však zhodujú na tom, že využívanie AI je zatiaľ iba v plienkach a iba čas ukáže jej plný potenciál.

Microsoft na svojich webových stránkach (https://www.microsoft.com/sk-sk/security/business/security-101/what-is-phishing) uvádza hneď niekoľko druhov phishingových útokov, najčastejším je útok prostredníctvom podvodného e-mailu, ktorý má pôsobiť ako e-mail od dôveryhodnej inštitúcie, najčastejšie banky. Na Slovensku sa vyskytli už aj prípady podvodných e-mailov údajne odoslaných poštou alebo políciou.

Cieľom phishingových útokov je získať prihlasovacie údaje osôb a v ideálnom prípade aj prístup k peniazom, preto phishingové e-maily často vyzerajú ako od banky, používateľ pritom v danej banke vôbec nemusí mať vedený účet. Útočníci sa rôznymi spôsobmi snažia prinútiť používateľov, aby klikli na odkaz uvedený v tele e-mailu, ktorý ich zavedie na stránku pôsobiacu ako internet banking danej banky. Ak používateľ na stránke zadá svoje údaje, tie sa uložia do databázy útočníka, ktorý následne môže úplne "vybieliť" používateľov bankový účet.

Inou oblasťou, ktorá môže naplno využiť potenciál AI, je sofistikované napodobňovanie hlasu či vizuálnej podoby človeka označované termínom deepfake. Útočníkom stačí získať iba niekoľkosekundovú vzorku ľudského hlasu a dokážu vytvoriť hodnovernú nahrávku napríklad so žiadosťou o výkupné. V prípade napodobňovania fyzickej podoby človeka môže ísť napríklad o pornografické zábery alebo nahrávky poškodzujúce dobré meno obete. Dôveryhodné napodobnenie hlasu i fyzickej podoby človeka je však pomerne náročný proces vyžadujúci špecializované zdroje, softvér a skúsenosti. Preto sa cieľom tohto druhu útokov stávajú najmä vysokopostavené osoby a celebrity, pri ktorých panuje predpoklad, že za odvrátenie hrozby by mohli zaplatiť nemalé finančné prostriedky.

Poslednou oblasťou, kde možno využiť potenciál AI, je tvorba počítačového kódu. Nástroje ako ChatGPT používatelia využívajú na tvorbu rôznych programov či na kontrolu správnosti vlastných programov, preto existuje reálny predpoklad, že ich možno použiť aj na tvorbu škodlivého softvéru – malvéru. Na tvorbu malvéru sú však opäť potrebné predchádzajúce odborné vedomosti a skúsenosti. Je extrémne nepravdepodobné, že by malvér dokázal vytvoriť laik, ktorý s používaním AI iba začína.

Obrovský potenciál AI a neustále rastúci počet používateľov rôznych AI nástrojov priťahuje po celom svete pozornosť vrátane výziev na ich reguláciu. Európska únia začala v tomto smere podnikať kroky, keď v polovici júna tohto roku odsúhlasila prípravu smernice o umelej inteligencii. Členské štáty Európskej rady budú o jej konkrétnej podobe rokovať, už teraz je však jasné, že použitie AI na identifikáciu osôb v reálnom čase má byť zakázané.