Quantcast
Spravodajský portál Tlačovej agentúry Slovenskej republiky
Piatok 29. marec 2024Meniny má Miroslav
< sekcia Zahraničie

Eurokomisia predstavila pravidlá pre fungovanie umelej inteligencie

Ilustračná snímka. Foto: TASR – František Iván

Zámerom je zvýšiť dôveru používateľov v novú všestrannú generáciu výrobkov.

Brusel 21. apríla (TASR) - Európska komisia (EK) v stredu predostrela návrh nových pravidiel zameraných na to, aby sa Európa stala svetovým centrom dôveryhodnej umelej inteligencie (UI).

Kombinácia prvého právneho rámca umelej inteligencie a nového koordinovaného plánu s členskými štátmi EÚ bude zárukou bezpečnosti a základných práv ľudí a podnikov a zároveň posilní zavádzanie umelej inteligencie, investície a inováciu v celej Únii. Túto koncepciu doplnia nové pravidlá týkajúce sa strojových zariadení, na základe ktorých sa prispôsobia bezpečnostné pravidlá. Zámerom je zvýšiť dôveru používateľov v novú všestrannú generáciu výrobkov.

Podpredsedníčka EK zodpovedná za digitálnu oblasť Margrethe Vestagerová v tejto súvislosti spresnila, že EÚ sa týmito jasnými pravidlami stavia do čela vývoja nových celosvetových noriem v snahe zaručiť dôveryhodnosť umelej inteligencie. "Normy nám pomôžu vydláždiť cestu k etickej technológii na celom svete a zabezpečiť konkurencieschopnosť EÚ. Naše pravidlá sú nadčasové a priaznivé pre inováciu, zásah povoľujú len pri ohrození bezpečnosti a základných práv občanov EÚ," vysvetlila.

Komisia pripomenula, že UI existuje už desaťročia, ale vďaka narastajúcej výpočtovej kapacite získala nové schopnosti a ponúka obrovský potenciál v najrozmanitejších oblastiach – od zdravia, cez dopravu, energiu, poľnohospodárstvo, cestovný ruch až po kybernetickú bezpečnosť. Zároveň však treba vnímať rôzne riziká, a preto návrh EK znamená posilnenie pozície Európy ako svetového centra výnimočnosti v oblasti umelej inteligencie od laboratórií až po trh a snahu zabezpečiť, aby UI v Európe dodržiavala únijné hodnoty a pravidlá a aby sa jej potenciál využil na priemyselné účely.

Návrhy EK o európskej koncepcii umelej inteligencie a strojárenských výrobkov musia prijať Európsky parlament a Rada EÚ v riadnom legislatívnom postupe.

Pravidlá EÚ pre umelú inteligenciu vychádzajú zo štyroch kategórií rizík


Návrh nových pravidiel, vďaka ktorým chce Európska komisia (EK) vytvoriť z Európy svetové centrum dôveryhodnej umelej inteligencie (UI), je založený na vnímaní rizík a snahe predchádzať týmto rizikám.

Komisia, ktorá v stredu predstavila nové nariadenie o UI, upozornila, že Európania budú môcť dôverovať tomu, čo umelá inteligencia ponúka, pričom nové pravidlá sa budú uplatňovať priamo vo všetkých členských štátoch EÚ.

Európska koncepcia dôveryhodnej umelej inteligencie má štyri kategórie rizika - neprijateľné, vysoké, obmedzené a minimálne riziko.

Neprijateľné riziko je vtedy, keď sú systémy UI považované za ohrozenie bezpečnosti, živobytia a práv ľudí. Do zakázanej kategórie patria systémy alebo aplikácie UI, ktoré manipulujú s ľudským správaním s cieľom obísť slobodnú vôľu používateľa, a systémy, ktoré vládam umožňujú "sociálne hodnotenie".

Vysokorizikové systémy UI zahŕňajú technológiu umelej inteligencie používanú: v kritickej infraštruktúre (doprava), kde by mohlo dôjsť k ohrozeniu života a zdravia občanov; vo vzdelávaní alebo odbornej príprave (bodovanie testov); v bezpečnostných komponentoch produktov (aplikácie v roboticky asistovanej chirurgii); v oblasti zamestnania, riadenia zamestnancov a prístupe k samostatnej zárobkovej činnosti (softvér triediaci životopisy); v základných súkromných a verejných službách (bodové hodnotenie kreditného rizika, pre možnosť získavať úvery); pri presadzovaní práva, kde môže dochádzať k zasahovaniu do základných práv ľudí; pri riadení migrácie, udeľovania azylu a kontroly hraníc (overovanie pravosti cestovných dokladov) a tiež pri výkone spravodlivosti a demokratických procesoch.

Za vysokorizikové sa považujú všetky systémy biometrickej identifikácie na diaľku. Vzťahujú sa na ne prísne požiadavky a ich používanie v reálnom čase a verejne prístupných priestranstvách na účely presadzovania práva je zo zásady zakázané. Na vysokorizikové systémy umelej inteligencie sa budú vzťahovať prísne povinnosti pred tým, ako sa budú môcť uviesť na trh.

Obmedzené riziko platí pre systémy umelej inteligencie, ktoré podliehajú špecifickým požiadavkám na transparentnosť - pri používaní systémov UI, ako sú chatboty, by si užívatelia mali byť vedomí, že komunikujú so strojom, aby sa mohli fundovane rozhodnúť, či tieto aplikácie budú naďalej používať alebo nie.

Minimálne riziko platí pri neobmedzenom používaní aplikácií, ako sú videohry na základe umelej inteligencie alebo spamové filtre. Prevažná väčšina systémov UI spadá do tejto kategórie.

Komisia navrhla, aby na nové pravidlá o UI dohliadali vnútroštátne príslušné orgány dohľadu nad trhom. Vytvorí sa aj Európska rada pre umelú inteligenciu, ktorej úlohou bude uľahčovať vykonávanie týchto pravidiel a ktorá bude vypracovávať normy pre umelú inteligenciu. Okrem toho EK navrhuje aj dobrovoľné kódexy správania pri nízkorizikovej umelej inteligencii a experimentálne regulačné prostredie v snahe uľahčiť zodpovedné inovácie.

(spravodajca TASR Jaromír Novak)