Komunálne voľby 2026
Všetky správy
Na existenčné riziko pre ľudstvo zo strany umelej inteligencie podľa Reuters už predtým upozornili vedúci predstavitelia zúčastnených firiem vrátane šéfa OpenAI Sama Altmana.
Autor TASR
Ženeva 7. septembra (TASR) - Vysoký komisár Organizácie Spojených národov (OSN) pre ľudské práva Volker Türk v pondelok upozornil, že umelá inteligencia (AI) môže byť raz natoľko výkonná, že sa stane pre ľudstvo existenčnou hrozbou. V prejave pri otvorení zasadnutia Rady OSN pre ľudské práva v Ženeve preto vyzval na prijatie okamžitých opatrení s cieľom obmedziť možné riziká. Informovala o tom agentúra Reuters, píše TASR.
„Zdieľam obavy ľudí z odvetvia, že pokročila umelá inteligencia by mohla predstavovať existenčné riziko pre ľudstvo,“ vyhlásil Türk. Ľudské práva sú podľa neho v dnešnej dobe vystavené neznámym, až dokonca bezprecedentným hrozbám.
„Potreba regulácie umelej inteligencie je všeobecne uznávaná, ale kde sú konkrétne kroky?“ spýtal sa ďalej Türk a varoval, že z nečinnosti ťažia „len veľké technologické firmy, ich majitelia a tým, ktorí im to umožňujú“.
Bez priameho menovania zároveň podotkol, že len hŕstka mužov „má takmer neobmedzenú moc nad AI“. „Hovoria o slobode, ale keď sa na to pozrieme bližšie, ukáže sa, že ide vlastne len o slobodu využívať naše údaje,“ upozornil. Medzi popredné spoločnosti v oblasti AI patria Meta, Anthropic, OpenAI či Google.
Türk sa vo svojom prejave podľa agentúry AFP vyjadril aj k júlovým zisteniam, že autonómni agenti OpenAI unikli z údajne kontrolovaného prostredia a ovládli servery platformy Hugging Face, ktorú programátori využívajú na šírenie softvéru umelej inteligencie. Podobné incidenty pri testovaní agentov hlásili aj ďalšie firmy vrátane Anthropicu a Mety.
„Dnes tu vyzývam, aby sme vynaložili všetko úsilie a zaviedli záruky bezpečnosti a ochrany umelej inteligencie skôr, než bude neskoro,“ zdôraznil šéf ľudskoprávnej agentúry OSN. Podľa svojich slov plánuje v najbližších dňoch osobne napísať spoločnostiam vyvíjajúcim AI, aby „prijali opatrenia, ktoré sú v ich silách, s cieľom okamžite znížiť riziká“.
„Prinajmenšom potrebujeme, aby sa krajiny, v ktorých sa umelá inteligencia prevádzkuje, a ktoré sú zapojené do jej dodávateľských reťazcov, dohodli na jasných hraniciach, ktoré nemožno prekročiť,“ dodal.
Na existenčné riziko pre ľudstvo zo strany umelej inteligencie podľa Reuters už predtým upozornili vedúci predstavitelia zúčastnených firiem vrátane šéfa OpenAI Sama Altmana. Samotná OSN v júli usporiadala prvé globálne stretnutie venované otázke riadenia AI a vyzvala na zavedenie harmonizovaných pravidiel.
„Zdieľam obavy ľudí z odvetvia, že pokročila umelá inteligencia by mohla predstavovať existenčné riziko pre ľudstvo,“ vyhlásil Türk. Ľudské práva sú podľa neho v dnešnej dobe vystavené neznámym, až dokonca bezprecedentným hrozbám.
„Potreba regulácie umelej inteligencie je všeobecne uznávaná, ale kde sú konkrétne kroky?“ spýtal sa ďalej Türk a varoval, že z nečinnosti ťažia „len veľké technologické firmy, ich majitelia a tým, ktorí im to umožňujú“.
Bez priameho menovania zároveň podotkol, že len hŕstka mužov „má takmer neobmedzenú moc nad AI“. „Hovoria o slobode, ale keď sa na to pozrieme bližšie, ukáže sa, že ide vlastne len o slobodu využívať naše údaje,“ upozornil. Medzi popredné spoločnosti v oblasti AI patria Meta, Anthropic, OpenAI či Google.
Türk sa vo svojom prejave podľa agentúry AFP vyjadril aj k júlovým zisteniam, že autonómni agenti OpenAI unikli z údajne kontrolovaného prostredia a ovládli servery platformy Hugging Face, ktorú programátori využívajú na šírenie softvéru umelej inteligencie. Podobné incidenty pri testovaní agentov hlásili aj ďalšie firmy vrátane Anthropicu a Mety.
„Dnes tu vyzývam, aby sme vynaložili všetko úsilie a zaviedli záruky bezpečnosti a ochrany umelej inteligencie skôr, než bude neskoro,“ zdôraznil šéf ľudskoprávnej agentúry OSN. Podľa svojich slov plánuje v najbližších dňoch osobne napísať spoločnostiam vyvíjajúcim AI, aby „prijali opatrenia, ktoré sú v ich silách, s cieľom okamžite znížiť riziká“.
„Prinajmenšom potrebujeme, aby sa krajiny, v ktorých sa umelá inteligencia prevádzkuje, a ktoré sú zapojené do jej dodávateľských reťazcov, dohodli na jasných hraniciach, ktoré nemožno prekročiť,“ dodal.
Na existenčné riziko pre ľudstvo zo strany umelej inteligencie podľa Reuters už predtým upozornili vedúci predstavitelia zúčastnených firiem vrátane šéfa OpenAI Sama Altmana. Samotná OSN v júli usporiadala prvé globálne stretnutie venované otázke riadenia AI a vyzvala na zavedenie harmonizovaných pravidiel.
