Bratislava 6. júla (TASR) - Zamestnanci často pracujú s nástrojmi umelej inteligencie (AI) mimo dohľadu IT oddelení. Do verejných AI služieb pritom vkladajú zákaznícke údaje, interné dokumenty, zdrojové kódy alebo citlivé obchodné informácie. Upozorňuje na to penetračný tester a riaditeľ spoločnosti Remediata Matúš Mihok.

Podľa správy spoločnosti LayerX takmer polovica podnikových AI konverzácií prebieha prostredníctvom osobných účtov namiesto firemne spravovaných identít. Viac ako šesť percent podnikových interakcií s generatívnou AI obsahuje citlivé firemné údaje a až 22 percent obsahu vkladaného do AI nástrojov zahŕňa údaje o platobných kartách alebo osobné údaje.

„Umelá inteligencia je nový vektor útoku. Firmy a inštitúcie by mali venovať rovnakú pozornosť bezpečnosti AI ako bezpečnosti aplikácií, cloudových služieb alebo infraštruktúry,“ skonštatoval Mihok. Okrem prenosu citlivých dát podľa neho penetrační testeri často objavia zraniteľnosti, ktoré vznikajúce pri použití AI v generovaní kódu. Testeri tiež overujú ochranu údajov pri práci s AI, testujú AI aplikácie a chatboty.