Prezidentské voľby 2024
Najnovšie správy
Profesor Farkaš pôsobí na Katedre aplikovanej informatiky Fakulty matematiky, fyziky a informatiky Univerzity Komenského.
Autor TASR
Bratislava 12. februára (TASR) - Umelá inteligencia by v budúcnosti teoreticky mohla myslieť rovnako ako človek, ale najprv musíme presne vedieť, ako myslí človek a funguje mozog. "Aby sme vedeli, čo sa máme snažiť napodobniť. Teraz sa o to snažíme na úrovni správania sa umelej inteligencie, čo napríklad vidieť v jazykových modeloch. Keď sa rozprávate s četbotom a môžete konverzovať o čomkoľvek, môžete nadobudnúť dojem, že naozaj myslí," uviedol pre TASR expert na umelú inteligenciu Igor Farkaš.
Upozornil, že takéto správanie umelej inteligencie ešte však nedáva odpoveď, či naozaj rozumie tomu, čo hovorí. "Navonok sa to môže zdať ako inteligentné správanie, ale môžeme nájsť aj slabé stránky a môžeme ten systém, takpovediac, nachytať. Jazykové modely dokážu dať aj nezmyselné odpovede. Videl som prípad s dotazom, že chcem spáchať samovraždu. Systém bol prednastavený, že chce pomôcť človeku, tak vyhodnotil, že mu pomôže. To znamená, že netuší, čo tým môže spôsobiť a že človek to môže zobrať vážne," poznamenal Farkaš.
Slabé stránky majú podľa jeho slov okrem jazykových modelov aj neurónové siete, ktoré dokážu rozpoznávať objekty. "Máte natrénovanú sieť a ona správne povie - to je kvet, traktor, slon a tak ďalej, aj keď predtým ten konkrétny obrázok ešte nevidela. To vie, samozrejme, aj človek. No už pred ôsmimi rokmi sa zistilo, že keď cielene zmeníme niektoré, aj veľmi malé časti obrazu, tak dokážeme tú sieť úplne popliesť. Človek by povedal, že malá zmena na obrázku je špinka. Ale sieť môže potom povedať, že vidí lietadlo, čo znie až neuveriteľne," skonštatoval Farkaš.
Upozornil, že to môže spôsobiť vážny problém, keď má umelá inteligencia napríklad rozpoznávať osoby vchádzajúce do budovy alebo keď samojazdiace auto vyhodnocuje situáciu na ceste. "Človek je oveľa spoľahlivejší v rozpoznávaní objektov. Aj človek sa dá oklamať ilúziami, ale to je niečo úplne iné," poznamenal.
Základom modernej umelej inteligencie sú umelé neurónové siete. "Začalo sa to v polovici 20. storočia a posledných 10 - 15 rokov neurónové siete veľmi pokročili, a to najmä vďaka tzv. hlbokému učeniu. Neurónové siete, ktoré pozostávajú z viacerých vrstiev neurónov, umožňujú riešiť aj zložitejšie problémy. Podstata je v trénovaní, sieť na začiatku úlohu riešiť nevie, naučí sa to na príkladoch ako človek," vysvetlil Farkaš. Priblížil, že presnosť podobnú človeku dosahujú práve pri spomínaných jazykových modeloch a rozoznávaní objektov. "Samozrejme, nie je všetko zlato, čo sa blyští, napriek tomu výsledky sú veľmi dobré," doplnil.
Na margo otázky, či sa dá zhodnotiť, ako dobre dokáže umelá inteligencia napodobniť ľudské myslenie, Farkaš poukázal na to, že ani ľudské myslenie nie je presne definovaný pojem. "Pod myslením obyčajne myslíme nejaké mentálne procesy, nad niečím rozmýšľame, a potom konáme alebo niečo povieme a tak ďalej, je to vedomá činnosť. Ale v praktickom živote človek rieši aj veci, kde sa zdá, že netreba veľmi myslieť, ale pritom sú zložité, napríklad šoférovanie auta. Zdá sa, že to už je nejaká iná forma myslenia, automatizované procesy. Podobne aj umelú inteligenciu tvoríme a skúmame aj na takzvanej senzomotorickej úrovni s cieľom porozumieť, ako je vnímanie a konanie prepojené u človeka," zhrnul.
Pokračoval, že na druhej strane, keď treba rozmýšľať, zvažovať alebo rozhodnúť, napríklad či sa prihlásim na školu alebo nie, tak to aj človeku trvá. "Umelá inteligencia rieši aj takéto veci a procesy rozhodovania. Sú teda rôzne typy umelej inteligencie," ozrejmil.
Dodal, že napriek tomu, že umelé neurónové siete dominujú v poslednej dekáde, existujú metódy tzv. symbolovej umelej inteligencie na báze logiky, usudzovania a reprezentácie znalostí, kde sa dá tiež hovoriť o tom, že systémy umelej inteligencie rozmýšľajú alebo imitujú proces myslenia. "Človek takisto disponuje schopnosťou myslieť a za tým vidíme činnosť mozgu, ako aj mysle. Závisí to od toho, ktorú úroveň vysvetlenia uprednostníme. Neurónové siete ponúkajú mechanizmy inšpirované mozgom, symbolová umelá inteligencia sa zase viac opiera o mentálne procesy. Neurónové siete sa však posunuli ďalej," uzavrel.
Profesor Farkaš pôsobí na Katedre aplikovanej informatiky Fakulty matematiky, fyziky a informatiky Univerzity Komenského. Aktuálne je koordinátorom medzinárodného projektu TERAIS, ktorý má prispieť k vývoju robotov interagujúcich s ľuďmi, podporeným programom Európskej únie Horizon Europe.
Upozornil, že takéto správanie umelej inteligencie ešte však nedáva odpoveď, či naozaj rozumie tomu, čo hovorí. "Navonok sa to môže zdať ako inteligentné správanie, ale môžeme nájsť aj slabé stránky a môžeme ten systém, takpovediac, nachytať. Jazykové modely dokážu dať aj nezmyselné odpovede. Videl som prípad s dotazom, že chcem spáchať samovraždu. Systém bol prednastavený, že chce pomôcť človeku, tak vyhodnotil, že mu pomôže. To znamená, že netuší, čo tým môže spôsobiť a že človek to môže zobrať vážne," poznamenal Farkaš.
Slabé stránky majú podľa jeho slov okrem jazykových modelov aj neurónové siete, ktoré dokážu rozpoznávať objekty. "Máte natrénovanú sieť a ona správne povie - to je kvet, traktor, slon a tak ďalej, aj keď predtým ten konkrétny obrázok ešte nevidela. To vie, samozrejme, aj človek. No už pred ôsmimi rokmi sa zistilo, že keď cielene zmeníme niektoré, aj veľmi malé časti obrazu, tak dokážeme tú sieť úplne popliesť. Človek by povedal, že malá zmena na obrázku je špinka. Ale sieť môže potom povedať, že vidí lietadlo, čo znie až neuveriteľne," skonštatoval Farkaš.
Upozornil, že to môže spôsobiť vážny problém, keď má umelá inteligencia napríklad rozpoznávať osoby vchádzajúce do budovy alebo keď samojazdiace auto vyhodnocuje situáciu na ceste. "Človek je oveľa spoľahlivejší v rozpoznávaní objektov. Aj človek sa dá oklamať ilúziami, ale to je niečo úplne iné," poznamenal.
Základom modernej umelej inteligencie sú umelé neurónové siete. "Začalo sa to v polovici 20. storočia a posledných 10 - 15 rokov neurónové siete veľmi pokročili, a to najmä vďaka tzv. hlbokému učeniu. Neurónové siete, ktoré pozostávajú z viacerých vrstiev neurónov, umožňujú riešiť aj zložitejšie problémy. Podstata je v trénovaní, sieť na začiatku úlohu riešiť nevie, naučí sa to na príkladoch ako človek," vysvetlil Farkaš. Priblížil, že presnosť podobnú človeku dosahujú práve pri spomínaných jazykových modeloch a rozoznávaní objektov. "Samozrejme, nie je všetko zlato, čo sa blyští, napriek tomu výsledky sú veľmi dobré," doplnil.
Na margo otázky, či sa dá zhodnotiť, ako dobre dokáže umelá inteligencia napodobniť ľudské myslenie, Farkaš poukázal na to, že ani ľudské myslenie nie je presne definovaný pojem. "Pod myslením obyčajne myslíme nejaké mentálne procesy, nad niečím rozmýšľame, a potom konáme alebo niečo povieme a tak ďalej, je to vedomá činnosť. Ale v praktickom živote človek rieši aj veci, kde sa zdá, že netreba veľmi myslieť, ale pritom sú zložité, napríklad šoférovanie auta. Zdá sa, že to už je nejaká iná forma myslenia, automatizované procesy. Podobne aj umelú inteligenciu tvoríme a skúmame aj na takzvanej senzomotorickej úrovni s cieľom porozumieť, ako je vnímanie a konanie prepojené u človeka," zhrnul.
Pokračoval, že na druhej strane, keď treba rozmýšľať, zvažovať alebo rozhodnúť, napríklad či sa prihlásim na školu alebo nie, tak to aj človeku trvá. "Umelá inteligencia rieši aj takéto veci a procesy rozhodovania. Sú teda rôzne typy umelej inteligencie," ozrejmil.
Dodal, že napriek tomu, že umelé neurónové siete dominujú v poslednej dekáde, existujú metódy tzv. symbolovej umelej inteligencie na báze logiky, usudzovania a reprezentácie znalostí, kde sa dá tiež hovoriť o tom, že systémy umelej inteligencie rozmýšľajú alebo imitujú proces myslenia. "Človek takisto disponuje schopnosťou myslieť a za tým vidíme činnosť mozgu, ako aj mysle. Závisí to od toho, ktorú úroveň vysvetlenia uprednostníme. Neurónové siete ponúkajú mechanizmy inšpirované mozgom, symbolová umelá inteligencia sa zase viac opiera o mentálne procesy. Neurónové siete sa však posunuli ďalej," uzavrel.
Profesor Farkaš pôsobí na Katedre aplikovanej informatiky Fakulty matematiky, fyziky a informatiky Univerzity Komenského. Aktuálne je koordinátorom medzinárodného projektu TERAIS, ktorý má prispieť k vývoju robotov interagujúcich s ľuďmi, podporeným programom Európskej únie Horizon Europe.
