Dohoda štátov EÚ na akte o umelej inteligencii
Politická dohoda na akte o umelej inteligencii (AIA) medzi členskými štátmi EÚ vznikala v decembri minulého roka rekordne dlho – na trojdňovom nepretržitom vyjednávacom kole. Uplynulý týždeň sa na tomto poli zrodil ďalší úspech. Členské štáty totižto dosiahli dohodu na finálnom znení tohto legislatívneho materiálu. V najbližších mesiacoch bude AIA ešte predmetom oficiálneho schvaľovania v Rade EÚ aj Európskom parlamente.
Vo všeobecnosti AIA predstavuje stanovenie záväzných pravidiel a požiadaviek pre AI systémy, akými sú napríklad vysoko rizikové AI systémy používané v kritických infraštruktúrach, zdravotníctve, doprave a orgánmi činnými v trestnom konaní. Tieto druhy AI systémov budú podliehať prísnejším požiadavkám.
Regulácia aj úplný zákaz v špecifických sektoroch
Niektoré typy použití AI ako napr. biometrická kategorizácia, vzdialená biometrická identifikácia v reálnom čase, využitie kamerových systémov pri rozširovaní databáz tvárí, či rozpoznávanie emócií, budú dokonca úplne zakázané. Tieto zákazy by sa mali týkať praktík, ktoré majú potenciál manipulovať s ľuďmi prostredníctvom podprahových techník alebo zneužívať zraniteľné miesta určitých skupín, ako sú napríklad deti, s cieľom poškodiť ich fyzické alebo psychické zdravie.
„Okrem toho sa zavádzajú požiadavky na transparentnosť pre generatívne systémy umelej inteligencie, ktoré vytvárajú obsah alebo interagujú s ľuďmi, ako je napríklad ChatGPT,“ hovorí štátny tajomník ministerstva investícií, regionálneho rozvoja a informatizácie SR Ivan Ivančin.
Ivančin následne dodal: „Tieto požiadavky majú zabezpečiť to, aby bolo jasné, že obsah bol vygenerovaný AI a poskytnúť záruky proti generovaniu nelegálneho obsahu.“ Schválením AIA by sa mohlo predísť situáciám ako nedávna kauza so šíriacimi sa falošnými nahými fotkami Taylor Swift.
Týmito opatreniami sa má zabrániť aj tomu, aby AI systémy nemohli byť použité pri rozhodovaní o prijatí do zamestnania alebo hodnotení žiadostí o štúdium a tak neoprávnene diskriminovali ľudí na základe rasovej, etnickej, rodovej alebo iných charakteristík.
Slovensko musí zabezpečiť implementáciu AIA
Vzhľadom na rýchle tempo technologického pokroku v umelej inteligencii boli vyjednávania medzi Radou EÚ a Európskym parlamentom na AIA mimoriadnou výzvou. Po schválení AIA, ktoré sa očakáva ešte pred voľbami do Európskeho parlamentu v júni tohto roku, bude čakať členské štáty EÚ, vrátane Slovenska dôležitá úloha zabezpečiť jeho implementáciu, čo zahŕňa nie len regulačné úlohy, ale ráta sa aj s podporou inovácií prostredníctvom zriadenia experimentálnych vývojových prostredí, tzv. sandboxov.
Niektoré ustanovenia AIA chrániace pred zakázanými použitiami AI systémov vstúpia pritom do účinnosti, už šesť mesiacov od jeho oficiálneho zverejnenia. Zvyšné ustanovenia AIA začnú platiť po dvanástich (pravidlá pre modely so všeobecným účelom), prípadne dvadsiatich štyroch mesiacoch od zverejnenia.