Vysokorizikové systémy AI – klasifikácia a požiadavky

Úvod

Zavádzanie systémov umelej inteligencie do interných procesov súkromných aj verejných organizácií je dnes horúcou témou. Úspešné využitie výhod AI dokáže subjektom ušetriť značné množstvo ľudského aj finančného kapitálu a zároveň zvýšiť efektivitu práce a náskok oproti konkurencii. AI však môže, v závislosti od okolností týkajúcich sa jej konkrétnej aplikácie, použitia a úrovne technologického vývoja, vytvárať riziká a ujmu pre verejné záujmy a základné práva chránené právom Únie. Táto ujma môže byť hmotná aj nehmotná, vrátane fyzickej, psychickej, spoločenskej alebo ekonomickej.

Preto je pred nasadením AI systému do organizácie, resp. pred jeho uvedením na trh dôležité poznať základné body klasifikácie systémov AI podľa ich rizikovosti. Mať základné znalosti o určovaní rizikovosti AI systémov je odporúčané bez ohľadu na to, či vaša organizácia vytvára alebo plánuje vybudovať vlastný AI systém, alebo sa vás AI dotkne nepriamo. Ako sa vás AI môže dotknúť nepriamo? Napríklad pri riadení dodávateľského reťazca a úprave zmluvných podmienok je nevyhnutné dbať na reguláciu používania AI systémov dodávateľom pri tvorbe diela na mieru pre vašu organizáciu. Ďalším príkladom je používanie verejne dostupných AI systémov vo vnútri vašej organizácie zamestnancami.

V článku sa dozviete, aké sú základné pravidlá určovania rizikovosti AI systémov podľa Aktu o AI, čo podporí zvýšenie gramotnosti v oblasti AI a vyspelosť vašej organizácie pri používaní týchto systémov.

1. Vybrané pojmy a ich previazanie na rizikovosť systémov AI

Pred definíciou rizikovosti AI systémov je nevyhnutné pripomenúť si niekoľko základných pojmov, ktoré budú neskôr použité v rámci článku.