Povinnosti poskytovateľov a používateľov vysokorizikových systémov umelej inteligencie

Úvod

Umelá inteligencia sa stáva kľúčovým nástrojom v rozhodovacích procesoch, ktoré majú priamy dopad na životy ľudí: od automatizovaného vyhodnocovania zdravotných záznamov cez posudzovanie žiadostí o úver až po riadenie verejnej infraštruktúry. Systémy AI už nie sú len technologickou novinkou, ale bežnou súčasťou praxe. S týmto vývojom však narastá aj zodpovednosť. Ak má AI prinášať skutočný úžitok, musí byť spoľahlivá, transparentná a bezpečná. A to neplatí len pre jej tvorcov, ale aj pre tých, ktorí ju v praxi používajú. Práve preto vznikol Akt o umelej inteligencii – právny rámec Európskej únie, ktorý zavádza pravidlá pre vývoj a používanie systémov AI so zreteľom na ich rizikovosť.

Tento článok sa venuje kľúčovým povinnostiam, ktoré tento nový rámec prináša. Vysvetľuje, kto za čo zodpovedá, ako sa líšia úlohy poskytovateľa a používateľa AI systému a aké konkrétne kroky musia organizácie podniknúť, aby naplnili zákonné aj spoločenské očakávania. Cieľom je nielen zorientovať sa v novej regulácii, ale aj porozumieť tomu, ako môže dobré nastavenie zodpovedností pomôcť budovať dôveru v umelú inteligenciu.

1. Základné definície a úlohy subjektov podľa Aktu o umelej inteligencii

Každý systém umelej inteligencie je výsledkom činnosti viacerých subjektov. Niektorí ho vyvíjajú, iní ho používajú, ďalší môžu pôsobiť ako sprostredkovatelia alebo distribútori. Akt o umelej inteligencii však kladie osobitný dôraz na dve kľúčové roly – poskytovateľa a používateľa systému AI. Práve týmto dvom kategóriám subjektov sú priamo adresované základné povinnosti podľa AIA.

1.1 Poskytovateľ AI systému

Poskytovateľom je podľa článku 3 ods. 2 AIA fyzická alebo právnická osoba, verejný orgán, agentúra alebo iný subjekt, ktorý vyvíja systém umelej inteligencie alebo ho uvádza na trh pod svojím menom či ochrannou známkou. Táto definícia zahŕňa aj prípady, keď je ...