Úvod do problematiky umelej inteligencie

Rozsah pôsobnosti nariadenia (Čl. 2) je na:

1. poskytovateľov uvádzajúcich v Únii na trh alebo do prevádzky systémy umelej inteligencie bez ohľadu na to, či sú títo poskytovatelia usadení v Únii alebo v tretej krajine;
2. používateľov systémov umelej inteligencie, ktorí sa nachádzajú v Únii;
3. poskytovateľov a používateľov systémov umelej inteligencie, ktorí sa nachádzajú v tretej krajine, ak sa výstup vytvorený systémom používa v Únii.

Z rozsahu pôsobnosti Aktu o AI sú vyňaté systémy umelej inteligencie vyvinuté alebo používané výlučne na vojenské účely.

Ako možno už z predmetu a rozsahu pôsobnosti Aktu o AI vyčítať, jeho cieľom je zachytiť celý proces od uvádzania na trh až po samotné používanie systémov umelej inteligencie v Únii. Zákaz vybraných praktík, špecifikácia osobitných požiadaviek na vysokorizikové systémy umelej inteligencie, harmonizácia pravidiel a jednotné pravidlá monitorovania trhu a dohľadu nad ním sú tak nevyhnutným minimálnym základom usporiadania už tak veľmi ťažko uchopiteľnej témy v právne rôznorodom prostredí, akým je Európska únia.

1. Vybrané pojmy a definície podľa Aktu o AI

Akt o AI definuje systém umelej inteligencie ako softvér vyvinutý s jednou alebo viacerými technikami a prístupmi uvedenými v prílohe I, ktorý môže pre daný súbor cieľov vymedzených človekom vytvárať výstupy, ako je obsah, predpovede, odporúčania alebo rozhodnutia ovplyvňujúce prostredie, s ktorým sú v interakcii (Čl. 3).

Príloha I Aktu o AI popisuje techniky a prístupy umelej inteligencie ako:

1. prístupy strojového učenia vrátane učenia s učiteľom, bez učiteľa a učenia posilňovaním pomocou širokého spektra metód vrátane hĺbkového učenia;
2. prístupy založené na logike a poznatkoch vrátane reprezentácie poznatkov, induktívneho (logického) programovania, vedomostných základní, inferenčných a deduktívnych mechanizmov, (symbolického) uvažovania a expertných systémov;
3. štatistické prístupy, bayesovský odhad, metódy vyhľadávania a optimalizácie.

Poskytovateľom je na účely Aktu o AI fyzická alebo právnická osoba, orgán verejnej moci, agentúra alebo iný subjekt, ktorý vyvíja systém umelej inteligencie alebo ktorý má systém umelej inteligencie vyvinutý s cieľom uviesť ho na trh alebo do prevádzky pod vlastným menom alebo ochrannou známkou, či už za odplatu alebo bezodplatne.

Používateľom je v zmysle Aktu o AI každá fyzická alebo právnická osoba, orgán verejnej moci, agentúra alebo iný subjekt, ktorý používa systém umelej inteligencie v rámci svojej právomoci, s výnimkou prípadov, keď sa systém umelej inteligencie používa v rámci osobnej neprofesionálnej činnosti.

Na to, aby sa vyššie uvedené subjekty stali používateľmi, je teda nevyhnutné splniť podmienku použitia systému umelej inteligencie v rámci svojej právomoci.

Vyššie uvedené tak nepriamo poukazuje na fakt, že v rámci výkonu právomocí budú subjekty prichádzať do kontaktu s viacerými rôznymi systémami umelej inteligencie a na existenciu „systémov umelej inteligencie určených na použitie v rámci svojej právomoci“. Túto, ako aj ďalšie skutočnosti bude nevyhnutné skúmať pri posudzovaní zhody systému umelej inteligencie.

Poskytovateľ aj používateľ sú podľa Aktu o AI považovaní aj za prevádzkovateľa.

V súčasnosti prebieha v podmienkach Slovenskej republiky diskusia o určení notifikujúceho orgánu, ktorý predstavuje vnútroštátny orgán zodpovedný za stanovenie a vykonávanie nevyhnutných postupov na posudzovanie, určovanie a notifikáciu orgánov posudzovania zhody a za ich monitorovanie.

Uvedené poukazuje na existenciu orgánov posudzovania zhody, ktorí ako tretia strana vykonávajú činnosti posudzovania zhody, vrátane skúšania, certifikácie a kontroly. Orgán posudzovania zhody je v zmysle Aktu o AI aj notifikovanou osobou.

Postup posudzovania zhody overuje, či boli splnené požiadavky stanovené v Hlave III kapitole 2 Aktu o AI, týkajúce sa systému umelej inteligencie.

Príloha VI Aktu o AI popisuje postup posudzovania zhody na základe vnútornej kontroly:

1. poskytovateľ overí, či je zavedený systém riadenia kvality v súlade s požiadavkami článku 17;
2. poskytovateľ preskúma informácie obsiahnuté v technickej dokumentácii s cieľom posúdiť súlad systému umelej inteligencie s príslušnými základnými požiadavkami stanovenými v hlave III kapitole 2;
3. poskytovateľ takisto overí, či je proces koncipovania a vývoja systému umelej inteligencie a jeho monitorovanie po uvedení na trh v zmysle článku 61 v súlade s technickou dokumentáciou.

Príloha VII Aktu o AI popisuje zhodu založenú na posúdení systému riadenia kvality a na posúdení technickej dokumentácie, ktorá predstavuje postup posudzovania zhody založený na bodoch 2 až 5 Prílohy VII.

Schválený systém riadenia kvality pre koncipovanie, vývoj a testovanie systémov umelej inteligencie podľa článku 17 sa preskúma v súlade s bodom 3 Prílohy VII a podlieha dohľadu v zmysle bodu 5 Prílohy VII. Technická dokumentácia systému umelej inteligencie sa preskúma v súlade s bodom 4 Prílohy VII.

Označenie zhody CE v zmysle Aktu o AI predstavuje označenie, ktorým poskytovateľ vyjadruje, že systém umelej inteligencie je v zhode s požiadavkami stanovenými v hlave III kapitole 2 Aktu o AI a v iných uplatniteľných právnych predpisoch Únie, ktorými sa harmonizujú podmienky uvádzania výrobkov na trh (spolu označované aj ako „harmonizačné právne predpisy Únie“).

Článok 48 Aktu o AI popisuje EÚ vyhlásenie o zhode. V zmysle tohto článku je pre každý systém umelej inteligencie poskytovateľ povinný vyhotoviť EÚ vyhlásenie o zhode v písomnej podobe, ktoré desať rokov po uvedení systému umelej inteligencie alebo do prevádzky uchováva k dispozícii pre potreby príslušných vnútroštátnych orgánov. V EÚ vyhlásení o zhode sa uvedenie, že príslušný vysokorizikový systém umelej inteligencie spĺňa požiadavky stanovené v hlave III kapitole 2 Aktu o AI.

EÚ vyhlásenie o zhode musí obsahovať informácie uvedené v Prílohe V Aktu o AI a musí byť preložené do úradného jazyka Únie, toho členského štátu, kde sa vysokorizikový systém umelej inteligencie sprístupňuje. V EÚ vyhlásení o zhode musí byť možné identifikovať vzťah ku všetkým harmonizačným právnym predpisom Únie uvedeným v Akte o AI, ktoré sú uplatniteľné na vysokorizikový systém umelej inteligencie.

Zoznam harmonizačných právnych predpisov Únie predstavuje Prílohu č. II Aktu o AI. Spolu je doposiaľ uvedených devätnásť harmonizačných právnych aktov.

Medzi tieto akty patria napríklad smernica: o strojových zariadeniach, o bezpečnosti hračiek, o rekreačných plavidlách a vodných skútroch, o sprístupňovaní rádiových zariadení na trh, o sprístupňovaní tlakových zariadení na trh, o vybavení námorných lodí, o interoperabilite železničného systému v EÚ.

Ďalej vybrané nariadenia o: spotrebičoch spaľujúcich plynné palivá, zdravotníckych pomôckach, diagnostických zdravotníckych pomôckach, o spoločných pravidlách v oblasti bezpečnostnej ochrany civilného letectva, o schvaľovaní a dohľade nad trhom dvoj- alebo trojkolesových vozidiel a štvorkoliek, o schvaľovaní poľnohospodárskych a lesných vozidiel a dohľade nad trhom s týmito vozidlami, o schvaľovaní motorových vozidiel a ich prípojných vozidiel, ako aj systémov a komponentov samostatných technických jednotiek určených pre takéto vozidlá a o dohľade nad trhom s nimi, o spoločných pravidlách v oblasti civilného letectva.

Európska komisia plánuje v prvej polovici roka 2025 vypracovať celoeurópsku stratégiu pre robotiku, ktorá bude zahrnovať aspekty rozvoja a prijímania AI robotov v rôznych odvetviach, vrátane zdravotníctva, poľnohospodárstva, logistiky a výroby. Táto stratégia bude riešiť otázky súvisiace s prispôsobením pracovnej sily, bezpečnosťou, ochranou súkromia, kybernetickou bezpečnosťou a transparentnosťou.https://www.euronews.com/next/2024/01/22/commission-plans-robotics-strategy-early-2025

Táto stratégia môže predznačovať prípravu na tvorbe prvých európskych právnych aktov majúcich za cieľ harmonizovať pravidlá v oblasti uvádzania na trh, uvádzania do prevádzky alebo používania AI robotov v rôznych odvetviach ako sú uvedené vyššie.

V súčasnosti, keď súkromný sektor neudržateľným tempom prekračuje hranice „neregulovaného“ a vytvára nové formy právnych vzťahov majúcich zásadný dopad na Úniu a jej občanov, je nevyhnutné vytvárať nadnárodné regulačné rámce, ktoré budú dopĺňať a rozvíjať akt o umelej inteligencii.

2. Rozdelenie údajov pre systémy AI

V zmysle Aktu o AI môžeme údaje rozdeliť do skupín podľa ich použitia a obsahu na:

1. trénovacie údaje – používajú sa na trénovanie systému umelej inteligencie adaptáciou jeho parametrov, ktoré sa dajú naučiť, vrátane váh neurónovej siete;
2. validačné údaje – používajú sa na vyhodnotenie natrénovaného systému umelej inteligencie a na doladenie jeho parametrov, ktoré sa nedajú naučiť, a jeho procesu učenia, okrem iného s cieľom zabrániť pretrénovaniu, pričom súbor validačných údajov môže byť samostatný súbor údajov alebo časť súboru trénovacích údajov, a to buď v pevnom, alebo variabilnom rozdelení;
3. testovacie údaje – používajú sa na nezávislé hodnotenie natrénovaného a validovaného systému umelej inteligencie s cieľom potvrdiť očakávanú výkonnosť tohto systému pred jeho uvedením na trh alebo do prevádzky;
4. vstupné údaje – sú údaje poskytnuté systému umelej inteligencie alebo priamo získané týmto systémom, na základe ktorých systém vytvára výstup;
5. biometrické údaje – osobné údaje, ktoré sú výsledkom osobitného technického spracúvania týkajúceho sa fyzických, fyziologických alebo behaviorálnych charakteristických znakov fyzickej osoby a ktoré umožňujú alebo potvrdzujú jedinečnú identifikáciu tejto osoby, ako sú vyobrazenia tváre alebo daktyloskopické údaje.

Každý používateľ v zmysle definície Aktu o AI bude musieť jednoznačne určiť a pri posudzovaní zhody preukázať rozdelenie údajov používaných v jeho systéme umelej inteligencie do vyššie uvedených kategórií. Do zaužívaných procesov riadenia údajov organizácie nám vstupuje nový druh procesu práce s údajmi špecifický pre systém umelej inteligencie.

3. Rozdelenie systémov AI

V zmysle Aktu o AI môžeme systémy umelej inteligencie rozdeliť podľa ich účelu použitia na:

1. systém na rozpoznávanie emócií – systém umelej inteligencie na účely identifikácie alebo odvodenia emócií alebo úmyslov fyzických osôb na základe ich biometrických údajov;
2. systém biometrickej kategorizácie – systém umelej inteligencie na účely zaradenia fyzických osôb do konkrétnych kategórií, ako je pohlavie, vek, farba vlasov, farba očí, tetovanie, etnický pôvod alebo sexuálna či politická orientácia, a to na základe ich biometrických údajov;
3. systém diaľkovej biometrickej identifikácie – systém umelej inteligencie na účely identifikácie fyzických osôb na diaľku porovnávaním biometrických údajov osoby s biometrickými údajmi obsiahnutými v referenčnej databáze, a to bez toho, aby používateľ systému umelej inteligencie vopred vedel, či bude daná osoba prítomná a či ju možno identifikovať;
4. systém diaľkovej biometrickej identifikácie v reálnom čase – systém diaľkovej biometrickej identifikácie, v ktorom zachytávanie biometrických údajov, ich porovnávanie a identifikácia prebiehajú bez výrazného oneskorenia. Aby sa zabránilo obchádzaniu pravidiel, patrí sem nielen okamžitá identifikácia, ale aj identifikácia s určitými menšími oneskoreniami;
5. systém následnej diaľkovej biometrickej identifikácie – systém diaľkovej biometrickej identifikácie, ktorý nie je systémom diaľkovej biometrickej identifikácie v reálnom čase.

Z vyššie uvedeného môžeme jasne vidieť zásadný význam účelu použitia systémov umelej inteligencie. Zároveň je dôležité zdôrazniť, že...

Dočítajte článok až do konca, zostáva vám ešte  . Celé znenie nájdete v produkte EPI Odborné články:

☇ Úvod do problematiky umelej inteligencie