Zmluvné doložky o umelej inteligencii

Verzia modelovej zmluvnej umelej inteligencie EÚ s vysokým rizikom sa zameriava najmä na systémy umelej inteligencie klasifikované ako "vysoko rizikové" podľa článku 6 a uvedené v jednej z oblastí, na ktoré sa vzťahujú prílohy II a III navrhovaného zákona o umelej inteligencii.

V prípade umelej inteligencie bez vysokého rizika nie je uplatňovanie týchto požiadaviek podľa zákona o umelej inteligencii povinné, odporúča sa však zvýšiť dôveryhodnosť aplikácií umelej inteligencie obstarávaných verejnými organizáciami.

Ak je to vhodné a opodstatnené v závislosti od vplyvu systému na jednotlivcov a spoločnosť, verejné organizácie môžu tiež rozšíriť uplatňovanie týchto ustanovení, či už ide o vysokorizikovú verziu alebo nerizikovú verziu, na iné algoritmické systémy, ktoré nemusia byť nevyhnutne kvalifikované ako "AI", aby sa okrem toho vzťahovali na jednoduchšie softvérové systémy založené na pravidlách, vzhľadom na to, že ich používanie vo verejnom sektore si môže v určitých prípadoch vyžadovať aj zvýšenú zodpovednosť, kontrolu a transparentnosť.

V tomto článku si predstavíme možnosti zmluvných doložiek podľa Návrhu štandardných zmluvných doložiek pre obstarávanie umelej inteligencie verejnými organizáciami, ktoré môžu verejní obstarávatelia vo svojich zákazkách použiť. Predmetný text začína oddielom B dokumentu.

Oddiel B – Základné požiadavky v súvislosti so systémom umelej inteligencie

Článok 2 Systém riadenia rizík

2.1  Dodávateľ zaistí, aby sa pred dodaním systému umelej inteligencie v súvislosti s ním zriadil a zaviedol systém riadenia rizík.

2.2  Systém riadenia rizík zahŕňa minimálne tieto kroky:

a.  identifikáciu, odhad a hodnotenie známych a logicky predvídateľných rizík pre zdravie, bezpečnosť a základné práva Európskej únie, ktoré by mohli vzniknúť vzhľadom na zamýšľaný účel systému umelej inteligencie a logicky predvídateľné nesprávne použitie;

b.  hodnotenie ďalších možných vznikajúcich rizík;

c.   prijatie primeraných a cielených opatrení na riadenie rizík navrhnutých na riešenie rizík identifikovaných podľa písmen a) a b) tohto bodu v súlade s ustanoveniami ďalších bodov.

2.3  Opatrenia na riadenie rizík uvedené v bode 2.2 písm. c) musia byť také, aby dodávateľ príslušné zvyškové riziká spojené s jednotlivými nebezpečenstvami, ako aj celkové zvyškové riziko systému umelej inteligencie odôvodnene považoval za prijateľné za predpokladu, že systém umelej inteligencie sa používa v súlade so zamýšľaným účelom alebo za podmienok logicky predvídateľného nesprávneho použitia.

2.4  Pri určovaní najvhodnejších opatrení na riadenie rizík uvedených v bode 2.2 písm. c) sa zabezpečí:

a.  odstránenie alebo obmedzenie identifikovaných rizík v najvyššej technicky dosiahnuteľnej miere prostredníctvom primeranej koncepcie a vývoja systému umelej inteligencie;

b.  prípadné zavedenie primeraných zmierňujúcich a kontrolných opatrení v súvislosti s rizikami, ktoré nemožno odstrániť;

c.   poskytovanie primeraných informácií verejnej organizácii.

2.5  Dodávateľ zaistí, aby sa systém umelej inteligencie pred dodaním otestoval s cieľom overiť, či je v súlade s doložkami a či sú opatrenia na riadenie rizík uvedené v bode 2.2 písm. c) vzhľadom na zamýšľaný účel a logicky predvídateľné nesprávne použitie účinné. Ak to verejná organizácia vyžaduje, dodávateľ je povinný testovať systém umelej inteligencie v prostredí verejnej organizácie.

2.6  Všetky identifikované riziká, prijaté opatrenia a testy vykonané v súvislosti s dodržiavaním tohto článku musí dodávateľ zdokumentovať. Dodávateľ musí túto dokumentáciu sprístupniť verejnej organizácii najneskôr v čase dodania systému umelej inteligencie. Táto dokumentácia môže byť súčasťou technickej dokumentácie a/alebo návodu na použitie.

2.7  Systém riadenia rizík sa chápe ako nepretržitý a iteratívny proces počas celého trvania dohody. Po dodaní systému umelej inteligencie musí preto dodávateľ:

a.  pravidelne preskúmavať a aktualizovať proces riadenia rizík s cieľom zabezpečiť jeho nepretržitú účinnosť;

b.  priebežne aktualizovať dokumentáciu opísanú v bode 2.6 a

c.   bezodkladne sprístupňovať každú novú verziu dokumentácie opísanej v bode 2