Citas iespējas
Lejupielādēt Drukāt

Mākslīgā intelekta akta prasības vairumam MI sistēmu uzturētāju 3/32/24

Terēza Vāgentroca
Juriste, PwC Legal
Māris Butāns
Vecākais vadītājs, PwC Legal

Mākslīgā intelekta (MI) sistēma spēj nodrošināt arvien efektīvāku, konkurētspējīgāku un produktīvāku ikdienas darbu gan privātajā, gan publiskajā sektorā. Tirgū pastāv dažādi MI sistēmu modeļi, kurus ir iespējams ieviest, pielāgot sava uzņēmuma vajadzībām un turpmāk izmantot ikdienas darbā. Jāatceras, ka, piemēram, izmantojot MI sistēmu profesionāliem nolūkiem savā organizācijā atbilstoši ES Regulai 2024/1689 (“MI akts”), ir piemērojami dažādi pienākumi MI sistēmu uzturētājiem.

Kas ir MI sistēmas uzturētājs?

Tā ir fiziska vai juridiska persona, publiskā sektora iestāde, aģentūra vai cita struktūra, kas lieto MI sistēmu, kura ir tās pārziņā, izņemot gadījumus, kad MI sistēmu lieto personiskas neprofesionālas darbības veikšanai. Proti, MI sistēmas uzturētājs ir persona, kura izmanto MI sistēmu savas profesionālās darbības nolūkos, t.i., persona, kas šo sistēmu ir pielāgojusi savām vajadzībām un kontrolē, kas, kā un kādēļ to izmanto.

Piemēram, uzņēmums no MI sistēmu izstrādātāja iegādājas modeli, kuru pats pielāgo un izmanto kā savu virtuālo asistentu klientu apkalpošanas efektivizēšanai. Uzņēmums būs uzskatāms par MI sistēmas uzturētāju, jo uztur sistēmu un nodrošina tās darbību.

MI akts paredz sistēmām noteikt konkrētus risku līmeņus. Šajā rakstā pievērsīsimies pienākumiem, kas jāizpilda vairumā gadījumu, tātad neanalizējot papildu pienākumus, kas jāpilda, lietojot augsta riska MI sistēmas, un padziļināti nepievēršoties aizliegtajai MI praksei. Pastāv sistēmas, kam MI akts neparedz papildu pienākumus. Tās ir sistēmas, kas neietekmē personu lēmumu pieņemšanu, kuru rezultāti varētu būtiski aizskart personas pamattiesības. Šāda sistēma būtu, piemēram, MI izmantošana videospēles izveidē.

Ja uzņēmums ir augsta riska sistēmas uzturētājs, tā pienākumu un atbildības līmenis paaugstinās, tādēļ uzņēmumiem noteikti jānovērtē un jāapzinās, vai neviena no to lietotajām MI sistēmām nav kvalificējama kā augsta riska MI sistēma.

Kas ir augsta riska MI sistēma?

Tā ir sistēma, kuru izmanto, piemēram, šādās jomās:

  • kritiskās infrastruktūras, kuras citstarp var apdraudēt personu dzīvību;
  • izglītība vai profesionālā apmācība, kas var noteikt piekļuvi izglītībai un darba iespējām;
  • produktu drošības komponentes;
  • nodarbinātība, darbinieku vadība un piekļuve pašnodarbinātībai;
  • būtiski privātie un publiskie pakalpojumi;
  • likumsargājošās iestādes, kuras var ietekmēt cilvēku pamattiesības, tai skaitā brīvību;
  • migrācijas, patvēruma un robežkontroles pārvaldība;
  • tieslietu pārvaldība un demokrātiskie procesi.

Vairumā gadījumu, ieviešot MI sistēmas ikdienišķākiem uzdevumiem, uzņēmumos augsta riska MI sistēmas vai aizliegtās MI prakses netiek lietotas, tādēļ ir tikai daži papildu noteikumi, kas šādu limitētu risku sistēmām ir ieviesti ar MI aktu.

Pārredzamība

MI sistēmai, kura ģenerē vai manipulē attēla, audio vai video saturu, kas, piemēram, ievērojami atgādina reālas personas, objektus vai notikumus un kas personai maldinoši šķistu autentisks vai īsts, ir jānorāda, ka saturs ir mākslīgi ģenerēts vai manipulēts. Ja šāds saturs ir daļa no acīmredzami mākslinieciska, fikcionāla vai tamlīdzīga darba vai programmas, tad šī informēšana jāveic tā, lai netraucētu satura baudīšanu.

Piemēram, ja uzņēmuma komercdarbība ir saistīta ar mākslu un komercdarbības ietvarā ir izstrādāts manipulēts attēls, tad informēšanu par to var nodrošināt ar informējošu tekstu. Savukārt, ja uzņēmums izmanto MI sistēmu un rada manipulētu attēlu, kas tiek publicēts, tad personas būtu jāinformē, izmantojot ūdenszīmi.

Uzturētājiem, kas ar MI sistēmas palīdzību ģenerē vai manipulē tekstu nolūkā to izmantot sabiedrības informēšanai par tai svarīgiem jautājumiem, ir jāiekļauj informācija, ka ir izmantota MI sistēma. Šis pienākums nav jāveic, ja cilvēks šos tekstus pārskata, veic redakcionālo kontroli un fiziska vai juridiska persona uzņemas redakcionālo atbildību par šo MI sistēmas radīto tekstu.

Piemēram, ja komersants, kas darbojas mediju nozarē, izmanto MI sistēmu, lai sagatavotu rakstu, kas informē sabiedrību par kādu tai nozīmīgu jautājumu, un šo rakstu nepārskata redaktors, tas tiek publicēts bez kontroles, tad rakstam būtu jāsatur informatīvs paziņojums, ka tā sagatavošanā izmantota MI sistēma. Ja uzņēmums, kas darbojas mediju nozarē, izmanto MI sistēmu, lai sagatavotu rakstu, kas informēs sabiedrību, bet cilvēks nodrošina pārskatīšanu, veic redaktora funkciju, tad nav nepieciešams norādīt, ka izmantota MI sistēma.

Šādus paziņojumus jau pirms MI akta spēkā stāšanās var novērot daudzviet. Vairākas sociālo tīklu platformas jau tagad piedāvā automātisku opciju norādīt, ka saturs ir radīts, izmantojot MI sistēmu.

MI pratība

Ikvienam uzņēmumam neatkarīgi no tā izmantotajām MI sistēmām ir jāvairo MI pratība.

Uzturētājam ir jāizglīto personāls, kas darbosies ar MI sistēmu, proti, skaidri jānosaka, kādiem mērķiem MI sistēmas ir izmantojamas, kādi dati apstrādājami, kurus jautājumus risinās un pēc kādiem principiem sistēma strādā, kā arī jānorāda citi apsvērumi, kas palīdzētu personām pieņemt informētus un saprātīgus lēmumus. MI akts nosaka to kā pienākumu augsta riska MI sistēmām. Papildus noteikti jāizglītojas arī personām, kas nodrošina dažādus iekšējos procesus un veicina uzņēmuma inovācijas, jo pirms jaunu sistēmu ieviešanas jāizprot, kādus ieguvumus sistēma spēs nodrošināt, kādus uzņēmuma mērķus palīdzēs sasniegt.

MI pratību būtu jāpilnveido jebkuram uzņēmumam, kurš sava darba uzlabošanai ievieš MI sistēmas, neatkarīgi no to riska pakāpes. MI sistēmām ir liels potenciāls, bet, ja personas, kas ikdienā šos rīkus var izmantot, to neprot darīt vai nerīkojas efektīvi, tad uzņēmumam neradīsies ieguvumi vai arī tie būs mazāki, nekā plānots. Turklāt MI pratība ir prasme, kas regulāri jāpilnveido, tādēļ nevar aizmirst par regulārām apmācībām un praktiskām nodarbībām, protams, pielāgotām uzņēmuma izmantotajām sistēmām un mērķiem, jo vispārīgas apmācības ne vienmēr var dot vēlamo efektu.

Augsta riska MI sistēmu uzturētājiem ir noteikti šādi papildu pienākumi atbilstoši MI aktam:

  • risku pārvaldības sistēmas izveide visam augsta riska MI sistēmas dzīves ciklam;
  • datu pārvaldība – jānodrošina, ka apmācības, validācijas un testēšanas datu kopas ir atbilstošas, pietiekami reprezentatīvas un, cik vien iespējams, bez kļūdām un pilnīgas atbilstoši paredzētajam mērķim;
  • tehniskās dokumentācijas sagatavošana, lai pierādītu atbilstību un nodrošinātu iestādēm informāciju atbilstības novērtēšanai;
  • cilvēka pārraudzības nodrošināšana;
  • atbilstošu precizitātes, izturības un kiberdrošības līmeņu noteikšana;
  • kvalitātes pārvaldības sistēmas izveide un ievērošana.

MI sistēmu uzturētājiem var uzlikt būtiskus sodus par MI aktā iekļauto prasību pārkāpumiem – par vispārīgiem MI akta pārkāpumiem uzturētājam var piemērot naudas sodu 750 000 eiro.

Sodu sadaļā parādās īpašs uzsvars uz augsta riska MI sistēmām noteikto prasību neievērošanu, jo tur sankcija par pienākumu pārkāpumu ir naudas sods līdz 15 000 000 eiro vai, ja pārkāpējs ir uzņēmums, līdz 3% no tā kopējā globālā apgrozījuma iepriekšējā finanšu gadā atkarībā no tā, kurš no abiem skaitļiem lielāks. Protams, šie ir maksimālie sodi un ir paredzēti atsevišķi apsvērumi, kas jāņem vērā mazo un vidējo uzņēmumu, tostarp jaunuzņēmumu, interesēs, lai nodrošinātu to ekonomisko dzīvotspēju.

Svarīgi, ka sodus atbilstoši MI aktam varēs piemērot tikai no 2025. gada 2. augusta, tādēļ vēl ir laiks, lai sagatavotos un nodrošinātu atbilstību.

Apkopojot iepriekš minēto, ar MI akta spēkā stāšanos vairumam MI sistēmu uzturētāju nav noteikti būtiski, ievērojami papildu pienākumi, tomēr gadījumos, kad tiek uzturēta augsta riska MI sistēma, šis noteikti ir viens no pēdējiem brīžiem, lai pārliecinātos, vai visas MI akta prasības ir ievērotas, un neriskētu ar sankciju noteikšanu.

Dalīties ar rakstu

Ja Jums ir kāds komentārs par šo rakstu, lūdzu, iesūtiet to šeit lv_mindlink@pwc.com

Uzdot jautājumu