Višji svetovalec na Vrhovnem sodišču RS in hkrati podpredsednik Odbora za umetno inteligenco (CAI)

PREJELI SMO (avtor želi ostati anonimen):

Le malokdo ve, da pod okriljem Sveta Evrope deluje Odbor za umetno inteligenco (CAI), ki združuje predstavnike 46 držav članic, tudi Slovenije. Pogoj za vašo participacijo v tem odboru je, da vas v odbor imenuje Vlada RS in da imate priznano »strokovno znanje« na področju digitalnega upravljanja in pravnih posledic delovanja različnih oblik umetne inteligence. Vas zanima na primer področje, ki obsega raziskave človeškega genoma? Če je tako in izpolnjujete pogoje, lahko vsaj sodelujete pri tem, da znanstvenikom, zdravnikom, tehnološkim podjetjem oziroma podjetjem, ki se ukvarjajo z umetno inteligenco in drugim zainteresiranim deležnikom ter investitorjem pripravite ustrezno pravno podlago oziroma jo po potrebi skušate uskladiti.

SESTAVA ODBORA ZA UMETNO INTELIGENCO (CAI)

V odboru CAI poleg omenjenih 46 držav članic sodelujejo še predstavniki držav opazovalk, in sicer Kanade, Svetega sedeža, Izraela, Japonske, Mehike in Združenih držav Amerike, kot tudi predstavniki drugih organov in sektorjev Sveta Evrope, zlasti sekretariata Parlamentarne skupščine, Urada komisarja za človekove pravice in medvladnih odborov, ki obravnavajo vprašanja v zvezi z umetno inteligenco, ter predstavniki drugih mednarodnih in regionalnih organizacij, ki delujejo na področju umetne inteligence, kot na primer Evropska unija, Združeni narodi (zlasti UNESCO) in OVSE.

Ob tem morda ne gre zanemariti dejstva, da pri projektu oziroma odločitvah odbora CAI sodelujejo tudi nepogrešljivi deležniki, ki v zadnjih letih skočijo iz vsakega grma. Na primer predstavniki zasebnega sektorja, vključno z digitalnimi podjetji in združenji, s katerimi je Svet Evrope sklenil partnerstva (Apple, Deutche Telekom, Google, Microsoft, Meta, Orange in številni drugi) ter seveda predstavniki civilne družbe, globalnih iniciativ (npr. Global Network Initiative), predstavniki raziskovalnih in akademskih ustanov ter civilnih iniciativ. Navedeni v odboru sodelujejo kot opazovalci. 

SLOVENEC ZASEDA ENEGA VODILNIH POLOŽAJEV CAI

Lahko smo ponosni. Poleg športnikov in vodilnih športnih funkcionarjev, ki nas nadvse uspešno predstavljajo v svetu, dvomilijonski narod svetu ponuja tudi svoje eksperte. Tako je na primer mag. Vesna Kerstin Petrič nedavno zasedla položaj predsednice izvršnega odbora Svetovne zdravstvene organizacije (WHO).

A to še zdaleč ni vse.  Predsednik  odbora CAI je Švicar Thomas Schneider, mesto podpredsednika pa že zaseda Slovenec – Gregor Strojin.  Gospod Strojin je bil sicer na prvem zasedanju CAHAI leta 2019 ( gre za ad hoc odbor Sveta Evrope za umetno inteligenco, ki je bil ustanovljen na odboru ministrskih namestnikov septembra 2019), izvoljen za predsednika tega odbora. Decembra leta 2021 je ta »ad hoc« odbor zaključil svoj mandat, odbor ministrov Sveta Evrope pa je prejel končni dokument z naslovom »Možni elementi pravnega okvira o umetni inteligenci, ki temelji na standardih Sveta Evrope o človekovih pravicah, demokraciji in pravni državi«.

Takrat je Strojin hkrati opravljal funkcijo državnega sekretarja na ministrstvu za pravosodje, pred tem pa je več let, tudi še pod predsednikom vrhovnega sodišča Brankom Maslešo, vse do imenovanja Šarčeve vlade leta 2018 vodil službo za odnose z javnostmi na vrhovnem sodišču, kamor se je po podatkih njihove uradne strani ponovno vrnil, saj deluje v uradu predsednika tega najvišjega sodišča v državi. Če gre verjeti uradni strani CAI, katere podpredsednik je Strojin, le-ta v okviru zaposlitve opravlja kar funkcijo višjega svetovalca.

S ČIM SE PRAVZAPRAV UKVARJA ODBOR CAI?

Kratek odgovor se glasi  – z marsičim, kar se nanaša na razvoj tehnologije in umetne inteligence v zvezi s človekovimi pravicami.

Eno od delovnih področij odbora CAI je tudi Strateški akcijski načrt o tehnologijah in človekovih pravicah na področju biomedicine 2020-2025. V okviru tega je bil že predstavljen akcijski plan agende, izvedene pa so bile tudi že številne konference in razprave. Če pa bi želeli izvedeti kaj več o tem, kaj ta akcijski načrt predvideva, pozorno sledite zapletenemu nadaljevanju.

Prvo plenarno zasedanje odbora CAI se je odvilo aprila 2022, drugo pa konec septembra tega leta. Plenarnih zasedanj so se kot predstavniki Slovenije udeležili kar Gregor Strojin – vodja delegacije, ki je hkrati tudi podpredsednik tega istega odbora, obenem pa še višji svetovalec na vrhovnem sodišču, Irena Vogrinčič – strokovnjakinja za kazensko pravo in človekove pravice, sicer zaposlena na ministrstvu za pravosodje na oddelku za evropske zadeve in mednarodno sodelovanje ter Samo Zorc – državni sekretar iz urada vlade za digitalno preobrazbo.

Na prvem srečanju samega odbora CAI, ki se je odvilo dne 24. 5. 2022, je bilo predsedstvo CAI med drugim seznanjeno z rezultati ministrskega zasedanja v Torinu 20. maja 2022 – med drugim z odločitvijo odbora ministrov, da pozdravi soglasno priporočilo CAI, da naj Svet Evrope uvede transverzalni pravno zavezujoč instrument o umetni inteligenci ter človekovih pravicah, demokraciji in pravni državi, ter svojim namestnikom naroči, naj čim prej začnejo s pripravo ustreznega instrumenta. Nadalje je bilo na zasedanju poudarjeno, da v odboru ministrov Sveta Evrope trenutno potekajo razprave o naravi tega instrumenta, glede naslednjih korakov, pa je bil predstavljen terminski plan za pogajanja o ustreznem pravnem instrumentu za razvoj, zasnovo in uporabo sistemov umetne inteligence, v katerem je podrobno opisan delovni načrt in metoda za preostalih šest plenarnih zasedanj, namenjenih pogajanjem. Sekretariat je predstavil tudi dokument o osnutku ustreznega pravnega instrumenta, ki bo kot informativni dokument predložen odboru ministrov Sveta Evrope, v katerem je podrobno opisan splošni pristop pri pripravi prihodnjega instrumenta, temeljna načela, ki jih je treba vključiti, spremljajoča metodologija za oceno tveganja in vpliva ter predlog za vzpostavitev mehanizmov spremljanja in sodelovanja.

Predsedstvo CAI je potrdilo oba dokumenta ter odobrilo nadaljnje metode delovanja kot tudi predlagani koledar dejavnosti iz terminskega plana za pogajanja o ustreznem pravnem instrumentu za razvoj, načrtovanje in uporabo sistemov umetne inteligence. Naslednje zasedanje odbora CAI je danes, dne 4. 11. 2022 v Benetkah.

Vsaj malce netransparentno in nenavadno se zdi, da te ravno po kliku na povezavo pod točko 4.: »Strateški akcijski načrt o tehnologijah in človekovih pravicah na področju biomedicine 2020-2025«, pričaka sporočilo, da dokument ni za javnost, da je potrebna prijava in da do tega dokumenta lahko dostopajo samo pooblaščeni uporabniki. Preverite: https://www.coe.int/en/web/artificial-intelligence/work-in-progress. Morda pa bi javnost vendarle želela izvedeti, kakšne spremembe se nam pravzaprav obetajo na področju biomedicine v zvezi s človekovimi pravicami. Ne nazadnje gre za organ Sveta Evrope, torej iste organizacije, pod okriljem katere je bila sprejeta in uveljavljena Oviedska konvencija, edina mednarodnopravno zavezujoča konvencija, ki izrecno obravnava človekove pravice na področju biomedicine.

USMERJEVALNI ODBOR ZA ČLOVEKOVE PRAVICE NA PODROČJU BIOMEDICINE IN ZDRAVJA (CDBIO) IN 13. ČLEN OVIEDSKE KONVENCIJE

V okviru Sveta Evrope pa deluje še en odbor. Januarja letos je Usmerjevalni odbor za človekove pravice na področju biomedicine in zdravja (CDBIO) prevzel pristojnost Odbora za bioetiko (DH-BIO) glede izvajanja medvladnega dela na področju človekovih pravic s področja biomedicine in zdravja. CDBIO tako svetuje odboru ministrov Sveta Evrope ter mu zagotavlja strokovno znanje o vseh vprašanjih s svojega področja pristojnosti.

CDBIO je 7. junija 2022 izdal poročilo o »vplivu umetne inteligence na odnos med zdravnikom in pacientom«. Vpliv takega odnosa mora biti skladen s človekovimi pravicami, zapisanimi v Evropski konvenciji o človekovih pravicah in biomedicini iz leta 1997 (Oviedska konvencija). Poročilo CDBIO je sicer del strateškega akcijskega načrta Sveta Evrope o človekovih pravicah in tehnologijah na področju biomedicine (2020-2025).

CDBIO med drugim ugotavlja, da lahko sistemi umetne inteligence in tehnologije v razvoju, odvisno od tega, kako se uporabljajo in izvajajo, predstavljajo manjše ali večje tveganje za spoštovanje človekovih pravic. Iz poročila izhaja, da bi moral Svet Evrope z namenom preprečitve morebitnega negativnega vpliva umetne inteligence na spoštovanje človekovih pravic »uvesti zavezujoča priporočila in zahteve za podpisnice glede načina uvajanja in upravljanja umetne inteligence«. Poročilo CDBIO še navaja, da je preoblikovanje tradicionalnega odnosa med zdravnikom in bolnikom, v katerem sistemi umetne inteligence diagnosticirajo in zdravijo bolnika, še daleč. Kljub temu CDBIO priporoča, da je »idealen model klinične oskrbe in uporabe umetne inteligence v zdravstvu tisti, ki uporablja najboljše vidike človeškega kliničnega strokovnega znanja in diagnostike z umetno inteligenco«.

CDBIO je bil glede na dejavnost oziroma pripravo strateškega akcijskega načrta o človekovih pravicah in tehnologijah (2020-2025), ki ga sicer pripravlja CAI in katerega podpredsednik je hkrati višji svetovalec na Vrhovnem sodišču Republike Slovenije, primoran sprejeti pojasnila o področju uporabe določb v zvezi z raziskavami in omejitvijo namenov, predvidenih za vsak poseg v človeški genom ter zaključiti postopek ponovne preučitve člena 13 Konvencije o človekovih pravicah in biomedicini (Oviedska konvencija). Na podlagi navedenega je povsem možno, da Strateški akcijski načrt CAI trči ob 13. člen Oviedske konvencije,  saj bi bila v nasprotnem kakršna koli razprava in ponovna preučitev določbe tega člena s strani drugega odbora pod okriljem Sveta Evrope verjetno povsem nepotrebna.

Kaj pa določba 13. člena Konvencije sploh govori? Naveden člen Oviedske konvencije izrecno naslavlja posege v človeški genom in se v prevodu glasi: »Poseg, s katerim se želi spremeniti človeški genom, se lahko izvede le v preventivne, diagnostične ali terapevtske namene in le, če njegov cilj ni vnesti kakršno koli spremembo v genom katerega koli potomca.«

Določba tako smiselno obravnava pomisleke glede genskega »izboljšanja« ali zarodnega genskega inženiringa s ciljem omejitve namenov vseh posegov v človeški genom, tudi na področju raziskav – za preprečevanje, diagnosticiranje ali zdravljenje. Poleg tega prepoveduje vsak poseg, katerega namen je vnesti spremembo v genom katerega koli potomca. Ta člen predstavlja varovalko za človeka pred možnostjo genskega spreminjanja, kar glede na razvoj znanosti in posledično samo poznavanje človeškega genoma ter s tem možnosti njegovega modificiranja ni več nikakršna znanstvena fantastika. Vsakršna zamisel o večji možnosti poseganja v genetske značilnosti ljudi in nadzora nad njimi tako vzbuja upravičeno zaskrbljenost zaradi možnih in dejanskih zlorab.^[1]

ZAKLJUČKI ODBORA CDBIO

Junija 2021 je CDBIO kot prvi sklep sprejel, da »ob upoštevanju tehničnih in znanstvenih vidikov  razvoja ter etičnih vprašanj, ki jih odpira, meni, da niso izpolnjeni pogoji za spremembo določb člena 13«, hkrati pa je zapisal, da je potrebno zagotoviti jasna pojasnila zlasti glede izrazov “preventivni, diagnostični in terapevtski” ter se izogniti napačni razlagi termina za “raziskave.” Ta pojasnila je CDBIO 27. septembra 2022 predložil odboru ministrov Sveta Evrope.

Že novembra 2018 pa je odbor za bioetiko (predhodnik CDBIO) prav tako poudaril, da morajo etika in človekove pravice usmerjati vsako uporabo tehnologij za urejanje genoma pri ljudeh v skladu s Konvencijo o človekovih pravicah in biomedicini (»Oviedska konvencija«, 1997), edinim mednarodnopravno zavezujočim instrumentom, ki obravnava človekove pravice na področju biomedicine. Oviedska konvencija je namreč rezultat poglobljene razprave na evropski ravni o razvoju na področju biomedicine, vključno s področjem genetike.

GRE PRI DELOVANJU ODBORA CAI ZA PRILAGAJANJE INOVACIJ, ZNANOSTI IN BIOMEDICINE DOLOČBAM OVIEDSKE KONVENCIJE ALI OBRATNO?

Odbor CDBIO je sicer sprejel določene zaključke, a v razdelku »Pojasnitve« morda ponovno pušča prevelike možnosti interpretacij Svetovni zdravstveni organizaciji.

Del pojasnitve se namreč v prevodu glasi: »Cilj posega, s katerim se želi spremeniti človeški genom in ki se izvaja v preventivne namene, je preprečiti nastanek bolezni ali motnje. Bolezen in motnja (v odstavku 90 obrazložitvenega poročila imenovana tudi »bolezen«) sta opredeljeni v skladu z mednarodno sprejetimi medicinskimi standardi. Primer takšnih medicinskih standardov je Mednarodna statistična klasifikacija bolezni in sorodnih zdravstvenih problemov (MKB) Svetovne zdravstvene organizacije«.

Upoštevajoč izkušnje zadnjih let, močne nagnjenosti Svetovne zdravstvene organizacije k spreminjanju definicij, zavedajoč se, kdo je na čelu te organizacije, kdo jo večinsko financira in kako zlahka se sprejemajo odločitve, se poraja vprašanje, zakaj Svetovna zdravstvena organizacija po potrebi ne bi dopolnila ali redefinirala še kvalifikacije bolezni?

Viri:

https://www.coe.int/en/web/artificial-intelligence/cai?_82_struts_action=%2Flanguage%2Fview&_82_languageId=en_GB#{%22126720142%22:[0]}

https://globalnetworkinitiative.org/

https://www.gov.si/novice/drzavni-sekretar-gregor-strojin-izvoljen-za-predsednika-odbora-sveta-evrope-za-umetno-inteligenco/

https://www.sodisce.si/vsrs/predstavitev/zaposleni/

https://www.coe.int/en/web/artificial-intelligence/cai#{%22126720142%22:[1]}

https://www.coe.int/en/web/artificial-intelligence/work-in-progress

https://www.coe.int/en/web/bioethics/-/genome-editing-technologies-final-conclusions-of-the-re-examination-of-article-13-of-the-oviedo-convention

https://ghrtv.org/cdbios-report-on-the-impact-of-artificial-intelligence-on-the-doctor-patient-relationship

https://www.coe.int/en/web/artificial-intelligence/national-initiatives

https://www.coe.int/en/web/artificial-intelligence/work-in-progress

[1] Prav v tej smeri, kot pojasnjeno svarilo, je že pisal dr. Andraž Teršek: Memorandum o očitni in pravno nedopustni prisili ljudi v medicinske posege in o pravno prepovedanem eksperimentiranju z ljudmi. Ustavniški blog. Ustavnk.si. Let. 2. Maj 2021. Objavljeno tudi v avtorjevi knjigi: Boj za ustavnost in zakonitost, založba Sanje, Ljubljana 2021, str. 285 in nasl. V tej knjigi je na str. 9 objavljen tudi prevod monumentalnega »Nürnberškega kodeksa (1947).«