Beszámoló a TK „A mesterséges intelligencia jogi környezetének kihívásai” MILAB-részprojekt programsorozatának keretében megrendezett Joris Hulstijn Computational Accountability című online előadásáról.

Joris Hulstijn a holland Tilburgi Egyetem Közgazdasági és Menedzsment Karának kutatója. PhD fokozatot számítástudományból szerzett a Twentei Egyetemen, ahol a Tranzakciós párbeszédmodellek című disszertációjáért külön elismerésben is részesült. Kutatási területe a számítástechnikai alapú auditálás, a szerződéskötések és a szerződéses viszonyok modellezése, valamint az informatikai rendszerek alkalmazása a compliance területén. Jelenleg a modellalapú auditálás, valamint az auditálás és a monitorozás számítási megközelítésének fejlesztésén dolgozik, amely a pénz és az áruk áramlása (az értékciklus) várható kapcsolatainak normatív modelljét veszi alapul. Ezen felül, doktorandusz hallgatóinak kutatását segítve, elmélyült a digitális piac szabályozásának etikai és legújabb adatvédelmi kérdéseiben is.

Hulstijn a számítástechnikai alapon működő rendszerek elszámoltathatóságáról és felelősségéről szóló előadását egy közérthető példával indította. A holland királyi autóklub (az ANWB) Drive Safely járműbiztosítási rendszere azon az alapon működik, hogy a járművezetők, amennyiben huzamosabb ideig biztonságosan vezetnek, prémiumkedvezményt kapnak. A vezetési viselkedésüket egy beépített számítástechnikai eszköz figyeli, amely a vezetési sebesség, a gyorsulás, a lassítás és a kanyarodás paramétereit követve folyamatos értékeléseket küld a biztosítónak. A biztosítási kedvezményt az értékelések három hónapos átlaga alapján számolják ki.

A rendszer első látásra igazolhatónak és logikusnak tűnik, azonban működése a felszín mögé nézve több kérdést is felvet. A vezetési viselkedés lekövetése vajon a GDPR szerinti profilozásnak számít-e? Ha igen, akkor jogszerűen engedélyezhető-e? Általában véve tudja-e hitelt érdemlően igazolni a biztosító az ügyfele számára juttatott kedvezmény pontos mértékét?

Hulstijn szerint ezen kérdések mindegyike absztrakt szinten a számítógépes rendszerek és a mesterséges intelligencia elszámoltathatóságának problematikájához vezet el bennünket. A mesterséges intelligencián alapuló számítógépes rendszerek sokkal áthatóbban működnek, mint a normál informatikai eszközök. Ugyanakkor az emberek életét jelentősen befolyásoló döntéseket hozhatnak, emiatt elszámoltathatók és felelős működésük még fontosabb. Működésük során számos, az átlagfelhasználó által is felfogható kockázat merülhet fel: a működés során felhasznált adatbázisokban rejlő részrehajlás és az abból fakadó esetleges téves kockázatkezelés; rossz minőségű, megtámadott (meghackelt) adatok; az algoritmusokat használó addiktív üzleti modellek miatt; vagy a pontatlan profilozásokból eredő intézményesített részrehajlás kormányzati szinten.

Hulstijn hangsúlyozta, hogy a kockázatok azonosítása az első lépés azok csökkentése irányában. A programsorozat egyik korábbi rendezvényén, Molnár Tamás előadásában kihangsúlyozott alapjogi kockázatok közül az előadó az igazságszolgáltatáshoz való hozzáférést, valamint a jogorvoslathoz való jogot jelölte meg, mint olyan alapjogokat, melyek megfelelő érvényesülése kizárólag a számítási transzparencia és elszámoltathatóság megvalósulása esetén biztosítható. A mesterséges intelligencia nem megfelelő alkalmazása ezen alapjogok súlyos korlátozásával járhat, így mindenképpen meg kell határoznunk azt a (természetes vagy jogi) személyt, aki az algoritmikusokon alapuló döntésekért helytállhat, a döntések eredményei körében elszámoltatható és károkozás esetén is felelősséget viselhet.

Ezzel a kérdéskörrel foglalkozik a számítási vagy informatikai elszámoltathatóság területe. A cél az, hogy az ilyen rendszerek és az őket övező irányítás úgy legyenek megtervezve, hogy a döntések igazolhatók, míg azok felelősei elszámoltathatók legyenek.

A számítási elszámoltathatósággal kapcsolatban négy akadályozó tényező azonosítható:

1. A számítógépes szoftvereket általában több különálló szervezetből álló fejlesztési láncokban fejlesztik, emiatt nehezen visszakövethető a fejlesztői felelősség a szoftver működéséért.
2. A második aspektus, hogy a hibák gyakran kiküszöbölhetetlenek.
3. A számítógép könnyen válhat „bűnbakká”, amennyiben a fejlesztők a nyilvánvalóan nekik tulajdonítható gondatlanságukat a gépre hárítják.
4. Az alkalmazott szerződési kikötések többnyire a szerzői jogokra korlátozódnak, a felelősségi kérdéseket nem rendezik.

Hulstijn a számítási elszámoltathatóság megvalósíthatóságát a megbízási jogviszonyok (a megbízó-megbízott közötti viszonyok) analógiáján keresztül szemléltette. A megbízó egy meghatározott feladat ellátásával bízza meg a megbízottat. A teljesítés központi problémája annak ellenőrizhetősége lesz. A megoldás az auditorok és speciális ellenőrzési mechanizmusok beépítésében rejlik. Ennek révén a megbízó és a megbízott közötti kapcsolatba bekerül harmadik félként az auditor, aki számára a megbízott bizonyítja feladatának megfelelő elvégzését, és aki ez alapján biztosítja a megbízót arról, hogy megbízottjával szemben nem állnak fenn aggályok.

A lehetséges ellenőrzési-elszámoltathatósági intézkedések között említhetjük még a különböző teljesítményértékelő paraméterek alkalmazását, amelyek által a megbízó valós képet kaphat a megbízott teljesítéséről. Ezek a konstrukciók átültethetők a mesterséges intelligencián alapuló számítógépes rendszerek működésébe is.

Az elszámoltathatóság másik megközelítése a szervezetek irányítása feletti ellenőrzés modelljén alapszik. Három típusú kontrollmechanizmust különböztethetünk meg:

1. eredményellenőrzés: a legtöbbször mennyiségben mérhető kitűzött cél elérését ellenőrizzük, és ha ez nem teljesül, az ellenőrzés beavatkozik;
2. viselkedésellenőrzés: az ellenőrzés az intézményesített szabályok és eljárások érvényesülésére terjed ki, és ha ezeket megsértik, az ellenőrzés beavatkozik;
3. klán-szabályozás: társadalmi és kulturális értékek mentén, valós példák összehasonlításával elvégzett informális vizsgálat, különlegessége, hogy a meg nem felelés következménye a közösségből történő kirekesztés.

A szervezetirányítási modell alkalmazása esetén az alábbi elszámoltathatósági megoldások érvényesülhetnek:

1. eredményellenőrzés esetén úgynevezett ellenőrzési nyomvonalak készíthetők, amelyek ki tudják mutatni, ha a mesterséges intelligencia döntési bázisa hibás/elfogult/hackelt adatot tartalmaz, illetve megérthetővé teszik magát a döntési folyamatot is;
2. viselkedésellenőrzés esetén egy olyan infrastruktúrát lehet felállítani, amely az ellenőrzés lefolytatását követően tanúsítaná-igazolná a használt adatbázisok és a logikai eljárások megfelelőségét;
3. a harmadik ellenőrzési formában olyan belső szervezeti struktúrát kell létrehozni, amely elszámoltatható, és amelyben szakértők gondoskodnak a mesterséges intelligencia által használt adatok minőségéről.

Az elszámoltatási mechanizmusok csak úgy működtethetők hatékonyan, ha kialakításukkor együttműködnek a technológiai és a társadalomtudományok képviselői. A bevezetendő szabályozási megoldásoknak mindkét terület igényeit-követelményeit ki kell elégíteniük.

A számítási elszámoltathatóság körében öt fontos követelmény azonosítható:

1. hozzáférhetőség a köz (a felhasználók) számára, széleskörű tájékoztatás a technológiáról;
2. a technológia és működésének megmagyarázhatósága és igazolhatósága;
3. megfelelő fórum a felhasználók tájékoztatására;
4. elkötelezettség az elszámoltatható működés iránt;
5. az elszámoltatás eredményének megtámadhatósága, végleges döntés az elszámoltatásról, szankciók alkalmazásának lehetősége.

Az előadás segítségével a közönség lehetőséget kapott arra, hogy mélyebben megértse a mesterséges intelligencia alapú döntési folyamatok elszámoltathatóságát és az elszámoltathatóság technológiai hátterét. Talán a legfontosabb konklúzió, hogy az elszámoltathatóság és felelősség a területen komplex problémákat vet fel, amelyek nem oldhatóak meg kizárólag jogi eszközökkel. Elengedhetetlen a felelős és együttműködő fejlesztői környezet kialakítása, amely egyedül szabályozási úton nem kényszeríthető ki. A számítástudománynak is nyitnia kell a társadalomtudományok felé, hiszen anélkül nem képzelhető el olyan mesterséges intelligencia kifejlesztése és működtetése, amely megfelel a társadalom igényeinek és elvárásainak.

_____________________________________________

Az írás szerzője: Kálmán Kinga, gyakornok, TK JTI, joghallgató, ELTE ÁJK

Az írás a szerző véleményét tartalmazza, és nem értelmezhető a TK hivatalos állásfoglalásaként.