A projekt a Mesterséges Intelligencia Nemzeti Laboratórium részeként támogatja a magyar mesterséges intelligencia stratégia célkitűzéseinek megvalósítását. A projekt célja a mesterséges intelligencia (MI) szabályozási környezetével kapcsolatos jelenlegi és jövőbeli problémák feltárása, a lehetséges irányok feltérképezése, a jó gyakorlatok azonosítása a különböző jogágakon belül az MI-vel kapcsolatban, összehasonlító módszerek alkalmazásával és kiemelten az EU jogi keretrendszerére fókuszálva. Ez alapján a kutatók konkrét és hatékony jogi ajánlásokat fogalmaznak meg az MI jogi és szabályozási környezetének előmozdítása érdekében.
Az MI-technológia sajátos jellemzői megnehezíthetik a hatályos nemzetközi, uniós vagy nemzeti jogszabályok betartásának ellenőrzését, azok hatékony érvényesítését. Az Európai Bizottság mesterséges intelligenciáról szóló fehér könyve szerint az MI alkalmazása az alapvető jogok további megsértéséhez vezethet, ideértve a véleménynyilvánítás szabadságához való jogot, a nemi, faji vagy etnikai származáson, valláson vagy meggyőződésen, fogyatékosságon, életkoron vagy szexuális irányultságon alapuló megkülönböztetésmentességet, a személyes adatok és a magánélet védelmét vagy a fogyasztóvédelmet, valamint a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jogot. A kockázatok az MI-rendszerek általános tervezésének hibáiból vagy az adatok korrigálás nélküli felhasználásából adódhatnak. Ezen rendszerekbe biztonsági és tervezési mechanizmusokat kell integrálni az ellenőrizhető biztonság érdekében. A kutatás a tervezés útján történő szabályozás jogi és technikai feltételeit vizsgálja.
A projekt célja az EU mesterséges intelligenciáról szóló rendeletének a vizsgálata, mely jogszabály az EU-ban forgalomba hozott vagy használt valamennyi MI-rendszerre alkalmazandó horizontális minimumszabályokat határozza meg. Az MI rendelet egy kockázatalapú megközelítést alkalmaz, amelynek értelmében az MI-alkalmazásokat kockázati osztályokba sorolják, és a szükséges jogi beavatkozásnak a mértékét az adott kockázati szinthez igazítják. E célból megkülönböztetnek elfogadhatatlan, nagy kockázatú, közepes kockázatú és minimális kockázatú MI-alapú rendszereket.
Az MI-t alkalmazó rendszerek a Big Data elemzése és a benne rejlő lehetőségek kiaknázása révén javíthatják a döntéshozatali folyamatokat. Nagy mennyiségű ilyen információ különböző adatforrásokkal kombinálva lehetővé teheti az érintett azonosítását, és így az adatvédelmi jogszabályok megsértését eredményezheti. Mint minden informatikai rendszert, az MI-t is érhetik kibertámadások, melyek gazdasági veszteséget és akár fizikai károkat okozhatnak (pl. MI-alapú robotok vagy MI-által vezérelt kritikus infrastruktúra rendszerek). Emellett az egyre szélesebb körben terjedő arcfelismerő technológia az Általános Adatvédelmi Rendelet (GDPR) értelmében „biometrikus adat” feldolgozásának minősül, és szigorú felhasználási feltételekhez kötött. Ezen adatok gyűjtése és felhasználása távoli azonosítási célokra, például arcfelismerésre nyilvános helyeken, az alapvető jogokat érintő kockázatokat hordoz magában.
A kutatás a digitális piac szabályozásának uniós belső piaci jogi aspektusaira és különösen az MI szerepére is összpontosít. A versenyjog, a fogyasztóvédelmi jog és a tisztességtelen kereskedelemmel kapcsolatos joganyag egyre bővül az MI hagyományos és digitális piacokon történő fokozott alkalmazása által okozott kihívásokkal kapcsolatban. A kutatás keretében sor kerül az uniós szabályozás dinamikájának vizsgálatára, különös tekintettel az MI szabályozására és annak a nemzeti jogalkotásra gyakorolt hatásaira.
Az alapkutatás mellett a projekt célja az ágazatspecifikus jogi kérdések felmérése, és a konzorciumi tagok számára szakmai tanácsadás. A projekt keretében tudományos és szakmai programokat szervezünk, elindítottuk Kiemelt projektek: Biztonság, személyes adatok a Mesterséges intelligencia és jog programsorozatot. 2022 júniusában a Jogtudományi Intézet a magyarországi Francia Nagykövetséggel és Intézettel közösen rendezett nemzetközi konferenciát, mely platformot biztosított az MI jelenlegi és jövőbeli jogi szabályozásának és európai hatásainak megvitatásához. A konferencia előadásai írott formában 2023-ban jelennek meg. Ugyanezen évben jelenik meg a projektben részt vevő kutatók által írt kézikönyv az MI aktuális szabályozási kérdéseiről, valamint Mezei Kitti 2020-as monográfiájának átdolgozott és bővített kiadása is. A projekt során emellett több kutatónk rangos hazai és nemzetközi folyóiratokban publikált tanulmányokat.
Résztvevő kutatók:
Ambrus István
Chronowski Nóra
Czebe András
Friedery Réka
Győry Csaba
Hoffman István
Hoffmann Tamás
Kecskés Gábor
Kovács Szitkay Eszter
Körtvélyesi Zsolt
Mezei Kitti
Pap András László
Papp Mónika
Polyák Gábor
Rácz Lilla
Szalay Klára
Szentgáli-Tóth Boldizsár
Szilágyi Emese
Träger Anikó
Varju Márton
Ződi Zsolt
Publikációk:
Ambrus István, Mezei Kitti. The New Hungarian Legislation on Money Laundering and the Current Challenges of Cryptocurrencies. Danube, vol.13, no.4, pp.256–268., 2022
Chronowski Nóra, Kálmán Kinga, Szentgáli-Tóth Boldizsár. Régi keretek, új kihívások: a mesterséges intelligencia prudens bevonása a bírósági munkába és ennek hatása a tisztességes eljáráshoz való jogra. Glossa Iuridica, 8 (4). pp. 7–38. ISSN 2064-6887, 2022
Czebe András. Fegyverek egyenlősége a digitális forradalom korában: a leplezett eszközök alkalmazásával összegyűjtött elektronikus adatok garanciális kérdései. Kúriai Döntések Bírósági Határozatok: A Kúria lapja 70: 1 pp. 141–147. 7 p., 2022
Friedery Réka. Hardening Borders during the pandemic in the European Union: The Shape of the Schengen Borders Code and the EU Digital COVID Certificate. Quarterly on Refugee Problems 61: 1 p. 71., 2022
Hoffman István, Karpiuk, Mirosław. E-administration in Polish and Hungarian Municipalities – a Comparative Analysis of the Regulatory Issues. Lex Localis: Journal of Local Self-Government 20: 3 pp. 617–640., 24 p., 2022
Kálmán Kinga, Kiss Laura Olga, Szentgáli-Tóth Boldizsár. Mesterségesintelligencia-alapú szoftverek a világ bíróságain: gyakorlati tapasztalatok, perspektívák és kihívások. In: Jogi technológiák. Ludovika Press, Budapest. ISBN 9789635318193, 2022
Mezei Kitti. Diszkrimináció az algoritmusok korában. Magyar Jog 69 (6), pp. 331–338., 8 p., 2022
Mezei Kitti, Bán-Forgács Nóra. Discrimination in the Age of Algorithms. In: Human Rights as a Guarantee of Smart, Sustainable and Inclusive Growth. Milton Friedman University; Alcide De Gasperi University of Euroregional Economy, Budapest; Józefów, pp. 73–80., 2022
Mezei Kitti, Krasznay Csaba. Cybersecurity and Cybercrime in Hungary During the COVID-19 Pandemic. In: Chałubińska-Jentkiewicz, Katarzyna; Hoffman István (szerk.) The Role of Cybersecurity in the Public Sphere - The European Dimension, Maribor, Szlovénia: Lex Localis, 234 p. pp. 191–207., 17 p., 2022
Mezei Kitti, Szentgáli-Tóth Boldizsár. Az online platformok használatában rejlő veszélyek: a dezinformáció és a kibertámadások jogi kockázatai. In: Demokrácia-dilemmák. ELTE Eötvös József Kiadó, Budapest, pp. 241–261. ISBN 9789634894773; 9789634894766, 2022
Szentgáli-Tóth Boldizsár. A robotok jogi személyiségének koncepciója és annak lehetséges hatásai a demokráciára: Miért ne adjunk szavazati jogot a mesterséges intelligenciáknak. Magyar Jog 69 (6). pp. 321–330., 2022
Szentgáli-Tóth Boldizsár. Digitalizáció az észtországi bíróságokon: legenda és valóság. Arsboni, 10 (aug.). ISSN 2064-4655, 2022
Szentgáli-Tóth Boldizsár. Egy dinamikus példa: mesterséges intelligencia Malajzia bíróságain. Arsboni, 10 (aug.). ISSN 2064–4655, 2022
Varju Márton. The Protection of Technology Sovereignty in the EU: Policy, Powers and the Legal Reality. European Law Review 47: 4 pp. 568–583., 16 p., 2022
Ambrus István. Digitalizáció és büntetőjog. (monográfia), Wolters Kluwer Hungary, Budapest, Magyarország, 328 p. 2021
Kálmán Kinga. The constitutional aspects of applying AI based decision-making in the judiciary through the lenses of the right to fair trial. In: Garayová Lilla (szerk.) The Law of the Future – The Future of Law. Bratislava, Szlovákia: Páneurópska vysoká škola, pp. 823–847., 2021
Mezei Kitti. A kiberbűnözés aktuális kihívásai a büntetőjogban. L’Harmattan Kiadó. Budapest, Magyarország, 282 p. 2021
Szentgáli-Tóth Boldizsár. Robotic personhood and its potential impact to democracy. Should artificial intelligence be citizens and vested with right to vote? In: Garayová Lilla (szerk.) The Law of the Future – The Future of Law. Bratislava, Szlovákia: Páneurópska vysoká škola (2021) pp. 771–807., 2021
Kecskés Gábor. Az autonóm járművek jogi kérdéseinek nemzetközi kontextusa, különös tekintettel a környezetjogi vetületekre. Állam- és jogtudomány 61 (4). pp. 52–64., 2020
Mezei Kitti. A modern technológiák kihívásai a büntetőjogban, különös tekintettel a kiberbűnözésre. Állam és jogtudomány 61 (4). pp. 65–81., 2020
Rácz Lilla. A személy és a dolog fogalmának (lehetséges) változásai a mesterséges intelligencia és a kriptovaluták világában. Állam- és jogtudomány 61 (4). pp. 82–107., 2020
MTA Law Working Papers AI and Law Series:
Hodula Máté: Az autonóm járművek hatása a közlekedési büntetőjog fejlődésére
Blogbejegyzések:
Körtvélyesi Zsolt: Kódolt egyenlőtlenségek? Diszkrimináció az algoritmusok korában
Kálmán Kinga: Hogyan lesz az etikai szabályokból jogszabály? Ződi Zsolt előadása a mesterséges intelligencia jogi szabályozásáról
Kálmán Kinga: Molnár Tamás előadása a mesterséges intelligencia emberi jogokra gyakorolt hatásairól
Szentgáli-Tóth Boldizsár: Péntek esti interdiszciplináris vita a robotok jogairól: a mesterséges intelligenciák jogalanyisága különböző jogágak szempontjából
Együttműködő partnerek:
ELTE Állam- és Jogtudományi Kar
Kúria
Mollia Zrt.
Nemzeti Közszolgálati Egyetem Eötvös József Kutatóközpont Kiberbiztonsági Kutatóintézet
Hazai programsorozat:
„A mesterséges intelligencia szabályozási kihívásai különböző jogágak szemszögéből” c. konferencia. 2021.05.27.
Műhelyvita a mesterséges intelligencia egyes jogi kérdéseit érintő tanulmányokról: Ambrus István: Rethinking the essential elements of substantive criminal law in the light of Artificial Intelligence; Kecskés Gábor: Sustainability Issues of the Intelligent and Autonomous Vehicles. 2021.05.20.
Eszteri Dániel: Mesterséges intelligencia és blokklánc: két új technológia az adatvédelmi megfelelés kapujában. 2021.04.06.
Ződi Zsolt: Mesterséges intelligencia: hogyan lesz az etikai szabályokból jogszabály? 2021.03.11.
Nemzetközi programsorozat:
Varju Márton: Technology sovereignty and its protection in the EU. 2021.07.01.
Ljupcho Grozdanovski: In search of effectiveness and fairness in proving algorithmic discrimination in EU law. 2021.06.04.
Beatrice Schütte: Liability for AI-related harm in the EU – regulatory plans and challenges. 2021.05.06.
Joris Hulstijn: Computational Accountability. 2021.04.01.
Tamás Molnár: AI and Fundamental Rights: Public Perceptions, General Awareness and Selected Fundamental Rights Issues. 2021.03.25.
Az AI and Law programsorozat nemzetközi vendégkutatóinak online előadásai:
Molnár Tamás (European Union Agency for Fundamental Rights)
Joris Hulstijn (Tilburg University)
Béatrice Schütte (University of Helsinki)
Ljupcho Grozdanovski (NYU Law School/Université de Liége)
Adam Harkens (Birmingham University)
Pin Lean Lau (Brunell University, Law School)
Jakub Harasta (Masaryk University)
Rikke Jorgensen (The Danish Institue for Human Rights Copenhagen)
Wen Xiang (University of Copenhagen)
Reijer Passchier (Open University/Leiden University)
Pályázati felhívások:
Publikációs felhívás: A mesterséges intelligencia és a jog
„A mesterséges intelligencia jogi felelősségének vetületei” című tanulmányíró pályázat
Konferencia, szakmai program részvétel:
Mezei Kitti, Träger Anikó. The European and Chinese Approach to Artificial Intelligence: Risks and Opportunities. The 16th Annual Conference of the European China Law Studies Association, University of Copenhagen, Koppenhága, 2022.09.21-23.
Szentgáli-Tóth Boldizsár. Artificial Intelligence in criminal justice: recent experience from Malaysia. Legal Technology and its impact on the access to justice, society and the Legal Industry, Budapest, 2022.06.23.
Mezei Kitti. The legal challenges of AI-enabled cyberthreats, Cyber Summit 2022, Varsó, 2022.06.14.
Szentgáli-Tóth Boldizsár. The constitutionality of online court hearings. The challenges of Artificial Intelligence for law in Europe: values, rights and regulation in the European legal space, Budapest, TK, 2022.06.09-10.
Ambrus István, Mezei Kitti. Algorithmic decision-making in the criminal justice: risks and opportunities. The challenges of Artificial Intelligence for law in Europe: values, rights and regulation in the European legal space, Budapest, TK, 2022.06.09-10.
Friedery Réka. Migration, pandemic and the prospects of Schengen. Global Migration: Trans-cultural, Trans-disciplinary and Intersectional Perspectives. Friedensau Adventist University (ThHF), online, 2022.02.09.
Bán Marina, Szentgáli-Tóth Boldizsár. Artificial Intelligence and Legal Certainty: Promising Perspectives and Severe Risk. Factors The Impact of Digitalization on Constitutional Law, University of Copenhagen, Hybrid IACL Round Table, 2022.01.31-02.01.
Mezei Kitti. Diszkrimináció az algoritmusok korában. Európai Jogi Szaktanácsadó Hálózat éves továbbképzése, Budapest, 2021.11.22.
ICON-S Mundo Conference – The Future of Public Law, saját panel (AI and Law), online, 2021.07.06-9.
Mezei Kitti részt vesz az Academy of European Law „Artificial Intelligence in Criminal Justice and Law Enforcement: The (Mis)Use of AI and Machine-Learning in Criminal Proceedings” című képzésén. 2021.06.16-18.
Mezei Kitti: Risks and opportunities in application of Artificial Intelligence: AI-enabled crime, crime prevention and detection. Stockholm Criminology Symposium, 2021.06.15.
Mezei Kitti – Szentgáli-Tóth Boldizsár: Az online platformok használatában rejlő veszélyek: a dezinformáció és a kibertámadások jogi kockázatai. NKE EJKK Információs Társadalom Kutatóintézete által szervezett „Internetes platformok kora – társadalmi hatások és szabályozási kihívások” c. konferencia, 2021.05.27.
Mezei Kitti – Szentgáli-Tóth Boldizsár: Modern technológiák – új jogi kihívások. Ars Boni Legal Fest, 2021.05.11.
Mezei Kitti: Balancing regulation and innovation: Fintech trends and challenges. Bratislava Legal Forum, 2021.04.22.
Szentgáli-Tóth Boldizsár részt vett az Academy of European Law „Human Rights and Artificial Intelligence Systems: Practical Challenges and Solutions to Ensuring the Respect and Protection of Human Rights in the Digital Age” című képzésén. 2021.03.29-31.
Mezei Kitti: Kihívások a mesterséges intelligencia jogi szabályozásában. NKE RTK Szent György Szakkollégium Kiber Szakmai Műhely, 2021.03.03.
Ambrus István: Az önvezető járművek és a büntetőjog. NKE RTK Szent György Szakkollégium Kiber Szakmai Műhely, 2021.03.03.
International Forum on the Future of Constitutionalism (Panel 78.): The impact of artificial intelligence to the democracy. Résztvevők: Chronowski Nóra (chair), Kecskés Gábor (discussant), Szentgáli-Tóth Boldizsár (speaker). 2021.01.15.
Sajtóvisszhang:
Ügyvédfórum szerkesztőség: A robot tárgya és nem alanya a jognak, döntéseiért természetes személyeknek kell viselniük a felelősséget. Ügyvédfórum, 2021.03.16.
Mészáros Endre: Dr. Mezei Kitti a jog eszközeivel harcol a hackerek ellen. BAMA, 2021.03.07. és Dunántúli Napló, 2021.03.03.