A projekt a Mesterséges Intelligencia Nemzeti Laboratórium részeként támogatja a magyar mesterséges intelligencia stratégia célkitűzéseinek megvalósítását. A projekt célja a mesterséges intelligencia (MI) szabályozási környezetével kapcsolatos jelenlegi és jövőbeli problémák feltárása, a lehetséges irányok feltérképezése, a jó gyakorlatok azonosítása a különböző jogágakon belül az MI-vel kapcsolatban, összehasonlító módszerek alkalmazásával és kiemelten az EU jogi keretrendszerére fókuszálva. Ez alapján a kutatók konkrét és hatékony jogi ajánlásokat fogalmaznak meg az MI jogi és szabályozási környezetének előmozdítása érdekében.
Az MI-technológia sajátos jellemzői megnehezíthetik a hatályos nemzetközi, uniós vagy nemzeti jogszabályok betartásának ellenőrzését, azok hatékony érvényesítését. Az Európai Bizottság mesterséges intelligenciáról szóló fehér könyve szerint az MI alkalmazása az alapvető jogok további megsértéséhez vezethet, ideértve a véleménynyilvánítás szabadságához való jogot, a nemi, faji vagy etnikai származáson, valláson vagy meggyőződésen, fogyatékosságon, életkoron vagy szexuális irányultságon alapuló megkülönböztetésmentességet, a személyes adatok és a magánélet védelmét vagy a fogyasztóvédelmet, valamint a hatékony jogorvoslathoz és a tisztességes eljáráshoz való jogot. A kockázatok az MI-rendszerek általános tervezésének hibáiból vagy az adatok korrigálás nélküli felhasználásából adódhatnak. Ezen rendszerekbe biztonsági és tervezési mechanizmusokat kell integrálni az ellenőrizhető biztonság érdekében. A kutatás a tervezés útján történő szabályozás jogi és technikai feltételeit vizsgálja.
A projekt célja az EU mesterséges intelligenciáról szóló rendeletének a vizsgálata, mely jogszabály az EU-ban forgalomba hozott vagy használt valamennyi MI-rendszerre alkalmazandó horizontális minimumszabályokat határozza meg. Az MI rendelet egy kockázatalapú megközelítést alkalmaz, amelynek értelmében az MI-alkalmazásokat kockázati osztályokba sorolják, és a szükséges jogi beavatkozásnak a mértékét az adott kockázati szinthez igazítják. E célból megkülönböztetnek elfogadhatatlan, nagy kockázatú, közepes kockázatú és minimális kockázatú MI-alapú rendszereket.
Az MI-t alkalmazó rendszerek a Big Data elemzése és a benne rejlő lehetőségek kiaknázása révén javíthatják a döntéshozatali folyamatokat. Nagy mennyiségű ilyen információ különböző adatforrásokkal kombinálva lehetővé teheti az érintett azonosítását, és így az adatvédelmi jogszabályok megsértését eredményezheti. Mint minden informatikai rendszert, az MI-t is érhetik kibertámadások, melyek gazdasági veszteséget és akár fizikai károkat okozhatnak (pl. MI-alapú robotok vagy MI-által vezérelt kritikus infrastruktúra rendszerek). Emellett az egyre szélesebb körben terjedő arcfelismerő technológia az Általános Adatvédelmi Rendelet (GDPR) értelmében „biometrikus adat” feldolgozásának minősül, és szigorú felhasználási feltételekhez kötött. Ezen adatok gyűjtése és felhasználása távoli azonosítási célokra, például arcfelismerésre nyilvános helyeken, az alapvető jogokat érintő kockázatokat hordoz magában.
A kutatás a digitális piac szabályozásának uniós belső piaci jogi aspektusaira és különösen az MI szerepére is összpontosít. A versenyjog, a fogyasztóvédelmi jog és a tisztességtelen kereskedelemmel kapcsolatos joganyag egyre bővül az MI hagyományos és digitális piacokon történő fokozott alkalmazása által okozott kihívásokkal kapcsolatban. A kutatás keretében sor kerül az uniós szabályozás dinamikájának vizsgálatára, különös tekintettel az MI szabályozására és annak a nemzeti jogalkotásra gyakorolt hatásaira.
Az alapkutatás mellett a projekt célja az ágazatspecifikus jogi kérdések felmérése, és a konzorciumi tagok számára szakmai tanácsadás. A projekt keretében tudományos és szakmai programokat szervezünk, elindítottuk Kiemelt projektek: Biztonság, személyes adatok a Mesterséges intelligencia és jog programsorozatot. 2022 júniusában a Jogtudományi Intézet a magyarországi Francia Nagykövetséggel és Intézettel közösen rendezett nemzetközi konferenciát, mely platformot biztosított az MI jelenlegi és jövőbeli jogi szabályozásának és európai hatásainak megvitatásához. A konferencia előadásai írott formában 2023-ban jelennek meg. Ugyanezen évben jelenik meg a projektben részt vevő kutatók által írt kézikönyv az MI aktuális szabályozási kérdéseiről, valamint Mezei Kitti 2020-as monográfiájának átdolgozott és bővített kiadása is. A projekt során emellett több kutatónk rangos hazai és nemzetközi folyóiratokban publikált tanulmányokat.
Résztvevő kutatók:
Ambrus István
Chronowski Nóra
Czebe András
Friedery Réka
Győry Csaba
Hoffman István
Hoffmann Tamás
Kecskés Gábor
Kovács Szitkay Eszter
Körtvélyesi Zsolt
Mezei Kitti
Pap András László
Papp Mónika
Polyák Gábor
Rácz Lilla
Szalay Klára
Szentgáli-Tóth Boldizsár
Szilágyi Emese
Träger Anikó
Varju Márton
Ződi Zsolt
Publikációk:
2023:
Grad-Gyenge Anikó. A mesterséges intelligencia által generált tartalmak értelmezésének lehetőségei a szerzői jog útján. Magyar Jog, 2023, 6, 337-345.
Mezei Kitti. A mesterséges intelligencia jogi szabályozásának aktuális kérdései az Európai Unióban. In Medias Res, 2023, 12(1), 53-70.
Pap L. András. Genealogy in Law as a Technology for Categorizing, Contesting and Deconstructing Monoracialism. Genealogy 2023, 7(1), 1.
2022:
Ambrus István, Mezei Kitti. The New Hungarian Legislation on Money Laundering and the Current Challenges of Cryptocurrencies. Danube, vol.13, no.4, pp.256–268., 2022
Chronowski Nóra, Kálmán Kinga, Szentgáli-Tóth Boldizsár. Régi keretek, új kihívások: a mesterséges intelligencia prudens bevonása a bírósági munkába és ennek hatása a tisztességes eljáráshoz való jogra. Glossa Iuridica, 8 (4). pp. 7–38. ISSN 2064-6887, 2022
Czebe András. Fegyverek egyenlősége a digitális forradalom korában: a leplezett eszközök alkalmazásával összegyűjtött elektronikus adatok garanciális kérdései. Kúriai Döntések Bírósági Határozatok: A Kúria lapja 70: 1 pp. 141–147. 7 p., 2022
Eszteri Dániel. Elosztott adatbázisok, okoseszközök, automatikus döntések és a GDPR: adatvédelmi kapcsolódási pontok néhány új technológia vizsgálata kapcsán. Magyar Jog, 69(9), 505-515., 2022
Friedery Réka. Hardening Borders during the pandemic in the European Union: The Shape of the Schengen Borders Code and the EU Digital COVID Certificate. Quarterly on Refugee Problems 61: 1 p. 71., 2022
Hoffman István, Karpiuk, Mirosław. E-administration in Polish and Hungarian Municipalities – a Comparative Analysis of the Regulatory Issues. Lex Localis: Journal of Local Self-Government 20: 3 pp. 617–640., 24 p., 2022
Kálmán Kinga, Kiss, Laura Olga, Mezei Kitti, Szentgáli-Tóth, Boldizsár. Oprogramowania oparte na sztucznej inteligencji w sądach na całym świecie: praktyka, perspektywy i wyzwania mające znaczenie dla Węgier i Europy Środkowej (Artificial Intelligence-based software in courts around the world: relevant practice, experience, and challenges for Hungary and Central-Europe). Prawo Mediow Elektronicznych: Kwartalnik Naukowy, 2022
Kálmán Kinga, Kiss Laura Olga, Szentgáli-Tóth Boldizsár. Mesterségesintelligencia-alapú szoftverek a világ bíróságain: gyakorlati tapasztalatok, perspektívák és kihívások. In: Jogi technológiák. Ludovika Press, Budapest. ISBN 9789635318193, 2022
Kovács Szitkay Eszter, Pap L. András. Race, Ethnicity, Biotechnology and the Law: Potentiality and Challenges for Law Enforcement in the Digital Age. European Law Enforcement Research Bulletin – Special Conference Edition Nr.6, 2022
Mezei Kitti. Diszkrimináció az algoritmusok korában. Magyar Jog 69 (6), pp. 331–338., 8 p., 2022
Mezei Kitti, Bán-Forgács Nóra. Discrimination in the Age of Algorithms. In: Human Rights as a Guarantee of Smart, Sustainable and Inclusive Growth. Milton Friedman University; Alcide De Gasperi University of Euroregional Economy, Budapest; Józefów, pp. 73–80., 2022
Mezei Kitti, Krasznay Csaba. Cybersecurity and Cybercrime in Hungary During the COVID-19 Pandemic. In: Chałubińska-Jentkiewicz, Katarzyna; Hoffman István (szerk.) The Role of Cybersecurity in the Public Sphere - The European Dimension, Maribor, Szlovénia: Lex Localis, 234 p. pp. 191–207., 17 p., 2022
Mezei Kitti, Szentgáli-Tóth Boldizsár. Az online platformok használatában rejlő veszélyek: a dezinformáció és a kibertámadások jogi kockázatai. In: Demokrácia-dilemmák. ELTE Eötvös József Kiadó, Budapest, pp. 241–261. ISBN 9789634894773; 9789634894766, 2022
Mezei Kitti, Träger Anikó. The European Approach to Artificial Intelligence. Ethical and Regulatory Implications. Acta Univrsitatis Sapientiae, Legal Studies, 11(2), 19-34, 2022
Szentgáli-Tóth Boldizsár. A robotok jogi személyiségének koncepciója és annak lehetséges hatásai a demokráciára: Miért ne adjunk szavazati jogot a mesterséges intelligenciáknak. Magyar Jog 69 (6). pp. 321–330., 2022
Szentgáli-Tóth Boldizsár. Digitalizáció az észtországi bíróságokon: legenda és valóság. Arsboni, 10 (aug.). ISSN 2064-4655, 2022
Szentgáli-Tóth Boldizsár. Egy dinamikus példa: mesterséges intelligencia Malajzia bíróságain. Arsboni, 10 (aug.). ISSN 2064–4655, 2022
Varju Márton. The Protection of Technology Sovereignty in the EU: Policy, Powers and the Legal Reality. European Law Review 47: 4 pp. 568–583., 16 p., 2022
2021:
Ambrus István. Digitalizáció és büntetőjog. (monográfia), Wolters Kluwer Hungary, Budapest, Magyarország, 328 p. 2021
Kálmán Kinga. The constitutional aspects of applying AI based decision-making in the judiciary through the lenses of the right to fair trial. In: Garayová Lilla (szerk.) The Law of the Future – The Future of Law. Bratislava, Szlovákia: Páneurópska vysoká škola, pp. 823–847., 2021
Mezei Kitti. A kiberbűnözés aktuális kihívásai a büntetőjogban. L’Harmattan Kiadó. Budapest, Magyarország, 282 p. 2021
Szentgáli-Tóth Boldizsár. Robotic personhood and its potential impact to democracy. Should artificial intelligence be citizens and vested with right to vote? In: Garayová Lilla (szerk.) The Law of the Future – The Future of Law. Bratislava, Szlovákia: Páneurópska vysoká škola (2021) pp. 771–807., 2021
2020:
Kecskés Gábor. Az autonóm járművek jogi kérdéseinek nemzetközi kontextusa, különös tekintettel a környezetjogi vetületekre. Állam- és jogtudomány 61 (4). pp. 52–64., 2020
Mezei Kitti. A modern technológiák kihívásai a büntetőjogban, különös tekintettel a kiberbűnözésre. Állam és jogtudomány 61 (4). pp. 65–81., 2020
Rácz Lilla. A személy és a dolog fogalmának (lehetséges) változásai a mesterséges intelligencia és a kriptovaluták világában. Állam- és jogtudomány 61 (4). pp. 82–107., 2020
MTA Law Working Papers AI and Law Series:
Agócs Petra Márta: Az önvezető autók által felvetett problémákra, különösképp a villamos-dilemmára adhat
Cserép Andor Valér: Regulating Digital Giants – The EU’s Digital Markets Act Part One
Erős Orsolya Júlia: A mesterséges intelligencia (MI) a kártérítési felelősségi rendszerben
Hodula Máté: Az autonóm járművek hatása a közlekedési büntetőjog fejlődésére
Lugosi Vilmos: Mire jó ma egy önvezető autó? Az önvezető autók jelenlegi szabályozásának kérdései és kritikái
Móczár Dóra: Mesterséges intelligencia és a büntetőjogi felelősségi kérdések, különös tekintettel az önvezető autókra
Blogbejegyzések:
Körtvélyesi Zsolt: Kódolt egyenlőtlenségek? Diszkrimináció az algoritmusok korában
Kálmán Kinga: Hogyan lesz az etikai szabályokból jogszabály? Ződi Zsolt előadása a mesterséges intelligencia jogi szabályozásáról
Kálmán Kinga: Molnár Tamás előadása a mesterséges intelligencia emberi jogokra gyakorolt hatásairól
Szentgáli-Tóth Boldizsár: Péntek esti interdiszciplináris vita a robotok jogairól: a mesterséges intelligenciák jogalanyisága különböző jogágak szempontjából
Nemzetközi együttműködő partnerek:
Centro Crímina, Edificio Hélike. Universidad Miguel Hernández de Elche, Spanyolország
University of Ljubljana, Faculty of Law
War Studies University, Warszawa
Hazai együttműködő partnerek:
BME Gazdaság- és Társadalomtudományi Kar
ELTE Állam- és Jogtudományi Kar
Kúria
Mollia Zrt.
Nemzeti Közszolgálati Egyetem Eötvös József Kutatóközpont Kiberbiztonsági Kutatóintézet
Nemzetközi konferencia szervezése:
The challenges of Artificial Intelligence for law in Europe: values, rights and regulation in the European legal space, Budapest, TK, 2022. június 9-10.
Az AI and Law programsorozat nemzetközi vendégkutatóinak online előadásai:
Molnár Tamás (European Union Agency for Fundamental Rights)
Joris Hulstijn (Tilburg University)
Béatrice Schütte (University of Helsinki)
Ljupcho Grozdanovski (NYU Law School/Université de Liége)
Adam Harkens (Birmingham University)
Pin Lean Lau (Brunell University, Law School)
Jakub Harasta (Masaryk University)
Rikke Jorgensen (The Danish Institue for Human Rights Copenhagen)
Wen Xiang (University of Copenhagen)
Reijer Passchier (Open University/Leiden University)
Pályázati felhívások:
Publikációs felhívás: A mesterséges intelligencia és a jog
„A mesterséges intelligencia jogi felelősségének vetületei” című tanulmányíró pályázat
Konferencia, szakmai program részvétel:
Mezei Kitti, Héder Mihály, Antal Péter. HCAIM@BME, Human Centred Regulation of AI, Budapest, 2023.06.28.
Mezei Kitti. Human rights and privacy challenges in the use of contact tracking smart phone applications. VIII. International Conference on Human Rights „DIGITAL WELL-BEING – a concern for the quality of life”, Bari, 2023.06.09.
Ambrus István. Using algorithms during the imposition of sanctions. Use of algorithms in Criminal Law, ELTE ÁJK, Budapest, 2023.06.02.
Mezei Kitti. Human rights and privacy challenges in the use of contact tracking smart phone applications. Use of algorithms in Criminal Law, ELTE ÁJK, Budapest, 2023.06.02.
Bor Bettina, Chronowski Nóra, Szentgáli-Tóth Boldizsár. A virtuális bíróságokkal kapcsolatos legújabb bírósági gyakorlat (vitaindító előadás), valamint kerekasztal beszélgetés: A virtuális bíróságok perspektívái különös tekintettel a mesterséges intelligencia alapú szoftverek térnyerésére: globális és hazai távlatok. Workshop: Bírósági munka a virtuális térben: a mesterséges intelligencia alapú technológiák szerepe és jelentősége, Budapest, 2023.05.25.
Mezei Kitti. Digital transformation and cyberseurity. Scientific conference „The Three Seas Universities Network towards the challenges of scienceand the region”. The John Paul II Catholic University, Lublin, 2023.05.16-17.
Mezei Kitti, Träger Anikó. The regulatory regime for the digital ecosystem, with a particular focus on the use of self- and co-regulation. DigEUCit Conference - A Digital Europe for Citizens. University of Porto, Porto, 2023.04.14.
Mezei Kitti. A mesterséges intelligencia jogi környezetének kihívásai. MILAB Szakmai Nap, Budapest, 2022.11.24.
Mezei Kitti. Making Markets, Translating Markets: Market Surveillance and Financial Regulation. 1st International FIRE (Financial InformationRetrieval Ecosystem) Conference. Örebro Univerity, Örebro, 2022.11.10-11.
Ambrus István. If the AI causes harm, who is to blame? Considerations from a criminal lawyer’s point of view. Open Scientific Seminar withing the Polish-Hungarian Research Platform: „AI Liability”, online. 2022.10.25.
Ambrus István. Artificial Intelligence and Criminal Proceedings. Digital Justice - Toward an Optimal Model of Proceedings. 2022.10.19.
Ambrus István. Using Artificial Intelligence (AI) during imposition of sanctions. Open Scientific Seminar withing the Polish-Hungarian Research Platform: „Access to the fair trial. Will AI is ready to help?”, online. 2022.09.27.
Ambrus István. The new regulation of money laundering in Hungarian criminal law. Economics and Criminal Law. Budapest, 2022.09.22.
Mezei Kitti. Cryptocurrencies and criminal law. Economics and Criminal Law. Budapest, 2022.09.22.
Mezei Kitti, Träger Anikó. The European and Chinese Approach to Artificial Intelligence: Risks and Opportunities. The 16th Annual Conference of the European China Law Studies Association, University of Copenhagen, Koppenhága, 2022.09.21-23.
Szentgáli-Tóth Boldizsár. Artificial Intelligence in criminal justice: recent experience from Malaysia. Legal Technology and its impact on the access to justice, society and the Legal Industry, Budapest, 2022.06.23.
Mezei Kitti. The legal challenges of AI-enabled cyberthreats, Cyber Summit 2022, Varsó, 2022.06.14.
Szentgáli-Tóth Boldizsár. The constitutionality of online court hearings. The challenges of Artificial Intelligence for law in Europe: values, rights and regulation in the European legal space, Budapest, TK, 2022.06.09-10.
Ambrus István, Mezei Kitti. Algorithmic decision-making in the criminal justice: risks and opportunities. The challenges of Artificial Intelligence for law in Europe: values, rights and regulation in the European legal space, Budapest, TK, 2022.06.09-10.
Friedery Réka. Migration, pandemic and the prospects of Schengen. Global Migration: Trans-cultural, Trans-disciplinary and Intersectional Perspectives. Friedensau Adventist University (ThHF), online, 2022.02.09.
Bán Marina, Szentgáli-Tóth Boldizsár. Artificial Intelligence and Legal Certainty: Promising Perspectives and Severe Risk. Factors The Impact of Digitalization on Constitutional Law, University of Copenhagen, Hybrid IACL Round Table, 2022.01.31-02.01.
Mezei Kitti. Diszkrimináció az algoritmusok korában. Európai Jogi Szaktanácsadó Hálózat éves továbbképzése, Budapest, 2021.11.22.
ICON-S Mundo Conference – The Future of Public Law, saját panel (AI and Law), online, 2021.07.06-9.
Mezei Kitti részt vesz az Academy of European Law „Artificial Intelligence in Criminal Justice and Law Enforcement: The (Mis)Use of AI and Machine-Learning in Criminal Proceedings” című képzésén. 2021.06.16-18.
Mezei Kitti: Risks and opportunities in application of Artificial Intelligence: AI-enabled crime, crime prevention and detection. Stockholm Criminology Symposium, 2021.06.15.
Mezei Kitti – Szentgáli-Tóth Boldizsár: Az online platformok használatában rejlő veszélyek: a dezinformáció és a kibertámadások jogi kockázatai. NKE EJKK Információs Társadalom Kutatóintézete által szervezett „Internetes platformok kora – társadalmi hatások és szabályozási kihívások” c. konferencia, 2021.05.27.
Mezei Kitti – Szentgáli-Tóth Boldizsár: Modern technológiák – új jogi kihívások. Ars Boni Legal Fest, 2021.05.11.
Mezei Kitti: Balancing regulation and innovation: Fintech trends and challenges. Bratislava Legal Forum, 2021.04.22.
Szentgáli-Tóth Boldizsár részt vett az Academy of European Law „Human Rights and Artificial Intelligence Systems: Practical Challenges and Solutions to Ensuring the Respect and Protection of Human Rights in the Digital Age” című képzésén. 2021.03.29-31.
Mezei Kitti: Kihívások a mesterséges intelligencia jogi szabályozásában. NKE RTK Szent György Szakkollégium Kiber Szakmai Műhely, 2021.03.03.
Ambrus István: Az önvezető járművek és a büntetőjog. NKE RTK Szent György Szakkollégium Kiber Szakmai Műhely, 2021.03.03.
International Forum on the Future of Constitutionalism (Panel 78.): The impact of artificial intelligence to the democracy. Résztvevők: Chronowski Nóra (chair), Kecskés Gábor (discussant), Szentgáli-Tóth Boldizsár (speaker). 2021.01.15.
Sajtóvisszhang:
Ügyvédfórum szerkesztőség: A robot tárgya és nem alanya a jognak, döntéseiért természetes személyeknek kell viselniük a felelősséget. Ügyvédfórum, 2021.03.16.
Mészáros Endre: Dr. Mezei Kitti a jog eszközeivel harcol a hackerek ellen. BAMA, 2021.03.07. és Dunántúli Napló, 2021.03.03.