2022. február 8. - Solving Multi-Class Classification for Low Resource Languages with Large Language Models - Máté Ákos előadása, TK MILAB Speaker Series

A Társadalomtudományi Kutatóközpont Mesterséges Intelligencia Nemzeti Laboratórium TK MILAB Speaker Series néven indította el online rendezvénysorozatát 2021.tavaszán, melynek során online kutatásbeszámolókat, beszélgetéseket tart a mesterséges intelligencia társadalmi hatásairól. A sorozat következő állomása 2022. február 8-án 13:00 órától „Solving Multi-Class Classification for Low Resource Languages with Large Language Models” címmel kerül megrendezésre.

Előadó: 

Máté Ákos (TK PTI-poltextLAB)

Moderátor:

Ring Orsolya (TK PTI-poltextLAB)

Absztrakt:

Az előadás célja annak bemutatása, hogy az NLP területén elért legújabb fejlesztések hogyan használhatók fel a társadalomtudományi kutatásokban. A nemrégiben kifejlesztett Transformer vagy nagyméretű nyelvi modellek lehetővé teszik a nagyméretű, előre betanított modellek finomhangolását, ami a hagyományos gépi tanulási megközelítésekhez képest alacsonyabb összköltséget és jobb teljesítményt jelent. Egy finomhangolt BERT-modellt használunk a magyar és a lengyel törvényszövegek közötti transzfer tanulás alkalmazására az Comparative Agendas Project (CAP) kódolási sémájának felhasználásával, amely a közpolitikai tartalmat osztályozza a politikai beszédektől a törvényekig terjedő korpuszok széles skáláján. Az eredmények azt mutatják, hogy a finomhangolt modell felülmúlja a hagyományos felügyelt tanulási benchmarkokat (Support Vector Machines, Naïve Bayes és Multinomiális regresszió) a pontosság tekintetében. Ez a megközelítés életképes megoldást mutat a transzfer tanulás keretrendszerének alkalmazására kisebb nyelvek esetében.

Az előadás magyar nyelven, online, Zoom alkalmazáson kerül megrendezésre, az eseményen való részvétel regisztrációhoz kötött.

Kérjük részvételi szándékát jelezze az alábbi űrlap kitöltésével: https://forms.gle/yobJFiYeWGxfcNwb8

Az esemény linkjét külön e-mailben küldjük a regisztrált résztvevőknek.