Magyar nyelvű utasításkövető korpusz építése Stanford Alpaca promptok fordításával és lokalizálásával
A ChatGPT sikerét annak köszönheti, hogy képes emberi kérdésekre, utasításokra jól megfogalmazott, releváns válaszokat adni. Megjelenése előtt a kutatók már felismerték a lehetőséget, hogy a nagy nyelvi modellekből értékes információkat lehet kinyerni. A promptprogramozás segítségével ezek a modelle...
Elmentve itt :
| Szerzők: | |
|---|---|
| Testületi szerző: | |
| Dokumentumtípus: | Könyv része |
| Megjelent: |
Szegedi Tudományegyetem TTIK, Informatikai Intézet
Szeged
2024
|
| Sorozat: | Magyar Számítógépes Nyelvészeti Konferencia
20 |
| Kulcsszavak: | Korpuszépítés, Nyelvészet - számítógép alkalmazása |
| Tárgyszavak: | |
| Online Access: | http://acta.bibl.u-szeged.hu/88766 |
| LEADER | 02729naa a2200277 i 4500 | ||
|---|---|---|---|
| 001 | acta88766 | ||
| 005 | 20251112111250.0 | ||
| 008 | 251112s2024 hu o 100 hun d | ||
| 020 | |a 978-963-306-973-8 | ||
| 040 | |a SZTE Egyetemi Kiadványok Repozitórium |b hun | ||
| 041 | |a hun | ||
| 100 | 2 | |a Yang Zijian Győző | |
| 245 | 1 | 0 | |a Magyar nyelvű utasításkövető korpusz építése Stanford Alpaca promptok fordításával és lokalizálásával |h [elektronikus dokumentum] / |c Yang Zijian Győző |
| 260 | |a Szegedi Tudományegyetem TTIK, Informatikai Intézet |b Szeged |c 2024 | ||
| 300 | |a 243-255 | ||
| 490 | 0 | |a Magyar Számítógépes Nyelvészeti Konferencia |v 20 | |
| 520 | 3 | |a A ChatGPT sikerét annak köszönheti, hogy képes emberi kérdésekre, utasításokra jól megfogalmazott, releváns válaszokat adni. Megjelenése előtt a kutatók már felismerték a lehetőséget, hogy a nagy nyelvi modellekből értékes információkat lehet kinyerni. A promptprogramozás segítségével ezek a modellek képesek különböző nyelvtechnológiai feladatokat magas pontossággal megoldani. Azonban egy lényeges elem még hiányzott: hogy a modell természetes emberi nyelven, szabadon megfogalmazott kérdésekre és utasításokra válaszoljon, és emellett végezze el a nyelvtechnológiai feladatokat. A ChatGPT sikere bizonyította, hogy a modell finomhangolásával elérhető az utasításkövető viselkedés. Azonban az utasításkövető finomhangoláshoz nélkülözhetetlen a speciális tanítóadat, amely ilyen jellegű promptokat tartalmaz. Kutatásunk során létrehoztuk – tudomásunk szerint – az első magyar nyelvű utasításkövető finomhangoló korpuszt. E célból a Stanford Alpaca korpusz egy részét fordítottuk le magyarra. A fordítási folyamat során nem magyar specifikus kérdések kerültek elő, amelyekhez magyar kultúrakörhöz illő promptokat alkottunk. Az így létrejött korpusz 2000 lefordított és 100 lokalizált promptot tartalmaz. Az elkészült korpusz segítségével betanítottunk egy utasításkövető nagy nyelvi modellt a magyar nyelvű PULI GPT-3SX modell felhasználásával. Az elkészült korpuszunkat kutatás számára szabadon elérhetővé tettük. | |
| 650 | 4 | |a Természettudományok | |
| 650 | 4 | |a Számítás- és információtudomány | |
| 650 | 4 | |a Bölcsészettudományok | |
| 650 | 4 | |a Nyelvek és irodalom | |
| 695 | |a Korpuszépítés, Nyelvészet - számítógép alkalmazása | ||
| 700 | 0 | 1 | |a Szlávik Szilárd |e aut |
| 700 | 0 | 2 | |a Ligeti-Nagy Noémi |e aut |
| 711 | |a Magyar számítógépes nyelvészeti konferencia (20.) |c Szeged |d 2024. január 25-26. | ||
| 856 | 4 | 0 | |u http://acta.bibl.u-szeged.hu/88766/1/msznykonf_020_243-255.pdf |z Dokumentum-elérés |