ParancsPULI Az utasításkövető PULI-modell /
Megjelenése óta a ChatGPT a szűkebb szakmai diskurzuson túl a közbeszédet is tematizálta. Sikerét több összetevőnek is köszönheti: például a különböző témájú, széles skálát lefedő, promptokkal történő finomhangolásnak, vagy az emberi visszajelzések integrálásának a finomhangolás folyamatába megerősí...
Elmentve itt :
| Szerzők: | |
|---|---|
| Testületi szerző: | |
| Dokumentumtípus: | Könyv része |
| Megjelent: |
Szegedi Tudományegyetem TTIK, Informatikai Intézet
Szeged
2024
|
| Sorozat: | Magyar Számítógépes Nyelvészeti Konferencia
20 |
| Kulcsszavak: | Nyelvészet - számítógép alkalmazása, Nyelvi modell - utasítást követő, PULI |
| Tárgyszavak: | |
| Online Access: | http://acta.bibl.u-szeged.hu/88753 |
| LEADER | 02970naa a2200325 i 4500 | ||
|---|---|---|---|
| 001 | acta88753 | ||
| 005 | 20251112084303.0 | ||
| 008 | 251112s2024 hu o 100 hun d | ||
| 020 | |a 978-963-306-973-8 | ||
| 040 | |a SZTE Egyetemi Kiadványok Repozitórium |b hun | ||
| 041 | |a hun | ||
| 100 | 2 | |a Yang Zijian Győző | |
| 245 | 1 | 0 | |a ParancsPULI |h [elektronikus dokumentum] : |b Az utasításkövető PULI-modell / |c Yang Zijian Győző |
| 260 | |a Szegedi Tudományegyetem TTIK, Informatikai Intézet |b Szeged |c 2024 | ||
| 300 | |a 61-72 | ||
| 490 | 0 | |a Magyar Számítógépes Nyelvészeti Konferencia |v 20 | |
| 520 | 3 | |a Megjelenése óta a ChatGPT a szűkebb szakmai diskurzuson túl a közbeszédet is tematizálta. Sikerét több összetevőnek is köszönheti: például a különböző témájú, széles skálát lefedő, promptokkal történő finomhangolásnak, vagy az emberi visszajelzések integrálásának a finomhangolás folyamatába megerősítéses tanulás segítségével. A ChatGPT megjelenésekor azt nyilatkozták, hogy a finomhangolás során csupán angol nyelvű promptokat használtak, azonban tapasztalhattuk, hogy az alkalmazás ennek ellenére magyarul is kiválóan tudott válaszolni. Ez a tulajdonság a transzfertanulásnak köszönhető, amely lehetővé teszi, hogy a modell egy adott nyelvű tanítóadaton megszerzett tudást a tanítóadatban alulreprezentált vagy egyáltalán nem szereplő nyelvek esetén is alkalmazza. A kutatásunk során a háromnyelvű PULI GPTrio modellt finomhangoltuk magyar, angol és kínai promptokkal, hogy létrehozzuk az első magyar nyelvre tanított utasításkövető GPT-3 modellt. A modell tanításához egy több mint ötezer promptból álló finomhangoló korpuszt állítottunk össze. A finomhangoló korpuszba angol és kínai nyelvű promptokat is kevertünk, hogy a transzfertanulásnak köszönhetően még több különböző típusú feladatot legyen képes megoldani a modell. A promptok összeállításánál figyeltünk arra is, hogy bizonyos kérdésköröket próbáljon elkerülni a modell. Ezzel létrehoztuk – tudomásunk szerint – az első magyar nyelvű, finomhangolt, utasításkövető nagy nyelvi modellt, amely egyaránt képes kérdésekre válaszolni és nyelvtechnológiai feladatokat megoldani. | |
| 650 | 4 | |a Természettudományok | |
| 650 | 4 | |a Számítás- és információtudomány | |
| 650 | 4 | |a Bölcsészettudományok | |
| 650 | 4 | |a Nyelvek és irodalom | |
| 695 | |a Nyelvészet - számítógép alkalmazása, Nyelvi modell - utasítást követő, PULI | ||
| 700 | 0 | 1 | |a Dodé Réka |e aut |
| 700 | 0 | 1 | |a Héja Enikő |e aut |
| 700 | 0 | 1 | |a Laki László János |e aut |
| 700 | 0 | 2 | |a Ligeti-Nagy Noémi |e aut |
| 700 | 0 | 2 | |a Madarász Gábor |e aut |
| 700 | 0 | 2 | |a Váradi Tamás |e aut |
| 711 | |a Magyar számítógépes nyelvészeti konferencia (20.) |c Szeged |d 2024. január 25-26. | ||
| 856 | 4 | 0 | |u http://acta.bibl.u-szeged.hu/88753/1/msznykonf_020_061-072.pdf |z Dokumentum-elérés |