Jupiter-N-120B wedi'i fireinio wedi'i fesur
Model 120B wedi'i ôl-hyfforddi ar y Gymraeg, gyda phwysau, dull a setiau data cyhoeddus.
Y ffeithiau
| Datblygwr | Locai Labs / UCL (adroddiad technegol: George Drayson et al., arXiv:2604.17429, 19 Ebrill 2026) |
|---|---|
| Model sylfaen | NVIDIA Nemotron-3-Super-120B-A12B — LatentMoE hybrid Mamba-2/MoE/sylw, ffenestr gyd-destun o filiwn o docynnau, a rhesymu y gellir ei droi ymlaen neu i ffwrdd |
| Dull | Ôl-hyfforddi drwy LoRA (r=16, α=32), gyda fframwaith gwrth-anghofio «Forget-Me-Not» sy'n ailgyflwyno data synthetig o'r model sylfaen |
| Trwydded | NVIDIA Nemotron Open Model License; pwysau ar Hugging Face |
Y Gymraeg: data mesuradwy
Un o dri nod datganedig y prosiect oedd gwella'r Gymraeg, ochr yn ochr â gallu asiantaidd a chydweddu â chyd-destun diwylliannol Prydain. Defnyddiwyd corpora cyfochrog o waith Prifysgol Bangor — trafodion y Senedd a deddfwriaeth y DU — ynghyd â data cyfarwyddiadau a gyfieithwyd gan fodel iaith. Yn ôl yr adroddiad technegol, y canlyniad oedd:
Cynnydd o 18 pwynt ar ARC-Easy Cymraeg a 5.25 pwynt ar MMLU-Lite Cymraeg o'u cymharu â'r model sylfaen, heb golli gallu cyffredinol, diolch i'r data synthetig a ailgyflwynwyd.
Cyhoeddwyd y setiau data yn ogystal â phwysau'r model: nemotron-chat-welsh, wikimedia_welsh, opensubtitles_welsh, eubookshop_welsh, legislation-gov-uk-en-cy a cofnodycynulliad_en_cy, sef cofnod y Senedd. Mae hyn yn caniatáu i eraill archwilio ac ailddefnyddio data a dulliau'r prosiect. Mae'r papur yn disgrifio'r gwaith fel «templed atgynyrchadwy ar gyfer ôl-hyfforddiant sofran».
Canlyniad CymraegBench: pob un o'r 33,657 o achosion
Profwyd y model â phwysau BF16 ar y set gyhoeddus lawn, nid sampl yn unig. Cwblhaodd y model 33,534 o achosion; cofnodwyd 123 (0.37%) yn annilys ac ni fu unrhyw wall seilwaith ar ddiwedd y profion. Sgoriodd Jupiter 48.87 a daeth yn ddeunawfed ar y sgorfwrdd 23 model; sgoriodd Mwydryn 7B v2, y model Cymraeg agored 7B uchaf yn y tabl, 30.37.
| Sgôr | Canlyniad |
|---|---|
| Sgôr gyffredinol | 48.87 |
| Rhesymu Cymraeg | 52.70 |
| Cymraeg ymarferol | 45.04 |
| Cyfieithu deddfwriaeth — BLEU | 43.85 |
Yn Archwiliad Iaith CCC, sgoriodd Jupiter 89.17 ar ddilyn cyfarwyddiadau yn Gymraeg, 95.83 yn Saesneg, 90.00 ar grynhoi a dyfynnu, a 75.00 ar briod-ddull. Y sgoriau isaf oedd cywiro ac esbonio (17.03), geirfa (7.53) a chanfod geiriau sarhaus (0.87). Mae'r sgoriau fesul set, y dimensiynau CCC a'r metadata ar gael yn agored.
- Lawrlwytho sgoriau'r setiau (CSV)
- Lawrlwytho dimensiynau CCC (CSV)
- Lawrlwytho manylion y prawf (JSON)
Arbrofion Bangor AI â'r model
Jupiter-N yw'r model y mae Bangor AI wedi'i ddewis i'w fireinio ymhellach ar farddoniaeth gaeth. Ar glwstwr o wyth peiriant DGX Spark, mae'r tîm yn rhedeg arbrofion LoRA ar ddata cynghanedd er mwyn ychwanegu cerdd dafod at ei brofiad o Gymraeg swyddogol a seneddol. Mae'r hanes llawn, gan gynnwys yr hyn sydd wedi gweithio a'r problemau sydd heb eu datrys, ar dudalen arbrofion Jupiter.
Beth sydd nesaf?
- Protocol y gynghanedd ar y model sylfaen ac ar y fersiynau rydym wedi'u mireinio — cyn ac ar ôl
- Ailadrodd y prawf gyda rhesymu wedi'i droi ymlaen er mwyn mesur y fantais a'r gost