Profi, mesur a meithrin AI Cymraeg
Gwerthusiadau → Claude Fable 5.1

Claude Fable 5.1 masnachol wedi'i fesur

Yn nawfed yn sgorfwrdd estynedig CymraegBench â sgôr gyffredinol o 80.53.

Pedwar gwerthuswr yn astudio modelau haniaethol mewn arena brofi dryloyw

Y ffeithiau

DatblygwrAnthropic
ID OpenRouteranthropic/claude-fable-5.1
Pris y prawf$10 / $50 y filiwn tocyn (mewnbwn/allbwn)
Cyd-destun1 miliwn o docynnau; hyd at 128,000 o docynnau allbwn
Cost y rhediad llawn$7.31

Canlyniad CymraegBench

Sgôr gyffredinolRhesymu CymraegCymraeg ymarferolCyfieithu BLEU
80.5386.0575.0071.07

Defnyddiwyd yr un sampl ag yn y profion ar y modelau blaenllaw eraill: hyd at 100 o achosion o bob un o'r 19 o setiau craidd, ag reasoning_effort=low. Nid yw'r 232 o achosion CCC yn cyfrannu at y sgôr gyffredinol.

Fable 5.1 sydd yn nawfed yn y sgorfwrdd estynedig: 0.20 pwynt y tu ôl i MiMo V2.6 Pro a 0.72 pwynt o flaen Qwen3.8 Flash. Cwblhaodd 2,052 o'r 2,053 o achosion.

Nodyn am yr allbwn annilys: dychwelodd un achos PIQA ateb gwag. Parhaodd yn wag ar ôl ailgeisio â therfynau o 2,048, 8,192 ac 16,384 o docynnau, felly cafodd sgôr o sero. Ni chafwyd gwall seilwaith heb ei ddatrys.

Archwiliad Iaith CCC

Is-setSgôr
Cywiro ac esbonio93.91
Priod-ddull100.00
Termau93.75
Crynhoi a dyfynnu92.92
Cyfeiriadau76.56
Cyfarwyddyd Cymraeg100.00
Cyfarwyddyd Saesneg100.00
Cymedr y saith is-set93.88

Cafodd Fable 5.1 96.88 am gywiro a 63.28 am esbonio. Ar y prawf cyfeiriadau cafodd 78.13 am ddewis cyfeiriadau, 65.63 am gynnwys yr ateb, a 100 am beidio â dyfeisio ffynhonnell.

Gweler y sgorfwrdd llawn, Archwiliad Iaith CCC, neu lawrlwythwch y crynodeb, sgoriau fesul set, dimensiynau CCC a'r metadata.