En ny dansk sprogmodel, Mimir, skal vise, at konkurrencedygtig kunstig intelligens ikke nødvendigvis kræver enorme datacentre og milliarder af parametre. Mimir er udviklet af forskere fra Syddansk Universitet og Ordbogen A/S og sætter ifølge udviklerne ny standard for dansksprogede AI-modeller i sin størrelsesklasse.
Nej, hvor spændende! Så ordbogen er kommet med en opgradering af Odin Large?
Hmmm… Men kun 1B parametre? Selvom den “slår modstandere der er ~9 gange større” (altså modeller på sølle 9B), så er det jo stadig milevidt fra f.eks. den åbne* Qwen 3.8-serie, hvis 27B model ligger på ~25.-pladsen på https://artificialanalysis.ai/leaderboards/models
*Open weights
Men god, etisk og ressouceeffektiv måde, de skriver, modellen er trænet på.
Opdateret: Kan hentes på huggingface. Så bør den også kunne køres via Jan.ai eller Unsloth.ai.
Benchmark-sammenlignerne er med konkurrenter’s ældre modeller. Så vi bevæger os altså stadig i lilleputland. Det er en start, men ikke noget i nærheden af AI fra US/CN.
Selvom den “slår modstandere der er ~9 gange større” (altså modeller på sølle 9B)
Bemærk at de 9 gange er når det er en dansk test. Ved ikke helt hvad det betyder, om man prompter på dansk og ser hvor godt det danske er. Ellers er det “op til fem gange større” modeller den kan vise sig frem med.
Men det er selvfølgelig også noget at tage med. Der kan være noget om, at man må optimere softwaren, hvis man ikke har hardwaren til det.
Om ikke andet, så føles det som et sted at starte og det er fint med en diskussion om de etiske, ressourceeffektive aspekter for fremtidens modeller.
Spændende.
syntetisk genskabte data
Gad godt vide hvad det mon betyder. Altså har de trænet modellen på dens eget output? Det plejer bare kun at gøre modeller værre.
Det kommer vidst an på hvordan, RLHF er foregået (menneskelig feedback under træningen).
Virkelig godt spørgsmål - jeg har ikke kunnet finde et svar på det; dit bud er måske nok det bedste?
Hvad kan man bruge sådan en krabat til? Kan det erstatte gratisversionen af f.eks. Claude?
Mjah det kan den nok ikke endnu, men måske på sigt? Som jeg forstår @[email protected] er den stadig ret langt fra egentligt at kunne konkurrere med andre modeller andre steder end på det danske sprog, men hvem ved hvad fremtiden bringer? Jeg tænker også det måske kan (gen)starte en diskussion om etik og ressourceforbrug.
Jeg tror, den er god til korrekturlæsning på europæiske sprog og måske klassificering? (f.eks.: “Er denne tekstbid positivt- eller negativt ladet?”). Nok ikke nogen brugbar erstatning til chat-formål, da den er relativt lille.
Kan det erstatte gratisversionen af f.eks. Claude?
Claude Sonnet 5 har måske en størrelse på 500B-1,5T parametre (de officielle tal kendes ikke), mens den ny danske Mimir er 1B 👶
Ordbogens “Odin-Large” er vidst fortsat den bedste danske LLM, vi har. Kan frit tilgås via chat.dk
Opdateret: En for-sjov-sammenligning af Mimir (grøn, estimeret) med modeller fra Claude og Qwen:
Flagskibsmodellerne har et kontekstvindue på 1.000.000 tokens, mens Mimir har et loft på 4.000. Så er det begrænset hvor lange instrukser den kan tage imod, før den må give op.
Jeg bruger lige pt Mistral, men er der andre jeg burde prøve af? Vil helst holde mig europæisk (selvom et kort forsøg med Claide gjorde det rimelig klart for mig at Mistral er dårligere…)
Danske chat.dk hvis du bare skal chatte :)
