Sådan gør man AI klogere

Et LLM ved kun hvad det lærte under træningen. Det kender ikke dine interne dokumenter, din prisliste eller noget der er sket efter modellens skæringsdato. RAG (Retrieval-Augmented Generation) løser det: i stedet for at modellen skal kunne alt udenad, henter systemet relevante uddrag fra dine egne data og lægger dem ind i prompten, lige før modellen svarer.

Men hvordan finder systemet det 'relevante'? Det kan ikke bare søge på ord — du spørger måske 'hvad koster fragt?', mens dokumentet siger 'levering: 49 kr'. Her kommer embeddings ind: hver tekstbid omdannes til en talrække der fanger betydningen, ikke bare ordene. To stykker tekst der betyder det samme havner tæt på hinanden i tal-rummet.

De talrækker gemmes i en vektordatabase — en database bygget til at finde de nærmeste betydninger lynhurtigt. Når du spørger, omdannes dit spørgsmål også til en talrække, og databasen finder de tekststykker der ligger tættest på. Det er sådan en AI-chatbot kan svare præcist ud fra netop dine dokumenter — uden at modellen nogensinde er blevet gentrænet.

En sprogmodel er som standard en generalist. Den kan løse opgaver den aldrig har set før, ud fra instruktionen alene — det kaldes zero-shot: ingen eksempler, bare en beskrivelse af opgaven. Det er imponerende, men også gennemsnitligt: modellen rammer en bred, neutral stil.

Finjustering træner modellen videre på dine egne eksempler — fx mange kundesvar i præcis jeres tone, eller tekster i jeres faglige sprog. Bagefter rammer modellen jeres stil og format langt mere konsistent, uden at du skal forklare det i hver eneste prompt.

Men finjustering er ikke altid svaret. Det kræver tid og data, og en god prompt eller RAG løser ofte problemet billigere. Tommelfingerregel: start med prompt og RAG; finjustér først når du har et stort, fast mønster modellen skal ramme hver gang.

Hver gang en model genererer tekst, sker der en inference — det tekniske ord for selve det at køre modellen og producere et svar. Under den proces vælger modellen det næste token ud fra sandsynligheder. Temperatur er den knap der styrer hvor meget tilfældighed der er i det valg.

Lav temperatur gør modellen forudsigelig: den vælger næsten altid det mest sandsynlige ord. Det er det du vil have til faktasvar, kode og dataudtræk — hvor præcision tæller og overraskelser er fejl. Høj temperatur giver modellen lov til at vælge mindre oplagte ord, hvilket giver mere varieret og kreativ tekst — godt til brainstorm, slogans og idéer.

Der er ikke én rigtig indstilling — den afhænger af opgaven. Vil du have det samme svar hver gang, så skru ned. Vil du have ti forskellige forslag, så skru op. Mange AI-værktøjer gemmer knappen væk, men i de fleste API'er kan du selv sætte den.

De første sprogmodeller kunne kun læse og skrive tekst. En multimodal AI kan derudover forstå flere typer indhold — typisk billeder, men også lyd, video og dokumenter. Du kan tage et foto af en regning og spørge 'hvad skal jeg betale?', eller vise et diagram og bede om en forklaring.

Teknikken bygger på den samme grundidé som med tekst: indholdet omdannes til tal modellen kan regne på. Et billede bliver til en talrepræsentation på samme måde som tekst bliver til tokens — så modellen kan behandle ord og billeder i samme tankegang.

Det er grunden til at moderne AI-assistenter kan hjælpe med langt mere end at skrive. De kan læse skærmbilleder, gennemgå PDF'er, beskrive billeder og analysere grafer — opgaver der før krævede separate, specialiserede programmer.