LLM (stor språkmodell)

Hva betyr LLM

LLM står for large language model, på norsk stor språkmodell. «Stor» viser til at modellen har milliarder av parametere, tall som justeres under treningen, og at den er trent på enorme mengder tekst. «Språkmodell» betyr at den har lært mønstrene i språket godt nok til å fortsette, oppsummere, oversette og svare på tekst.

Kjente eksempler er GPT fra OpenAI, som brukes i ChatGPT, Gemini fra Google, Claude fra Anthropic og Llama fra Meta. Når du får et svar fra ChatGPT, eller ser et sammendrag øverst i Google, er det en stor språkmodell som har skrevet teksten.

Slik fungerer en stor språkmodell

Teksten deles først opp i små biter som kalles tokens, ofte deler av ord. Under treningen leser modellen tekst og øver på å gjette neste token, om og om igjen. Etter hvert lærer den grammatikk, fakta, sammenhenger og stil, fordi det er det som skal til for å gjette riktig. De fleste moderne språkmodeller bygger på en arkitektur som kalles transformer, beskrevet av forskere i Google i 2017.

Etter grunntreningen blir modellen finjustert til å følge instruksjoner og svare nyttig. Når du stiller et spørsmål, skriver den svaret ett token av gangen, hvert valgt ut fra det som står foran.

Hva en språkmodell ikke kan

En språkmodell slår ikke opp i et register med fakta. Den gjengir mønstre den har lært. Derfor kan den skrive noe som høres riktig ut, men er feil. Det kalles hallusinering. Modellen vet heller ingenting om det som har skjedd etter at treningen ble avsluttet, med mindre den får hjelp utenfra.

Den hjelpen er ofte søk. ChatGPT, Perplexity og Google AI Overviews henter sider fra nettet og lar modellen skrive svaret basert på dem. Teknikken kalles retrieval-augmented generation, forkortet RAG. Det er her en bedrift kan påvirke hva modellen sier, fordi sidene som hentes inn, styrer innholdet i svaret.

Hvorfor språkmodeller endrer synlighet

Språkmodellene har endret hvordan mange søker. I stedet for korte søkeord skriver folk hele spørsmål, og de får ett samlet svar i stedet for en liste. Dette kalles generativt søk. For en bedrift betyr det at målet ikke bare er å rangere, men å bli valgt som kilde og nevnt med navn. Les mer om synlighet i ChatGPT.

Ta en nettbutikk som selger sykler. Spør noen en språkmodell om hvilken el-sykkel som passer til lange turer i bratt terreng, bygger svaret på tekster som forklarer motor, batteri og rekkevidde. Butikken som har skrevet den forklaringen best, har størst sjanse for å bli brukt.

Slik skriver du for språkmodeller

• Skriv tydelig og konkret. En modell kan bare gjengi det som faktisk står.
• Svar først og forklar etterpå. Det gjør det lettere å hente ut riktig avsnitt.
• Bruk samme navn på bedriften, produktene og tjenestene overalt.
• Del kunnskap som bare dere har. Egne tall, erfaringer og eksempler gir modellen en grunn til å bruke akkurat deres side.

Språkmodeller og agenter

En språkmodell svarer på tekst. En AI-agent bruker en språkmodell til å planlegge og utføre oppgaver i flere steg, for eksempel å hente data, skrive et utkast og legge det frem for godkjenning. Det er dette Heyroes bygger på. Herman, AI-agenten for SEO og AEO, finner søkene kundene bruker, skriver utkast til nye og bedre sider og måler effekten etterpå. Et team hos Heyroes har ansvaret for det heltene gjør, og ingenting går live uten kundens ja.