En embedding er en lang række tal, der repræsenterer betydningen af en tekst. Tekster med beslægtet betydning får talrækker, der ligger tæt på hinanden. En vektordatabase gemmer talrækkerne, så man hurtigt kan søge i dem.
Embeddings gør det muligt at søge på betydning frem for præcise ord. En søgning på 'opsigelse af medarbejdere' kan finde et dokument om 'afskedigelser', selvom ordene er forskellige.
Embeddings er motoren i RAG. Organisationens dokumenter deles op i afsnit, hvert afsnit får en embedding, og når en medarbejder stiller et spørgsmål, finder systemet de afsnit, der ligger tættest på spørgsmålet. Dem får sprogmodellen med, når den svarer.
I praksis
Når en leverandør tilbyder en AI-assistent, der svarer ud fra jeres egne dokumenter, er det typisk embeddings og en vektordatabase, der arbejder bagved. Kvaliteten afhænger af dokumenterne. Forældede, dobbelte eller modstridende dokumenter giver forældede, dobbelte og modstridende svar.
Begreberne i ordlisten går igen i mine AI-kurser og workshops, hvor vi arbejder med dem i jeres egne opgaver.