Embeddings utan matematiken: Så fungerar det
Förstå hur AI förstår språk. Vi förklarar embeddings utan matte - hur ord blir till platser på en karta och varför det är avgörande för modern sökning.
Har du någonsin funderat på hur ChatGPT faktiskt förstår vad du menar, även när du stavar fel eller använder lite annorlunda ord? Svaret stavas embeddings. Det låter ju som något från en avancerad kurs i linjär algebra, men konceptet är faktiskt ganska intuitivt när man väl skalar bort matematiken.
Vi kan väl börja med att titta på hur datorer traditionellt har hanterat text, för att förstå varför den här nya tekniken gjorde så stor skillnad.
Det gamla sättet: ord som isolerade öar
Tidigare fungerade sökfunktioner och datorprogram ungefär som väldigt bokstavstrogna bibliotekarier. Om du sökte efter ordet hund letade datorn exakt efter bokstäverna h-u-n-d. Den förstod förstås inte alls att valp eller jycke var relaterade begrepp.
För datorn var hund och katt precis lika olika som hund och bil. Varje ord var i princip en isolerad ö helt utan koppling till andra ord. Detta gjorde sökningar ganska stela och krävde ofta att du gissade exakt vilka ord författaren hade valt att använda.
Det nya sättet: ord som platser på en karta
Embeddings löser faktiskt det här problemet genom att istället placera ord på en karta. Du kan föreställa dig en enorm och osynlig karta över alla ord som finns i språket.
På den här kartan placeras ord som betyder ungefär samma sak nära varandra. Hund och valp bor alltså i samma kvarter, medan katt bor på gatan bredvid. Bil och cykel bor i en helt annan stadsdel, men de ligger ändå nära varandra.
När du nu söker efter hund tittar datorn inte bara på den exakta platsen för det specifika ordet. Den kastar istället ett nät över hela kvarteret och fångar upp valp och jycke på samma gång. Systemet förstår ju med andra ord betydelsen snarare än att bara stirra sig blind på bokstäverna.
Hur skapas kartan?
Du kanske undrar vem som egentligen har suttit och ritat den här gigantiska kartan. Svaret är helt enkelt att ingen människa har gjort det.
AI-modeller bygger nämligen kartan helt själva genom att läsa enorma mängder text från böcker och artiklar. De använder en ganska enkel princip som går ut på att ord som ofta dyker upp i samma sammanhang förmodligen har en liknande betydelse.
Om modellen läser tusentals meningar i stil med att någon rastade sin hund i parken och att någon annan rastade sin valp i parken, drar den slutsatsen att hund och valp spelar liknande roller. Därefter placerar den dem förstås nära varandra på kartan.
Varför detta är viktigt för RAG och sök
Den här förmågan att förstå betydelse är väl egentligen grunden i modern AI. Det är just därför du kan ställa en ganska luddig fråga till en chattbot och ändå få ett relevant svar tillbaka.
För företag är detta särskilt användbart när man bygger system som ska svara på frågor baserat på intern dokumentation. Den tekniken kallas RAG (Retrieval-Augmented Generation). Om en anställd frågar hur mycket semester de har, måste systemet ju kunna hitta dokument som pratar om ledighet eller frånvaro, även om ordet semester inte nämns i texten.
För att hantera de här enorma kartorna effektivt använder vi förstås speciella databaser. Du kan läsa mer om hur de fungerar i vår artikel om varför vektordatabaser behövs. Om du vill förstå hur hela processen med att hämta rätt information fungerar i praktiken kan du också kolla in vår guide till RAG ur ett företagsperspektiv.
Embeddings fungerar alltså som en bro mellan mänskligt språk och datorns värld. De förvandlar abstrakta tankar och betydelser till något som en maskin faktiskt kan mäta och jämföra.
Vår filosofi är ganska enkel: börja smått och tänk stort. De bästa AI-projekten vi har sett startade med en enda process eller ett specifikt problem, snarare än en stor transformation. Om du har något i verksamheten som tar för mycket tid eller kostar för mycket energi, kan det faktiskt vara precis rätt startpunkt. Berätta vad ni funderar på så hjälper vi er gärna att hitta det första steget.