AI & automation

Hur jag avgör vad modellen ska läsa varje gång och vad som bara ska hämtas vid behov

Ett av de enklaste sätten att göra en AI-agent dyr, långsam och förvirrad är att stoppa in all kunskap i kontexten varje gång. Det känns säkert: "modellen har i alla fall fått allt".

Shadip Rahman 26 oktober 2026 5 min läsning
Dela
Flöde i artikelns ordning: Tre frågor avgör om något ska vara always-on, Metadata ska hjälpa agenten hitta rätt kunskap, Jag delar information i fyra lager, Retrieval ska ha en anledning.

Ett av de enklaste sätten att göra en AI-agent dyr, långsam och förvirrad är att stoppa in all kunskap i kontexten varje gång. Det känns säkert: "modellen har i alla fall fått allt". I praktiken blandar man ofta regler, bakgrund, gamla exempel och specialfall tills det blir svårt att se vad som faktiskt styr uppgiften.

Jag försöker därför designa kontext som ett lagersystem.

Tre frågor avgör om något ska vara always-on

Jag lägger information i kärnkontexten när den är:

  1. relevant för nästan varje körning,
  2. normativ – alltså styr vad agenten får göra,
  3. liten nog att inte konkurrera med uppgiftens faktiska material.

Det kan vara säkerhetsregler, state machine, outputkontrakt eller en kort stilstandard.

En fyrtio sidor lång API-referens uppfyller däremot sällan de kriterierna.

Metadata ska hjälpa agenten hitta rätt kunskap

Jag gillar progressive disclosure-modellen för Skills eftersom den gör skillnaden explicit.

Anthropic beskriver tre nivåer: som alltid finns för discovery, själva SKILL.md när Skillen aktiveras och ytterligare resources som bara läses vid behov. De rekommenderar också att hålla SKILL.md relativt kompakt och flytta detaljer till separata filer.

Det är samma princip jag använder även utanför Skills.

Jag delar information i fyra lager

1. Control plane. Regler som styr processen: states, permissions, stop rules, output contract.

2. Task context. Brief, användarinput, aktuell fil, aktuellt problem.

3. Domain reference. Scheman, policys, produktdokumentation, språkregler, metodik.

4. Historical evidence. Tidigare cases, loggar, evals och exempel som bara behövs i vissa situationer.

De två första läses oftast. De två sista hämtas selektivt.

Retrieval ska ha en anledning

Jag vill inte heller byta "läs allt" mot "sök slumpmässigt".

När agenten hämtar en referens bör det finnas en trigger. Exempel:

text
if task involves tracked changes:    read references/redlining.md
if claim is about current API behavior:    retrieve official API documentation
if language == Arabic:    load Arabic-specific translation rules

Det gör retrieval granskningsbar. Jag kan se varför en fil kom in i kontexten.

Jag separerar normativ kunskap från evidens

Det här är en viktig skillnad.

En instruktion kan säga "använd primärkällor för tidskänsliga produktpåståenden". Det är en regel och bör ligga nära control plane.

Själva primärkällan – dagens dokumentation – ska däremot hämtas när påståendet ska verifieras.

Om jag bakar in den aktuella produktinformationen i Skillen får jag en snabbt åldrande instruktion.

Determinism hör hemma i kod, inte i prompten

Om en instruktion behöver flera stycken för att beskriva hur ett datum ska formateras eller hur en state transition ska valideras är det oftast ett tecken på att regeln borde ligga i ett schema eller ett skript i stället för i prompttexten. Jag komprimerar heller inte kontext för tokenbesparingens skull. Jag kör regressioner mot samma beteendekrav och behåller den kortare versionen bara när den klarar dem — målet är rätt kontext, inte kortare kontext.

Context budget är också en kvalitetsbudget

Mindre kontext är inte alltid bättre, men irrelevant kontext har en kostnad även när tokenpriset är lågt.

Den kan:

  • dra uppmärksamhet från uppgiften,
  • skapa konflikter mellan gamla och nya regler,
  • öka latency,
  • göra debugging svårare,
  • öka risken att en gammal exempeltext behandlas som aktuell fakta.

Jag försöker därför fråga: "Vad behöver modellen veta för att ta nästa beslut?" snarare än "Vad kan vara bra att skicka med?".

Jag använder exempel selektivt

Few-shot-exempel är effektiva men kan också överstyra variation.

Om alla artiklar får samma tre exempel riskerar corpus att konvergera mot samma struktur. Om alltid ser samma före/efter kan den börja härma exakt den editorn.

Jag laddar därför exempel när de representerar ett relevant edge case eller outputkontrakt, inte som permanent inspirationsmaterial.

För en coding-agent är lokal sanning viktigare än hela repot

I ett kodflöde är det sällan värt att dumpa hela repot i kontexten. Relevant kod, gränssnitt, tester, scheman och projektets egna konventioner väger tyngre än volym, så jag börjar i filerna närmast uppgiften och breddar bara vid behov. Ett par relevanta testfall och en tydlig definition av vad som räknas som klart gör ofta mer nytta än ytterligare tusen rader kod, eftersom agenten då vet hur korrekthet faktiskt bedöms. Ser agenten i stället flera gamla implementationsvarianter av samma sak riskerar den att kombinera mönster som aldrig var tänkta att användas tillsammans.

När jag laddar mer upfront

Det finns situationer där bred kontext är rätt.

Vid arkitekturreview kan det vara värdefullt att läsa flera specs och hela relevant repo-yta för att upptäcka korsberoenden. Vid en juridisk eller teknisk analys kan en komplett policy vara säkrare än fragmenterad retrieval om undantag ligger långt från huvudregeln.

Progressive disclosure är alltså inte en religion. Det är en default som ska brytas när sammanhanget kräver helhetsläsning.

En praktisk checklista

Jag använder ungefär dessa frågor för varje resurs:

  • Är den normativ eller informativ?
  • Gäller den nästan alla tasks?
  • Hur snabbt blir den stale?
  • Finns en tydlig retrieval-trigger?
  • Behöver modellen hela filen eller bara en del?
  • Kan en gammal version orsaka ett materiellt fel?
  • Kan informationen valideras deterministiskt i stället?

Om en resurs är stor, sällan relevant och snabbt föränderlig bör den nästan aldrig ligga i always-on-kontext.

Det här är i grunden informationsarkitektur för modeller. Jag försöker göra samma sak som i ett bra system för människor: visa de viktigaste reglerna först, ha en tydlig karta till detaljerna och hämta specialkunskap när jobbet faktiskt kräver den.

Relaterade artiklar

Claude CodeClaudeAgent SkillsAI Skills och Claude Code
Dela