Ollama för nybörjare: kör en lokal AI-modell och granska resultatet

Det första svaret såg prydligt ut. Det var också fel på tre sätt: modellen gjorde deltagartaket till ett fast deltagarantal, hoppade över en rubrik och lade till två uppgifter som ingen hade beslutat om. Allt hade körts lokalt på datorn.

Det är poängen med den här guiden. Ollama är ett verktyg för att hämta och köra AI-modeller på din egen dator. Lokal körning säger var beräkningen sker. Den säger inget om huruvida svaret stämmer.

På 15–20 minuter installerar du Ollama, kör gemma3:4b, gör en överlämning från sex källanteckningar och granskar resultatet innan du sparar det.

Vem guiden passar

Guiden passar dig som vill prova en lokal AI-modell utan att börja med API:er eller en avancerad servermiljö. Arbetsflödet är användbart för exempelvis mötesanteckningar, projektunderlag och interna utkast där du vill kontrollera både var modellen körs och vad den faktiskt skriver.

Har du inte bestämt vilka arbetsuppgifter som bör vara lokala? Börja gärna med guiden om när AI ska jobba lokalt och när den kan använda molnet. Den här guiden tar nästa steg och visar själva körningen.

Det här gör du

Du kommer att:

1. Installera Ollama och kontrollera att det fungerar
2. Hämta den exakta modellen gemma3:4b
3. Kör ett fiktivt arbetsunderlag med sex fakta
4. Underkänn ett svar som ändrar eller hittar på uppgifter
5. Skärp prompten och spara en granskad överlämning med ett källkvitto

Vi använder inga kunduppgifter eller riktiga åtaganden i övningen.

Innan du börjar

Ollama finns för macOS, Windows och Linux. Gå till Ollamas nedladdningssida, välj ditt operativsystem och följ installationen. Öppna sedan Terminal i macOS/Linux eller PowerShell/Terminal i Windows.

Kontrollera installationen:

ollama --version

Hämta modellen:

ollama pull gemma3:4b

Kontrollera att rätt tagg finns lokalt:

ollama ls

Ollamas modellsida anger att gemma3:4b är cirka 3,3 GB. Nedladdningstid och hur snabbt modellen svarar beror på datorn. Använd samma tagg som i guiden om du vill kunna jämföra ditt resultat med arbetsflödet här.

Källa: Ollama CLI Reference.

Källa: gemma3:4b i Ollamas modellbibliotek.

Steg 1: skriv sex källanteckningar

Skapa filen work-notes.md med det här fiktiva underlaget:

# Källanteckningar: AI-frukost

1. Datum och tid: 3 september 2026, 08.30–09.15.
2. Plats: Biblioteket, rum Eken.
3. Deltagartak: högst 18 personer.
4. Deltagarna ska ta med egen bärbar dator.
5. Lina ansvarar för att skicka inbjudan senast 28 augusti.
6. Öppen fråga: Behövs en HDMI-adapter till projektorn?

Källfilen gör granskningen enkel. Du kan jämföra varje rad i AI-svaret mot ett bestämt underlag i stället för att bedöma om texten bara låter rimlig.

Steg 2: kör modellen lokalt

Starta modellen:

ollama run gemma3:4b

Klistra in följande prompt och källanteckningarna:

Gör om källanteckningarna till ett kort Markdown-kort på svenska.

Använd exakt dessa rubriker:
# Överlämning
## Bekräftat
## Nästa steg
## Öppen fråga
## Källkvitto

Regler:
- Behåll alla sex fakta.
- Lägg inte till åtaganden, personer, tider, platser eller beslut.
- Lägg bara Linas verkliga uppgift under Nästa steg.
- Behåll HDMI-frågan som en öppen fråga.
- Skriv i Källkvitto att underlaget är work-notes.md, att 6 av 6 fakta har kontrollerats och att inga nya åtaganden har lagts till.
- Svara bara med det färdiga Markdown-kortet.

Ollamas dokumentation visar ollama run som standardkommandot för att köra en modell. Den skiljer också lokala modeller från molntaggar som slutar på :cloud. I den här övningen använder du den lokala taggen gemma3:4b.

Källa: Ollama Quickstart.

Steg 3: granska svaret rad för rad

Läs inte svaret som en färdig text. Läs det som ett förslag som ska godkännas.

Kontrollera sex saker:

• Står datum, tid och plats kvar?
• Är "högst 18 personer" fortfarande ett tak, inte ett bekräftat antal?
• Finns instruktionen om egen bärbar dator?
• Har Lina rätt uppgift och deadline?
• Ligger HDMI-adaptern kvar som en fråga?
• Har modellen hittat på någon ny uppgift, person eller något nytt beslut?

I vårt första test ändrade gemma3:4b deltagartaket till ett fast antal, missade rubriken Bekräftat och lade till uppgifter om deltagarbekräftelse och förberedelse av lokalen/projektorn. De uppgifterna lät vettiga, men de fanns inte i källan. Svaret underkändes.

Google skriver i modellkortet för Gemma 3 att modellen kan ge felaktiga eller inaktuella fakta och att öppna eller komplexa uppgifter kan vara svåra. Det märks även i ett vardagligt arbetskort: välformulerad text är inte samma sak som en korrekt överlämning.

Källa: Gemma 3 model card från Google DeepMind.

Steg 4: lås formatet och kör igen

Om svaret brister, ändra inte källan för att passa modellen. Gör i stället kontrollen mer mekanisk. Lägg till dessa regler i prompten:

Mappning:
- Bekräftat: exakt fyra punkter om datum/tid, plats, deltagartak och bärbar dator.
- Nästa steg: exakt en punkt om Lina och deadline.
- Öppen fråga: exakt en punkt om HDMI-adaptern.

Förbjudet:
- nya uppgifter
- nya personer
- nya datum
- nya beslut
- omformuleringar som gör ett tak eller en fråga till ett faktum

Kör samma modell igen. I vår färska publiceringskontroll behöll det nya svaret alla sex fakta, använde rätt rubriker och lade inte till några åtaganden. Vi sparade först då resultatet som handoff.md.

Acceptanskriterierna gör beslutet mindre godtyckligt. Du vet i förväg vad som måste vara sant innan resultatet får sparas.

Steg 5: spara ett kort körkvitto

Spara ett kvitto bredvid överlämningen:

Verktyg: Ollama
Modell: gemma3:4b
Källa: work-notes.md
Kontroll: 6 av 6 fakta
Nya åtaganden: 0
Status: godkänd

Kvittot behöver inte vara avancerat. Det ska hjälpa nästa person att se vilken modell och källa som användes, vad som kontrollerades och vem som fortfarande ansvarar för godkännandet.

Ollamas FAQ säger att Ollama inte ser promptar eller data när en modell körs lokalt. Det är bra för åtkomstgränsen, men granska ändå lokala resultat och hantera källfiler enligt organisationens regler. Om du senare kopplar arbetsflödet till andra system bör du använda avgränsade behörigheter, hemligheter i en hemlighetshanterare eller miljövariabler, tydliga godkännandesteg och loggar som går att följa.

Källa: Ollama FAQ om lokal körning och data.

Vanliga misstag

• Fel modelltagg: gemma3:4b och en molntagg är inte samma körning. Kontrollera med ollama ls.
• Ingen källa att jämföra med: spara underlaget innan du kör modellen.
• Granskning av språk i stället för fakta: ett snyggt svar kan fortfarande ändra ett tak eller hitta på en uppgift.
• För många ändringar på en gång: börja med ett arbetskort där du kan räkna kända fakta och tillåtna åtgärder.
• Otydligt godkännande: spara inte slutversionen förrän någon har gått igenom kontrollistan.

Nästa steg: från test till arbetsflöde

Prova samma metod på ett verkligt men avgränsat internt underlag: en projektöverlämning, ett beslutsutkast eller en statusnotering. Bestäm källfil, modelltagg, acceptanskriterier och godkännare innan du automatiserar mer.

Om du vill göra lokal AI till en användbar del av teamets vardag kan Hammer Automations Verktygssmide hjälpa till att forma ett sådant flöde med rätt åtkomst, granskningspunkt och körkvitto. Börja med en arbetsuppgift där både nytta och fel går att se.