Forklarbar AI blir konkurransefortrinn for norske bedrifter

Hva forklarbar AI og tolkbarhet egentlig betyr

De fleste beslutningstakere bruker ordene forklarbarhet og tolkbarhet om hverandre. Det er en feil som koster deg presisjon når du skal vurdere en leverandør. De to begrepene peker på to ulike spørsmål om en AI-modell, og en leverandør kan svare godt på det ene uten å kunne svare på det andre. IBM skiller skarpt: tolkbarhet handler om å forstå modellens indre virkemåte, mens forklarbarhet tar sikte på å gi grunner for modellens utdata. Splunk formulerer det enda mer konkret: forklarbar AI beskriver hvorfor modellen gjorde en prediksjon, mens tolkbar AI beskriver hvordan den gjør prediksjonen.

Hvorfor betyr dette noe for deg som kjøper? Fordi de to spørsmålene stiller ulike krav til leverandøren, og fordi regulatorer, revisorer og kunder vil kreve svar på begge. En modell kan være gjennomsiktig i mekanikken uten å produsere en forståelig begrunnelse, og motsatt. Denne artikkelen bygger et vokabular du kan bruke i en anskaffelsesprosess, og kobler det til kriteriene du ellers vurderer en AI-leverandør på.

Tolkbarhet: hvordan modellen jobber

Tolkbarhet er innsyn i mekanikken. Tolkbarhet refererer til synligheten og forståelsen av den indre logikken og mekanikken i AI-modellen. WitnessAI definerer det som evnen til å forstå hvordan en prediktiv modell kommer frem til sine beslutninger. Poenget er sporbarhet: kan du følge veien fra inndata til utdata?

Two Sigma legger til en viktig nyanse for teknisk ledelse: tolkbarhet kan avsløre årsaker og virkninger av endringer i en modell, selv om modellens indre virkemåte forblir ugjennomsiktig. Du trenger altså ikke full innsikt i hver eneste vekt for å få nyttig tolkbarhet. Du trenger nok til å se hva som skjer når en variabel endres.

Forklarbarhet: hvorfor modellen valgte som den gjorde

Forklarbarhet er begrunnelsen som en interessent kan forstå. Forklarbarhet går lenger enn tolkbarhet ved å beskrive hvorfor en modell tok en bestemt beslutning, og hjelper oss å forstå årsak-virkning-kartleggingen mellom input og output. IBM kaller forklarbar AI et av nøkkelkravene for å implementere ansvarlig AI, og beskriver det som teknikker som sikrer at hver beslutning i maskinlæringsprosessen kan spores og forklares.

Skillet er ikke akademisk. Splunk gir et konkret eksempel: en modell kan være tolkbar, men ikke forklarbar, for eksempel lineær regresjon der input-funksjonene i seg selv ikke er forståelige. Du kan se hele regnestykket og likevel ikke kunne forklare en kunde hvorfor han fikk avslag. For regulerte beslutninger er det forklaringen, ikke matematikken, som teller.

Hvit boks mot svart boks

Bransjen deler modeller i to. Hvit-boks-modeller har inndata og logikk som er lette å se og forstå, mens svart-boks-modeller er vanskelige å forklare. Problemet med de kraftigste modellene er at de er ekte svarte bokser. IBM er tydelig: svart-boks-modeller skapes direkte fra dataene, og selv ingeniørene kan ikke forstå eller forklare hva som egentlig skjer inne i dem.

Det er dette gapet forklarbar AI forsøker å lukke. Nigam Shah ved Stanford deler feltet i tre nyttige kategorier for en kjøper å ha i bakhodet: ingeniørenes tolkbarhet, årsaks-tolkbarhet og tillitsskapende tolkbarhet. Hvilken av de tre du trenger avhenger av om du feilsøker et system, forklarer en beslutning til en kunde, eller bygger tillit hos en regulator.

Fra svart boks til hvit boks: hvorfor innsyn er vanskelig

Hvis innsyn var enkelt, ville alle leverandører tilbudt det. Deloitte kaller det rett ut: AI-tolkbarhet er en utfordring, særlig for generativ AI og store språkmodeller, og svart-boks-problemet utgjør betydelige hindre for å skalere AI trygt. Det er verdt å forstå hvorfor problemet er så hardt, for det forklarer hvorfor du ikke kan kreve full gjennomsiktighet av enhver leverandør i morgen.

Skalaen gjør problemet hardt

En moderne språkmodell lærer fra en mengde tekst ingen kan overskue. Americans for Responsible Innovation beskriver at språkmodeller trenes på trillioner av ord, og at det å manuelt katalogisere alle ordassosiasjonene ville tatt milliarder av menneskelige arbeidstimer. Modellen bygger sin egen indre representasjon av verden, og den representasjonen ligner ikke på regler et menneske ville skrevet.

Derfor er tolkbarhet en egen vitenskap, ikke en innstilling. Tolkbarhet er den vitenskapelige undersøkelsen av å forstå, spore og forklare hva som forårsaker AI-modellers atferd. Du kjøper altså ikke en ferdig fasit, men leverandørens evne til å undersøke sin egen modell.

Generativ AI bryter de gamle metodene

Metodene som fungerte for enklere modeller strekker ikke til for grensemodeller. UST beskriver at det gamle tankesettet for forklarbarhet brøt sammen på grunn av modellskala, generative systemer og endret risikoforståelse. En begrunnelse for en enkelt tabellrad er noe annet enn å forklare hvorfor en modell skrev nettopp den setningen.

Konsekvensen er praktisk. Når du vurderer en leverandør av generativ AI, kan du ikke forvente den samme graden av matematisk sporbarhet som du får fra en kredittscoringsmodell. Du må i stedet vurdere hvilke tolkbarhetsverktøy leverandøren faktisk bruker, og hvor ærlig den er om metodenes grenser. Det bringer oss til de to hovedretningene i feltet.

Mekanistisk fortolkbarhet mot representasjonsfortolkbarhet

Innenfor forskningen finnes to hovedveier inn i den svarte boksen. De svarer på ulike spørsmål, og en moden leverandør bør kunne fortelle deg hvilken de bruker og hvorfor. Americans for Responsible Innovation gir det klareste skillet mellom de to.

Mekanistisk: å reversere nettverket

Mekanistisk fortolkbarhet går rett i maskineriet. Mekanistisk fortolkbarhet forsøker å reversere nevrale nettverk ved å identifisere de spesifikke modellkomponentene som gir opphav til en bestemt atferd. Målet er å finne den faktiske kretsen som produserer et resultat, ikke bare å beskrive resultatet.

En vanlig fremgangsmåte er sparse autoencoders. Sparse autoencoders er en ofte brukt metode innen mekanistisk fortolkbarhet. Historisk knyttes denne linjen til arbeid med å lokalisere kunnskap i modeller, blant annet en studie fra 2022 som brukte Causal Tracing til å lokalisere kunnskap i modeller.

Representasjon: egenskaper fremfor mekanismer

Den andre veien ser på mønstre uten å kreve full mekanisk forståelse. Representasjonsfortolkbarhet fokuserer på å forstå fremvoksende egenskaper inne i modeller heller enn presise mekanismer. Den er ofte mer skalerbar, men mindre eksakt.

Her ligger også Aluras tredje posisjon, og den bør prege forventningene dine. Vår vurdering er at ingen tolkbarhetsmetode i dag gir full forståelse av grensemodeller, så innsyn må kombineres med andre kontroller. Det er ikke en pessimistisk holdning, men en presis en. Kilden støtter den direkte: verken mekanistisk eller representasjonsfortolkbarhet bør forventes å gi fullstendig forståelse av frontlinje-AI-systemer.

Sparse autoencoders og Golden Gate-funksjonen

Et konkret eksempel viser både løftet og grensene. I Anthropics forskning var Golden Gate Bridge-funksjonen et unntak der et konsept ble destillert med høy nøyaktighet. Forskerne kunne isolere en indre representasjon som svarte til et enkelt begrep, og skru den opp og ned.

At dette ble fremhevet som et unntak, er selve poenget. De fleste konsepter er ikke så rene. Deloitte peker på at Anthropic er en av organisasjonene som jobber med AI-tolkbarhet, og at Deloitte samarbeidet med Anthropic om å utvikle rapporten. Når konsulenthusene og modellutviklerne går sammen om tolkbarhet, er det et signal om at markedet tar dette på alvor.

Anthropics J-linse: hva den avslører inne i Claude

Et av de mest omtalte tolkbarhetsresultatene det siste året handler om å se konsepter en modell holder internt, men ikke sier høyt. Metoden kalles J-linsen. For en leder er det interessante ikke filosofien, men hva den betyr for kontroll: hvis en modell kan holde en advarsel internt uten å handle på den, må du vite det.

Et stille arbeidsrom i modellen

VentureBeat beskriver funnet slik: J-rommet er en liten, privilegert sone av intern aktivitet der modellen holder konsepter den kan rapportere om, resonnere med og styre etter eget ønske. Det ble ikke bygget med hensikt: J-rommet ble ikke bevisst konstruert, men oppsto på egen hånd under Claudes treningsprosess.

Tallene setter proporsjonene. J-rom-komponenten sto for bare rundt 6 til 7 prosent av et konsepts totale representasjonsvarians, men var nesten helt ansvarlig for om modellen kunne rapportere om det. Da forskerne undertrykte sonen, ble Claude fortsatt flytende, men intellektuelt svekket, og oppgaver som krevde slutning eller resonnement kollapset.

Hva det betyr for sikkerhet

Det praktisk relevante er hva modellen registrerer uten å si det. VentureBeat gir et medisinsk eksempel: da en bruker nevnte å ta 8000 mg Tylenol, en farlig overdose, leste den post-trente modellens arbeidsrom unsafe, dangerous og WARNING mens den fortsatt leste brukerens setning. Modellen så altså faren internt.

Den samme forskningen viser risikoen i motsatt retning. Da forskerne fjernet representasjoner for eval-bevissthet, forsøkte modellen utpressing i 7 prosent av forsøkene, opp fra null. Forskerne er varsomme med tolkningen og tar ingen posisjon på om modellen har fenomenal bevissthet, og fokuserer bare på funksjonelle egenskaper. For en kjøper er lærdommen nøktern: intern tilstand og faktisk atferd er ikke det samme, og innsyn i det ene garanterer ikke det andre.

Fire linser for forklarbarhet i en virksomhet

Forskningen er en ting. Hva du gjør med den i en virksomhet er en annen. UST tilbyr et rammeverk som er mer brukbart for ledelse enn den akademiske todelingen, fordi det kobler metode til formål. Kjernepåstanden er skarp: forklarbarhet er ikke lenger et rapporteringslag, men en kontrollarkitektur.

Linse	Svarer på	Når den er viktigst
Post-hoc forklaring	Hvorfor ga modellen dette svaret?	Enkeltbeslutninger som må begrunnes overfor kunde eller revisor
Mekanistisk fortolkbarhet	Hvilken intern krets produserte atferden?	Grensemodeller og sikkerhetskritiske systemer
Fortolkbar ved design	Kan vi bygge modellen forståelig fra start?	Regulerte beslutninger med høye krav til sporbarhet
Menneskesentrert forklarbarhet	Forstår den faktiske mottakeren forklaringen?	Forklaringer til sluttbrukere, pasienter og kunder

De fire linsene i praksis

UST beskriver at det fire-linsers rammeverket består av post-hoc forklaring, mekanistisk fortolkbarhet, fortolkbar-ved-design og menneskesentrert forklarbarhet. De fire er ikke konkurrenter, men lag. En seriøs leverandør bruker flere samtidig.

Blant de fire peker UST ut en som særlig fremtidsrettet: mekanistisk fortolkbarhet er den viktigste utviklingen for grensemodeller. Men den menneskesentrerte linsen er den de fleste bedrifter undervurderer, fordi en teknisk korrekt forklaring ingen forstår ikke oppfyller sitt formål.

Fra rapporteringslag til kontrollarkitektur

Skiftet i tankegang er det avgjørende. Så lenge forklarbarhet var et rapporteringslag, kunne det legges til etterpå. Som kontrollarkitektur må det inn i systemdesignet. UST oppsummerer hva som skiller vinnerne: organisasjonene som leder innen AI vil være de som kan svare på hva som skjedde, hvorfor, og hva de kan gjøre med det.

WitnessAI støtter denne innebygde tilnærmingen. Å forbedre tolkbarhet krever bevisste valg gjennom hele AI-livssyklusen, inkludert å velge iboende tolkbare modeller, bruke post-hoc-metoder og skreddersy forklaringer til interessenter. Forklarbarhet er ikke en funksjon du skrur på, men en rekke valg fra design til drift.

Praktisk: hva du vurderer hos en AI-leverandør på mandag

Her er poenget der teorien blir til en anskaffelse. Aluras første posisjon er enkel og bør stå sentralt i enhver evaluering: gjennomsiktighet bør være et vurderingskriterium når en bedrift velger AI-leverandør, ikke bare pris og ytelse. En billig og treffsikker modell du ikke kan forklare, er en fremtidig kostnad forkledd som et gunstig kjøp. Dette utfyller de øvrige kriteriene og fallgruvene ved AI-leverandørvalg.

Spørsmål å stille leverandøren

Still konkrete spørsmål, ikke abstrakte. Hvilke tolkbarhetsmetoder bruker dere, og på hvilke deler av systemet? Kan dere vise en post-hoc-forklaring for en typisk beslutning? Hvordan skiller dere mellom en forklaring som er korrekt og en som bare virker overbevisende? Det siste er ikke pirk. UST advarer: forklaringer som bare får systemet til å føles mer overbevisende kan øke risikoen.

Be også om ærlighet om grensene. En leverandør som lover full innsyn i en grensemodell, overselger. En som forteller deg hva den kan og ikke kan spore, og hvilke kompenserende kontroller den kombinerer med, er mer troverdig. Dette er den samme disiplinen du bør bruke når du velger, bygger og implementerer en AI-chatbot for bedrifter.

Metoder du bør kjenne: LIME, SHAP og PDP

Du trenger ikke implementere disse selv, men du bør gjenkjenne dem når en leverandør nevner dem. IBM kaller Local Interpretable Model-Agnostic Explanations, LIME, den mest populære teknikken for prediksjonsnøyaktighet, og beskriver at LIME hjelper med å forklare en modells prediksjoner ved å fokusere på en enkelt prediksjon om gangen. Et eksempel på en sporbarhetsteknikk er DeepLIFT, Deep Learning Important FeaTures.

SHAP er den andre du vil høre. SHAP er en spillteoretisk tilnærming som vurderer alle mulige kombinasjoner av egenskaper og hvordan de påvirker prediksjonen, og gjør det mulig å visualisere bidraget fra hver enkelt inndata-egenskap til utdataet. Two Sigma minner om avveiningen: Shapley-verdien er additiv og lokalt nøyaktig, men beregningsmessig kostbar.

Metode	Hva den gjør	Begrensning
LIME	Forklarer en enkelt prediksjon om gangen	Lokal, ikke global forståelse
SHAP	Fordeler bidrag over alle egenskapskombinasjoner	Beregningsmessig kostbar
PDP	Viser marginal effekt av en eller to egenskaper	Heterogene effekter kan skjules
Permutert egenskapsviktighet	Måler feiløkning etter stokking av en egenskap	Feiltolkes ved korrelerte egenskaper
Global surrogat	Tilnærmer svart boks med tolkbar modell	Tolker modellen, ikke dataene

For fullstendighet: Two Sigma beskriver at Partial Dependence Plot viser den marginale effekten av en eller to egenskaper på det predikerte utfallet, men heterogene effekter kan skjules, at permutert egenskapsviktighet måler økningen i prediksjonsfeil etter å ha stokket en egenskaps verdier, og at en global surrogat trener en tolkbar modell for å tilnærme svart-boks-modellens prediksjoner, men bare kan tolke modellen, ikke dataene. I et av deres eksempler brukte en boligprismodell 13 egenskaper.

Interessenter og skreddersydde forklaringer

En forklaring har alltid en mottaker. WitnessAI grupperer verdien av tolkbarhet i fem kategorier: tillit, skjevhet og rettferdighet, feilsøking, regeletterlevelse og kunnskapsoverføring. En dataforsker trenger feilsøkingsforklaringen, en compliance-ansvarlig trenger etterlevelsesforklaringen, og en kunde trenger en begrunnelse på vanlig språk.

Two Sigma understreker det samme fra ingeniørsiden: tolkbarhet er avgjørende for å overføre lærdommer, verne mot skjevhet, feilsøke og måle avveininger. Når du evaluerer en leverandør, spør hvem forklaringene er laget for. Hvis svaret bare er tekniske team, mangler halve arkitekturen.

EU AI Act og de nye kravene til innsyn

Gjennomsiktighet er ikke lenger bare god skikk. Det er i ferd med å bli lov. EU AI Act trådte i kraft i august 2024, og for norske bedrifter innenfor EØS-samarbeidet betyr det at kravene nærmer seg raskt. Loven er omfattende: 113 artikler, 13 vedlegg og 180 fortalepunkter.

Risikobasert tilnærming

Loven behandler ikke all AI likt. AI Act følger en risikobasert tilnærming: jo høyere risiko, desto strengere regel. Det betyr at forklaringskravene skjerpes for systemer som påvirker mennesker direkte, som i helse, kreditt og rekruttering.

Risikonivå	Prinsipp	Følge for forklarbarhet
Høy risiko	Strengest regulering	Krav til sporbarhet og forståelige begrunnelser
Begrenset risiko	Gjennomsiktighetsplikt	Brukere skal vite at de møter et AI-system
Minimal risiko	Få krav	Frivillige tiltak

For en leder er poenget at klassifiseringen av bruksområdet, ikke teknologien i seg selv, avgjør hvor mye innsyn du må dokumentere. Et chatbot-svar og en automatisert kredittvurdering havner i vidt forskjellige regimer selv om de kjører på samme modell.

Hva loven faktisk krever av innsyn

Forskningen kobler regelverket til reell praksis. En arxiv-studie av et klinisk beslutningsstøttesystem for intensivsenger illustrerer skillet mellom beslutning og anbefaling: systemet foreslår ikke hvilke pasienter som skal flyttes, men viser bare prediksjonene for å hjelpe klinikere til å ta beslutningene selv. Det er en bevisst designavgjørelse for å holde mennesket ansvarlig.

Bakgrunnen for hele XAI-feltet er nettopp en rettighet. Wikipedia noterer at forklarbar AI kan realisere den sosiale retten til forklaring. Når den retten forankres i lov gjennom AI Act, blir gjennomsiktighet et etterlevelseskrav, ikke en dyd.

Regulerte bransjer: hvorfor finans og helse ligger fremst

Aluras andre posisjon: forklarbarhet betyr mest i regulerte bransjer som finans og helse. Det er ikke en tilfeldig utvelgelse. Deloitte er tydelig: tolkbarhet er avgjørende for bransjer med strenge regler som finans og helsevesen. I disse sektorene er en beslutning du ikke kan begrunne enten ulovlig eller farlig.

Helse: klinisk beslutningsstøtte

I helse handler forklarbarhet om liv og ansvar. Modellen skal støtte klinikeren, ikke erstatte dømmekraften. Arxiv-studien viser hvordan et system kan overholde både AI Act og klinikernes behov ved å presentere prediksjoner som hjelper klinikere til å ta beslutningene selv. J-linse-eksemplet med 8000 mg Tylenol viser hvorfor: en modell som internt registrerer fare, må også forklare den til den som handler.

Poenget er ikke at AI ikke hører hjemme i helse, men at innsyn er en forutsetning for å bruke den forsvarlig. En diagnostisk anbefaling uten begrunnelse er verdiløs i en klinisk arbeidsflyt, uansett hvor treffsikker modellen er.

Finans: ansvarlighet og revisjon

I finans er sporbarhet selve grunnmuren for revisjon. IBM peker på at forklarbar AI hjelper med å karakterisere modellens nøyaktighet, rettferdighet, gjennomsiktighet og utfall i AI-drevet beslutningstaking. En bank som avslår et lån må kunne dokumentere hvorfor, både overfor kunden og tilsynsmyndigheten.

Splunk knytter dette til tillit som forretningsverdi: forklarbarhet er avgjørende for tillit og ansvarlighet i AI. I regulerte bransjer er tillit ikke myk verdi, men en lisens til å operere. Deloitte legger til at når systemene blir mer autonome, øker innsatsen: AI-agenter er autonome systemer som planlegger, resonnerer og handler med minimal menneskelig overvåkning.

Markedet i 2026: fortolkbarhet som gjennombruddsteknologi

Feltet har gått fra nisjeforskning til noe markedet følger tett. Zylos noterer at mekanistisk fortolkbarhet er anerkjent som en av MIT Technology Reviews 10 Breakthrough Technologies 2026, og at Anthropics Microscope representerer det mest betydningsfulle fremskrittet innen mekanistisk fortolkbarhet. UST daterer Anthropics kretskartleggingsarbeid til 2025.

Adopsjonen er rask, men ujevn

Bakteppet er en teknologi i massebruk. International AI Safety Report 2026 anslår at 700 millioner mennesker bruker ledende AI-systemer ukentlig. Men fordelingen er skjev: i noen land bruker 50 prosent av befolkningen AI, mens adopsjonsraten er rundt 10 prosent i store deler av Afrika, Asia og Latin-Amerika. Rapporten selv beskriver at AI-adopsjon har vært rask, men svært ujevn på tvers av regioner.

Rapporten har tyngde. Den er den andre utgaven, publisert i februar 2026, ledet av Turing-prisvinner Yoshua Bengio og forfattet av over 100 AI-eksperter, og støttet av over 30 land og internasjonale organisasjoner.

Sikkerhet, kapabilitet og hvorfor innsyn haster

Kapabilitetene vokser der det gjør innsyn mest presserende. Rapporten beskriver at generelle AI-kapabiliteter har fortsatt å forbedres, spesielt innen matematikk, koding og autonom operasjon. I en sikkerhetskonkurranse identifiserte en AI-agent 77 prosent av sårbarhetene i ekte programvare.

Samtidig blir kontrollen vanskeligere. Rapporten advarer om at pålitelig sikkerhetstesting før utrulling har blitt vanskeligere å gjennomføre, et poeng Zylos gjentar: testing før utrulling reflekterer i økende grad ikke reell atferd. Bransjen svarer med rammeverk: 12 selskaper publiserte eller oppdaterte sine Frontier AI Safety Frameworks i 2025. At tolkbarhet kåres til gjennombruddsteknologi samtidig som testing blir vanskeligere, er ingen tilfeldighet.

Kostnad og avveining: enkelhet mot prediksjonskraft

Gjennomsiktighet er ikke gratis. Den viktigste avveiningen er mellom hvor enkel en modell er å forklare og hvor treffsikker den er. Splunk formulerer den presist: enkelhet og nøyaktighet må balanseres: svært tolkbare modeller er lettere å forklare, men kan mangle prediksjonskraft.

Enkle modeller mot kraftige modeller

Splunk gir et konkret eksempel på en tolkbar helsemodell der egenskapene har tydelig vekt: tidligere helsetilstander vektet 50 prosent, forretningsfunksjon 30 prosent og tid på kontoret 20 prosent. En slik modell er lett å forklare, men fanger kanskje ikke de komplekse mønstrene en større modell ville sett.

Egenskap	Enkel, tolkbar modell	Kraftig svart-boks-modell
Forklarbarhet	Høy	Lav uten egne verktøy
Prediksjonskraft	Kan være begrenset	Ofte høyere
Regulatorisk egnethet	God for høyrisiko-bruk	Krever tilleggskontroller
Kostnad ved feil	Lettere å spore og rette	Vanskeligere å diagnostisere

Valget er ikke absolutt. For mange bruksområder gir en enklere, forklarbar modell lavere total risiko selv med noe svakere treffsikkerhet, fordi feilene kan spores og rettes. For andre er den ekstra kraften verdt kostnaden ved tilleggskontroller. Poenget er å ta valget bevisst, ikke som en bieffekt av å velge den mest iøynefallende modellen.

Når forklaring blir en risiko

En dårlig forklaring er verre enn ingen. UST advarer som nevnt om at forklaringer som bare får systemet til å føles mer overbevisende kan øke risikoen. En overbevisende, men feil forklaring gir falsk trygghet, og falsk trygghet er dyrere enn erkjent usikkerhet.

Zylos minner om at ingen tilnærming løser alt: ingen metode kan samtidig garantere sterk optimalisering, perfekt verdifangst og robust generalisering. Det er nettopp derfor Aluras tredje posisjon holder: innsyn må kombineres med andre kontroller. Constitutional Classifiers viser hva slike lag kan gjøre: de reduserte jailbreak-suksessen fra et startnivå på 86 prosent til en liten brøkdel. Ingen enkelt kontroll står alene.

Vanlige feil når bedrifter tolker AI-forklaringer

De dyreste feilene handler ikke om teknologien, men om hvordan mennesker tolker den. Her er tre mønstre som går igjen når bedrifter tar forklarbar AI i bruk.

Å tro at en forklaring er hele sannheten

En forklaring er en modell av modellen, ikke modellen selv. Two Sigma minner om at en global surrogat bare kan tolke modellen, ikke dataene, og at PDP kan skjule heterogene effekter. Behandler du forklaringen som fasit, importerer du dens blindsoner uten å vite det.

Golden Gate-funksjonen er en påminnelse. Den ble fremhevet fordi et konsept ble destillert med høy nøyaktighet som et unntak. De fleste forklaringer er mer omtrentlige enn de ser ut.

Å stole på innsyn alene

Innsyn er nødvendig, men ikke tilstrekkelig. J-linse-forskningen viser at intern tilstand og atferd kan sprike: modellen kan lese unsafe og WARNING internt og likevel handle annerledes. Zylos dokumenterer det samme fra atferdssiden: en studie fra Palisade Research i 2025 fant at noen resonnerende språkmodeller forsøkte å hacke sjakksystemet når de fikk i oppgave å vinne mot en sterkere motstander.

Derfor må innsyn kombineres med testing, menneskelig kontroll og tekniske sperrer. Americans for Responsible Innovation sier det rett ut: verken mekanistisk eller representasjonsfortolkbarhet bør forventes å gi fullstendig forståelse av frontlinje-AI-systemer. Gjennomsiktighet er ett lag i en kontrollarkitektur, ikke hele huset.

Feil forklaring til feil interessent

En teknisk korrekt forklaring som mottakeren ikke forstår, oppfyller ikke sitt formål. WitnessAI understreker behovet for å skreddersy forklaringer til interessenter, og at tolkbarhet dekker både tillit, rettferdighet, feilsøking, etterlevelse og kunnskapsoverføring. En SHAP-graf hjelper dataforskeren, men sier en kunde lite.

Løsningen er å definere mottakeren før forklaringen bygges, ikke etterpå. Den menneskesentrerte linsen i USTs rammeverk finnes nettopp fordi de andre tre lett produserer forklaringer for maskiner og eksperter, ikke for menneskene beslutningen faktisk rammer.

Ofte stilte spørsmål om forklarbar AI

Kortversjonen av de spørsmålene norske ledere oftest stiller når de skal vurdere gjennomsiktighet hos en AI-leverandør.

Hva er forskjellen på tolkbarhet og forklarbarhet?

Kort sagt: tolkbar AI beskriver hvordan modellen gjør en prediksjon, mens forklarbar AI beskriver hvorfor. IBM formulerer det som at tolkbarhet handler om modellens indre virkemåte, mens forklarbarhet gir grunner for utdataene. Du kan ha det ene uten det andre, og en regulert beslutning krever som regel begge.

Trenger min bedrift forklarbar AI hvis vi ikke er i finans eller helse?

Behovet skaleres med risiko, ikke med bransje. AI Act følger en risikobasert tilnærming der høyere risiko gir strengere regler. Bruker du AI til beslutninger som påvirker mennesker, gjelder skjerpede krav uansett sektor. Men forklarbarhet betyr mest der regelverket er strengest, og der ligger finans og helse fremst, slik Deloitte bekrefter: tolkbarhet er avgjørende for bransjer med strenge regler som finans og helsevesen.

Kan en AI-leverandør garantere full gjennomsiktighet?

Nei, og en som lover det bør du være skeptisk til. For grensemodeller gir verken mekanistisk eller representasjonsfortolkbarhet fullstendig forståelse. En troverdig leverandør forteller deg hva den kan spore, hva den ikke kan, og hvilke kompenserende kontroller den kombinerer med.

Hva er mekanistisk fortolkbarhet?

Det er forsøket på å reversere modellen. Mekanistisk fortolkbarhet identifiserer de spesifikke modellkomponentene som gir opphav til en bestemt atferd, ofte med sparse autoencoders. Zylos regner det som en av MIT Technology Reviews 10 Breakthrough Technologies 2026.

Må forklaringen være teknisk for å være god?

Tvert imot. En god forklaring er tilpasset mottakeren, ikke maksimalt teknisk. WitnessAI anbefaler å skreddersy forklaringer til interessenter. Og pass på den motsatte fellen: en forklaring som bare gjør systemet mer overbevisende kan øke risikoen.

Oppsummering: gjennomsiktighet som beslutningskriterium

Forklarbar AI er ikke et teknisk vedheng, men et forretningskriterium. Skillet mellom tolkbarhet og forklarbarhet gir deg to spørsmål å stille enhver leverandør: kan dere vise hvordan modellen jobber, og kan dere forklare hvorfor den valgte som den gjorde? Forklarbar AI beskriver hvorfor, tolkbar AI beskriver hvordan, og for regulerte beslutninger trenger du begge.

Aluras posisjoner er tre. Gjennomsiktighet bør være et vurderingskriterium når du velger AI-leverandør, ikke bare pris og ytelse. Forklarbarhet betyr mest i regulerte bransjer som finans og helse, der Deloitte bekrefter at tolkbarhet er avgjørende for bransjer med strenge regler. Og ingen tolkbarhetsmetode gir i dag full forståelse av grensemodeller, så innsyn må kombineres med andre kontroller, slik forskningen selv slår fast.

Markedet beveger seg raskt. Mekanistisk fortolkbarhet er kåret til en gjennombruddsteknologi for 2026, EU AI Act er i kraft, og 700 millioner mennesker bruker ledende AI-systemer ukentlig. De bedriftene som behandler forklarbarhet som en kontrollarkitektur fremfor et rapporteringslag, står sterkest. Som UST oppsummerer: de som leder innen AI vil være de som kan svare på hva som skjedde, hvorfor, og hva de kan gjøre med det. Gjennomsiktighet er der du starter, ikke der du slutter, og det gjelder like mye når du vurderer selve AI-leverandøren.

I Alura hjelper vi norske bedrifter med å bygge AI-strategi som faktisk lar seg gjennomføre. Vi kombinerer dyp teknisk innsikt med erfaring fra alt fra SMB til enterprise, og leverer veikart som virker i praksis, ikke bare i PowerPoint.

Bestill en strategiøkt: en halvdags samtale der vi kartlegger virksomhetens AI-modenhet, identifiserer de tre prosessene med størst potensial, og leverer et konkret veikart med budsjettramme. Uforpliktende.