Innsikt/blogg

KI i anskaffelser. Når tekst blir billig, blir dømmekraft knapphetsvaren

Mange frykter fortsatt at kunstig intelligens vil gjøre rådgiveren overflødig. I praksis ser vi det motsatte. Når produksjon av overbevisende tekst blir en råvare, øker verdien av den faglige dømmekraften, fraværsanalysen og verifiseringen.

Debatten om kunstig intelligens i offentlige anskaffelser har med rette handlet om risiko: lekkasje av forretningshemmeligheter, uoppdagede kontraktsforbehold, fiktive evalueringsbegrunnelser og tildelinger som ikke tåler innsyn. Samtidig blir løsningen ofte fremstilt som et krav om et helt nytt kontrollbyråkrati, eller en altomfattende juridisk sluttkontroll før noe tas i bruk.

Begge deler bommer på målet. En juridisk sluttkontroll i tolvte time kan aldri reparere en uegnet prompt eller et sviktende datagrunnlag. Men vi begår en like stor feil om vi tror vi står på bar bakke uten styringsmekanismer.

Fra produksjon til verifisering

Den største misforståelsen rundt språkmodeller er troen på at de erstatter faglig skjønn. Det gjør de ikke. KI er et verktøy for informasjonssøk, strukturering, språkvask, sammenstilling av store datamengder og produksjon av førsteutkast. Den erstatter verken det rettslige skjønnet, risikovurderingen eller beslutningsansvaret.

Hvis vi behandler KI-generert innhold som sannhet, går vi på tynn is. Hvis vi behandler det som et råutkast, er isen betydelig tykkere.

Dette forskyver dynamikken i profesjonsarbeidet. Tidligere brukte en rådgiver kanskje åtte timer på å skrive et dokument og to timer på kvalitetssikring. Med KI kan det fort bli to timer på å generere utkastet og seks timer på kildekontroll og verifisering. Gevinsten ligger i en mer effektiv arbeidsprosess – ikke i at kravene til kvalitet og etterprøvbarhet forsvinner.

To motstridende logikker

En språkmodell er programmert til å beregne sannsynlighet: Hva er det mest plausible neste ordet?

Den erfarne anskaffelsesrådgiveren stiller et helt annet spørsmål: Hvor står dette, og hva kan jeg faktisk bygge en rettslig bindende beslutning på?

I en anskaffelsesprosess kan KI formulere et tilsynelatende uangripelig forslag til et tildelingskriterium, en kravspesifikasjon eller en avvisningsvurdering. Men verken Klagenemnda for offentlige anskaffelser (KOFA), domstolene eller Riksrevisjonen vurderer hvor velskrevet teksten er. De vurderer:

• om faktum er korrekt og dokumentert
• om vurderingen har rettslig grunnlag
• om kravet er forholdsmessig og relevant for kontraktens gjenstand
• om likebehandling og etterprøvbarhet er ivaretatt
• om skjønnet er saklig utøvd.

Dette er faglige ryggmargsreflekser utviklet gjennom erfaring og metode. KI har ingen ryggmargsreflekser; den har mønstergjenkjenning.

Fraværsanalysen: Å se det som ikke står der

Ekspertise handler sjelden bare om å vite mye. Erfarne jurister, revisorer og innkjøpere kjennetegnes først og fremst av evnen til å oppdage det som mangler.

I et konkurransegrunnlag kan det handle om uadresserte risikofaktorer eller krav som uforvarende favoriserer enkelte leverandører. I en leverandørs tilbud kan det handle om manglende forutsetninger, utelatte referanser eller forbehold som er forsøkt skjult mellom linjene. KI analyserer primært det materialet den blir fôret med, og er gjennomgående svak på å reagere på fravær av opplysninger. Den erfarne fagpersonen reagerer derimot instinktivt på stillheten: Hvorfor er akkurat dette punktet ikke berørt?

Det er ofte i disse hvite flekkene de største rettslige og økonomiske risikoene ligger.

ISO 9001 og internkontroll som ankerfeste

Vi trenger ikke finne opp hjulet på nytt for å håndtere denne risikoen. Virksomheter har allerede styringssystemer, internkontroll, fire-øyne-prinsipper, fagansvarlige og godkjenningsrutiner.

Sett i lys av tankegangen bak ISO 9001 og prinsippene for kvalitetsledelse har risikobildet flyttet seg.

Før: Kvalitetsrisikoen lå primært i at medarbeidere produserte mangelfulle dokumenter.

Nå: Kvalitetsrisikoen ligger i at medarbeidere godkjenner maskinelt generert innhold uten tilstrekkelig verifisering.

Prinsippet er likevel det samme: En leveranse skal være korrekt, dokumentert, sporbar og egnet til formålet. En advokat aksepterer aldri at en fullmektig viser til rettskilder eller faktum uten at dette er kontrollert mot primærkilden. Hvorfor skulle vi stille lavere krav til en språkmodell?

Dømmekraft kan ikke delegeres

Den største faren ligger ikke i at maskinen gjør åpenbare feil, men i at vi lar oss forføre av en feilfri overflate – og at vi over tid opplever en kompetanseerosjon der yngre fagpersoner slutter å gjøre det analytiske grunnarbeidet selv.

Den mest modne tilnærmingen er verken et teknologiforbud eller en ukritisk omfavnelse. Det handler om å bruke KI der verktøyet gir reell støtte – til informasjonssøk, strukturering og førsteutkast – samtidig som vi beholder ansvaret, kildekritikken og de etablerte godkjenningsprosessene.

Når alle kan generere overbevisende analyser på sekunder, blir formuleringsferdigheter en handelsvare. Den virkelige knapphetsressursen er dømmekraft. Og juridisk dømmekraft kan aldri promptes eller delegeres til en maskin.

Om forfatteren

Kategori:
Aktuelt | Blogg | Dynabyte

Stikkord:
Dynabyte, KI og anskaffelser