Blokeringen blev til en besked. Hvem får den hos dig?

Hidtil stoppede Claude anmodningen med det samme, hvis den ramte et sikkerhedsfilter. Den kom aldrig igennem, og dermed var sagen lukket.

Men den 17. september offentliggjorde Anthropic et program, hvor det ikke længere fungerer sådan. Inde i programmet går anmodningen igennem. Anthropic ser på den bagefter. Og hvis noget ser forkert ud, kan Anthropic sende en besked til organisationens administratorer, som så har en aftalt frist til at reagere.

Programmet hedder Life Sciences Verification Program og gælder kun life science. Du kommer efter alt at dømme aldrig til at søge om det, og der blev ikke ændret noget i din egen Claude-konto den 17. september.

Der er alligevel to spørgsmål her, og du kan svare på dem i dag for enhver AI-leverandør, du allerede bruger: hvem hos dig tager imod en besked om misbrug, og hvad sker der så? De fleste virksomheder kan ikke svare på nogen af dem.

Blokeringen blev til en besked

Anthropic flytter sikkerhedsfiltrene væk fra "real-time blocking" og over til "offline monitoring", som de selv formulerer det: væk fra at spærre anmodningen, mens den er undervejs, og over til at se på den bagefter. Følg én anmodning igennem, så kan du se, hvad det betyder.

Før: en forsker beder Claude om noget, filteret fanger det, svaret udebliver. Ingen andre hører om det. Det er ovre i samme sekund, som det sker.

Efter: den samme forsker beder om det samme. Claude svarer. Trafikken bliver gemt i 30 dage. Finder Anthropic senere noget, der ligger uden for det formål, organisationen har oplyst, kan de efter eget udsagn "flag these cases to organization admins to take action within pre-agreed timeframes".

Læg mærke til to ord i den sætning. Det ene er "can". Anthropic beskriver, hvad de har mulighed for, og lover ikke, at der kommer en besked hver gang. Det andet er "admins", i flertal og uden navn. Der står en rolle og en frist i sætningen. Der står ikke et menneske.

Anthropic opdager og fortæller. Den, der skal gøre noget ved det, sidder hos kunden.

Hvor udbredt er det? Anthropic skriver, at de allerede har "onboarded dozens of organizations" gennem et tidligt adgangsprogram, og at de forventer "hundreds of organizations within the first week". Det første er et tal. Det andet er en forventning, Anthropic har til deres egen første uge, og kun tallet siger noget om, hvor udbredt programmet er nu.

Hvem får beskeden, når den kommer?

Det er organisationens administrator, der søger om bevillingen, ikke forskeren. Det står på ansøgningssiden, og den, der udfylder formularen, er også den, beskederne lander hos.

Der er to slags bevillinger, og de har hver sit ur:

• Standard Use dækker det meste life science-arbejde og fornys en gang om året. Den kan udvides til et helt hold.

• High-risk Use er et tillæg for hold, der arbejder i områder, Standard Use spærrer for. Anthropic skriver, at bevillingen fjerner "all safeguards that block life sciences requests". Den fornys hver sjette måned og gælder et bestemt projekt.

Verificeringen ser på tre ting: forskningsmæssige kvalifikationer, sikkerhedsstandarder og etisk tilsyn med forskningen. Adgangen gælder Mythos 5.1 til biologi og lægemiddeludvikling samt Opus 5 og Sonnet 5 med en justeret biosikkerhedsklassificering. De præcise modelnavne står på ansøgningsformularen. Selve meddelelsen nævner kun "Mythos, Opus and Sonnet".

Tre ting siger kilderne ikke noget om, og alle tre er operationelle:

• Hvad fristerne er. "Pre-agreed timeframes" aftales med den enkelte organisation. Der er ikke offentliggjort nogen.

• Hvad det vil sige at reagere. Anthropic skriver "take action" og uddyber det ikke.

• Om en bevilling kan trækkes tilbage midt i perioden. Fornyelsesperioderne er offentlige. Betingelserne for at miste adgangen er det ikke.

Anthropic skriver præcist om det, de gemmer, og vagt om det, du skal gøre. Fristen er det eneste punkt i hele programmet, som kunden selv forhandler, og længden står alligevel ingen steder.

Betingelsen: 30 dages lagring

Anthropic stiller krav om 30 dages datalagring for trafik i programmet og siger selv hvorfor: uden gemt trafik er der ikke noget at se på bagefter.

Kravet kom ikke med programmet. Claude Fable 5.1 og Claude Mythos 5.1 har stillet det siden den 1. september. Anthropic skrev dengang i deres release notes, at begge modeller kræver 30 dages datalagring, og at de ikke kan bruges i en aftale om nul datalagring, medmindre Anthropic udtrykkeligt giver lov.

Har din organisation bevidst valgt nul datalagring, har det valg lukket to døre på elleve dage, og du bør holde regnskab med dem. Den første var den 6. september, da otte funktioner faldt uden for den samme slags aftale.

Er det så en god eller en dårlig byttehandel? Det afhænger af, hvad du er bange for.

Blokering i realtid stopper den enkelte anmodning og ser ikke mønstret. Den fanger det, der sker nu, og opdager ikke, at den samme konto har spurgt om noget beslægtet fjorten gange på en uge. Efterfølgende overvågning ser mønstret og sætter et menneske på sagen inden for en aftalt frist. Den lader til gengæld den enkelte anmodning gå igennem.

Tre grupper kan ikke være med: private abonnementer, tredjepartsplatforme og organisationer med en BAA. Anthropic giver ingen begrundelse for nogen af dem.

Min egen læsning, og den skal du behandle som min og ikke som Anthropics: i alle tre tilfælde mangler overvågningen en del af sin maskine. Et privat abonnement har ingen administrator at sende beskeden til. En tredjepartsplatform sender ikke trafikken gennem Anthropics egne systemer. Og en BAA er en aftale om datahåndtering, som er svær at forene med et krav om at gemme trafikken i 30 dage.

I hele programmet er der ikke nævnt en databehandleraftale

En BAA er et instrument under HIPAA, altså amerikansk sundhedslovgivning. En dansk virksomhed underskriver ikke en BAA. Den underskriver en databehandleraftale under GDPR. Og der er ikke nævnt nogen europæisk pendant nogen steder i programmet.

Så udelukkelseslisten er skrevet i et regelsprog, som dansk databeskyttelse ikke bruger. En dansk organisation kan ikke læse sig frem til, hvilken side af stregen den står på.

Programmet er skrevet til det marked, det blev skrevet til, så det er ikke en anklage. Men skal du vurdere, om udelukkelsen gælder dig, er der et fornuftigt udgangspunkt: gå ud fra, at den gør, indtil nogen skriver andet. Den fejl er billig. Tager du fejl den anden vej, opdager du det først, når nogen spørger.

Jeg skrev tidligere i september om inference hooks, hvor kunden selv skriver en kontrol, der kan sige nej, mens anmodningen er undervejs. Sæt de to ting ved siden af hinanden, så kan du se, at et nej kan sidde to steder: hos leverandøren, der inde i programmet har flyttet sit nej væk, eller hos dig selv.

Skriv den sidste afvisning ned, med dato og model

Tag den sidste afvisning, Claude gav dig. Ikke et opdigtet eksempel, men den rigtige. Du kan gøre det færdigt, mens du læser.

Sortér den i én af tre kasser. De to første har altid været der. Den tredje er ny, og det er dagens nyhed, der beviser, at den findes.

1. Den ændrer sig aldrig. En grænse, der gælder alle, og som ingen omformulering flytter.

Test: sig det samme roligt og præcist én gang i en ny samtale. Samme nej betyder, at sproget ikke var problemet.

2. Du kan selv ændre den. Modellen fik aldrig dokumentet, adgangen eller rollen.

Test: vedhæft dokumentet og skriv rollen i en ny samtale. Går anmodningen igennem, var det et hul i konteksten.

3. Den afhænger af, hvilken konto der spørger. Det er den nye. Efter den 17. september findes der konti, hvor det samme spørgsmål får et andet svar, fordi organisationen bag har en bevilling.

Test: ingen, som du selv kan køre. Den her koster et spørgsmål til leverandøren om, hvad din aftale dækker.

Skriv så én linje ned: datoen, modellen og den præcise anmodning. En afvisning siger nu noget om en bestemt konto på en bestemt dato. En note, der siger "vi testede det, Claude vil ikke", mangler begge dele for at kunne bruges igen.

Og reglen, der ændrer noget i dag: én omformulering, ikke fem. Rammer du den samme mur anden gang, ligger svaret i aftalen.

AI-implementering handler også om, hvad modellen siger nej til

De fleste taler om AI-implementering som et spørgsmål om, hvad modellen kan. Lige så meget af arbejdet ligger i, hvad den ikke vil, og hvem der kan lave om på det.

Som AI-konsulent i København sætter jeg Claude op for danske virksomheder, og den slags spørgsmål er en fast del af arbejdet: hvem hos leverandøren tager imod en henvendelse, hvad står der i aftalen om varsler og frister, og hvem hos dig får beskeden, når den kommer. Det er sjældent svært at finde ud af. Det er bare aldrig nogens opgave.

Kasse 1 og 2 er en AI-audit, du selv kan lave på en formiddag med afsnittet ovenfor. Kasse 3 kræver et svar fra leverandøren, og det er der, de fleste går i stå: de ved hverken, hvem de skal spørge, eller hvad de skal spørge om. Det er den slags, en fast aftale dækker.

Der er en sætning, de færreste kan gøre færdig lige nu.

Når din AI-leverandør beslutter, at noget i din konto er misbrug, får ______ beskeden, og så sker der ______.

Kilder

• Anthropic: Introducing the Life Sciences Verification Program
• Ansøgningssiden til programmet, med de præcise modelnavne
• Claude Platform release notes, hvor kravet om 30 dages lagring blev stillet den 1. september
• Anthropics prisside, hvor programmet ikke er nævnt
• Brinvik: otte funktioner uden for aftalen om nul datalagring, 6. september

Sådan blev denne artikel til. Claude læste Anthropics egne sider, tjekkede citaterne ord for ord og byggede hver eneste fil, mens Kim sov. Gate 1 kasserede den første disposition og sendte den tilbage. To påstande om andre leverandører blev skåret væk, fordi deres dokumentation ikke kunne læses herfra, og fordi et gæt ikke var godt nok. Reglerne, tonen og tjeklisterne skrev Kim på forhånd, og de blev håndhævet undervejs.