Styring

AI-Sikkerhedsforanstaltninger

Reglerne og tekniske begrænsninger, der holder AI-adfærd inden for acceptable grænser — hvad det må se, sige og gøre.

Sikkerhedsforanstaltninger er grænserne omkring AI-adfærd, der spænder over politik og teknologi: hvilke data systemet må få adgang til, hvilke emner det må afvise, hvilke handlinger kræver menneskelig godkendelse, og hvilke udgangspunkter filtreres før nogen ser dem. God sikkerhedsforanstaltning er specifik og testbar — 'send aldrig eksternt uden godkendelse' — ikke aspireringer som 'vær ansvarlig'.

Chefer skal være bekymrede, fordi sikkerhedsforanstaltninger er, hvad gør hastighed bæredygtig. Organisationer uden dem bevæger sig forsigtigt, fordi hvad som helst kan ske; organisationer med klare, gennemførte grænser kan delegere aggressivt, fordi fejlmodus er allerede indhegnet. Sikkerhedsforanstaltninger koncentrerer også ansvar: en nedskrevet grænse har en ejer; en u skrevet har en undskyldning.

Konkret eksempel: en kundeserviceagent opererer med tre sikkerhedsforanstaltninger — den besvarer kun fra den godkendte videnbase, den lover aldrig refusioner over en fastsat beløb, og enhver samtale, der berører juridiske trusler, routs til en menneskelig straks. Inden for disse hegn kører den usovervåget i fuld fart.

Chefens leverance er et enkelt-sidet grænse-dokument per AI-brugsærende: data tilladt, handlinger gated, handlinger forbudt, ejer navngivet.