Højrisiko-AI er AI-systemer, som AI-forordningen vurderer kan få væsentlig betydning for menneskers sundhed, sikkerhed eller grundlæggende rettigheder. De er tilladt, men underlagt krav om dokumentation, datakvalitet og menneskeligt tilsyn.
Forordningen nævner en række områder, hvor AI som udgangspunkt er højrisiko. Det gælder blandt andet rekruttering og personaleledelse, uddannelse og eksamen, adgang til offentlige ydelser og kredit samt retshåndhævelse. Det afgørende er, hvad systemet bruges til. Den samme sprogmodel kan være harmløs i et nyhedsbrev og højrisiko, når den sorterer jobansøgere.
De fleste krav ligger hos udbyderen, som skal dokumentere systemet. Organisationer, der tager et højrisikosystem i brug, har også pligter: De skal bruge det efter anvisningerne, sikre menneskeligt tilsyn, følge med i, hvordan det virker, og informere medarbejderne, før systemet tages i brug på arbejdspladsen. Efter AI Omnibus gælder kravene for blandt andet beskæftigelse og uddannelse fra 2. december 2027.
I praksis
For de fleste kommunikations- og ledelsesopgaver er højrisiko ikke aktuelt. Det bliver det, når AI begynder at indgå i beslutninger om mennesker: hvem der kommer til samtale, hvem der får en ydelse, og hvordan en medarbejders præstation vurderes. Spørg derfor tidligt, om et nyt værktøj træffer eller forbereder den slags beslutninger.
Risikoklasserne er forklaret i min guide til AI-forordningen.
Begreberne i ordlisten går igen i mine AI-kurser og workshops, hvor vi arbejder med dem i jeres egne opgaver.