AI i faglige vurderinger: hvad vi gør – og ikke gør

Vi bruger AI i TalentKompasset. Vi mener, det er både forsvarligt og nyttigt – men kun hvis rammerne er helt tydelige. Derfor står de her.

Hvad vi bruger AI til

Sammenfatning. At samle spredte observationer fra hjem og skole til et overblik, der er hurtigt at læse. Det sparer tid, som ellers går med at genlæse noter.

Struktur. At foreslå, hvordan et forløb kan opdeles i trin, og hvilke spørgsmål der mangler svar, før man kan handle.

Sprog. At omformulere en bekymring til noget, der kan siges i et mødelokale uden at lyde som en anklage.

Forslag til næste skridt. Konkrete, afprøvbare handlinger med en aftalt evalueringsdato.

Hvad vi ikke bruger AI til

• Diagnoser og evnevurdering. Modellen udtaler sig ikke om, hvorvidt et barn er højt begavet, har ADHD eller andet. Det er en psykologfaglig opgave, der kræver en autoriseret fagperson og en anerkendt undersøgelsesmetode.
• Sortering af elever. Ingen automatiske beslutninger om, hvem der får adgang til et tilbud.
• Risikoscoring. Vi laver ikke tal, der rangerer børn.
• Erstatning for faglig vurdering. Output er et udkast til et menneske, ikke en afgørelse.

Hvordan vi holder det ansvarligt

Mennesket beslutter. Alt AI-genereret indhold præsenteres som forslag, som brugeren kan redigere, forkaste eller ignorere. Ingen handling udløses automatisk.

Dataminimering. Vi beder om alias frem for barnets fulde navn, og vi opfordrer aktivt til ikke at skrive helbredsoplysninger, CPR-numre eller navne på tredjeparter. Følsomme personoplysninger om børn hører ikke hjemme i et fritekstfelt.

Ingen træning på dine data. Dine sagsnotater bruges ikke til at træne modeller.

Gennemsigtighed. Du kan altid se, at et indhold er AI-genereret, og hvornår det blev lavet.

Kontrol over egne data. Du kan hente dine oplysninger ud og slette din sag permanent.

Hvorfor det er formuleret sådan

Rammen følger to hensyn. GDPR stiller krav om dataminimering, formålsbegrænsning og om, at afgørelser med væsentlig betydning for et menneske ikke træffes automatisk. EU's AI-forordning behandler desuden systemer, der bruges til at vurdere læringsresultater eller adgang til uddannelse, som højrisiko – med krav om menneskeligt tilsyn og dokumentation. Ved at holde AI'en på sammenfatning og forslag, og lade mennesket træffe hver eneste beslutning, bliver værktøjet en støtte frem for en myndighed.

Hvad du kan forvente – og hvad du ikke kan

AI'en kan hjælpe dig med at se mønstre i det, du selv har skrevet, og med at komme fra bekymring til en plan. Den ved intet om dit barn ud over det, du fortæller den, den kan tage fejl, og den kan formulere sig overbevisende om noget forkert. Læs derfor altid forslagene som et oplæg, du skal tage stilling til – og tal med en fagperson, når noget er alvorligt.