HÖGRISK-SYSTEM
Bilaga I och bilaga III
Högrisk-AI-system definieras i två bilagor till EU AI Act. Bilaga I listar produkter som regleras av befintlig EU-lagstiftning (t.ex. medicintekniska produkter, fordon) och som nu också måste följa EU AI Act om de innehåller AI. Bilaga III är en ny lista med högrisk-ändamål som gäller direkt.
Det är bilaga III som är mest relevant för de flesta svenska organisationer. Den uppdateras av EU-kommissionen via delegerade akter och kan utvidgas med nya sektorer.
Anställning och personalhantering
Detta är en av de mest direkt relevanta kategorierna för svenska organisationer. AI-system i dessa sammanhang klassas som högrisk:
- Automatiserad gallring, rankning eller filtrering av ansökningar och CV:n
- AI-system som sätter poäng på kandidater under rekryteringsprocessen
- Systhem som bedömer lämplighet för befordran
- AI som analyserar prestationer och produktivitet för att ge underlag till personalprocesser
- System för automatiserad tilldelning av arbetsuppgifter i plattformsarbete (gig-ekonomi)
Praktisk konsekvens: Om ni använder ett ATS-system (Applicant Tracking System) med AI-funktioner för gallring eller rankning av kandidater är det troligen högrisk. Ni måste säkerställa mänsklig granskning och informera kandidater.
Skola och akademi
- System som avgör tillgång till utbildningsinstitutioner (antagningsbeslut)
- AI som bedömer och sätter betyg på elevers och studenters prestationer
- AI som identifierar fusk eller oegentligheter i examinationer
- System som används för att övervaka elevers/studenters beteende under utbildning
Praktisk konsekvens: Automatiserade betygssystem och AI-baserade fuskdetektorer är högrisk. Mänsklig bedömning måste alltid vara möjlig och tillgänglig som alternativ.
Vård och omsorg
Medicintekniska produkter med AI regleras primärt under bilaga I (MDR/IVDR) men berörs nu även av EU AI Act. Under bilaga III gäller högrisk för:
- AI-system avsedda som medicinska hjälpmedel för diagnos, behandling eller monitorering
- System för triagering och prioritering av patienter i akutsjukvård
- AI som bedömer risk för självskada eller psykisk ohälsa
- Kliniska beslutsstödssystem som rekommenderar behandling
Praktisk konsekvens: AI-stöd för diagnostik och kliniska beslut kräver CE-märkning och dokumentation. Vårdgivare som driftsätter sådana system är driftsättare med egna skyldigheter.
Bank, försäkring och offentliga förmåner
- AI-system för kreditbedömning som påverkar en persons tillgång till lån
- Automatiserade system för försäkringsbedömning som avgör premier eller täckning
- AI som bedömer rätten till offentliga förmåner (socialbidrag, bostadsbidrag m.m.)
- System för bedömning av kreditvärdighet hos juridiska personer (om det påverkar individer)
Praktisk konsekvens: Banker och försäkringsbolag med AI i kreditbedömningen och kommuner med AI-stöd i bidragsprövning är driftsättare av högrisk-AI.
Myndighetsutövning och handläggning
- AI-system som ger stöd till beslut i ärenden som påverkar enskildas rättigheter
- System för riskklassificering av individer i offentlig verksamhet
- AI-stöd för bedömning av asylansökningar och migrationsbeslut
- System för biometrisk identifiering i gränskontroll
Praktisk konsekvens: Myndigheter och kommuner som använder AI-stöd i handläggning av ärenden som påverkar individers rättigheter är driftsättare av högrisk-AI med tydliga krav på mänsklig kontroll och transparens.
Polis, åklagare och domstolar
- AI-verktyg som ger riskbedömning av personer för brottsförutsägelse
- System som används i brottsutredning för mönsterigenkänning och analys
- AI-stöd för bedömning av bevis och sakförhållanden i rättsliga processer
- System för polisiär prioritering baserat på AI-analys
Vad är inte högrisk?
Det är lätt att överbedöma risknivån. Följande är inte högrisk enligt bilaga III:
- AI-assisterade HR-verktyg som hjälper rekryterare att skriva jobbannonser (ingen gallring av kandidater)
- Chatbotar för internt FAQ och knowledge management
- AI-textverktyg (Copilot, ChatGPT) för att skriva rapporter och sammanfattningar
- Automatisk bildklassificering av interna dokument utan beslutspåverkan
- Grammatik- och stavningskontroll
Vad gör ni nu?
Officiella källor att kontrollera
- EU-kommissionen: AI Act och aktuell tillämpningstidslinje (öppnas i ny flik)
- EU-kommissionen: utkast till riktlinjer för högriskklassificering (öppnas i ny flik)
- IMY: preliminär överenskommelse om ändringar i AI-förordningen, 13 maj 2026 (öppnas i ny flik)
- EU-kommissionen: AI Act Service Desk och Single Information Platform (öppnas i ny flik)
- EUR-Lex: förordning (EU) 2024/1689 i fulltext (öppnas i ny flik)