Inför EU:s AI Act; förbered dig redan nu genom att inventera, planera och dokumentera

Strängare regler för riskfyllda AI-system

Alla som utvecklar system som anses ha hög risk, till exempel system som kan påverka människors hälsa eller säkerhet, kommer att behöva följa striktare regler. Detta inkluderar grundlig testning och dokumentation av systemen för att säkerställa att de är säkra att använda. För gemene man innebär denna lag att vi kan känna oss tryggare när vi interagerar med AI-system.

Systemen delas in i olika risknivåer

Förslaget delar in AI-system i olika riskkategorier baserat på deras potentiella inverkan på användare och samhället i stort. Denna indelning hjälper till att rikta regleringen mot de områden där den behövs mest.

1. Förbjudna AI-implementationer: Vissa särskilt skadliga AI-system kommer att vara förbjudna inom EU. Detta inkluderar system som kan manipulera mänskligt beteende eller utnyttja människors sårbarheter.
2. Högrisk AI-implementationer: System i denna kategori har en hög risknivå när det gäller hälsa, säkerhet eller grundläggande rättigheter. Exempelvis AI-system som används för biometrisk identifiering, rekrytering, kreditbedömning, utbildning eller hälso- och sjukvård. Högrisk-system måste följa strikta regler kring datakvalitet, transparens, mänsklig tillsyn, noggrannhet, robusthet och säkerhet.
3. Begränsad risk: Dessa system utgör viss risk för användare eller konsumenter. Exempel kan vara system som skapar eller manipulerar innehåll eller tillhandahåller chattbot-tjänster. Begränsad risk-system måste tillhandahålla tydlig information om deras natur och syfte samt ge användarna möjlighet att välja bort användningen av dem.
4. Minimal risk: Denna kategori inkluderar system som anses ha liten eller ingen risk, som de som används för underhållning eller personliga ändamål. Dessa system är föremål för frivilliga uppförandekoder och bästa praxis, vilket innebär att de inte omfattas av de striktare reglerna som gäller för de övriga kategorierna.

Transparens

De nya reglerna kräver även att de som utvecklar AI-system informerar användarna tydligare om vad systemen gör och hur de fungerar. Generativ AI, som ChatGPT, måste också uppfylla kraven på transparens. Innehåll som har genererats av AI ska märkas. 

Stöd för innovation

Trots de strängare reglerna vill EU stödja innovation. Därför föreslår de en experimentyta där nya idéer kan testas i en kontrollerad miljö utan att behöva följa alla vanliga regler, under en begränsad tid.

Att inte följa AI Act kan leda till stora böter

Företag som inte följer de nya reglerna kan riskera böter på upp till 30 miljoner euro eller 6 % av företagets globala inkomst.

Lagen har en bred definition av vad som räknas som ett AI-system. Detta betyder att många typer av programvara kan falla under de nya reglerna, vilket kan påverka en rad olika företag.

Hur kan vi förbereda oss? 

EU:s AI Act kommer beröra många svenska bolag – inte bara de som skapar AI-systemen utan också de som köper, använder och distribuerar. Detta innebär att alla som kommer i kontakt med systemen får skyldigheter av olika grad. Vi kan redan nu agera proaktivt och vidta åtgärder samt bygga kompetens som kommer underlätta när förordningen träder i kraft. 

1. Kartlägg vilka AI-system som används och vilken riskklass dessa tillhör.
2. Dokumentera hur ni arbetar med AI-systemen och hur ni idag uppfyller de kommande kraven. Skapa en åtgärdsplan för att i god tid hinna genomföra eventuellt nödvändiga förändringar. 
3. Schemalägg uppföljning och bedömning av de åtgärder som genomförts.

Genom att vara informerad om EU:s AI Act kan individer och organisationer bättre navigera i den snabbväxande AI-landskapet och aktivt delta i skapandet av en säkrare och mer inkluderande digital framtid.

Förhandling med EU-länderna i rådet om den slutliga utformningen av lagen kommer nu att inledas och målet är att nå en överenskommelse i slutet av året.

Vill du läsa mer?

ISACA – Understand the EU AI Act
RISE - Ny EU-förordning reglerar användningen av AI i Europa
Europaparlamentet - EU:s AI-förordning: första förordningen om artificiell intelligens