Nya regler för AI i Sverige

EU:s nya AI-förordning, Artificial Intelligence Act (AI Act), innebär de mest omfattande reglerna hittills för artificiell intelligens i Europa. För svenska företag som utvecklar, säljer eller använder AI-system innebär reglerna både nya skyldigheter och nya möjligheter. Här förklarar vi vad AI-förordningen är, vilka AI-system som omfattas, och vad svenska företag konkret behöver göra för att vara förberedda.

Vad är EU:s AI-förordning (AIA)?

AI-förordningen är en EU-förordning som syftar till att skapa gemensamma regler för hur artificiell intelligens får användas inom EU. Till skillnad från ett direktiv gäller förordningen direkt som lag i Sverige, utan att först införas genom nationell lagstiftning. Syftet är att:

• skydda grundläggande rättigheter, hälsa och säkerhet

• skapa förtroende för AI-teknik

• möjliggöra innovation inom tydliga rättsliga ramar

Förordningen är en del av EU:s bredare digitala strategi och kompletterar bland annat GDPR.

Riskbaserad reglering

AI-förordningen bygger på en riskbaserad modell, där kraven ökar ju större risk ett AI-system innebär för människor och samhälle.

Förbjuden AI

Vissa AI-tillämpningar förbjuds helt, exempelvis system som:

• manipulerar människors beteende på ett skadligt sätt

• möjliggör social poängsättning

• används för vissa former av massövervakning

Högrisk-AI

Högrisk-AI omfattar system som används inom exempelvis:

• biometrisk identifiering

• rekrytering och personalbedömning

• kreditvärdering

• kritisk infrastruktur

Företag som utvecklar eller använder högrisk-AI måste bland annat:

• genomföra riskbedömningar

• upprätta teknisk dokumentation

• säkerställa mänsklig tillsyn

• införa rutiner för löpande efterlevnad

Läs mer om risker med AI och deepfakes här.

Begränsad risk AI

Här omfattas bland annat generativa AI-system, som text- och bildgeneratorer såsom ChatGPT, Copilot och Google Gemini. Kraven fokuserar främst på transparens, till exempel att:

• användare informeras om att de interagerar med AI

• AI-genererat innehåll märks tydligt

• upphovsrättsliga aspekter hanteras korrekt

Vad innebär detta för svenska företag?

För svenska företag innebär AI-förordningen att AI inte längre enbart är en teknisk fråga, utan också en juridisk och organisatorisk. Företag som använder AI behöver bland annat:

• kartlägga vilka AI-system som används

• bedöma vilken riskkategori systemen tillhör

• säkerställa att personuppgifter behandlas enligt GDPR

• informera användare på ett korrekt och begripligt sätt

Ett exempel:

Ett företag som använder AI för att analysera kundbeteenden måste säkerställa både transparens gentemot användarna och korrekt rättslig grund för databehandlingen.

Krav på interna processer och ansvar

Anpassningen till AI-förordningen kräver ofta nya interna rutiner, till exempel:

• tydlig ansvarsfördelning för AI-system

• utbildning av personal

• dokumentation av beslut och riskbedömningar

• samarbete mellan teknik, juridik och ledning

För små och medelstora företag finns vissa lättnader, men grundkraven gäller även där.

AI-förordningen risk eller möjlighet?

Även om regleringen innebär nya krav, skapar den också:

• ökad rättssäkerhet

• tydligare spelregler

• stärkt förtroende för AI-lösningar

Företag som tidigt anpassar sig kan få ett konkurrensförsprång på en marknad där ansvarsfull AI blir allt viktigare. Kontakta oss för en inledande genomgång av hur AI-förordningen påverkar just din verksamhet.