Hotar deepfakes rättssäkerheten?

Deepfakes är inte längre science fiction. Med hjälp av artificiell intelligens kan bilder, ljud och videor manipuleras så realistiskt att de framstår som äkta. Utvecklingen väcker allvarliga frågor om rättssäkerhet, särskilt i brottmål där bevisvärdering är central. Hur ska domstolar kunna lita på digitala bevis i en tid då övertygande material kan fabriceras? Här går vi igenom vad deepfakes är, vilka juridiska risker de medför och hur svensk rätt kan möta utmaningen.

Vad är deepfakes?

Deepfakes är AI-genererat eller AI-manipulerat innehåll som liknar verkliga personer, föremål, platser eller händelser och som felaktigt kan uppfattas som äkta. Tekniken används ofta för att skapa realistiska videor eller bilder som är svåra att skilja från verkligheten. Den har positiva användningsområden inom till exempel film, utbildning och forskning, men kan också missbrukas för desinformation, bedrägerier, integritetskränkningar och i värsta fall för att manipulera bevis i rättsprocesser.

När digitala bevis blir osäkra

Bevisvärdering är central i rättsprocessen och bygger på principen att domstolen ska göra en samvetsgrann prövning av allt som förekommit i målet för att avgöra vad som är bevisat. Principen följer av rättegångsbalken och förutsätter att bevismaterialet är tillförlitligt och att äktheten kan säkerställas. Deepfakes utmanar denna grund genom att möjliggöra falska bevis som kan vara svåra att avslöja.

Deepfakes förändrar spelplanen

Digitala bevis har länge varit möjliga att manipulera, men deepfakes gör manipulationen:

• mer avancerad
• svårare att upptäcka
• mer övertygande

Resultatet är att domstolar riskerar att ställas inför bevis som ser äkta ut men som i själva verket är fabricerade. En generell misstänksamhet mot allt digitalt material vore samtidigt problematisk, eftersom även genuina bevis då kan ifrågasättas eller avfärdas. Lösningen ligger inte i total skepsis utan i fördjupad och kvalificerad granskning.

Rättssäkerheten under press

Risk för felaktiga domar

En av de största utmaningarna med deepfakes är att de kan påverka rättssäkerheten. Om domstolar inte kan lita på videobevis eller bilder kan det leda till felaktiga domar. Det är särskilt allvarligt i brottmål, där beviskravet är högt och felaktiga bevis kan få stora konsekvenser:

• oskyldiga riskerar att dömas
• skyldiga kan gå fria

Högsta domstolen har i flera avgöranden betonat att teknisk bevisning måste kunna värderas på ett betryggande sätt. Deepfakes höjer ribban ytterligare och kräver mer teknisk förståelse hos rättens aktörer.

Integritet kränkt av AI

Deepfakes används inte bara för att manipulera bevis utan också för att kränka enskildas integritet. Enligt brottsbalken kan den som sprider bilder eller uppgifter som kränker någons privatliv dömas för olaga integritetsintrång. Rättsfall har visat att spridning av manipulerade bilder kan få rättsliga följder, även om de inte specifikt rör deepfakes.

Det innebär att:

• spridning av deepfake-material kan vara straffbart
• ansvar kan aktualiseras även om materialet inte är ”äkta”

Hur kan rättssystemet möta AI-hotet?

1. Teknisk verifiering

För att motverka deepfakes krävs tekniska metoder för att verifiera digitala bevis. AI-förordningen föreskriver en form av digital vattenmärkning för AI-genererat innehåll. Material som skapats eller manipulerats av AI ska märkas som sådant. Det kan göra det lättare att identifiera deepfakes och stärka bevisvärderingen i rättsliga sammanhang.

2. Utbildning

Domare, åklagare och försvarsadvokater behöver utbildas i hur deepfakes fungerar och kan identifieras. Teknikens snabba utveckling kräver att rättsväsendet löpande uppdaterar sin kunskap.

3. Anpassad lagstiftning

Ny lagstiftning kan behövas för att reglera användningen av deepfakes i rättsliga sammanhang. Krav på att digitala bevis verifieras av oberoende experter innan de används i rättegång är ett alternativ. Lagstiftningen om olaga integritetsintrång kan också behöva uppdateras för att täcka deepfake-relaterade gärningar.

4. Internationellt samarbete

Eftersom deepfakes ofta sprids via internet krävs internationellt samarbete. Gemensamma standarder för verifiering av digitala bevis och informationsutbyte om nya tekniker för att identifiera deepfakes kan vara avgörande.

Vanliga frågor