Hotar deepfakes rättssäkerheten?

Deepfakes är inte längre science fiction. Med hjälp av artificiell intelligens kan bilder, ljud och videor manipuleras så realistiskt att de framstår som äkta. Utvecklingen väcker allvarliga frågor om rättssäkerhet, särskilt i brottmål där bevisvärdering är avgörande. Hur ska domstolar kunna lita på digitala bevis i en tid där det går att fabricera övertygande material? Och vilket ansvar har lagstiftaren, rättsväsendet och teknikutvecklarna?

I den här artikeln går vi igenom vad deepfakes är, vilka juridiska risker de innebär och hur svensk rätt kan möta utmaningen.

Vad är deepfakes?

Deepfakes definieras som AI-genererat eller AI-manipulerat innehåll som liknar existerande personer, föremål, platser eller händelser och som felaktigt kan uppfattas som autentiskt eller sanningsenligt. Tekniken används ofta för att skapa realistiska videor eller bilder som kan vara svåra att skilja från verkliga inspelningar.

Exempel på deepfakes

• Videor där en person ser ut att säga eller göra något de aldrig gjort

• Manipulerade ljudinspelningar som imiterar en verklig röst

• Bilder som placerar personer i sammanhang som aldrig ägt rum

Tekniken används i legitima sammanhang, till exempel inom film, utbildning och forskning. Men den kan också missbrukas för desinformation, bedrägerier, integritetskränkningar och i värsta fall, för att manipulera bevis i rättsprocesser.

När digitala bevis blir osäkra

Bevisvärdering är en central del av rättsprocessen och bygger på principen att domstolen ska göra en samvetsgrann prövning av allt som förekommit i målet för att avgöra vad som är bevisat. Denna princip, som är fastställd i rättegångsbalken, förutsätter att bevismaterialet är tillförlitligt och att dess autenticitet kan säkerställas. Deepfakes utmanar denna grundläggande förutsättning genom att möjliggöra skapandet av falska bevis som kan vara svåra att identifiera som manipulerade.

Deepfakes förändrar spelplanen

Digitala bevis har länge varit möjliga att manipulera, men deepfakes gör manipulationen:

• mer avancerad

• svårare att upptäcka

• mer övertygande

Resultatet är att domstolar riskerar att ställas inför bevis som ser äkta ut men i själva verket är fabricerade. En generell misstänksamhet mot allt digitalt material vore dock problematisk. Det kan leda till att även genuina bevis ifrågasätts eller avfärdas. Lösningen ligger därför inte i total skepsis – utan i fördjupad och kvalificerad granskning.

Rättssäkerheten under press

Risk för felaktiga domar

En av de största utmaningarna med deepfakes är att de kan påverka rättssäkerheten. Om domstolar inte kan lita på videobevis eller bilder, kan detta leda till felaktiga domar. Detta är särskilt problematiskt i brottmål, där beviskravet är högt och där felaktiga bevis kan få allvarliga konsekvenser för den tilltalade såsom:

• oskyldiga riskerar att dömas

• skyldiga kan gå fria

Högsta domstolen har i flera avgöranden betonat vikten av att teknisk bevisning måste kunna värderas på ett betryggande sätt. Deepfakes höjer ribban ytterligare och kräver ökad teknisk förståelse hos rättens aktörer.

Integritet kränkt av AI

Deepfakes används inte bara för att manipulera bevis utan också för att kränka enskildas integritet. Enligt brottsbalken kan den som sprider bilder eller uppgifter som kränker någons privatliv dömas för olaga integritetsintrång. Rättsfall har visat att spridning av manipulerade bilder kan få rättsliga konsekvenser, även om det inte specifikt rör deepfakes.

Detta innebär att:

• spridning av deepfake-material kan vara straffbart

• ansvar kan aktualiseras även om materialet inte är “äkta”

I exemplet understryks behovet av att skydda individer från integritetskränkningar som kan orsakas av denna teknologi.

Hur kan rättssystemet möta AI-hotet?

1. Teknisk verifiering

För att motverka deepfakes krävs tekniska metoder för att verifiera äktheten hos digitala bevis. AI-förordningen föreskriver en form av ”digital vattenmärkning” för AI-genererat innehåll, vilket innebär att material som skapats eller manipulerats av AI ska märkas som sådant. Detta kan underlätta identifieringen av deepfakes och stärka bevisvärderingen i rättsliga sammanhang.

Läs mer gärna om AI-förordningen här.

2. Utbildning

Domare, åklagare och försvarsadvokater behöver utbildas i hur deepfakes fungerar och hur de kan identifieras. Teknikens snabba utveckling kräver att rättsväsendet kontinuerligt uppdaterar sin kunskap för att kunna hantera nya utmaningar.

3. Anpassad lagstiftning

Ny lagstiftning kan behövas för att specifikt reglera användningen av deepfakes i rättsliga sammanhang. Krav på att digitala bevis ska verifieras av oberoende experter innan de används i rättegångar kan införas. Dessutom kan lagstiftning som stärker skyddet mot olaga integritetsintrång behöva uppdateras för att inkludera deepfake-relaterade gärningar.

4. Internationellt samarbete

Eftersom deepfakes ofta sprids via internet krävs internationellt samarbete för att bekämpa problemet. Gemensamma standarder för verifiering av digitala bevis och utbyte av information om nya tekniker för att identifiera deepfakes kan vara avgörande.

Rättssäkerhet i en digital era

Deepfakes utgör en betydande utmaning för rättsprocesser, särskilt när det gäller bevisvärdering och tilliten till digitalt material. För att hantera detta problem krävs en kombination av tekniska, juridiska och utbildningsmässiga åtgärder. Genom att införa tekniska lösningar som digital vattenmärkning, utbilda rättsväsendet och utveckla ny lagstiftning kan risken minskas för att deepfakes används för att manipulera rättsprocesser. Samtidigt är det viktigt att fortsätta övervaka utvecklingen av denna teknik och anpassa metoder och regler i takt med att nya utmaningar uppstår.

Behöver du juridisk vägledning i frågor om AI och bevisning?

Juridiken utvecklas snabbt i takt med tekniken. Om du står inför frågor som rör digital bevisning, integritetskränkningar eller ’AI-relaterade rättsproblem’ hjälper vi dig gärna att reda ut vad som gäller.

Kontakta Jurigo för trygg, tydlig och modern juridisk rådgivning – anpassad efter din situation.