Hvad er manipuleret seksuelt materiale?

Hvad er manipuleret seksuelt materiale?

Manipuleret seksuelt materiale (MSM) er kunstigt skabt eller manipuleret billed-, video- eller lydmateriale, der fremstiller en eksisterende person i en seksuel situation, som den pågældende ikke har deltaget i.  

Digitalt Ansvar anvender ikke termerne 'deepfakes' eller 'deepfake porno', da de ikke er retvisende for det skadelige fænomen, som MSM i realiteten er.

Manipuleret seksuelt materiale er ikke pornografisk indhold i traditionel forstand, men materiale, der typisk bliver fremstillet og delt uden samtykke fra de personer, der er afbildet. Betegnelsen “deepfake”, som henviser til teknologien deep learning, stammer fra navnet på en Reddit-bruger, der var med til at introducere og udbrede denne type materiale. Når man fortsat bruger ordet “deepfake” om manipuleret seksuelt materiale, viderefører man derfor i praksis gerningspersonens egen betegnelse for fænomenet.

Læs også: Hvad er ulovlig billeddeling?

Omfang og udbredelse

MSM udbredes i dag til et bredt publikum via ’klassiske’ pornohjemmesider. I 2019 indeholdt 8 ud af 10 af de mest besøgte klassiske pornohjemmesider MSM, mens det i 2023 var 7 ud af 10. MSM findes også på hjemmesider, der er særskilt dedikeret til MSM-indhold. På en af mest besøgte MSM-hjemmesider kan brugere gratis se korte videoklip, som ved betaling kan ses i fuld længde på en anden hjemmeside.

Der findes også eksempler på, at enkeltpersoner betaler for produktion af videoer med bestemte personer og ud fra specifikke ønsker. Sådanne køb og salg bliver bl.a. faciliteret igennem den krypterede beskedtjeneste Telegram og gaming-platformen Discord.

MSM produceres både af kommercielle årsager, men efterspørgslen kan også være begrundet i ønsket om bl.a. at se andre lide eller af kønspolitiske årsager, herunder at skabe indhold, der fx diskriminerer, chikanerer og begrænser kvinders ytringsfrihed.

Der eksisterer altså et stort marked for MSM.

Søgemaskinerne spiller også en stor rolle i udbredelsen af manipuleret seksuelt materiale, det kan du læse mere om i Digitalt Ansvars undersøgelser: "Google og Bing: En reklamesøjle for falske nøgenbilleder" (2024), "Bag om Google og Bings anmeldelsessystem" (2024) og "Mindre synligt, stadig søgbart" (2025)

Stigningen i uploadet indhold med MSM skyldes, at den bagvedliggende teknologi er blevet billigere og nemmere at anvende. Apps, open source-software og guides er let tilgængelige på internettet. Det er ikke længere nødvendigt at være ekspert i kunstig intelligens for at producere denne type indhold. I modsætning til for blot få år siden, er det heller ikke længere nødvendigt med mange billed-, video- eller lydfiler for at kunne producere vellignende og overbevisende indhold.

Læs også: Hvordan påvirker AI individet og samfundet?

Hvordan bliver manipuleret seksuelt materiale skabt?

Deepfake-teknologier har revolutioneret måden, hvorpå digitale billeder og videoer kan manipuleres. Ved at udnytte avancerede teknikker inden for kunstig intelligens kan disse teknologier skabe realistiske videoer, billeder og lyd, som kan være næsten umulige at skelne fra ægte materiale.

Manipuleret seksuelt materiale (MSM) kan blive skabt ved hjælp af flere forskellige AI-teknologier og billedmodeller. De mest relevante teknologier er generative modeller som GANs og diffusionsmodeller, mens såkaldte nudify-apps typisk er konkrete værktøjer, der bygger oven på allerede trænede modeller og billedmanipulationsteknikker.

Læs også: Hvad er kunstig intelligens?