Rapport viser at rapporter om barnepornografi generert av kunstig intelligens øker med 400 %

De siste tallene knyttet til innhold med seksuelle overgrep på nett er alarmerende og stiller myndighetene overfor alvorlige utfordringer. Ifølge en rapport fra Internet Watch Foundation, som vurderer situasjonen årlig, har antallet rapporter om bilder av seksuelle overgrep mot barn generert av kunstig intelligens økt med 400 %. Denne virkeligheten, som påvirker mange land, inkludert Frankrike, tvinger oss til å reflektere over den økende effekten disse teknologiene har på barns og unges sikkerhet på nett. Alarmerende trend: økningen i rapporter om AI-genererte bilder

Den nylig publiserte rapporten avdekket noen slående tall. I løpet av de første seks månedene av 2025 oppdaget etterforskere AI-genererte bilder av seksuelle overgrep mot barn på 210 nettsider, et tall som bare representerte 42 sider i samme periode året før. Statistikken taler for seg selv: en dramatisk økning i sirkulasjonen av denne typen ulovlig innhold på nett, noe som får myndighetene til å igjen føre krig mot denne plagen.

En økning i overgrepsvideoerI tillegg til økningen i bilder, er tallene for AI-genererte videoer av seksuelle overgrep mot barn like bekymringsfulle. Faktisk ble ikke færre enn 1286 videoer rapportert i første halvdel av 2025, sammenlignet med bare to i samme periode i 2024. Av disse ble 1006 kategorisert som ekstremt innhold, inkludert voldtekt, tortur og til og med bestialitet. Denne observasjonen reiser spørsmål om rollen til AI-teknologi i opprettelsen og formidlingen av dette innholdet, og fremhever en stor utfordring for politiet. Virkningen på kriminell etterforskning Kommissær Quentin Bevan, som leder den operative avdelingen til Office for Minors (OFMIN), påpeker at omtrent90 % AI-generert krenkende innhold kan oppdages med riktig opplæring og overvåkingsverktøy. Han er imidlertid fortsatt bekymret, ettersom dette innholdet representerer en økende andel av rapporter i et hav av ekte innhold.

Det er viktig at etterforskere forblir årvåkne etter hvert som teknikkene som brukes av seksuelle overgripere mot barn utvikler seg. Her er noen av strategiene som er observert:

Endre bakgrunnen på ekte overgrepsbilder ved å endre ulike visuelle elementer. Bruke AI til å utvanne bevis på overgrep, noe som gjør deteksjonen mer kompleks. Lage helt fiktivt digitalt innhold, innlemme ansiktene til ekte barn for pornografiske formål. Innholdstype Antall rapporter (2024)

Antall rapporter (2025)

Økning (%) Bilder av seksuelt misbruk av barn (AI)

42

• 210
• 400 %
• Videoer av seksuelt misbruk av barn (AI)

Twitter

har en nøkkelrolle å spille i bekjempelsen av dette fenomenet. Integrering av avansert teknologi i disse plattformene kan ikke bare bidra til å oppdage og rapportere upassende innhold, men også informere brukere om farene som disse AI-genererte bildene utgjør. Teknologiselskapers innsats Selskaper er under økende press for å styrke sin årvåkenhet og teknologiske løsninger for å håndtere dette problemet. Her er noen initiativer som er tatt på dette området: Utvikling av algoritmer for å oppdage krenkende innhold. Partnerskap med organisasjoner som bekjemper sexhandel med barn. Bevisstgjøringskampanjer om farene ved å konsumere ulovlig innhold.

Opprettholdelse av innsatsen: tiltak å vurdere

• Å håndtere dette komplekse problemet vil kreve koordinert handling på flere nivåer:
• Styrke samarbeidet mellom myndigheter og teknologiselskaper for å forbedre deteksjonsverktøy.
• Intensivere opplæringen for etterforskere og politimyndigheter om virkningen av AI.

Fremme internasjonale bevissthetskampanjer om risikoene forbundet med AI-generert innhold.

Den usikre fremtiden for regelverk i møte med fremveksten av AI

• Med fremveksten av trusler knyttet til den sanne naturen til AI-generert innhold, blir regulatoriske diskusjoner avgjørende. I Frankrike fortsetter lovgivere og politimyndigheter å utforske passende løsninger for å beskytte de mest sårbare. Dette inkluderer behovet for å oppdatere lover om nettkriminalitet og seksuelt misbruk på nett.
• Lovgivning under utvikling
• Flere initiativer er for tiden i gang for å styrke det juridiske rammeverket. Her er noen av dem:

Styrking av straffer for lovbrudd knyttet til seksuelt misbruk på nett. Oppretting av nye protokoller for å identifisere AI-generert innhold.

Økte budsjetter tildelt nettsikkerhetsetterforskningstjenester.

Tiltak

Mål

• Strengere straffer
• Beskytte mot misbruk
• Nye protokoller