Binnenkort zijn AI-uitkleedapps in heel Europa verboden. Het Europees Parlement stemt deze zomer in met een wet die het maken en verspreiden van nepnaaktbeelden via AI verbiedt. Tegelijkertijd krijgt Snapchat extra controle in Brussel. Techbedrijven worden eindelijk aangepakt.

Uitkleed-apps: een snelle toegang tot misbruik

In één klik een foto van iemand aanpassen zodat die persoon naakt lijkt. Dat is precies wat uitkleed-apps doen met behulp van kunstmatige intelligentie. Zulke tools maken gebruik van geavanceerde AI-software om nepnaaktbeelden te creëren, zonder dat iemand daar toestemming voor geeft. Het Europees Parlement gaat deze zomer een verbod instellen om het gebruik van deze apps overal in de EU te stoppen.

Hoewel het verspreiden van deze beelden verboden is, was het maken ervan tot nu toe niet duidelijk geregeld. En dat is gevaarlijk, zeggen experts. De apps zijn namelijk makkelijk te vinden via zoekmachines zoals Google en Bing. Ook grote AI-chatbots kunnen deze beelden nog ondersteunen. Daarom komt er nu ook een boete voor zoekmachines die zulke websites tonen in hun resultatenlijst.

Schadelijke impact op jongeren

Robbert Hoving, directeur van het expertisecentrum Offlimits, waarschuwt al jaren voor de gevolgen van deze apps. "Ze zijn zo laagdrempelig dat slachtoffers ook daders kunnen worden, bijvoorbeeld op school. Voor je het weet gebruik je zo'n tool om je lerares of een meisje dat je leuk vindt uit te kleden."

De mentale schade is groot. Jongeren die hiermee te maken hebben gehad, kampen met slaapproblemen, durven soms niet meer naar school en krijgen zelfs suïcidale gedachten, aldus Hoving. Het nieuwe verbod op Europees niveau ziet hij als een grote stap vooruit. "Zo kunnen we een duidelijk signaal afgeven aan de Amerikaanse techbedrijven die deze technologieën ontwikkelen en verspreiden."

Politiek draagvlak voor strengere regels

Kim van Sparrentak, Europarlementariër voor GroenLinks-PvdA, heeft zich sterk gemaakt voor het verbod. Ze noemt het maken van zulke nepbeelden "een seksueel misdrijf in twee clicks".

Volgens haar is het makkelijk om via Google snel op een uitkleedwebsite terecht te komen en zo ongewild betrokken te raken bij seksueel misbruik.

Mastheads

Van Sparrentak benadrukt dat het verbod vooral effectief is omdat het de tool zelf illegaal maakt. "Google mag zulke sites dan niet meer tonen, en het wordt lastiger om die apps überhaupt te gebruiken. Zo kun je deze vorm van misbruik flink terugdringen."

Ook de christendemocraten steunen het verbod. Jeroen Lenaers, vicefractievoorzitter van het CDA in het Europees Parlement, noemt de uitkleed-apps geen innovatie, maar uitbuiting. Volgens hem veroorzaken de apps enorme mentale schade bij slachtoffers.

Snapchat onder de loep van Brussel

Naast het verbod op AI-uitkleed-apps, richt Brussel ook de aandacht op Snapchat. Het sociale netwerk staat bekend om zijn snelle verdwijnende berichten en filters, maar komt nu onder vuur te liggen vanwege zorgen over privacy en mogelijke schadelijke content. Europese toezichthouders onderzoeken op dit moment hoe Snapchat omgaat met zulke kwesties.

Deze onderzoeken maken deel uit van een bredere Europese aanpak om techbedrijven strenger te reguleren. Brussel wil dat platforms verantwoordelijkheid nemen voor de content die op hun diensten verschijnt, zeker als die schadelijk is voor jongeren.

Door het verbod op AI-uitkleed-apps en het onderzoek naar Snapchat pakt Europa eindelijk de technologieën aan die online misbruik mogelijk maken.

Europese strijd tegen techmisbruik

De EU heeft de afgelopen jaren verschillende wetten ingevoerd om grote techbedrijven aan banden te leggen en gebruikers beter te beschermen. Van regels rond AI tot strengere privacywetten: Brussel wil dat technologie niet langer een vrijbrief is voor misbruik.

Met dit verbod zet de EU een van de eerste duidelijke stappen om dit probleem aan te pakken. Het laat zien dat de EU niet alleen praat, maar ook actie onderneemt tegen schadelijke innovaties. Het is een waarschuwing aan techbedrijven: bepaalde toepassingen van AI zijn onacceptabel en worden hard aangepakt.

Ondertussen blijft de discussie over hoe ver die regulering moet gaan en hoe innovatie niet in de weg gelegd wordt. Maar dat het tijd is voor strengere grenzen, staat voor veel politici buiten kijf.

Related Articles

Het Europees Parlement stemt deze zomer over het verbod op AI-uitkleedapps. Tegelijkertijd onderzoekt Brussel Snapchat grondig. De strijd tegen schadelijke tech is losgebarsten en de komende jaren kunnen gebruikers in Europa meer bescherming verwachten.

Dit artikel is gemaakt met behulp van AI.