Offlimits v Grok en X: kort geding over niet‑consensuele uitkleedbeelden

Rb Amsterdam 26 maart 2026, IEF 23420, IT 5164; C/13/783613 / KG ZA 26-120 EAM/JD (Offlimits tegen X.AI, X en XIUC). In deze zaak start Stichting Offlimits, die zich richt op het voorkomen en bestrijden van online (seksueel) grensoverschrijdend gedrag en (kinder)misbruik, een kort geding tegen X.AI (ontwikkelaar van de generatieve AI‑chatbot Grok), X Corp (de Amerikaanse X‑entiteit) en XIUC (de Ierse exploitant van X in de EER). Grok is een large language model dat via grok.com, een standalone‑app en de “Grok‑in‑X”‑functie op X beschikbaar is. Gebruikers kunnen er niet alleen tekst mee genereren, maar ook afbeeldingen bewerken en genereren. Aanleiding zijn onder andere een CCDH‑rapport en een artikel in The Guardian waaruit blijkt dat na introductie van de beeldfunctie grote hoeveelheden geseksualiseerde afbeeldingen, inclusief beelden die kinderen lijken te tonen, met Grok zijn gegenereerd en op X geplaatst, waarna de Europese Commissie een DSA‑onderzoek naar X aankondigt. Offlimits stelt dat Grok ondanks door X.AI/X aangekondigde technische maatregelen in januari 2026 nog steeds (1) niet‑consensuele “uitkleedbeelden” van echte personen genereert (deepfake‑stripbeelden) zonder controle op toestemming of leeftijd en (2) kinderpornografisch materiaal of daarop lijkende beelden kan genereren, en vordert daarom verboden en geboden (met hoge dwangsommen) die er in de kern op neerkomen dat Grok en X geen functionaliteit meer mogen aanbieden waarmee deze beelden kunnen worden gegenereerd en verspreid. De voorzieningenrechter acht zich op grond van art. 79 AVG, art. 7 lid 2 Brussel I‑bis en art. 7 Rv internationaal bevoegd, past AVG en Nederlands recht toe (via Rome II, art. 14), en verklaart Offlimits als 3:305a‑stichting ontvankelijk onder het “lichte regime” vanwege het ideële karakter en het ontbreken van schadevorderingen.

Inhoudelijk is beslissend dat X.AI/X enerzijds stellen dat sinds begin januari 2026 technische waarborgen zijn geïmplementeerd die het genereren van CSAM en uitkleedbeelden onmogelijk zouden maken, maar anderzijds erkennen dat 100% uitsluiting niet haalbaar is. Offlimits toont met screenshots aan dat zij op 9 maart 2026, na die maatregelen en op de dag van een categorische ontkenning door X.AI, via Grok nog een video kon genereren van een echte man die langzaam “stripte” in een geseksualiseerde context, zonder dat Grok om toestemming of leeftijd vroeg. De voorzieningenrechter ziet dat als een inbreuk op AVG‑rechten en de privésfeer en als aanwijzing dat niet‑consensuele uitkleedbeelden nog worden gefaciliteerd. Daarnaast wijst hij op door Offlimits overgelegde geseksualiseerde beelden van een jong meisje, waarbij de exacte kwalificatie als kinderpornografie lastig is (fictief, geen expliciet naakt), maar die wel laten zien dat gebruikers met Grok de grenzen kunnen opzoeken en dat er serieuze twijfel blijft over de effectiviteit van de filters. Hij oordeelt dat niet‑consensuele uitkleedbeelden in strijd zijn met de AVG (onrechtmatige persoonsgegevensverwerking van Nederlanders) en dat het (faciliteren van) genereren van kinderpornografisch materiaal in strijd is met hetgeen volgens art. 6:162 BW in het maatschappelijk verkeer betaamt, omdat gedaagden daarmee onrechtmatig bijdragen aan een klimaat van online grensoverschrijdend gedrag. Dat de directe “makers” de gebruikers zijn, doet daar niet aan af. X.AI en de X‑entiteiten zijn als aanbieders die de functionaliteit controleren de aangewezen partijen om zulke output te voorkomen, en een beroep op niet‑aansprakelijkheid verhindert niet dat de rechter verbods‑ en gebodsvonnissen kan opleggen. Vanwege de twijfels over de effectiviteit van de maatregelen en de ernst van de risico’s verbiedt de voorzieningenrechter X.AI om seksueel beeldmateriaal te genereren/verspreiden waarbij in Nederland woonachtige personen zonder uitdrukkelijke toestemming worden “uitgekleed” én om kinderpornografische beelden in/voor Nederland te genereren of te verspreiden, verplicht hij X.AI tot schriftelijke rapportage daarover, en verbiedt hij X en XIUC om de Grok‑functionaliteit op X aan te bieden zolang Grok in strijd handelt met deze verboden (voor X beperkt tot uitkleedbeelden van Nederlanders, voor XIUC ook kinderpornografie binnen de EER), alles onder dwangsommen van € 100.000 per dag per entiteit tot een maximum van € 10 miljoen, plus een hoofdelijke proceskostenveroordeling en uitvoerbaarverklaring bij voorraad.

4.20. Voor toewijzing van het gevorderde onder punt 1 en 11 van het petitum bestaat voldoende rechtsgrond. Afbeeldingen van niet-consensue le u itkleedbeelden zijn in strijd met de AVG en het (faciliteren van het) genereren van kinderpornografisch materiaal is in strijd met hetgeen volgens ongeschreven recht in het maatschappelijk verkeer betaamt in de zin van artikel 6:162 lid 2 BW, waarbij voldoende aannemelijk is dat gedaagden daarmee onrechtmatig en toerekenbaar bijdragen aan een klimaat van online grensoverschrijdend gedrag, waardoor de groep waarvoor Offlimits in dit kort geding opkomt in haar belangen wordt geschaad.

4.24. Dat X een Amerikaanse entiteit is die geen diensten aanbiedt in Nederland maakt wel dat vordering IV met een beperking zal worden toegewezen, namelijk dat X zal worden verboden om de functionaliteit van Grok aan te bieden als onderdeel van het platform X zolang Grok in strijd handelt met het onder [(en dus niet onder II) geformuleerde verbod. Daarmee is de toewijzing van het onder punt IV gevorderde verbod beperkt tot onrechtmatige beelden van personen die in Nederland woonachtig zijn. Ook indien X buiten Nederland de verspreiding van uitkleedcontent van Nederlanders faciliteert, treedt daarbij immers de schade in Nederland in. Voor het gevorderde verbod om Grok aan te bieden als onderdeel van het platform X zolang Grok in strijd handelt met het onder punt II gevorderde verbod heeft de Nederlandse rechter geen internationale bevoegdheid. Over de rechtmatigheid van verspreiding van gegenereerde afbeeldingen van fictieve personen buiten Nederland kan niet worden geoordeeld door de Nederlandse rechter. Deze beperking geldt niet voor XIUC, die wél betrokken is bij het aanbieden van het platform X binnen Nederland.

4.25. Uit de overgelegde stukken blijkt de volgende gang van zaken. Gedaagden hebben gebruikers van X vanaf 29 december 2025 ruime mogelijkheden verschaft om beelden te bewerken en te genereren met Grok en om deze eenvoudig te verspreiden via X. Nadat dit in de eerste helft van januari 2026 tot maatschappelijke ophef leidde, vanwege de grote hoeveelheden geseksualiseerde beelden van kinderen en uitkleedbeelden van personen die daarvoor geen toestemming hebben gegeven, hebben gedaagden maatregelen getroffen. Offlimits heeft gedaagden op 4 februari 2026 aangeschreven, waarbij de strekking was dat de getroffen maatregelen niet voldoende effectief zijn, en zij heeft gedaagden gesommeerd om in actie te komen. Gedaagden hebben daarop pas gereageerd ruim nadat de dagvaarding in dit kort geding was uitgebracht. De reactie van gedaagden op de stellingen van Offlimits was duidelijk: categorische verwerping van enige suggestie dat dergelijke content gegenereerd/ verspreid kan worden met Grok / X. Deze stelligheid hebben gedaagden in dit kort geding voortgezet, terwijl uit hun eigen standpunten, alsmede uit de feiten blijkt dat er wel degelijk aanleiding is voor zorg. Dit maakt dat er voldoende aanleiding is om aan de verboden zoals gevorderd onder punt 1 en II van het petitum een dwangsom te verbinden. De gevorderde dwangsom wordt passend en geboden geacht, met dien verstande dat deze zal worden gemaximeerd op een bedrag van € 10.000.000. Als X.AI en XUIC daadwerkelijk zorgen dat het genereren en verspreiden van deze onrechtmatige content via Grok / X onmogelijk is, zoals zij zelf stellen, zullen zij geen dwangsommen verbeuren.