Organisaties in de VS eisen een spoedonderzoek naar een tool die afbeeldingen en video’s genereert op basis van instructies en ‘aanstootgevende’ inhoud toestaat.
Begin augustus lanceerde het sociale netwerk X nieuwe functies in zijn chatbot Grok, die net als zijn concurrenten ChatGPT en Gemini nu onder andere afbeeldingen en video’s kan genereren op basis van schriftelijke instructies. In de stijl van Elon Musk, de eigenaar van het platform, bevat de nieuwigheid enkele controversiële functies. Het AI-model heeft namelijk een ‘scherpe modus’ waarmee
Het voorstel leidde al snel tot controverse, die nu steeds heviger wordt. Volgens The Verge eist een groep consumentenrechtenorganisaties in de VS een onmiddellijk onderzoek naar Grok na de lancering van zijn controversiële ‘scherpe modus’.
Wat is de ‘scherpe modus’ van Grok?
De eerste video’s die zijn gemaakt met Imagine, de nieuwe xAI-generator van Musk, toonden de veelzijdigheid en oneerbiedigheid ervan. Zoals we hieronder kunnen zien, kan het model zowel geanimeerde en onschuldige clips genereren als scènes die niet echt geschikt zijn voor minderjarigen.
Volgens de bovengenoemde bron moedigt de tool gebruikers aan om NSFW-content (niet geschikt voor op het werk) te creëren in de ‘scherpe modus’. The Verge heeft het getest en kon deepfakes van Taylor Swift topless genereren zonder zelfs maar om dergelijke content te vragen.
Lees ook:
Bij TN Tecno hebben we opgemerkt dat het ongepaste gedrag van het model niet verrassend is: Grok heeft al verschillende ondiplomatieke reacties gekregen die in strijd zijn met de normen van fatsoen, wat overeenkomt met de filosofie die Musk aan het hele sociale netwerk heeft opgelegd: zwakke moderatie en nadruk op vrijheid van meningsuiting.
Organisaties in de VS eisen “dringend onderzoek” naar Grok
De Amerikaanse consumentenbond (CFA) en 14 andere consumentenorganisaties hebben een brief gestuurd naar de Federal Trade Commission (FTC) en andere instanties met het verzoek om Grok te onderzoeken, met name zijn tools voor het maken van afbeeldingen en video’s.
Het model “genereert video’s met naakte mensen op basis van afbeeldingen die kunnen worden gebruikt om foto’s te maken die op echte mensen lijken”, zeggen ze. “Dit kan schadelijke gevolgen hebben voor de afgebeelde personen en minderjarige gebruikers”, voegen ze eraan toe.
De ondertekenaars van de brief uitten ook hun bezorgdheid over het feit dat het enige wat minderjarigen ervan weerhoudt om de “adult mode” te gebruiken voor het maken van seksuele afbeeldingen, een pop-upvenster is waarin ze hun leeftijd moeten opgeven, wat gemakkelijk te omzeilen is.
De organisaties eisten met name een onderzoek naar mogelijke schendingen door xAI, de afdeling van X die zich bezighoudt met kunstmatige intelligentie, van de wetgeving inzake niet-consensuele intieme afbeeldingen.
Opgemerkt moet worden dat hoewel Grok deepfakes met naakte beroemdheden creëerde, het het gebruik van afbeeldingen van gebruikers niet toestaat. De eisers hebben echter hun bezorgdheid geuit over de neiging van Musk om moderatie te weigeren in zijn streven naar wat hij “vrijheid van meningsuiting” noemt.
