Erotyczne treści AI zalały sieć. Grok przerabia zdjęcia zwykłych użytkowników

Skandal wokół platformy Elona Muska

Badanie dotyczyło 11 dni stycznia. Tylko w tym czasie wygenerował miliony erotycznych obrazów, w tym 23 tys. zdjęć przedstawiających dzieci. Europejskie organy regulacyjne nadal nie podjęły decyzji co do tego, jak poradzić sobie z eksplozją fałszywych zdjęć (deepfake'ów), generowanych przez Groka. 

Centrum Przeciwdziałania Przemocy w Sieci przeanalizowało 20 tys. postów na koncie Groka, spośród 4,6 mln wszystkich publikacji chatbota. Okazało się, że aż 65 proc. z nich było obrazami o charakterze erotycznym, a ok. 0,5 proc. przedstawiało dzieci. 

Skandal z niewłaściwym używaniem Groka wybuchł przed końcem 2025 roku. Należąca do amerykańskiego miliardera Elona Muska platforma X dwukrotnie próbowała rozwiązać problem - 9 i 14 stycznia. 

Co zrobi Unia Europejska?

To jednak nie wystarczyło Komisji Europejskiej, która odpowiada za wdrożenie ustawy o usługach cyfrowych. Choć nie wiadomo jeszcze, jakie narzędzie zostanie użyte w tej sprawie, to platforma X została już ukarana grzywną. Ponadto toczą się kolejne dochodzenia.

Unia Europejska rozważa nawet wprowadzenie zakazu programów opartych na sztucznej inteligencji, które mogą być używane do pokazywania nagości. To może, choć nie musi rozwiązać problem z Grokiem.

Centrum Przeciwdziałania Przemocy w Sieci nie analizowało motywów postów, w związku z czym nie można było stwierdzić, czy dany użytkownik godził się na wykorzystanie jego zdjęcia przez chatbota w taki sposób. 

• Korea Południowa jako pierwsza reguluje AI. Nowa ustawa właśnie weszła w życie
• Sztuczna inteligencja zaklęta w robocie. Microsoft rozwija adaptacyjne modele AI
• Zagrożenia sztucznej inteligencji. "Idziemy na łatwiznę"

Źródło: Politico/egz