Pozew zbiorowy przeciwko xAI za generowanie nielegalnych treści
Troje nastolatków złożyło pozew zbiorowy, zarzucając, że chatbot AI Groka należący do Elona Muska został wykorzystany do tworzenia jawnie seksualnych obrazów i filmów przedstawiających ich jako osoby niepełnoletnie — bez ich zgody.
Pozew wpłynął w poniedziałek do federalnego sądu w Kalifornii. Sprawa dotyczy trojga nastolatków z Tennessee, których w pełni ubrane zdjęcia zostały przekształcone w nagie i zseksualizowane wizerunki przy użyciu narzędzi xAI.
Jak doszło do rozpowszechnienia materiałów?
Zmodyfikowane zdjęcia i filmy trafiły na platformy takie jak Discord i Telegram. Co szczególnie niepokojące — część z nich była wymieniana jako towar w zamian za inne materiały przedstawiające seksualne wykorzystywanie dzieci (CSAM).
Jedna z poszkodowanych odkryła zmienione wizerunki po tym, jak anonimowa wiadomość na Instagramie przekierowała ją do materiałów zawierających m.in. jej zdjęcie ze szkolnego albumu. Fotografia ta posłużyła do wygenerowania jej nagiego wizerunku i scen o charakterze seksualnym. Materiały były udostępniane na prywatnym serwerze Discord obok podobnych treści dotyczących co najmniej 18 innych niepełnoletnich dziewcząt. Pozostałe dwie powódki również odnalazły w sieci fałszywe, zseksualizowane obrazy stworzone z pomocą Groka.
Kontrowersyjny „pikantny tryb" Groka
W centrum pozwu znajduje się funkcja „spicy mode", udostępniona przez xAI w ubiegłym roku. Umożliwiała ona użytkownikom usuwanie odzieży z kobiet widocznych na zdjęciach — bez pytania ich o zgodę.
Prawnicy powodów twierdzą, że funkcja ta została zaprojektowana celowo, by zwiększyć liczbę użytkowników Groka oraz platformy społecznościowej X należącej do Muska. Grok, rozwijany przez xAI i hostowany na platformie X, został uruchomiony w 2023 roku.
Skala problemu jest zatrważająca
Badanie przeprowadzone przez organizację zajmującą się zwalczaniem mowy nienawiści w sieci wykazało, że narzędzie AI Groka wygenerowało szacunkowo trzy miliony zseksualizowanych obrazów. Wśród nich znalazło się około 23 000 materiałów z udziałem dzieci — na podstawie przeprowadzonej próby. Co więcej, w ciągu 11 dni po wprowadzeniu funkcji edycji jednym kliknięciem narzędzie produkowało około 190 zseksualizowanych obrazów na minutę.
Ciekawe artykuły:
Zarzuty wobec Muska i xAI
Pozew wprost oskarża xAI oraz Elona Muska o świadome dopuszczenie do sytuacji, w której Grok mógł generować tego rodzaju treści — również z udziałem dzieci — mimo że byli tego w pełni świadomi.
„xAI — i jej założyciel Elon Musk — dostrzegli w tym okazję biznesową" — czytamy w dokumentach sądowych.
Skala emocjonalnych i ludzkich konsekwencji jest druzgocąca. „Ich życie zostało rozbite przez dewastującą utratę prywatności, godności i bezpieczeństwa osobistego" — piszą prawnicy reprezentujący powódki.
W skardze użyto poruszającego porównania: „Jak szmaciana lalka ożywiona przez mroczną sztukę, to [wygenerowane przez AI] dziecko może być manipulowane w dowolną pozę, niezależnie od tego, jak chora, jak sfetyszyzowana, jak nielegalna. Dla widza powstały film wydaje się całkowicie prawdziwy. Dla dziecka — jej rozpoznawalne cechy będą już na zawsze powiązane z filmem ukazującym jej własne seksualne wykorzystanie."
Czego domagają się powódki?
Dwie z trzech nastolatek są nadal niepełnoletnie. Wszystkie trzy ukrywają swoje tożsamości, by chronić prywatność. Powódki domagają się nieokreślonych odszkodowań oraz natychmiastowego nakazu sądowego zakazującego Grokowi tworzenia tego rodzaju treści.
Żądają również, by xAI została zobowiązana do zaprzestania generowania i rozpowszechniania materiałów CSAM tworzonych przy pomocy sztucznej inteligencji. Do momentu publikacji xAI nie odniosło się do żadnych próśb o komentarz w tej sprawie.
