Giganci technologiczni pomagają znajdować aplikacje do tworzenia deepfake'ów
Najnowsze śledztwo ujawniło niepokojący fakt — Apple i Google aktywnie ułatwiają użytkownikom dotarcie do aplikacji generujących fałszywe nagie zdjęcia z wykorzystaniem sztucznej inteligencji.
Czym są aplikacje „nudify" i jak działają?
Tak zwane aplikacje do „rozbierania" wykorzystują AI do cyfrowej modyfikacji zdjęć prawdziwych ludzi. Potrafią przedstawiać ich jako nagich, umieszczać w filmach pornograficznych lub zamieniać w seksualnie nacechowane chatboty.
Organizacja Tech Transparency Project (TTP) opublikowała w środę raport, w którym wskazuje na znaczącą rolę obu platform w rozpowszechnianiu tego rodzaju narzędzi.
Co wykazało dochodzenie?
TTP po raz pierwszy poinformowała w styczniu, że zarówno App Store, jak i Google Play gościły dziesiątki aplikacji zaprojektowanych do cyfrowego usuwania ubrań ze zdjęć kobiet. Najnowsze ustalenia idą jednak dalej — pokazują, że własne systemy wyszukiwania i reklamowe obu platform aktywnie kierują użytkowników ku tym aplikacjom, zwiększając ich widoczność.
Apple i Google posiadają regulaminy zabraniające aplikacjom umożliwiającym tworzenie niezgodnych z czyjąś wolą materiałów o charakterze seksualnym. Mimo to raport TTP wykazał, że takie aplikacje są nadal dostępne, a narzędzia wyszukiwania obu firm wprost na nie wskazują.
Wpisanie fraz takich jak „nudify" czy „undress" w sklepach z aplikacjami obu gigantów dawało dostęp do oprogramowania potrafiącego zmodyfikować zdjęcia celebrytek i innych osób, aby wyglądały na nagie lub częściowo rozebrane. Firmy wyświetlały przy tym reklamy podobnych aplikacji w tych samych wynikach wyszukiwania — w tym podpowiedzi przez autouzupełnianie.
Skala problemu — liczby, które szokują
TTP zidentyfikowała 18 aplikacji tego typu na platformie Apple oraz 20 w sklepie Google Play. Część z nich była reklamowana z użyciem sugestywnych zdjęć, inne nie były w ten sposób promowane wprost, lecz nadal można było ich używać do tworzenia deepfake'ów.
Ciekawe artykuły:
Dane zebrane przez firmę zajmującą się analityką mobilną pokazują, że wskazane przez TTP aplikacje pobrano łącznie 483 miliony razy, a ich łączne przychody przekroczyły 122 miliony dolarów.
Szczególnie alarmujące jest to, że śledztwo ujawniło 31 aplikacji do tworzenia nagich deepfake'ów sklasyfikowanych jako odpowiednie dla nieletnich. To wyjątkowo niepokojące odkrycie w kontekście rosnącej liczby incydentów związanych z seksualnymi deepfake'ami w szkołach.
Reakcja Apple i Google
Po tym, jak TTP i Bloomberg News ujawniły wyniki raportu, Apple usunęło 15 aplikacji, a Google — siedem.
Skala wcześniejszej dostępności tych narzędzi w połączeniu z tak ograniczoną reakcją budzi poważne pytania o skuteczność moderacji treści przez obie firmy.
Presja prawna rośnie na całym świecie
Raport pojawia się w momencie, gdy w amerykańskim stanie Minnesota trwają zaawansowane prace legislacyjne zmierzające do całkowitego zakazu aplikacji do AI-nudyfikacji.
W Wielkiej Brytanii Komisarz ds. Dzieci wezwał do natychmiastowego wprowadzenia zakazu takich aplikacji, powołując się na obawy, że umożliwiają one „seksualne wykorzystywanie dzieci poprzez deepfake'i".
