Meta wypowiada wojnę! Deepfake'i o podłożu seksualnym zalewają internet

Meta, właściciel Facebooka i Instagrama, pozywa firmę Joy Timeline z Hongkongu za promowanie aplikacji wykorzystujących sztuczną inteligencję do tworzenia nielegalnych, nieautoryzowanych treści deepfake, w tym obrazów nagości.
Problem deepfake’ów, czyli fałszywych treści generowanych przez sztuczną inteligencję, staje się coraz bardziej niepokojący. Takie materiały często dotyczą znanych osób – gwiazd sportu, filmu czy innych celebrytów, ale także zwykłych ludzi. Aplikacje typu „nudify” umożliwiają cyfrowe „rozbieranie” osób bez ich zgody, co rodzi poważne problemy etyczne i prawne.




Meta podjęła kroki prawne przeciwko firmie Joy Timeline, która promowała aplikacje takie jak „Crush AI”. Programy te, wykorzystując zaawansowaną sztuczną inteligencję, generowały fałszywe obrazy nagości. Skandal wybuchł po śledztwie CBS News, które ujawniło, że platformy Meta, w tym Facebook i Instagram, wyświetlały reklamy tych aplikacji, nieświadomie promując nielegalne treści.
Deepfake’i generowane przez takie aplikacje są często wykorzystywane do przestępstw, takich jak sextortion, czyli szantaż o podłożu seksualnym. Ofiarami padają zarówno dorośli, jak i nieletni, co zwiększa potrzebę skutecznych działań zapobiegawczych. Meta podkreśla, że jej pozew ma na celu ochronę użytkowników i zapewnienie bezpieczeństwa na swoich platformach.
Po ujawnieniu problemu Meta usunęła reklamy promujące aplikacje „nudify” oraz zablokowała powiązane z nimi konta i adresy URL. Firma wprowadziła także nowe mechanizmy kontroli, aby zapobiec podobnym sytuacjom w przyszłości. Joy Timeline próbowała jednak obejść te ograniczenia, co pokazuje skalę wyzwania w walce z nielegalnymi treściami.
W tle pojawiają się także inne kontrowersje związane z Meta, m.in. dotyczące prywatności w aplikacji Meta AI. Dalszy rozwój sytuacji może przynieść nowe regulacje w walce z deepfake’ami.