Generacyjna sztuczna inteligencja wskrzesza przerażające dziedzictwo bigotów, w tym byłego niemieckiego dyktatora Adolfa Hitlera, gdy użytkownicy TikTok wykorzystują narzędzia sztucznej inteligencji aplikacji do ożywiania ksenofobicznych przemówień dawno zmarłych przywódców.
Zjawisko to zostało niedawno udokumentowane w dwóch różnych raportach, jednym sporządzonym przez grupę nadzorującą non-profit Media mają znaczenie dla Ameryki i kolejny w dochodzeniu prowadzonym przez Instytut Dialogu Strategicznego oraz SITE Intelligence Group, opublikowane przez Poczta Waszyngtona. Obaj ujawnili niewielką sieć kont tworzących i rozpowszechniających przetłumaczone wersje przemówień Hitlera z dubbingiem AI.
Dlaczego nastolatki zdradzają nieznajomym swoje sekrety w Internecie
Według badań Media Matters nagrania dźwiękowe wygenerowane przez sztuczną inteligencję zgromadziły miliony wyświetleń, w tym filmy kpiące z przywódcy lub te, które zamieniły dźwięk w mem. Wyglądało na to, że inne konta szczerze zajmowały się tworzeniem i udostępnianiem tych nagrań, czasami zawierających treści wręcz antysemickie. Popularne filmy wykorzystujące wspomniany dźwięk, często stylizowane na spowolniony i „pogłosowy” dźwięk, pochodzą z kwietnia 2024 r., a kilka z nich zostało nieprawidłowo przetłumaczonych. Po opublikowaniu raportu TikTok usunął konto jednego ze znanych przesyłających i zaczął kierować powiązane wyszukiwania do „Fakty o Holokauście” strona dokumentująca dokonaną przez Hitlera rzeź milionów cywilnych Żydów, osób niepełnosprawnych, więźniów politycznych, osób LGBTQ+ i osób pochodzenia romskiego.
The Poczta Waszyngtona podało, że znane grupy faszystowskie pochwaliły wykorzystanie sztucznej inteligencji do szerzenia bigoteryjnej propagandy, powołując się na wzrost liczby młodych ludzi z „czerwonymi pigułkami” angażującymi się w mowę nienawiści i prawicowe społeczności w Internecie. Eksperci powiedzieli publikacji, że obawiają się, że narzędzia do moderacji platform, w tym te w witrynach Meta i X, nie będą w stanie nadążać za rozprzestrzenianiem się wspomaganym sztuczną inteligencją.
Najlepsze historie, które można mashować
W obu raportach odnotowano mnóstwo pozytywnych nastrojów w sekcjach komentarzy do filmów, przy czym niektórzy użytkownicy wprost chwalili postać historyczną i jej politykę, a także zaznaczono, że wiele z tych filmów nie prezentuje oczywistych gwizdków na psy rasy białej supremacji, co budzi obawę, że użytkownicy nieświadomie radykalizacji ze względu na treść.
Podobne próby przepisania dziedzictwa postaci historycznych podjęto w zeszłym roku na TikToku, pobudzone sztuczną inteligencją. W czerwcu A omyłkowo wyciekły wewnętrzna wersja nowego narzędzia do awatarów cyfrowych AI, które umożliwiało użytkownikom generowanie reklam wykorzystujących podobizny twórców, doprowadziła do rozpowszechnienia kilku filmów wygenerowanych przez sztuczną inteligencję, przedstawiających awatary recytujące różne retoryki białej supremacji, w tym fragmenty Moja walka oraz „List do Ameryki” Osamy bin Ladena. W 2023 r. filmy TikTok recytując to samo oświadczenie bin Ladenaczasami kojarzony z nastrojami białej supremacji, wywołał panikę w różnych aplikacjachpodczas gdy użytkownicy zmienili kontekst przemówienia jako antyimperialnego traktatu w świetle izraelskiego oblężenia Palestyńczyków w Gazie i wsparcia narodu przez USA.
Ogólnie rzecz biorąc, grupy nadzorujące udokumentowały powtarzające się przypadki, gdy zarówno podmioty krajowe, jak i zagraniczne szerzyły dezinformację w aplikacji za pomocą narzędzi generatywnych sztucznej inteligencji, w tym syntetycznych cyfrowych fałszerstw (lub „deepfake”) przywódców politycznych. Na platformie mnożą się także pronazistowskie konta zwolenników białej supremacji, współpracujące z sieciami w witrynach takich jak Telegram, aby ulepszyć ich zawartość w ramach algorytmów mediów społecznościowych.
Według A Raport z lipca z Instytutu Dialogu Strategicznego na TikToku znajdują się „setki” kont pronazistowskich, które łącznie gromadzą miliony wyświetleń. Organizacja twierdzi, że firma nie podjęła działań wystarczająco szybko, aby powstrzymać ich rozprzestrzenianie się.
