"Każdy jest bezbronny": Fałszywy dyrektor szkoły w USA Audio wywołuje alarm AI

Waszyngton, Stany Zjednoczone:

Sfabrykowany klip audio przedstawiający dyrektora szkoły średniej w USA wywołał falę oburzenia, w wyniku czego musi on zmagać się z zarzutami rasizmu i antysemityzmu w sprawie, która wywołała nowy alarm dotyczący manipulacji sztuczną inteligencją.

Policja oskarżyła niezadowolonego pracownika szkoły w Maryland o wyprodukowanie przy użyciu sztucznej inteligencji nagrania, które ujrzało światło dzienne w styczniu – rzekomo przedstawiającego dyrektora Erica Eiswerta potępiającego Żydów i „niewdzięczne czarne dzieci”.

Klip, po którym administratorzy szkoły średniej w Pikesville zasypali lawinę wściekłych telefonów i gróźb, podkreśla łatwość, z jaką powszechnie dostępna sztuczna inteligencja i narzędzia do edycji mogą zostać wykorzystane do podszywania się pod celebrytów i zwykłych obywateli.

W roku, w którym na całym świecie, w tym w Stanach Zjednoczonych, odbywają się ważne wybory, odcinek ten pokazuje także niebezpieczeństwa związane z realistycznymi deepfakesami, gdy prawo nadrabia zaległości.

„Potrzebujesz jednego obrazu, aby umieścić osobę na filmie, potrzebujesz 30 sekund dźwięku, aby sklonować czyjś głos” – powiedział AFP Hany Farid, ekspert w dziedzinie kryminalistyki cyfrowej na Uniwersytecie Kalifornijskim w Berkeley.

„Prawie nic nie możesz zrobić, chyba że ukryjesz się pod kamieniem.

„Wektor zagrożenia przeniósł się z Joe Bidenów i Taylor Swifts z całego świata na dyrektorów szkół średnich, 15-latków, reporterów, prawników, szefów i babcie. Wszyscy są teraz bezbronni”.

Po oficjalnym dochodzeniu dyrektor sportowy szkoły, 31-letni Dazhon Darien, został aresztowany pod koniec zeszłego miesiąca w związku z nagraniem.

Z dokumentów obciążających wynika, że ​​pracownicy szkoły średniej w Pikesville poczuli się niepewnie po usłyszeniu dźwięku. Nauczyciele martwili się, że w kampusie zainstalowano podsłuchy, a w mediach społecznościowych Eiswerta pojawiały się obraźliwe wiadomości.

„Świat byłby lepszym miejscem, gdybyś był po drugiej stronie piachu” – napisał do Eiswerta jeden z użytkowników X.

Eiswert, który nie odpowiedział na prośbę AFP o komentarz, został wysłany przez szkołę na urlop i potrzebował ochrony w swoim domu.

‘Szkoda’

Kiedy w styczniu nagranie trafiło do mediów społecznościowych, za sprawą popularnego konta na Instagramie, pod którego postami pojawiło się tysiące komentarzy, kryzys sprawił, że szkoła znalazła się w centrum uwagi całego kraju.

Dźwięk został wzmocniony przez aktywistę DeRay’a McKessona, który zażądał zwolnienia Eiswerta wobec prawie miliona jego obserwujących na X. Kiedy zarzuty wyszły na jaw, przyznał, że dał się oszukać.

„Nadal niepokoją mnie szkody, jakie wyrządziły te działania” – powiedział Billy Burke, dyrektor wykonawczy związku reprezentującego Eiswert, odnosząc się do nagrania.

Manipulacja ma miejsce w czasie, gdy wiele amerykańskich szkół usilnie stara się powstrzymać fałszywą pornografię wykorzystującą sztuczną inteligencję, co prowadzi do nękania uczniów ze względu na brak przepisów federalnych.

Scott Shellenberger, prokurator stanu Baltimore, powiedział na konferencji prasowej, że incydent w Pikesville uwypuklił potrzebę „dostosowania prawa do nowej technologii”.

Jego biuro oskarża Dariena pod czterema zarzutami, w tym zakłócaniem zajęć w szkole.

„Milion dyrektorów”

Śledczy powiązali nagranie częściowo z dyrektorem sportowym, łącząc go z adresem e-mail, który pierwotnie je rozesłał.

Policja twierdzi, że rzekoma oszczerstwo była odwetem za dochodzenie, które Eiswert wszczęło w grudniu w celu ustalenia, czy Darien zezwolił na bezprawną płatność na rzecz trenera, który był także jego współlokatorem.

Zanim ukazał się dźwięk, Darien szukał w szkolnej sieci narzędzi sztucznej inteligencji i, jak wynika z dokumentów oskarżenia, korzystał z „dużych modeli językowych”.

Profesor Uniwersytetu Kolorado, który przeanalizował nagranie dla policji, doszedł do wniosku, że „zawiera ono ślady treści generowanych przez sztuczną inteligencję, które po fakcie zostały zredagowane przez człowieka”.

Śledczy skonsultowali się także z Faridem, pisząc, że kalifornijski ekspert stwierdził, że zostało to „zmanipulowane, a wiele nagrań połączono w całość przy użyciu nieznanego oprogramowania”.

Treści generowane przez sztuczną inteligencję – a zwłaszcza dźwięk, który zdaniem ekspertów jest szczególnie trudny do wykrycia – wywołały ogólnokrajowy alarm w styczniu, kiedy fałszywa automatyczna rozmowa telefoniczna udająca Bidena namawiała mieszkańców New Hampshire, aby nie głosowali w prawyborach stanu.

„Ma to wpływ na wszystko, od całych gospodarek, przez demokracje, aż po dyrektora szkoły średniej” – Farid powiedział o niewłaściwym wykorzystaniu tej technologii.

Sprawa Eiswerta była sygnałem alarmowym w Pikesville, pokazując, jak dezinformacja może zrujnować nawet „bardzo zgraną społeczność” – powiedział Parker Bratton, szkolny trener golfa.

„Jest jeden prezydent. Jest milion dyrektorów. Ludzie pytają: «Co to dla mnie oznacza? Jakie będą dla mnie potencjalne konsekwencje, gdy ktoś po prostu zdecyduje, że chce zakończyć moją karierę?»”.

„Nigdy nie będziemy w stanie uciec od tej historii”.

(Z wyjątkiem nagłówka, ta historia nie została zredagowana przez personel NDTV i została opublikowana z kanału konsorcjalnego.)