"Robot prawnik" oszustwo, twierdzi FTC w ramach poważnych represji wobec AI

Federal Trade Commission ogłosiła we wtorek nową akcję egzekwowania prawa o nazwie Operation AI Comply. W ramach akcji podjęto działania przeciwko wielu firmom, które wykorzystywały sztuczną inteligencję do „doładowania” oszukańczych produktów i usług.

Sprawy dotyczyły fałszywych recenzji generowanych przez sztuczną inteligencję, „pierwszego na świecie robota-prawnika” i oszustw związanych ze sklepami internetowymi.

Ten FTC stwierdziła w oświadczeniu że konsumenci stracili dziesiątki milionów dolarów, skuszeni obietnicą, że rozwiązywanie problemów przy pomocy sztucznej inteligencji i automatyzacja zaoszczędzą im czas i pieniądze, a w przypadku handlu elektronicznego – doprowadzą do wzrostu zysków.

Ostatecznie firmy nie spełniły swoich obietnic i wiedziały, że oszukują klientów.

„Wykorzystywanie narzędzi sztucznej inteligencji do oszukiwania, wprowadzania w błąd lub defraudacji jest nielegalne” powiedział Lina M. Khan, przewodnicząca agencji. „Działania egzekucyjne FTC jasno pokazują, że nie ma wyjątku od AI w przepisach”.

Skarga FTC przeciwko Rytr, firmie oferującej usługę pisania AI, opisuje, w jaki sposób subskrybenci mogli skutecznie generować fałszywe recenzje, które nie miały żadnego uzasadnienia w danych wejściowych ich użytkowników. FTC stwierdziła, że ​​w wielu przypadkach recenzje generowane przez AI zawierały fałszywe informacje, które mogłyby oszukać konsumentów zainteresowanych zakupem określonego produktu. Niektórzy subskrybenci Rytr stworzyli tysiące recenzji, które potencjalnie zawierały nieścisłości.

FTC argumentowała, że ​​Rytr oferował usługę zdolną do rozpowszechniania „nadmiaru fałszywych recenzji, które zaszkodziłyby zarówno konsumentom, jak i uczciwym konkurentom”. FTC zaproponowała, aby w przyszłości Rytr nie reklamował, nie promował, nie sprzedawał ani nie sprzedawał usług związanych z generowaniem recenzji lub opinii konsumentów. W sierpniu agencja zakazała generowania recenzji przez sztuczną inteligencję i fałszywych recenzji.

W ramach Operation AI Comply, FTC podjęło działania przeciwko DoNotPay, firmie, która poinformowała konsumentów, że jej robot AI może pomóc im „pozwać za napaść bez prawnika” i „w mgnieniu oka wygenerować całkowicie ważne dokumenty prawne”. Chociaż firma reklamowała usługę jako „pierwszego na świecie robota prawnika”, nie przeprowadziła testów w celu porównania swojego chatbota AI z ludzkim prawnikiem. Nie miała też prawników w swoim zespole.

Zamiast tego firma poinformowała klientów, że może sprawdzić, czy na stronie internetowej małej firmy nie występują naruszenia prawa federalnego i stanowego, ale funkcja ta okazała się nieskuteczna.

DoNotPay poinformował Mashable w oświadczeniu, że skarga FTC dotyczyła usług, z których korzystało „kilkaset” klientów i które „zostały dawno wycofane”. Firma zauważyła, że ​​rozstrzygnęła sprawę bez przyznania się do odpowiedzialności.

FTC złożyła również skargi na trzy firmy, które napadały na osoby chcące otworzyć sklepy internetowe, w tym na TikTok, Walmart, Amazon i Etsy. Firmy te zazwyczaj pobierały znaczną opłatę za uruchomienie sklepu internetowego opartego na zastrzeżonym oprogramowaniu i sztucznej inteligencji, co mogło zwiększyć ich zyski. Niektórzy klienci musieli kupować zapasy, które się nie sprzedawały.

Jedna firma, FBA Machine, obiecała klientom, że będą mogli prowadzić „biznes siedmiocyfrowy”, który będzie „wolny od ryzyka”. Fałszywie gwarantowała zwroty pieniędzy klientom, którzy nie odzyskali początkowej inwestycji, która według FTC wahała się od dziesiątek tysięcy do setek tysięcy dolarów. Łącznie klienci stracili prawie 16 milionów dolarów na tym procederze.

Inna firma, Ascend Ecom, powiedziała klientom, że mogą otworzyć sklepy, które ostatecznie będą generować pięciocyfrowy miesięczny dochód, dzięki jej „nowoczesnym” narzędziom AI. FTC oszacowała, że ​​w wyniku tego oszustwa klienci stracili co najmniej 25 milionów dolarów.

AKTUALIZACJA: 25 września 2024 r., 11:55 UTC Niniejszy artykuł został zaktualizowany o oświadczenie DoNotPay.