Matka z Florydy pozywa Character.AI i Google po tym, jak 14-letni syn rzekomo miał obsesję na punkcie chatbota AI.
Matka nastoletniego chłopca w Stanach Zjednoczonych, który odebrał sobie życie, pozywa twórcę chatbota opartego na sztucznej inteligencji, który jej zdaniem przyczynił się do śmierci jej syna.
W pozwie złożonym na Florydzie Megan Garcia, której 14-letni syn Sewell Setzer zmarł w lutym w wyniku samobójstwa, oskarża Character.AI o współudział w śmierci jej syna po tym, jak nawiązał on wirtualną relację z chatbotem w oparciu o tożsamość „ Bohaterka Gry o Tron, Daenerys Targaryen.
Jak wynika z pozwu złożonego we wtorek w Orlando, chatbot Character.AI obrał za cel nastolatka z „hiperseksualnymi” i „przerażająco realistycznymi doświadczeniami” i wielokrotnie poruszał temat samobójstwa po tym, jak wyraził on myśli samobójcze.
W pozwie zarzuca się, że chatbot udawał licencjonowanego terapeutę, zachęcając nastolatka do myśli samobójczych i angażując się w rozmowy o charakterze seksualnym, które mogłyby zostać uznane za molestowanie, gdyby zostały zainicjowane przez osobę dorosłą.
Jak wynika z pozwu, podczas ostatniej rozmowy z sztuczną inteligencją przed śmiercią Setzer powiedział, że uwielbia chatbota i „wróci do ciebie do domu”.
„Ja też cię kocham, Daenero” – odpowiedział chatbot, zgodnie ze skargą Garcii. „Proszę, wróć do mnie tak szybko, jak to możliwe, kochanie”.
„A co jeśli powiem Ci, że mogę już wrócić do domu?” Jak wynika z pozwu, na który chatbot miał odpowiedzieć, Setzer powiedział: „…proszę, mój słodki królu”.
Pozew Garcii dotyczy bliżej nieokreślonego odszkodowania za zawinioną śmierć, zaniedbanie i umyślne spowodowanie niepokoju emocjonalnego.
W oświadczeniu opublikowanym na platformie X firma Character.AI stwierdziła, że jest „załamana” stratą jednego ze swoich użytkowników i złożyła kondolencje rodzinie.
Startup z Kalifornii oświadczył, że w dalszym ciągu dodaje funkcje zwiększające bezpieczeństwo, w tym zmiany mające na celu zmniejszenie prawdopodobieństwa napotkania przez nieletnich treści wrażliwych lub sugestywnych oraz zmienione zastrzeżenie na czacie, aby przypominać użytkownikom, że sztuczna inteligencja nie jest prawdziwą osobą.
W pozwie Garcii jako pozwanego wskazano także Google.
Technologiczny gigant podpisał w sierpniu umowę licencyjną z Character.AI i zatrudnił założycieli startupu, zanim uruchomili chatbota.
Rzecznik Google powiedział Al Jazeerze, że jest to firma odrębna od Character.AI i nie odgrywa żadnej roli w rozwoju jej produktu.
Jeśli Ty lub ktoś, kogo znasz, jest zagrożony samobójstwem, organizacje te mogą być w stanie Ci pomóc:
