Dwóch studentów inżynierii z Harvardu wykorzystało inteligentne okulary Ray-Ban Meta do stworzenia aplikacji, która może ujawniać poufne informacje o ludziach bez ich wiedzy. Uczniowie opublikowali wersję demonstracyjną filmu na platformie X (wcześniej znanej jako Twitter) i zaprezentowali możliwości aplikacji. Warto zauważyć, że aplikacja nie jest udostępniana publicznie użytkownikom; zamiast tego ma na celu zwrócenie uwagi na zagrożenia związane z urządzeniami do noszenia zasilanymi sztuczną inteligencją, które korzystają z dyskretnych kamer mogących rejestrować zdjęcia i obrazy ludzi.
Aplikacja o nazwie I-Xray wykorzystuje sztuczną inteligencję (AI) do rozpoznawania twarzy, a następnie wykorzystuje przetworzone dane wizualne do konkretnych osób. Doxxing, popularny slang internetowy będący skrótem od „upuszczania dox (nieformalnego dokumentu lub dokumentów)”, to czynność polegająca na ujawnianiu danych osobowych danej osoby bez jej zgody.
Został zintegrowany z inteligentnymi okularami Ray-Ban Meta, ale twórcy powiedzieli, że będzie działać z dowolnymi inteligentnymi okularami z dyskretnymi aparatami. Wykorzystuje model AI podobny do PimEyes i FaceCheck do odwrotnego rozpoznawania twarzy. Technologia może dopasować twarz danej osoby do publicznie dostępnych jej zdjęć w Internecie i przeszukać adresy URL.
Następnie adresy te są podawane do innego dużego modelu językowego (LLM) i generowany jest automatyczny monit o podanie imienia i nazwiska osoby, zawodu, adresu i innych podobnych danych. Model sztucznej inteligencji przegląda również publicznie dostępne dane rządowe, takie jak bazy danych rejestracji wyborców. Dodatkowo wykorzystano w tym celu również narzędzie internetowe o nazwie FastPeopleSearch.
W krótkiej demonstracji wideo studenci Harvardu, AnhPhu Nguyen i Caine Ardayfio, również zaprezentowali działanie tej aplikacji. Mogli spotkać się z nieznajomymi już przy włączonej kamerze i zapytać ich o imię, a aplikacja oparta na sztucznej inteligencji mogła przejąć kontrolę nad wyszukiwaniem danych osobowych danej osoby.
W Dokumentach Google pliktwórcy twierdzą: „Ta synergia między LLM a przeszukiwaniem odwróconej twarzy umożliwia w pełni automatyczną i kompleksową ekstrakcję danych, co wcześniej nie było możliwe wyłącznie przy użyciu tradycyjnych metod”.
Uczniowie oświadczyli, że nie zamierzają udostępniać aplikacji publicznie i opracowali ją jedynie w celu zwrócenia uwagi na ryzyko związane z urządzeniem do noszenia wyposażonym w sztuczną inteligencję, które może dyskretnie nagrywać ludzi. Nie oznacza to jednak, że źli aktorzy nie mogą stworzyć podobnej aplikacji przy użyciu podobnej metodologii.
