Google ogłosiło we wtorek, że użytkownicy mają nowe sposoby, aby dowiedzieć się, czy obraz został stworzony przy użyciu generatywnej sztucznej inteligencji (AI). Podczas gdy gigant technologiczny pracował nad opracowaniem wewnętrznych narzędzi do znakowania wodnego treści generowanych przez AI, dołączył również do Coalition for Content Provenance and Authenticity (C2PA) jako członek komitetu sterującego w lutym. Po współpracy z innymi podmiotami z branży w celu opracowania nowego standardu technicznego firma integruje je teraz z obrazami dostępnymi za pośrednictwem swoich narzędzi.
Google pomoże użytkownikom identyfikować obrazy generowane przez sztuczną inteligencję
Ryzyko związane z obrazami generowanymi przez AI polega na tym, że wielu cyfrowo tworzonych i ulepszanych obrazów nie da się odróżnić od prawdziwych. Z tego powodu problem deepfake’ów gwałtownie wzrósł, gdy realistyczny obraz wygenerowany przez AI przedstawiający osobę, miejsce lub wydarzenie jest uważany za prawdziwy, aby rozpowszechniać dezinformację.
Google oświadczyło w wpis na blogu że w pierwszej połowie roku współpracowała z innymi członkami koalicji, aby opracować nową wersję (2.1) standardu technicznego nazwanego Content Credentials. Mówi się, że jest on bardziej bezpieczny przed różnymi rodzajami manipulacji i ma bardziej rygorystyczne wymagania techniczne. Ten standard jest teraz dodawany do obrazów, które można wyszukiwać za pomocą narzędzi Google.
Gigant technologiczny powiedział, że Content Credentials zostaną zintegrowane z obrazami, które pojawiają się w Google Images, Lens i Circle to Search. Oznacza to, że gdy użytkownicy przejdą do sekcji „Informacje o tym obrazie”, mogą sprawdzić metadane C2PA potwierdzające, czy obraz został utworzony lub edytowany przy użyciu narzędzi AI.
Ponadto Google poinformowało, że zamierza zintegrować metadane C2PA za pomocą swoich systemów reklamowych. Dane te będą stanowić podstawę kluczowych zasad i strategii egzekwowania firmy w przyszłości. Ponadto firma poszukuje również sposobów przekazywania informacji C2PA widzom na YouTube, aby pomóc im dowiedzieć się, czy film został nagrany za pomocą kamery, czy też został wykonany cyfrowo.
Warto zauważyć, że gigant technologiczny opracował wewnętrzny system znakowania wodnego technologia dla treści AI o nazwie SynthID. Ten system został stworzony przez Google DeepMind i osadza informacje w pikselach obrazu w taki sposób, że pozostają niewidoczne dla oczu, ale pojawiają się po sprawdzeniu za pomocą specjalnych narzędzi.
