W środę Google DeepMind udostępniło na zasadach open source nową technologię znakowania wodnego tekstu wygenerowanego przez sztuczną inteligencję. Narzędzie do znakowania wodnego oparte na sztucznej inteligencji (AI), nazwane SynthID, może być używane w różnych formatach, w tym w tekście, obrazach, wideo i audio. Jednak obecnie oferuje narzędzie do tekstowego znaku wodnego tylko firmom i programistom. Firma dąży do szerszego zastosowania tego narzędzia, aby można było łatwo wykryć treści generowane przez sztuczną inteligencję. Osoby fizyczne i przedsiębiorstwa mogą uzyskać dostęp do tego narzędzia za pośrednictwem zaktualizowanego zestawu narzędzi odpowiedzialnej generatywnej sztucznej inteligencji z siedzibą w Mountain View, opracowanego przez giganta technologicznego.
Technologia Google DeepMind Open Source AI do tekstowego znakowania wodnego
w post na X (wcześniej znanym jako Twitter) oficjalny uchwyt Google DeepMind ogłosił, że funkcja SynthID do tekstowego znaku wodnego będzie swobodnie dostępna dla programistów i firm. Oprócz zestawu narzędzi Responsible GenAI Toolkit można go także pobrać z listy Google Hugging Face.
Tekst wygenerowany przez sztuczną inteligencję zaczął już zapełniać Internet. Laboratorium sztucznej inteligencji Amazon Web Services opublikowało: badanie na początku tego roku, w którym stwierdzono, że aż 57,1 procent wszystkich zdań w Internecie przetłumaczonych na dwa lub więcej języków można wygenerować przy użyciu narzędzi AI.
Chociaż chatboty AI wypełniające Internet bełkotliwym tekstem generowanym przez sztuczną inteligencję mogą wydawać się przypadkiem nieszkodliwego spamowania, ma to swoją ciemniejszą stronę. W rękach złych aktorów narzędzia AI mogą zostać wykorzystane do masowego generowania dezinformacji lub treści wprowadzających w błąd. Ponieważ znaczna część dyskursu społecznego toczy się w Internecie, takie działania mogą mieć wpływ na wydarzenia z życia codziennego, takie jak wybory, i zostać wykorzystane do tworzenia propagandy skierowanej przeciwko osobom publicznym.
Spośród wszystkich metod ocena tekstu wygenerowanego przez sztuczną inteligencję okazała się jak dotąd najtrudniejszym zadaniem. Dzieje się tak głównie dlatego, że dodanie znaku wodnego do słów nie jest możliwe, a nawet gdyby tak było, źli aktorzy zawsze mogliby przeformułować treść, korzystając z drugiego cyklu wyjściowego.
Jednak SynthID Google DeepMind wykorzystuje nowatorski sposób znakowania wodnego tekstu wygenerowanego przez sztuczną inteligencję. Narzędzie wykorzystuje uczenie maszynowe do przewidywania słów, które mogą pojawić się po określonym słowie w zdaniu. Rozważmy na przykład zdanie: „Jan czuł się bardzo zmęczony po całym dniu pracy”. W tym przypadku po słowie „ekstremalnie” może pojawić się tylko ograniczona liczba słów.
Na podstawie analizy stylów generowania treści różnych modeli AI, SynthID może przewidzieć słowo, które pojawi się po „ekstremalnie” i zastąpić je innym synonimem istniejącym w jego bazie danych. Narzędzie do znakowania wodnego osadzi takie słowa w całej treści. Później, gdy narzędzie sprawdza zawartość wygenerowaną przez sztuczną inteligencję, sprawdza liczbę takich słów, aby określić jej autentyczność.
Warto zauważyć, że w przypadku obrazów i filmów SynthID dodaje znak wodny bezpośrednio do pikseli klatek, dzięki czemu pozostają one niewidoczne, ale nadal można je wykryć w narzędziu. W przypadku dźwięku fale dźwiękowe są najpierw przekształcane w spektrograf, a do danych wizualnych dodawany jest znak wodny. Te funkcje nie są obecnie dostępne dla nikogo spoza Google.
