Google Cloud i DeepMind współpracują nad SynthID, jest to narzędzie do znakowania wodnego obrazów generowanych przez sztuczną inteligencję, umożliwiając użytkownikom weryfikację tworzenia sztuki lub grafiki przez model sztucznej inteligencji.

• Google Cloud i Google DeepMind współpracują nad wydaniem narzędzia do znakowania wodnego obrazów generowanych przez sztuczną inteligencję, które pozwoli ludziom dowiedzieć się, czy dzieło sztuki lub grafika zostały stworzone przez model sztucznej inteligencji.
• Opcja dodawania znaku wodnego jest teraz dostępna dla klientów korzystających z algorytmu dyfuzji tekstu do obrazu Imagen firmy Google.

Google Cloud i Google DeepMind współpracują nad wydaniem narzędzia do znakowania wodnego obrazów generowanych przez sztuczną inteligencję, które pozwoli ludziom dowiedzieć się, czy dzieło sztuki lub grafika zostały stworzone przez model sztucznej inteligencji. Google DeepMind to dział badań nad sztuczną inteligencją firmy Alphabet Inc.

W oświadczeniu opublikowanym we wtorek badacze DeepMind przedstawili SynthID, narzędzie w wersji beta, które integruje cyfrowy „znak wodny” bezpośrednio z obrazem stworzonym przez Vertex AI, platformę firmy do budowania sztucznej inteligencji, przy użyciu generatywnego modelu sztucznej inteligencji Google Imagen. Umożliwia to niewielkiej grupie osób testujących nową technologię oznaczanie swoich zdjęć jako wygenerowanych przez sztuczną inteligencję.

System działa przy użyciu dwóch różnych modeli sztucznej inteligencji. Jeden model tworzy skrupulatnie stworzony znak, który subtelnie zmienia oryginał w sposób niewykrywalny dla ludzkiego oka, ale może być „widziany” przez inny model AI.

Modyfikacji nie można jednak łatwo cofnąć za pomocą filtrów, takich jak te dostępne na Instagramie, lub poprzez przycięcie lub zmianę rozmiaru obrazu.

Użytkownicy mogą uruchomić określony obraz za pomocą narzędzia, aby określić poziom zaufania do twierdzenia, że został on utworzony i oznaczony znakiem wodnym przez Imagen. Istnieją trzy różne poziomy: pierwszy oznacza, że został on bez wątpienia stworzony przy użyciu sztucznej inteligencji (AI); drugi oznacza, że nie znaleziono znaku wodnego; a trzeci oznacza, że obraz jest wątpliwy, ponieważ model mógł znaleźć znak wodny.

Pochodzenie i legalność zdjęć można określić na wiele sposobów, w tym za pomocą znaków wodnych. Obrazy można również rozpoznać po ich metadanych, które są dodatkowymi informacjami często dodawanymi do obrazu przez oprogramowanie lub aparat. Ponieważ jednak informacje te mogą zostać zmienione lub usunięte, nie jest to niezawodna technika potwierdzania ważności obrazu.

Ogromny potencjał twórczy, jaki odblokowała sztuczna inteligencja generatywna, doprowadził do wielkiej radości i atrakcyjności, ale niesie ze sobą również ryzyko nadużyć i szkód. Fotografie stworzone przy użyciu modeli generowania obrazu, takich jak Imagen, mogą z łatwością tworzyć fantastyczne dzieła sztuki, a także fotorealistyczne i realistyczne zdjęcia.

Obecnie trudniej niż kiedykolwiek jest stwierdzić, czy fałszywe zdjęcia osób politycznych wygenerowane przez sztuczną inteligencję są prawdziwe, czy nie, ponieważ zaczynają one krążyć w mediach społecznościowych. Chociaż w większości nieszkodliwy, wygenerowany przez sztuczną inteligencję obraz papieża Franciszka w białej, puchowej kurtce opracowany przez Midjourney stał się wirusowy w marcu i służył podkreśleniu potencjału tych systemów.

Sven Gowal i Pushmeet Kohli, badacze z Google DeepMind, zauważyli w komunikacie, że zdolność do rozpoznawania treści tworzonych przez sztuczną inteligencję jest niezbędna do edukowania użytkowników o tym, kiedy wchodzą w interakcję z generowanymi mediami i do zapobiegania rozprzestrzenianiu się fałszywych informacji.

Według naukowców oba modele zostały zoptymalizowane pod kątem różnych scenariuszy, w tym poprawnej identyfikacji znaku wodnego, gdy obraz został zmodyfikowany i wyrównania znaku, aby lepiej pasował do oryginalnej zawartości, aby był bardziej niezauważalny. Modele zostały przetestowane na szerokiej gamie różnych typów obrazów, aby przygotować je na liczne przypadki różnych typów obrazów.

Arun Chandrasekaran, wiceprezes i analityk w firmie Gartner, powiedział SiliconANGLE, że Google wydało ważne oświadczenie. Opcja dodawania znaku wodnego jest teraz dostępna dla klientów korzystających z algorytmu dyfuzji tekstu do obrazu Google Imagen. Znak wodny jest kluczowym krokiem w udaremnianiu głębokich podróbek, biorąc pod uwagę powszechność tych podróbek i rozszerzający się globalny krajobraz regulacyjny.

Jedną z siedmiu znaczących firm technologicznych, które dobrowolnie zobowiązały się do zapewnienia bezpieczeństwa sztucznej inteligencji w ramach programu Białego Domu w lipcu, było Google. Ponadto firma współzałożyła Frontier Model Forum wraz z Microsoft Corp., OpenAI LP, twórcą ChatGPT i firmą badawczą AI Anthropic. Ta grupa branżowa zajmuje się odpowiedzialnym i bezpiecznym rozwojem modeli sztucznej inteligencji. Ponadto technologia ta jest rozwijana, ponieważ Unia Europejska jest gotowa do sformalizowania ram prawnych „AI Act”, które ograniczą bezpieczne korzystanie ze sztucznej inteligencji w krajach członkowskich.

Według Chandrasekarana, odporność technologii znaku wodnego opracowanej przez DeepMind, która, jak ostrzegają sami badacze, nie jest odporna na wszystkie formy manipulacji obrazem, jest nadal sytuacją typu „poczekamy, zobaczymy”. Ponadto znak wodny jest unikalny dla modelu Google; przypuszczalnie firmy technologiczne będą współpracować w celu opracowania standardów kompatybilnych ze wszystkimi modelami sztucznej inteligencji.

Naukowcy stwierdzili: „Oczekujemy, że nasza technologia SynthID może zostać zintegrowana z szeroką gamą rozwiązań dla twórców i użytkowników w całym społeczeństwie, a my nadal rozwijamy SynthID, zbierając opinie użytkowników, zwiększając jego możliwości i badając nowe funkcje.