Google ma nowy sposób na oznaczanie grafik autorstwa AI

Google Cloud i Google Mind połączyły siły, aby stworzyć narzędzie, które pozwoli oznaczać grafiki wytworzone przez sztuczną inteligencję w sposób, który nie psuje wrażeń odbiorców. Jest jednak pewien haczyk — nie będzie można wykorzystać go z każdym modelem.

Nowe narzędzie wychodzi poza wcześniejsze zapowiedzi

Prezes Google, Sundar Pichai, wypowiadał się o oznaczaniu treści stworzonych przez AI już w maju 2023, podczas wydarzenia Google I/O. Wtedy jednak omawiał umieszczanie informacji o udziale sztucznej inteligencji w metadanych obrazków:

Idąc dalej, budujemy nasze modele od początku uwzględniając znaki wodne i inne techniki. Jeśli spojrzycie na syntetyczny obraz, imponujące jest, jak realnie wygląda, więc możecie sobie wyobrazić, jak ważne będzie to w przyszłości.

Metadane pozwalają twórcom treści powiązać dodatkowy kontekst z oryginalnymi plikami, zapewniając więcej informacji za każdym razem, gdy napotkasz obraz. Zadbamy o to, aby każdy z naszych obrazów wygenerowanych przez sztuczną inteligencję zawierał te metadane.

Wygląda jednak na to, że firma poszła o krok dalej. DeepMind, czyli dział Google zajmujący się sztuczną inteligencją, poinformował na swoim blogu, że uruchamia SynthID. To nowe narzędzie, które dodaje znaki wodne do obrazków wygenerowanych przez AI — obecnie jednak tylko dla grafik wygenerowanych przez model Imagen.

Imagen jest modelem zamieniającym tekst na obraz, stworzonym przez Google i dostępnym jedynie w ramach należącej do amerykańskiego giganta platformy Vertex AI, służącej do budowania aplikacji opartych na sztucznej inteligencji.

Twórcy podkreślają jednak, że widzą zastosowanie dla narzędzia także w innych narzędziach i modelach Google, a także w zewnętrznych firmach, więc być może za jakiś czas SynthID będzie szerzej dostępny. Na razie jest w fazie bety.

Oznaczenia SynthID nie dostrzeżesz gołym okiem

Tradycyjne znaki wodne, nawet te przezroczyste i ledwie widoczne, mogą zaburzać odbiór wizualny dzieła, a do tego bez często bez problemu można je usunąć, wycinając dany fragment. SynthID ma w związku z tym działać w sposób niewidoczny gołym okiem, ale skuteczny. Jak informuje DeepMind, narzędzie działa poprzez osadzenie cyfrowego znaku wodnego bezpośrednio w pikselach obrazu.

Jednocześnie twórcy zadbali, aby oznaczenie nie było łatwe do usunięcia:

Zaprojektowaliśmy SynthID tak, aby nie pogarszał jakości obrazu i pozwalał, aby znak wodny pozostał wykrywalny nawet po modyfikacjach, takich jak dodanie filtrów, zmiana kolorów i zapisanie przy użyciu różnych schematów kompresji stratnej — najczęściej używanej w przypadku plików JPEG.

W razie wątpliwości, czy dany obraz został wygenerowany przez AI, SynthID może go przeanalizować i wydać wyrok. Są trzy możliwe odpowiedzi: potwierdzenie, że obraz najprawdopodobniej stworzyła sztuczna inteligencja, że zapewne go nie stworzyła, bądź że narzędzie ma wątpliwości i nie jest w stanie udzielić konkretnej odpowiedzi.

Dajcie znać, co o tym sądzicie!