Google Cloud i Google Mind połączyły siły, aby stworzyć narzędzie, które pozwoli oznaczać grafiki wytworzone przez sztuczną inteligencję w sposób, który nie psuje wrażeń odbiorców. Jest jednak pewien haczyk — nie będzie można wykorzystać go z każdym modelem.
Nowe narzędzie wychodzi poza wcześniejsze zapowiedzi
Prezes Google, Sundar Pichai, wypowiadał się o oznaczaniu treści stworzonych przez AI już w maju 2023, podczas wydarzenia Google I/O. Wtedy jednak omawiał umieszczanie informacji o udziale sztucznej inteligencji w metadanych obrazków:
Idąc dalej, budujemy nasze modele od początku uwzględniając znaki wodne i inne techniki. Jeśli spojrzycie na syntetyczny obraz, imponujące jest, jak realnie wygląda, więc możecie sobie wyobrazić, jak ważne będzie to w przyszłości.
Metadane pozwalają twórcom treści powiązać dodatkowy kontekst z oryginalnymi plikami, zapewniając więcej informacji za każdym razem, gdy napotkasz obraz. Zadbamy o to, aby każdy z naszych obrazów wygenerowanych przez sztuczną inteligencję zawierał te metadane.
Wygląda jednak na to, że firma poszła o krok dalej. DeepMind, czyli dział Google zajmujący się sztuczną inteligencją, poinformował na swoim blogu, że uruchamia SynthID. To nowe narzędzie, które dodaje znaki wodne do obrazków wygenerowanych przez AI — obecnie jednak tylko dla grafik wygenerowanych przez model Imagen.
Imagen jest modelem zamieniającym tekst na obraz, stworzonym przez Google i dostępnym jedynie w ramach należącej do amerykańskiego giganta platformy Vertex AI, służącej do budowania aplikacji opartych na sztucznej inteligencji.
Twórcy podkreślają jednak, że widzą zastosowanie dla narzędzia także w innych narzędziach i modelach Google, a także w zewnętrznych firmach, więc być może za jakiś czas SynthID będzie szerzej dostępny. Na razie jest w fazie bety.
Oznaczenia SynthID nie dostrzeżesz gołym okiem
Tradycyjne znaki wodne, nawet te przezroczyste i ledwie widoczne, mogą zaburzać odbiór wizualny dzieła, a do tego bez często bez problemu można je usunąć, wycinając dany fragment. SynthID ma w związku z tym działać w sposób niewidoczny gołym okiem, ale skuteczny. Jak informuje DeepMind, narzędzie działa poprzez osadzenie cyfrowego znaku wodnego bezpośrednio w pikselach obrazu.
Jednocześnie twórcy zadbali, aby oznaczenie nie było łatwe do usunięcia:
Zaprojektowaliśmy SynthID tak, aby nie pogarszał jakości obrazu i pozwalał, aby znak wodny pozostał wykrywalny nawet po modyfikacjach, takich jak dodanie filtrów, zmiana kolorów i zapisanie przy użyciu różnych schematów kompresji stratnej — najczęściej używanej w przypadku plików JPEG.
W razie wątpliwości, czy dany obraz został wygenerowany przez AI, SynthID może go przeanalizować i wydać wyrok. Są trzy możliwe odpowiedzi: potwierdzenie, że obraz najprawdopodobniej stworzyła sztuczna inteligencja, że zapewne go nie stworzyła, bądź że narzędzie ma wątpliwości i nie jest w stanie udzielić konkretnej odpowiedzi.
Dajcie znać, co o tym sądzicie!
WARTO PRZECZYTAĆ:
ChatGPT zyskał głos (a nawet 5)! Można z nim rozmawiać, w tym po polsku
Elon Musk jest wkurzony na OpenAl. Uważa, że firma porzuciła pierwotną misję na rzecz zysku
Prezes Google posypuje głowę popiołem. Pomyłki Gemini nazywa “całkowicie nieakceptowalnymi”