Znakowanie wodne treści generowanych przez sztuczną inteligencję (ang. AI content watermarking, AI watermarking) – technika osadzania w treściach generowanych przez systemy sztucznej inteligencji (tekstach, obrazach, nagraniach audio i wideo) niewidocznego dla odbiorcy, maszynowo odczytywalnego sygnału, który umożliwia późniejsze rozpoznanie, że dana treść została wytworzona lub przetworzona przez model AI. W odróżnieniu od klasycznego cyfrowego znaku wodnego, osadzanego w gotowym pliku (np. obrazie lub nagraniu), znak wodny treści AI jest zwykle wprowadzany już na etapie generowania treści – w przypadku tekstu poprzez odpowiednie sterowanie doborem słów przez duży model językowy.
Znakowanie wodne treści AI jest uznawane za jedno z podstawowych narzędzi przejrzystości w erze generatywnej sztucznej inteligencji – ma przeciwdziałać dezinformacji, oszustwom akademickim i podszywaniu się, a także ułatwiać oznaczanie deepfake'ów. Obowiązek maszynowego oznaczania treści generowanych przez AI wprowadziły m.in. Unia Europejska (AI Act – art. 50 aktu w sprawie sztucznej inteligencji, stosowany od 2 sierpnia 2026) i Chiny (przepisy obowiązujące od 1 września 2025).
Historia Koncepcję statystycznego znakowania tekstu generowanego przez duże modele językowe przedstawił w listopadzie 2022 roku Scott Aaronson, pracujący wówczas nad bezpieczeństwem AI w OpenAI. Zaproponował on, by wybór kolejnych słów (tokenów) był sterowany kryptograficzną funkcją pseudolosową z tajnym kluczem, co pozwala później statystycznie wykazać, że tekst wygenerował model.
W 2023 roku zespół Johna Kirchenbauera z Uniwersytetu Marylandu opublikował pierwszy szeroko cytowany algorytm znakowania tekstu z modeli językowych, oparty na podziale słownika na „zieloną” i „czerwoną” listę tokenów i premiowaniu tokenów z listy zielonej; wykrycie znaku polega na teście statystycznym częstości tokenów „zielonych”. W sierpniu 2023 roku Google DeepMind udostępniło system SynthID, początkowo służący do niewidocznego znakowania obrazów generowanych przez model Imagen, a w maju 2024 roku rozszerzony na tekst (w chatbocie Gemini) i wideo (model Veo).
W październiku 2024 roku badacze Google DeepMind opublikowali w czasopiśmie „Nature” opis systemu SynthID-Text – pierwszego wdrożenia generatywnego znakowania tekstu na skalę produkcyjną. Znak wodny był osadzany w odpowiedziach Gemini dla milionów użytkowników, a testy na blisko 20 milionach odpowiedzi nie wykazały statystycznie istotnego pogorszenia ich jakości. Media opisywały tę publikację jako przełom w oznaczaniu treści AI. OpenAI poinformowało w 2024 roku, że dysponuje skutecznym narzędziem do znakowania tekstu z ChatGPT, ale wstrzymuje jego wdrożenie, m.in. z obawy przed fałszywymi oskarżeniami użytkowników i ich odpływem do konkurencji.
W sierpniu 2026 roku firma Anthropic ogłosiła, że w związku z wejściem w życie art. 50 unijnego aktu w sprawie sztucznej inteligencji nowe wersje modelu Claude będą osadzać niewidoczny znak wodny w generowanym tekście (metodą wywodzącą się z SynthID-Text), a pliki graficzne będą opatrywane podpisanymi kryptograficznie metadanymi w standardzie C2PA.
Metody Znakowanie tekstu Znak wodny w tekście generowanym przez duży model językowy nie jest osobnym, ukrytym elementem (np. znakiem Unicode), lecz statystycznym wzorcem w samym doborze słów. Model językowy generuje tekst token po tokenie, wybierając spośród wielu dopuszczalnych, niemal równoważnych wariantów. Algorytm znakujący ingeruje w losowość tego wyboru za pomocą tajnego klucza, tak by w długim tekście powstał wzorzec wykrywalny testem statystycznym, ale niezauważalny dla czytelnika.
W systemie SynthID-Text zastosowano tzw. próbkowanie turniejowe (ang. tournament sampling): dla każdej pozycji losowanych jest kilku „kandydatów”, którym funkcje pseudolosowe przypisują punktacje, a zwycięzca wieloetapowego turnieju trafia do tekstu. Do wykrycia znaku wystarczy klucz i sam tekst – nie jest potrzebny dostęp do modelu. Metoda może działać w wariancie niezniekształcającym (bez mierzalnego wpływu na jakość tekstu) albo zniekształcającym, który zwiększa wykrywalność kosztem jakości; narzut obliczeniowy jest znikomy.
Znakowanie obrazów, dźwięku i wideo W przypadku obrazów znak wodny jest osadzany bezpośrednio w wartościach pikseli przez sieć neuronową trenowaną wspólnie z siecią detekcyjną, dzięki czemu pozostaje wykrywalny po typowych modyfikacjach, takich jak kompresja JPEG, kadrowanie czy zmiana kolorystyki. W nagraniach wideo znakowana jest każda klatka.
Metadane pochodzenia treści Uzupełnieniem znaków wodnych są podpisane kryptograficznie metadane opisujące pochodzenie treści (ang. content credentials), rozwijane przez Coalition for Content Provenance and Authenticity (C2PA). Stosuje je m.in. Anthropic dla plików graficznych generowanych przez Claude'a. Metadane są jednak mniej trwałe od znaku wodnego – mogą zniknąć przy konwersji formatu lub wykonaniu zrzutu ekranu.
Skuteczność i ograniczenia Generatywne znaki wodne w tekście są odporne na kopiowanie i lekką redakcję, ale można je osłabić lub usunąć przez gruntowne przeredagowanie, parafrazę (także wykonaną innym modelem AI) lub podwójne tłumaczenie. Badania Sadasivana i współpracowników z 2023 roku wykazały, że ataki parafrazujące istotnie obniżają skuteczność zarówno znaków wodnych, jak i detektorów treści AI.
Skuteczność znakowania maleje też w tekstach krótkich oraz o niskiej entropii, w których model ma niewielki wybór słów – na przykład w odpowiedziach faktograficznych lub w kodzie źródłowym, gdzie wymagana jest dokładność. Znak wodny nie rozstrzyga ponadto kwestii autorstwa: tekst napisany przez człowieka, a jedynie zredagowany przez model, również zostanie oznaczony, dlatego wykrycie znaku jest tylko sygnałem, że treść mogła zostać przetworzona przez dany model. System działa wreszcie tylko wtedy, gdy dostawca modelu go stosuje – nie pozwala wykryć treści z modeli nieznakowanych, w tym wielu modeli otwartych.
Regulacje prawne W Unii Europejskiej art. 50 aktu w sprawie sztucznej inteligencji zobowiązuje dostawców systemów generatywnej AI do oznaczania wyników w formacie nadającym się do odczytu maszynowego i wykrywalnym jako wygenerowane sztucznie; przepis jest stosowany od 2 sierpnia 2026 roku, z okresem przejściowym do 2 grudnia 2026 roku dla systemów wprowadzonych wcześniej na rynek. 10 czerwca 2026 roku Komisja Europejska opublikowała dobrowolny kodeks postępowania w sprawie oznaczania i etykietowania treści generowanych przez AI, bezpłatne mechanizmy detekcji oraz interoperacyjność detektorów od 2 lutego 2027 roku. Opublikowany kodeks przewiduje m.in. stosowanie co najmniej dwóch technik maszynowego oznaczania (np. niewidocznego znaku wodnego i podpisanych metadanych). Do końca lipca 2026 roku kodeks podpisało około 190 podmiotów.
W Chinach od 1 września 2025 roku obowiązują przepisy o oznaczaniu treści syntetycznych generowanych przez AI, wymagające zarówno oznaczeń jawnych (widocznych dla użytkownika), jak i niejawnych, osadzonych w metadanych plików. W Stanach Zjednoczonych rozporządzenie wykonawcze prezydenta Joe Bidena nr 14110 z października 2023 roku zleciło Departamentowi Handlu opracowanie wytycznych dotyczących uwierzytelniania treści i znakowania wodnego materiałów generowanych przez AI. Rozporządzenie to zostało uchylone w styczniu 2025 roku przez prezydenta Donalda Trumpa.
Odbiór Wdrożenie znaków wodnych przez Anthropic w 2026 roku wywołało krytykę części użytkowników. Autorzy wykorzystujący model do redakcji własnych tekstów obawiali się, że ich praca będzie oznaczana jako wygenerowana przez AI, a programiści wpływu znakowania na jakość kodu. Zarzuty o pogarszanie jakości tekstu odrzucił Scott Aaronson, autor pierwotnej koncepcji, wskazując, że odpowiedź modelu i tak jest losowana spośród ogromnej liczby praktycznie równie dobrych wariantów, a znakowanie jedynie zastępuje tę losowość wykrywalną pseudolosowością. Zvi Mowshowitz, publicysta zajmujący się AI, ocenił znakowanie tekstu jako rozwiązanie bezkosztowe i korzystne, podkreślając, że znak wodny nie pozwala zidentyfikować użytkownika, a jego wykrywalność maleje proporcjonalnie do skali przeredagowania tekstu. Komentatorzy zwracali też uwagę, że znak wodny wykrywa jedynie udział konkretnego modelu, a nie rzeczywiste autorstwo, oraz że osoby świadomie ukrywające użycie AI mogą usunąć znak przez parafrazę. Zwolennicy technologii podkreślają natomiast, że znakowanie wodne jest kluczowym elementem regulacji AI i walki z dezinformacją, choć jego pełna skuteczność wymaga przyjęcia przez całą branżę.
Zobacz też Cyfrowy znak wodny Deepfake Generatywna sztuczna inteligencja
Przypisy
Linki zewnętrzne SynthID – strona Google DeepMind Otwarta implementacja SynthID-Text
Kategoria:Sztuczna inteligencja Kategoria:Steganografia Kategoria:Uczenie maszynowe