Jak poznat AI fotografii

Generativní modely jako Midjourney, DALL·E nebo Stable Diffusion jsou čím dál přesvědčivější, ale i tak po sobě obvykle zanechávají stopy – jak na první pohled viditelné, tak skryté v datech souboru. Tenhle přehled shrnuje, čeho si všímat pouhým okem a co za tebe automaticky zkontroluje Photo Validator.

Vizuální indicie – co si všímat pouhým okem

Ruce a prsty. Ruce jsou pořád nejslabší místo generativních modelů. Hledej příliš mnoho nebo málo prstů, prsty srostlé dohromady, nepřirozeně pokroucené klouby nebo ruce, které fyzicky nedávají smysl vzhledem k tomu, co drží.

Text a nápisy v obraze. Cedule, trička, klávesnice nebo etikety s textem bývají zkomolené – písmena, která nedávají smysl, náhodně se opakují, nebo vypadají jako z jiné abecedy. Rozostřený text sám o sobě nic neznamená, ale zkomolený a nesmyslný ano.

Opakující se vzory. Dlaždice, cihly, listy stromu nebo vlasy – generativní modely mají tendenci nekonzistentně opakovat drobné vzory, které v realitě vypadají náhodněji. Podívej se, jestli se stejný detail nevrací identicky na více místech fotky.

Světlo a stíny. Zkontroluj, jestli stíny všech objektů na fotce míří stejným směrem a odpovídají jednomu zdroji světla. Nekonzistentní osvětlení, chybějící odrazy v zrcadlech nebo skle a stíny, které neodpovídají tvaru objektu, jsou častým tellem.

Kůže a textury. AI fotky lidí mívají nepřirozeně hladkou pleť bez pórů, nebo naopak texturu, která je „moc dokonalá" a plastická. Podobně to platí pro látky, srst zvířat nebo povrch materiálů – něco, co by mělo mít nepravidelnou strukturu, působí uměle uniformně.

Detaily v pozadí. Architektura, která nedává smysl (schody nikam nevedoucí, okna v nemožných místech), zkreslené linie u okrajů širokoúhlých záběrů nebo lidé a předměty v pozadí s pokřivenou anatomií – pozadí bývá tam, kde model „šetří" pozornost nejvíc.

Technické indicie – co appka zkontroluje za tebe

Chybějící nebo podezřelá EXIF metadata. Reálná fotka z fotoaparátu nebo mobilu obvykle nese metadata o výrobci, expozici a často i GPS poloze. Úplná absence těchto dat, nebo naopak data, která si vzájemně odporují, je varovný signál – i když sama o sobě nic nedokazuje, protože metadata jde snadno smazat i u reálné fotky.

C2PA a Content Credentials. Čím dál víc fotoaparátů, editorů (Photoshop) i generativních nástrojů zapisuje do souboru kryptograficky podepsaný „štítek původu" podle otevřeného standardu C2PA – pod spotřebitelskou značkou Content Credentials. Pokud fotka tenhle štítek nese, dá se z něj přímo vyčíst, jak vznikla. Víc se dočteš v článku o C2PA a Content Credentials.

Pixelová forenzní analýza. Kromě viditelných indicií existuje řada technik, které pouhým okem neuvidíš – analýza šumu snímače, komprese (Error Level Analysis), frekvenčního spektra nebo detekce klonování a inpaintingu. Právě tyhle metody spolu s ML klasifikátorem a kontrolou metadat tvoří jádro toho, jak Photo Validator vyhodnocuje fotky.

Jak si to rychle ověřit

Žádná z výše uvedených indicií sama o sobě nic nedokazuje – i reálné fotky mívají neobvyklé stíny nebo chybějící metadata, a čím dál lepší modely dokážou i ruce zvládnout správně. Spolehlivější je kombinace víc signálů najednou, ideálně automatizovaná. Přesně to dělá Photo Validator – nahraješ fotku a do pár vteřin dostaneš rozbor podle desítek nezávislých forenzních a technických signálů, ne jen jedno číslo.