Začátek listopadu přinesl dvě zprávy o ověřování původu fotek a videí. Míří na různé nástroje a nejlépe se čtou spolu: první je o tom, co dnes dokážou komerční detektory, druhá o tom, co kryptografický podpis zaručit neumí.
Pangram jde i na video
Americká firma Pangram, známá detektorem AI textu, 4. listopadu 2026 oznámila rozšíření svých nástrojů na obrázky a video. Model pro obrázky, který firma v létě představila jako „research preview“, teď běží i v jejím rozšíření pro Chrome, které při procházení webu označuje podezřelé obrázky. Nový model Image Flash 1.0 hodnotí video snímek po snímku a API zvládá obrázky i video. Dolní hranice rozlišení klesla z 512×512 na 256×256 px; u obrázků pod 512 px výsledek nese upozornění na nižší jistotu. „Heatmapa“ ukazuje, které části snímku vypadají jako AI.
Co firma tvrdí - a co zatím nikdo nepotvrdil
Podle Pangramu (The Next Web) model zachytí 99,2 % obrázků z AI a falešně označí 0,27 % skutečných. Na sadě, kde firma vytvořila AI kopie 100 skutečných fotek pomocí 12 generátorů, dosáhl 99,96 %, a video model uvádí 98,7 % na akademické sadě DF26. Všechna čísla jsou měření výrobce - testovací sadu pro obrázky si firma sama navrhla - a nezávislé ověření jsme nenašli. Engadget přidává i varovné detaily: model prý zpočátku označoval snímky z nových iPhonů za AI, protože telefony dnes fotky automaticky dopracovávají, a firma kvůli tomu vydání odložila. V ukázce na Pinterestu zase dostaly výsledek „nejisté“ dva zjevně neautentické obrázky. Zdarma si lze ověřit jen pár obrázků.
C2PA: podpis, který může krýt prázdná data
Druhá zpráva je z 2. října, ale do debaty o důvěře v podpisy patří stejně. Bezpečnostní výzkumník David Buchanan ukázal, jak obejít smysl podpisu C2PA. Standard dovoluje, aby manifest z výpočtu podpisu vyloučil libovolné bajtové rozsahy souboru („exclusions“). Podepisující, který to dělá záměrně, může vyloučit celý soubor: podpis pak platí nad otiskem prázdných dat, stejně jako časové razítko od nezávislé autority, které potvrzuje jen to, co bylo skutečně podepsáno. Obrázek lze dodatečně upravit a ověřovací nástroje, které Buchanan našel, nic neobvyklého neoznačily. Jako ukázku vyfotil los EuroMillions, dal mu platný podpis a důvěryhodné časové razítko z doby několik hodin před losováním a pak v obrázku čísla (nepřesvědčivě) upravil.
Úplně nový objev to není: na velké vyloučené rozsahy upozornil už v červnu 2025 Neal Krawetz v seznamu slabin C2PA, nové je, že je může záměrně využít sám podepisující. Oprava není triviální, protože výjimky mají důvod - například u PNG se kontrolní součet bloků počítá až po vložení podpisu. Buchanan proto navrhuje pro každý formát přesně určit, co se smí vyloučit, a po ověřovacích nástrojích chtít, aby to hlídaly. Žádnou opravu ani oficiální reakci autorů standardu jsme ke dni psaní nenašli.
Co z toho plyne
Obě zprávy vedou ke stejnému závěru: žádný jednotlivý signál nestačí. Detektor dává pravděpodobnost a jeho čísla pocházejí od výrobce, podpis dokládá jen podepsané bajty, ne pravost obsahu. Pangram v úvodu k modelu sám píše, že vodoznaky a metadata jdou odstranit a že je nepoužívají všichni poskytovatelé, takže na nich samotných se spolehnout nedá - a samotný detektor se zase může mýlit. Rozumné je kombinovat víc nezávislých signálů a brát výsledek jako indicii.
Co to znamená pro Photo Validator
Photo Validator Pangram nepoužívá a analyzuje jen fotky, ne video. Manifesty C2PA čte a platný podpis nebere jako důkaz, že je fotka pravá: kvůli němu žádné skóre neklesá a platný podpis bez označení AI nezpůsobí, že by fotka vypadala důvěryhodněji. Manifest, který deklaruje AI původ, naopak bere jako silný signál. Odpovídá to tomu, jak článek o C2PA standard popisuje: užitečný signál, ne důkaz. K dalším indiciím a k vodoznaku najdeš víc v článcích SynthID a Jak poznat AI fotografii a vlastní fotku můžeš vyzkoušet tady.