Meskite akmenį ir greičiausiai pataikysite į gilų klastotę. Generatyvaus dirbtinio intelekto pakeitimas į komercines priemones sukėlė absoliutų netikro turinio internete sprogimą: pagal asmens tapatybės patvirtinimo platformą Sumsub, nuo 2023 m. iki 2024 m. visame pasaulyje padirbtų klastotės išaugo 4 kartus. 2024 m. giliosios klastotės sudarė 7 % visų sukčiavimo atvejų, vienam Sumsub. , pradedant apsimetinėjimu ir paskyros perėmimu iki sudėtingų socialinės inžinerijos kampanijų.
Tikimasi, kad tai bus reikšmingas indėlis į kovą su giliais klastotėmis, „Meta“ išleidžia įrankį, skirtą AI sukurtiems vaizdo klipams pritaikyti nepastebimus vandenženklius. Ketvirtadienį paskelbtas įrankis, vadinamas „Meta Video Seal“, yra atvirojo kodo ir sukurtas integruoti į esamą programinę įrangą. Įrankis prisijungia prie kitų „Meta“ vandens ženklų žymėjimo įrankių, „Watermark Anything“ (šiandien pakartotinai išleistas pagal leistiną licenciją) ir „Audio Seal“.
„Sukūrėme „Video Seal“, kad pateiktume veiksmingesnį vaizdo įrašų vandenženklio sprendimą, ypač skirtą AI sukurtų vaizdo įrašų aptikimui ir originalumui apsaugoti“, – interviu „TechCrunch“ pasakojo Meta dirbtinio intelekto tyrinėtojas Pierre'as Fernandezas.
„Video Seal“ nėra pirmoji tokio tipo technologija. „DeepMind“ „SynthID“ gali vaizdo įrašus pažymėti vandeniu, o „Microsoft“ turi savo vaizdo įrašų vandenženklio metodus.
Tačiau Fernandezas tvirtina, kad daugelis esamų metodų yra netinkami.
„Nors egzistuoja kiti vandenženklio įrankiai, jie nepasiūlo pakankamai tvirto vaizdo glaudinimo, kuris labai paplitęs bendrinant turinį per socialines platformas; nebuvo pakankamai veiksmingi, kad galėtų veikti dideliu mastu; nebuvo atviri arba atkuriami; arba buvo gauti iš vaizdo vandens ženklų, kurie nėra optimalūs vaizdo įrašams“, – sakė Fernandezas.
Be vandens ženklo, „Video Seal“ prie vaizdo įrašų gali pridėti paslėptą pranešimą, kurį vėliau galima atskleisti, kad būtų galima nustatyti jų kilmę. „Meta“ teigia, kad „Video Seal“ yra atsparus įprastam redagavimui, pavyzdžiui, suliejimui ir apkarpymui, taip pat populiariems glaudinimo algoritmams.
Fernandezas pripažįsta, kad „Video Seal“ turi tam tikrų apribojimų, daugiausia kompromiso tarp įrankio vandens ženklų suvokimo ir jų bendro atsparumo manipuliavimui. Jis pridūrė, kad stiprus suspaudimas ir reikšmingi pakeitimai gali pakeisti vandens ženklus arba padaryti juos neatkuriami.
Žinoma, didesnė problema, su kuria susiduria „Video Seal“, yra ta, kad kūrėjai ir pramonė neturės daug priežasčių jį priimti, ypač tiems, kurie jau naudoja patentuotus sprendimus. Siekdama tai išspręsti, „Meta“ pristato viešą lyderių lentelę „Meta Omni Seal Bench“, skirtą įvairių vandenženklių metodų veiksmingumui palyginti, ir šiais metais organizuoja seminarą apie vandenženklį ICLR, pagrindinėje AI konferencijoje.
„Tikimės, kad vis daugiau AI tyrėjų ir kūrėjų į savo darbą integruos tam tikrą vandens ženklų formą“, – sakė Fernandezas. „Norime bendradarbiauti su pramone ir akademine bendruomene, kad šioje srityje pažanga būtų spartesnė.