Puncte Cheie
Google adoptă transparența în conținutul AI
Google intenționează să își asigure transparența asupra originii clipurilor video generate de AI.
Compania a anunțat că toate videoclipurile realizate cu noul său model Veo în aplicația VideoFX vor avea watermark digital, datorită sistemului SynthID al Google.
SynthID este sistemul de watermark digital al Google care a început să fie implementat în imaginile generate de AI anul trecut.
Tehnologia încorporează watermark-uri imperceptibile în conținutul realizat de AI, astfel încât instrumentele de detectare a AI să poată recunoaște că acel conținut a fost generat de AI.
Veo, cel mai recent model de generare video al companiei prezentat în cadrul evenimentului I/O, poate crea clipuri mai lungi și de o rezoluție mai mare decât era posibil anterior.
Prin urmare, urmărirea sursei unui astfel de conținut va deveni din ce în ce mai importantă.
Extinderea watermark-urilor digitale
În cadrul unei întâlniri cu reporterii, CEO-ul DeepMind, Demis Hassabis, a declarat că watermark-urile SynthID se vor extinde și la textele generate de AI.
Pe măsură ce modelele AI generative avansează, tot mai multe companii au recurs la watermarking din teama că AI ar putea alimenta o nouă val de dezinformare.
Sistemele de watermarking ar oferi platformelor precum Google un cadru pentru detectarea conținutului generat de AI care altfel ar fi imposibil de distins.
TikTok și Meta au anunțat recent planuri de a sprijini instrumente similare de detectare pe platformele lor și de a eticheta mai mult conținut AI în aplicațiile lor.
Desigur, există încă întrebări semnificative cu privire la faptul dacă watermark-urile digitale oferă în sine o protecție suficientă împotriva conținutului AI înșelător.
Cercetătorii au demonstrat că watermark-urile pot fi ușor de evitat.
Însă, detectarea conținutului realizat de AI într-un fel sau altul reprezintă un prim pas important către transparență.
