Azi am văzut că Google a lansat platforma SynthID Detector care poate fi folosită de utilizatori (numai cu un cont Google/Apple/ChatGPT) pentru a verifica dacă instrumentele AI au fost folosite la generarea unor materiale video/audio sau imagini. Cine e interesat poate să încarce în SynthID Detector materialul pe care vrea să îl verifice și să vadă dacă Google poate identifica implicarea AI-ului îmn generarea sa.
În condițiile în care tot mai mult conținut fals e generat cu AI-ul (după cum am spus că se va întâmpla), inițiativa Google de a veni să ofere o modalitate de a verifica proveniența anumitor materiale e o idee foarte bună. Să presupunem că pe undeva găsiți filme/poze sau înregistrări audio care vi se par de interes, dar nu puteți spune cu siguranță dacă sunt făcute sau nu cu AI-ul, alegerea SynthID Detector vă poate ajuta să răspundeți la întrebare.
Numai că în momentul de față serviciul poate să detecteze conținutul generat cu AI doar dacă a fost folosit un AI de la Google, NVIDIA, Kakao sau Apple și dacă are watermark SyntID. Conținutul generat cu alte AI-uri, să zicem cel de la Microsoft nu poate fi încă recunoscut.
Mai jos i-am dat să recunoască o imagine generată cu Bing Image Creator și nu a putut să facă asta.
Nu înseamnă că serviciul SynthID Detector e inutil, doar că restrânge destul de mult aria de folosire. E clar că ideea este ca tot ce înseamnă informație generată cu AI să fie marcată ca atare, folosind instrumente standard precum SynthID, însă e evident că acum nu se întâmplă asta. Mai ales că pe lângă produsele comerciale care probabil vor fi obligate prin lege să adauge identificatori speciali, există și instrumentele terțe, create și configurate de entuziaști, acasă la ei, care acum nu au niciun fel de identificator. Și pentru că de cele mai multe ori materialele de impact generate cu AI vin din aceste surse, sunt greu de identificat.
Dar să revin la SynthID Detector: știind că există, o să vă fie mai ușor să vedeți dacă vreo poză/înregistrare audio sau film pe care îl primiți prin WhatsApp sau îl vedeți pe rețelele sociale și vi se pare că vă entuziasmează sau din contră, vă crește tensiunea, e sau nu creat cu AI. Îl urcați în SynthID Detector și vedeți ce zice.
Pentru că în momentul actual nu tot ceea ce vedem/auzim pe internet, în special în zona social media, este și adevărat. Pentru că Microsoft, OpenAI, NVIDIA, Google ne-au băgat pe gât mizieria de AI, pare că nu mai avem de ales și trebuie să învățăm să îl folosim, iar primul pas este acela în care să știm cum putem detecta implicarea sa.
Și pentru asta pornți de la SynthID Detector.
via Google
