AI vs. autentsus: Digitaalse infosisu tõendamise kasvav vajadus

.

Kuidas ettevõtted reageerivad tehisintellekti sisu tõusule

Nende probleemide tõttu töötavad suured tehnoloogiaettevõtted selle kallal, kuidas parandada meedia autentsust ja päritolu. Oma iga-aastase Build-konverentsi raames teatas Microsoft, et tema Bing Image Creator ja Designer tööriistadel on nüüd uued meedia päritolufunktsioonid.

Kasutajad saavad kontrollida, kas pildid või videod on tehtud tehisintellekti abil, kasutades krüptograafilisi meetodeid, mis sisaldavad teavet selle kohta, kust sisu pärineb

. Kuid selle süsteemi toimimiseks peavad erinevad platvormid nõustuma Coalition for Content Provenance and Authenticity(C2PA) spetsifikaadiga (Coalition for Content Provenance and Authenticity).

Samuti on Meta avaldanud Meta Video Seal nimelise tööriista, mis suudab lisada tehisintellekti poolt tehtud videoklippidele nähtamatuid vesimärke. See avatud lähtekoodiga tööriist on mõeldud töötama olemasoleva tarkvaraga ilma probleemideta, mis lihtsustab tehisintellekti poolt tehtud sisu leidmist. Video Seal lubab olla vastupidav tavalisele redigeerimisele, nagu hägustamine ja kärpimine, erinevalt vanematest vesimärgistamise tehnoloogiatest, millel oli probleeme videokompressiooni ja manipuleerimisega.

Probleemid ja piirangud

Isegi nende paranduste juures on endiselt probleeme, et paljud inimesed saaksid neid tehnoloogiaid kasutada. Paljud arendajad võivad kõhklevalt minna olemasolevatelt patenteeritud lahendustelt üle avatud lähtekoodiga lahendustele nagu Video Seal.

Meta kavatseb korraldada töötubasid suurtel tehisintellekti konverentsidel ja teha avaliku edetabeli, kus võrreldakse erinevaid vesimärgistamismeetodeid, et rohkem inimesi tööle panna.

Samuti ei ole praegused vesimärgistamismeetodid videosisu puhul alati piisavalt tugevad või tõhusad.

Kaks peamist lähenemist tehisintellekti loodud sisu vastu võitlemiseks

Võitluses tehisintellekti loodud sisu vastu on välja kujunenud kaks erinevat strateegiat:

1. Vesimärgistamine (ennetav lähenemisviis):

• Toimib, lisades sisule nähtamatuid allkirju loomise hetkel.
• Toimib nagu digitaalne sertifikaat, mis näitab, et “see on tehtud tehisintellekti poolt”.
• Seda lähenemisviisi esindavad sellised vahendid nagu Meta Video Seal ja Microsofti päritolufunktsioonid.
• Peamine eelis on tehisintellekti sisu kohene tuvastamine.

2. Avastamisvahendid (analüütiline lähenemisviis):

• Analüüsib olemasolevat sisu, et teha kindlaks, kas see on tehisintellekti loodud.
• Otsitakse tehisintellekti loodud sisule iseloomulikke mustreid ja omadusi.
• Eriti kasulik sisu puhul, mis ei olnud loomisel märgistatud.
• Need vahendid moodustavad meie teise kaitseliini.

Mõlemad lähenemisviisid on vajalikud, sest nad täiendavad teineteist: vesimärgistamine takistab väärkasutust, samas kui tuvastusvahendid aitavad tuvastada märgistamata sisu.

Tuvastusvahendid ja -tehnoloogiad

Tehisintellekti abil loodud sisu võib leida mitmel muul viisil kui ainult vesimärgistamise tehnoloogiate abil. Uued tuvastusvahendid kasutavad keerulisi algoritme, et uurida nii teksti kui ka pildi sisu.

• Originaalsus, süvaõppe algoritmid kasutavad AI-d, et leida mustreid tekstist, mille on AI genereerinud.
• GPTZero vaatleb keelelisi struktuure ja sõnade sagedusi, et teha vahet inimeste kirjutatud sisu ja masinate loodud sisu vahel.
• CopyLeaks kasutab N-gramme ja süntaksivõrdlusi, et leida keelest väikesed muutused, mis võivad olla märgid tehisintellekti autorlusest.

Need tööriistad peaksid andma kasutajatele täpseid arvamusi selle kohta, kui reaalne on sisu, kuid see, kui hästi need töötavad, võib olla väga erinev.

Kokkuvõttes

Mida enam areneb genereeriv tehisintellekt, seda olulisemaks muutub digitaalse autentsuse kaitsmine. Microsoft ja Meta juhivad teed murranguliste standarditega sisu autentsuse ja meedia päritolu kontrollimiseks.

Selleks, et tõhusalt võidelda võltsingute vastu, on vaja, et need vahendid võetaks kasutusele kogu tööstusharus ja et tehnoloogiaettevõtted teeksid tihedamat koostööd. Digitaalse sisu terviklikkus tulevikus sõltub sellest, kas tuvastamistehnoloogiad arenevad kiiremini kui tehisintellekti poolt loodud pettused.

Tegelikult kajastasime hiljuti, kuidas YouTube astub sarnaseid samme, võttes kasutusele uued tehisintellekti tuvastamise vahendid loojatele ja kaubamärkidele. Nende lähenemisviis hõlmab sünteetilist hääle tuvastamist ja tehisintellekti abil loodud näotuvastustehnoloogiat, mis näitab veelgi, kuidas suured platvormid töötavad sisu autentsuse kaitsmiseks tehisintellekti ajastul.