Su dirbtinio intelekto (AI) dezinformacijos aptikimu yra taip: skaidrių rinkinyje tai visada atrodo nepriekaištingai. Tvarkingos diagramos. Rodyklės. Užrakto piktograma. Tada stebite, kaip ta pati sistema praleidžia pigų giluminį klastotę (angl. deepfake) su tokia elegancija, kaip beisbolo komandos žaidėjas su akiniais nuo saulės prieblandoje. Štai jums paradoksas: tiesa reikalauja konteksto ir kilmės; melui tereikia išplisti virusiniu būdu.
Pirmiausia aptarkime akivaizdžius dalykus. Gyvename pasaulyje, kuriame bet kas gali susintetinti balsą, sukurti veidą arba padidinti abejotino teiginio svarbą sugeneruota diagrama ir užtikrintu tonu. O įrankiai, skirti aptikti AI dezinformaciją? Jie tobulėja – palaipsniui, nereguliariai, su tokiais dideliais įspėjimais, kad pro juos galėtų pravažiuoti sunkvežimis su netikrais automatiniais skambučiais. Jei tai skamba ciniškai, taip nėra. Tai yra dabartinė pasitikėjimo realybė internete.
Toliau pateikiamas paprastas praktinis vadovas, parašytas visiems, kurie turi išlaikyti blaivų protą, kol aplinkui sukasi ažiotažas: žurnalistams, bandantiems patikrinti vaizdo įrašus, produktų komandoms, galvojančioms apie turinio kilmę, pedagogams, kovojantiems su sintetiniais esė, arba paprastiems žmonėms, kurie nenori būti milijonais kartų persiųstas apgaulės pranešimas.
Kodėl AI dezinformacijos aptikimas nėra vienintelė problema
- Tai ne tik giluminės klastotės. Tai ir „paviršutiniškos klastotės“ (selektyvus redagavimas), sintetinis tekstas, AI vaizdų mišiniai ir duomenų vizualizacijos, kurios atrodo oficialios, kol pastebite, kad y ašis prasideda nuo 90. Terminas „AI dezinformacijos aptikimas“ slepia problemų visumą.
- Tai ne tik klasifikatoriai. Žmonės kalba apie tikslumą taip, tarsi tai būtų skaičius, kurį galima prisegti prie realybės. Aptikimas yra ekosistemos problema: signalai, kilmė, platformos politika ir – pasiruoškite – žmogaus sprendimas.
- Tai ne tik technologijos; tai paskatos. Platformos sukurtos taip, kad teiktų pirmenybę įsitraukimui. Įsitraukimas apdovanoja naujumą ir pasipiktinimą. Jei kuriate sistemas, kurios sustiprina greitį ir emocijas, galiausiai gaunate platinimo tinklą, optimizuotą užtikrintam niekui.
Trikojis krėslas: kilmė, aptikimas ir trintis
Yra trys praktiškos kojos po pasitikėjimo stalu:
- Kilmė ir turinio kredencialai
Jei negalite pasakyti, iš kur daiktas atsirado – įrenginio, programos, redaktoriaus ir redagavimo istorijos – jūs jau spėliojate. Tokia yra C2PA standarto esmė: metaduomenys su kriptografiniais parašais, apibūdinančiais fiksavimą ir redagavimus, įdiegiami kamerose, redaktoriuose ir leidybos įrankiuose. Tai akivaizdi idėja, kurios visi vengė, kol sintetinė žiniasklaida to nepadarė neišvengiama. Standartas egzistuoja; jis yra atviras ir vis labiau įsitvirtina, nors ir netolygiai. Tai neįrodo, kad kažkas yra „tiesa“. Tai įrodo, kas tai padarė ir kas pasikeitė, o būtent taip redaktoriai ir teismai galvoja apie pasitikėjimą jau šimtmetį. Tai pirmas žingsnis: sukurti taką, kuriuo žmonės galėtų sekti, paprasta kalba, be steganografijos daktaro laipsnio.
Turinio autentiškumo iniciatyva – „Adobe“ ir draugai – tai reklamuoja produktuose kaip „Turinio kredencialus“. Kai matote mažą ženklelį ir galite spustelėti, kad peržiūrėtumėte fiksavimo įrenginį, redagavimus ir eksporto grandinę, tai yra pažadas: skaidrumas, o ne nuojautos. Klausimas yra realaus pasaulio įsisavinimas. „Google“ prisijungė prie C2PA valdymo komiteto – tai geras ženklas, kad tai nebus vienos įmonės kryžiaus žygis. Kuo daugiau tai pasirodys kamerose, telefonuose ir redakcijų darbo eigose, tuo mažiau spėliosime iš pikselių ir intuicijos.
- Aptikimas ir klasifikatoriai
Net ir turint kilmę, daugybė medijos priemonių pasirodys be kredencialų, visiškai suredaguotos arba gimusios visiškai sintetinės. Čia atsiranda klasifikatoriai. Taip, mokslininkai nuolat tobulina veidų keitimo, lūpų sinchronizavimo ir garso klonavimo detektorius. Taip, jie skelbia geresnius etalonus. Ir taip, tai yra ginklavimosi varžybos, nes generatyviniai modeliai optimizuoja, kad išvengtų žinomų požymių, o detektoriai iš naujo optimizuoja, kad sugautų naujus. Katė ir pelė, bet su GPU.
Literatūroje aiškūs du dalykai: aptikimo tikslumas labai skiriasi priklausomai nuo modalumo (vaizdo, garso, teksto) ir srities (įžymybių veidai, palyginti su jūsų dėdė prie kepsninės). Ir dauguma detektorių pablogėja realiame pasaulyje, palyginti su kuruojamais etalonais. Jei įsivaizduojate vieną „tiesos balą“, pamirškite tai. Jums reikia sluoksniuotų signalų ir sukalibruotos rizikos, o ne klaidingo tikrumo.
Teisės ir politikos žmonės tai pastebėjo. Giluminės klastotės, skirtos rinkimams ar visuomenės panikai sukelti, kelia akivaizdžią žalą; žr.: automatiniai skambučiai, imituojantys prezidento balsą, liepiančius nebalsuoti. Aptikimas yra ne tik techninis iššūkis – tai ir valdymo iššūkis, todėl teisinės sistemos pamažu įsigali aplink atskleidimą, sutikimą ir atsakomybę. Lėtai, netobulai, bet būtina.
Galite sukurti geriausią detektorių pasaulyje ir vis tiek pralaimėti, jei platforma jį pateiks už trijų bakstelėjimų ir gūžtelėjimo pečiais jaustuko. Dezinformacija plinta, nes platinimo sistemos yra be trinties ir emocingos. Priešnuodis yra dizaino trintis, kuri didėja kartu su rizika – matoma tarpo reklama įtartiname turinyje, deprioritetizavimas sklaidos kanaluose, lengvai skaitomi kilmės ženkleliai ir vieno bakstelėjimo kelias į kontekstą. Pasitikėjimas yra infrastruktūra. Jūs nepastebite, kai ji veikia; pastebite duobes.
Kaip iš tikrųjų naudoti AI dezinformacijos aptikimą (netampant zombiu)
- Pradėkite nuo kilmės. Jei yra turinio kredencialai, perskaitykite juos. Jei ne, nieko nemanykite. Paklauskite, kur turtas buvo užfiksuotas, kuriame įrenginyje ir su kokiais redagavimais. Profesionalai nesutriks dėl klausimo; sukčiai sutriks.
- Sluoksniuokite signalus. Naudokite kelis detektorius – vaizdo, garso ir teksto – užuot pasitikėję vienu orakulu. Ieškokite neatitikimų: apšvietimo neatitikimų, sulaužytų atspindžių, burnos formų, kurios neatitinka fonemų, kambario tono, kuris skamba kaip paminkštintas kambarys.
- Patikrinkite platinimo modelius. Ar klipas sprogo iš anoniminės paskyros į tūkstančius persiuntimų per naktį? Tai nėra klastotės įrodymas, bet tai raudona vėliava, verta laiko ribojimo.
- Gerbkite netikrumą. Geros sistemos suteikia jums pasitikėjimo intervalą, o ne nuosprendį. Nesuapvalinkite 62 % tikimybės į evangelijos tiesą, nes ji atitinka jūsų prielaidas.
Giluminės klastotės nėra magija; tai pasitikėjimo triukai dideliu mastu
Jei stebėjote, kaip VFX menininkai išardo AI „stebuklus“, žinote žanrą: neįtikėtini akių mirksėjimai, plaukai, kurie elgiasi kaip plastikinis augalas, spekuliariniai akcentai, kurie šokinėja kaip DJ, įrašų grotuvu subraižantis vinilą, ir fizika, kuri netiki gravitacija. Apgaulės tampa vis gudresnės, tačiau fizika ir fonetika vis dar turi požymių. Skirtumas dabar yra apimtis ir greitis – apgaulės neturi apgauti visų, tik pakankamai žmonių, kol pataisymas ateis dviem dienomis vėliau ir perpus mažiau virusiniu būdu.
Ir vaizdo įrašas nėra vienintelė problema. AI sugeneruotas tekstas išlieka tingiausias būdas užteršti diskursą. Jis sintaksiškai kompetentingas ir semantiškai slidus – kaip politikas, kuris niekada nebuvo susitikęs su miglotu pažadu, kurio nemėgtų. Detektorius gali pastebėti statistinį keistumą, tačiau geriausias tekstinės dezinformacijos filtras vis dar yra tas, kuris yra tarp jūsų ausų. Jei tai per daug tvarkinga, per daug savalaikė, per daug viską žinanti, tikriausiai taip ir yra.
Kilmės statymas: kodėl C2PA yra svarbus, net jei niekas nespaudžia ženklelio
Skeptikai sakys, kad niekas nespaudžia ženklelių. Jie neklysta, bendrai paėmus. Tačiau redaktoriai, žurnalistai, platformos, teismai ir budėtojai tai daro. Jų patikrinimas pasiekia žemiau. Pasirašyta saugos grandinė pagreitina pašalinimus, aiškiau išsprendžia ginčus ir sumažina teisinių grėsmių neapibrėžtumą. Esmė nėra ta, kad visi tampa metaduomenų detektyvais; esmė ta, kad infrastruktūra egzistuoja, kad profesionalai – ir automatizuotos sistemos – galėtų atlikti savo darbą. Toks yra C2PA ir turinio autentiškumo iniciatyvos statymas: padaryti autentiškumą patikrinamu pagal dizainą, o ne teatrališkai.
Kur aptikimas veikia šiandien – ir kur jis žlunga
Veikia gana gerai:
- Veidų keitimas kontroliuojamomis sąlygomis ir žinomose srityse (įžymybių duomenų rinkiniai, kanoniniai kampai) gali būti pažymėtas gana tiksliai.
- Garso klonai su konkrečiais balsais, kai turite pakankamai pagrindo, su kuriuo galite palyginti, rodo spektrinius artefaktus, kurie išsiskiria.
- Vaizdo manipuliacijos, paliekančios teismo medicinos pėdsakus: persiuntimas, nenuoseklūs triukšmo modeliai, klonuoti regionai.
Triukšmingai žlunga:
- Iš platinimo turinio – nauji kampai, silpnas apšvietimas, stiprus glaudinimas – nuvalo grindis naiviais detektoriais.
- Koordinuotas dalinės realios filmuotos medžiagos pakartotinis naudojimas (paviršutiniška klastotė su griežtais redagavimais) išlaiko daugelį tik AI patikrinimų.
- Sintetinį tekstą, kuriame cituojami tikri faktai, sumaišyti su sufabrikuotais priežastiniais ryšiais, neįtikėtinai sunku pažymėti be išorinių žinių grafikų.
Pridėkite prieinamumą: dauguma žmonių negali paleisti laboratorijos. Jiems reikia įrankių su patikimomis numatytosiomis vertėmis, aiškia kalba ir sąžiningu netikrumu. Tai atveda mane prie vieno praktinio aspekto.
Tylus naudingas įrankių modelis
Jei atliekate patikrinimo darbą, jūsų rinkinyje turėtų būti: kilmės peržiūros priemonė turinio kredencialams, pora prekių detektorių, atvirkštinė vaizdo / vaizdo įrašo paieška ir bloknotas jūsų veiksmams įrašyti. Papildomi taškai už naršyklės palydovą, leidžiantį įkelti klipą ir pamatyti metaduomenis nesikapstant po failų antraštes.
Sider.AISider iš tikrųjų remiasi šiuo modeliu su prieinamais, žingsnis po žingsnio paaiškinimais, kaip pastebėti, ar vaizdo įrašas yra sugeneruotas naudojant AI – tokio tipo pragmatiškas, kontrolinis sąrašas, kuris padeda tikriems vartotojams, o ne tik saugumo teatrui. Jis neapsimeta, kad kilmė išsprendžia viską; jis parodo, kaip ieškoti iškalbingų artefaktų, ir nurodo standartus, tokius kaip C2PA, be įprasto marketingo pasakų dulkių. Net ir Sider.AISider kuruojami klipai ir kūrėjų bendruomenės kūriniai atkreipia dėmesį į didesnę problemą: technologija yra įspūdinga, ir būtent todėl ji yra pavojinga, kai naudojama manipuliavimui. Taip, tai nukrypimas. Tačiau tai yra tokia rami nauda, kurios daugumai žmonių iš tikrųjų reikia: šiek tiek trinties, šiek tiek išsilavinimo ir darbo eiga, kuri nepriverčia jūsų jaustis taip, lyg mokėtumėte mokesčius. Jums nereikia sidabrinės kulkos; jums reikia patikimo kišeninio peilio.
Politika su saugos diržais
Vis labiau norima laikytis kelių eismo taisyklių: pažymėti sintetinį turinį, bausti už piktybinį apsimetinėjimą ir nustatyti lūkesčius platformoms rinkimų metu. Teisės mokslininkai sudaro sistemas, kurios bando apsaugoti kalbą, nesuteikdamos priedangos sukčiavimui. Mes neketiname išsisukti vien tik teisminiu keliu – joks įstatymas negali suspėti su modelio išleidimais – bet normos yra svarbios. Jei kūrėjai, platformos ir įrankiai pagal numatytuosius nustatymus priima kilmę, tai sumažina paviršiaus plotą, kuriame klesti melagiai.
Įmonės realybės patikrinimas: tos pačios įmonės, kurios lenktyniauja, kad pristatytų generatyvines funkcijas, taip pat sėdi komitetuose, rašančiuose kilmės standartus. Tai sveika, o ne veidmainiška, darant prielaidą, kad rezultatas yra sąveikus ir įjungtas pagal numatytuosius nustatymus. „Google“ vieta C2PA rodo, kad sunkio centras juda platformos lygmens palaikymo link. Kitas testas yra tai, ar telefonų kameros, redagavimo programos ir socialiniai sklaidos kanalai atskleidžia turinio kredencialus kaip aukščiausios klasės pilietį ir padaro brangiu juos pašalinti.
Žmogus grandinėje, kurio, mes apsimetame, mums nereikia
Galite parduoti informacijos suvestines, kol karvės atsiųs jums klonuotą balso paštą, tačiau eksperto apžvalga vis dar yra svarbi. Redakcijos tai išmoksta sunkiai, kai praleidžia pagrindus. Darbo eiga, kuri veikia, yra ta, kuri daro prielaidą, kad žmonės priima galutinį sprendimą, kai statymai yra dideli: žurnalistai, pasitikėjimo ir saugos komandos, rinkimų pareigūnai. Mašinos atlieka triažą; žmonės sprendžia.
Uždarymo kilpa: „AI dezinformacijos aptikimas“ yra mažiau produktas nei praktika. Tai įpročių, įrankių ir lūkesčių rinkinys, kuris perkelia naštą atgal galimiems melagiams. Padarysime pažangą ne tada, kai detektoriai pasieks 99,9 %, o tada, kai kilmė bus normali, trintis sulėtins melus, o geros numatytosios vertės išgelbės vidutinius vartotojus nuo jų blogiausių impulsų.
Praktinis komandos žaidimo vadovas (ne teorija – darykite tai):
- Įjunkite turinio kredencialus savo fiksavimo ir redagavimo konvejeriuose. Jei jūsų įrankiai to nepalaiko, klauskite garsiau. Arba perjunkite.
- Integruokite kilmės tikrintuvą ir bent du detektorius į savo CMS. Parodykite rezultatus kalba, kurią gali suprasti ne ekspertas.
- Sukurkite raudoną / gintarinę / žalią tarpo reklamą platinimui. Raudona spalva reiškia tikėtinai sintetinį; gintaras – nežinoma / nėra kilmės; žalia – pasirašyti, nepažeisti kredencialai. Jokių dvejetainių tiesos antspaudų.
- Duokite vartotojams kvitą. Padarykite metaduomenis naršomus vienu bakstelėjimu. Žmonės mokosi matydami.
- Registruokite patikrinimo veiksmus viduje. Kai kas nors klostosi ne taip, popierinis pėdsakas „galbūt“ paverčia pataisymu, o ne fiasko.
Nemaloni tiesa
Kai kurie žmonės nori Šveicarijos kariuomenės programos, kuri pasakytų jiems, kas yra tikra. Tai neateis, ir jūs nepasitikėtumėte ja, jei ji tai padarytų. Nemaloni tiesa yra ta, kad pasitikėjimas yra kuriamas, o ne numanomas. Aptikimas yra būtinas, kilmė yra pagrindas, o platformos trintis yra svertas. Visa kita yra kultūra – ar apdovanojame pirmą kadrą, ar teisingą.
Paskutinis posūkis: didžiausia rizika yra ne ta, kad negalime aptikti melų. Tai yra tai, kad nustojame tikėti tiesa, kai ji pasirodo. Toks yra sudėtingos dezinformacijos tikslas – ne įtikinti jus konkrečiu melu, o viską aptemdyti į cinišką rūką, kur niekas nėra patikima. Štai kodėl tai nėra tik techninė problema. Tai pilietinė higiena.
Jei tai skamba grandioziškai, apsvarstykite alternatyvą: sklaidos kanalą, kuriame viskas atrodo tikra, niekas nėra tikra ir vienintelė metrika, kuri yra svarbi, yra paspaudimas. Dar nesame ten. Bet mes galime tai pamatyti iš čia.
Tolesnis skaitymas ir standartai
- C2PA: techninis turinio kilmės ir autentiškumo standartas, kurį vis labiau priima skirtingos pramonės šakos.
- Turinio autentiškumo iniciatyva: ištekliai ir produktų palaikymas turinio kredencialams.
- Apžvalga ir teisinės perspektyvos apie giluminių klastočių aptikimą ir valdymą.
- Kodėl pasitikėjimo infrastruktūra (o ne ažiotažas) yra tikrasis mūšio laukas.
Ir jei norite greito, pragmatiško pasivaikščiojimo, kaip pastebėti AI sugeneruotą vaizdo įrašą, tiesmukas vadovas yra tvirta vieta pradėti – mažiau pamokslo, daugiau kvitų.
DUK
1 klausimas: kas iš tikrųjų yra AI dezinformacijos aptikimas?
Tai nėra stebuklingas melo detektorius; tai įrankių rinkinys ir darbo eiga, skirta įvertinti kilmę, vykdyti sluoksniuotus klasifikatorius ir įterpti trintį į platinimą. Galvokite mažiau karštų minčių, daugiau kvitų – šaltinis, redagavimai, saugos grandinė, tada modelio signalai.
2 klausimas: ar detektoriai šiandien gali patikimai atpažinti gilumines klastotes?
Kartais, laboratorijoje; mažiau nuosekliai realiame pasaulyje. Tikslumas priklauso nuo modalumo, glaudinimo ir srities, todėl aptikimą derinate su kilme ir platformos dizainu, o ne dvejetainiu nuosprendžiu.
3 klausimas: kodėl turėčiau rūpintis C2PA ir turinio kredencialais?
Nes spėlioti iš pikselių yra pralaimėtas žaidimas, o pasirašyta kilmė padidina melo kainą. Turinio kredencialai padaro autentiškumą patikrinamu pagal dizainą, o tai padeda tiek žmonėms, tiek automatizuotoms sistemoms.
4 klausimas: kaip platformos sumažina AI dezinformaciją, nežudydamos kalbos?
Naudokite rizikos masto trintį: aiškius ženklus, tarpines reklamas ir įtartinos žiniasklaidos priemonių nuvertinimą, tuo pačiu pakeldami patikrinamą kilmę. Tai nėra cenzūra; tai atsisakymas algoritmiškai pagreitinti abejotiną turinį.
5 klausimas: koks yra geriausias praktinis pirmasis žingsnis komandoms?
Įjunkite kilmę savo fiksavimo / redagavimo konvejeriuose ir atskleiskite ją savo produkto vartotojo sąsajoje. Tada pridėkite du detektorius ir paprastą raudonos / gintarinės / žalios spalvos pasitikėjimo ekraną, kad ne ekspertai galėtų priimti protingus sprendimus.
