Ar AI dezinformācijas noteikšanu ir tā, ka slaidrādes prezentācijās tā vienmēr izskatās nevainojami. Glīti diagrammas. Bultiņas. Slēdzenes ikona. Pēc tam tu redzi, kā šī pati sistēma neveiksmīgi atpazīst lētu dziļviltojumu ar tādu pašu grāciju, kāda ir Beisbola mazās līgas spēlētājam saulē rietā, valkājot saulesbrilles. Te nu ir paradokss: patiesība pieprasa kontekstu un izcelsmi; meliem tikai jāizplatās vīrusveidīgi.
Atbrīvosimies no acīmredzamā. Mēs dzīvojam pasaulē, kurā jebkurš var sintezēt balsi, radīt seju vai uzpūst apšaubāma apgalvojuma nopietnību ar ģenerētu diagrammu un pārliecinātu toni. Un rīki AI dezinformācijas atklāšanai? Tie kļūst labāki — pakāpeniski, neregulāri, ar atrunām, kas ir pietiekami lielas, lai tajās varētu iebraukt ar fiktīvu robotzvanu kravas automašīnu. Ja tas izklausās ciniski, tas tā nav. Tā ir reālā uzticēšanās mūsdienu internetā.
Tālāk ir sniegts vienkāršs ceļvedis, kas rakstīts ikvienam, kam jāpatur galva skaidra, kamēr valda ažiotāža: žurnālistiem, kas cenšas pārbaudīt video, produktu komandām, kas domā par satura izcelsmi, pedagogiem, kas atspēko sintētiskas esejas, vai vienkāršiem cilvēkiem, kuri nevēlas būt miljonais retvīts par krāpniecību.
Kāpēc AI dezinformācijas noteikšana nav viens vienīgs uzdevums
- Tie nav tikai dziļviltojumi. Tie ir "sekli viltojumi" (selektīvi rediģēšanas darbi), sintētisks teksts, AI attēlu apvienojumi un datu vizualizācijas, kas izskatās oficiālas, līdz pamanāt, ka y ass sākas ar 90. Visaptverošais termins "AI dezinformācijas noteikšana" slēpj problēmu cirka telti.
- Tie nav tikai klasifikatori. Cilvēki runā par precizitāti tā, it kā tas būtu skaitlis, ko var piestiprināt realitātei. Noteikšana ir ekosistēmas problēma: signāli, izcelsme, platformas politikas un — saņemieties — cilvēka spriedums.
- Tās nav tikai tehnoloģijas; tie ir stimuli. Platformas ir veidotas tā, lai piešķirtu prioritāti iesaistei. Iesaiste atalgo jaunumus un sašutumu. Ja jūs izstrādājat sistēmas, kas pastiprina ātrumu un emocijas, jūs nonākat pie izplatīšanas tīkla, kas ir optimizēts pārliecinošām muļķībām.
Trīskāju krēsls: izcelsme, noteikšana un pretestība
Uzticamības tabulai ir trīs praktiski balsti:
- Izcelsme un satura akreditācijas dati
Ja jūs nevarat pateikt, no kurienes kaut kas ir nācis — ierīce, lietotne, redaktors un rediģēšanas vēsture — jūs jau mināt. Tas ir C2PA standarta mērķis: metadati ar kriptogrāfiskiem parakstiem, kas apraksta uzņemšanu un rediģēšanu, ieviešami kamerās, redaktoros un publicēšanas rīkos. Tā ir acīmredzama ideja, no kuras visi izvairījās, līdz sintētiskie mediji to padarīja neizbēgamu. Standarts pastāv; tas ir atvērts un iegūst popularitāti, tomēr nevienmērīgi. Tas nepierāda, ka kaut kas ir "patiess". Tas pierāda, kurš to izveidoja un kas mainījās, un tieši tā redaktori un tiesas ir domājuši par uzticēšanos gadsimtu. Tas ir pirmais solis: izveidot taku, kurai cilvēki var sekot vienkāršā valodā, bez doktora grāda steganogrāfijā.
Satura autentiskuma iniciatīva — Adobe un draugi — to popularizē produktos kā "Satura akreditācijas datus". Kad redzat nelielu emblēmu un varat noklikšķināt, lai skatītu uzņemšanas ierīci, rediģēšanu un eksportēšanas ķēdi, tas ir solījums: pārredzamība, nevis sajūtas. Jautājums ir par reālo ieviešanu. Google pievienojās C2PA vadības komitejai — labs signāls, ka šis nebūs viena uzņēmuma krusta karš. Jo vairāk tas parādās kamerās, tālruņos un ziņu redakciju darbplūsmās, jo mazāk mēs minēsim, pamatojoties uz pikseļiem un iekšējo balsi.
- Noteikšana un klasifikatori
Pat ar izcelsmi, daudzi mediji parādīsies bez akreditācijas datiem, līdz nāvei rediģēti vai pilnībā sintētiski. Tur parādās klasifikatori. Jā, pētnieki turpina uzlabot detektorus sejas apmaiņai, lūpu sinhronizācijai un audio klonēšanai. Jā, viņi publicē labākus etalonus. Un jā, tas ir bruņošanās process, jo ģeneratīvie modeļi optimizējas, lai izvairītos no zināmiem signāliem, un detektori atkārtoti optimizējas, lai notvertu jaunos. Ķeršanas spēle, bet ar GPU.
Literatūrā ir skaidri divi punkti: noteikšanas precizitāte ievērojami atšķiras atkarībā no modalitātes (video, audio, teksts) un domēna (slavenību sejas pret jūsu onkuli bārbekjū). Un lielākā daļa detektoru degradējas dabā, salīdzinot ar atlasītiem etaloniem. Ja jūs iedomājaties vienu "patiesības rezultātu", aizmirstiet to. Jums ir nepieciešami slāņveida signāli un kalibrēts risks, nevis viltus pārliecība.
Juristi un politikas veidotāji to ir pamanījuši. Dziļviltojumi, kas vērsti uz vēlēšanām vai sabiedrisku paniku, rada acīmredzamu kaitējumu; skatiet: robotzvanus, kas atdarina prezidenta balsi, sakot, lai jūs neietu balsot. Noteikšana nav tikai tehnisks izaicinājums — tas ir pārvaldības izaicinājums, tāpēc ap atklāšanu, piekrišanu un atbildību ieviešas juridiskie regulējumi. Lēnām, nepilnīgi, nepieciešami.
- Izplatīšana un pretestība
Jūs varat izveidot labāko detektoru pasaulē un joprojām zaudēt, ja platforma to ievieto aiz trim pieskārieniem un plecu paraustīšanas emocijzīmes. Dezinformācija izplatās, jo izplatīšanas sistēmas ir vienkāršas un emocionālas. Pretlīdzeklis ir dizaina pretestība, kas palielinās līdz ar risku — redzams intertitrs par aizdomīgu saturu, prioritātes samazināšana plūsmās, viegli lasāmas izcelsmes emblēmas un viena pieskāriena ceļš uz kontekstu. Uzticēšanās ir infrastruktūra. Jūs to nepamanāt, kad tas darbojas; jūs pamanāt bedres.
Kā faktiski izmantot AI dezinformācijas noteikšanu (nekļūstot par zombiju)
- Sāciet ar izcelsmi. Ja ir norādīti satura akreditācijas dati, izlasiet tos. Ja nē, nepieņemiet neko. Jautājiet, kur īpašums tika uzņemts, ar kādu ierīci un ar kādiem rediģējumiem. Profesionāļi neiebilstēs pret jautājumu; krāpnieki to darīs.
- Slāņojiet signālus. Izmantojiet vairākus detektorus — attēlu, audio un tekstu — nevis uzticieties vienam orākulam. Meklējiet neatbilstības: apgaismojuma neatbilstības, salauztas atstarošanās, mutes formas, kas neatbilst fonēmām, telpas tonis, kas izklausās pēc polsterētas kameras.
- Pārbaudiet izplatīšanas modeļus. Vai klips eksplodēja no anonīma konta līdz tūkstošiem atkārtotu ziņu vienas nakts laikā? Tas nav viltojuma pierādījums, bet tas ir sarkans karogs, kas ir vērts laika ierobežojuma.
- Cieniet nenoteiktību. Labas sistēmas sniedz jums pārliecības diapazonu, nevis spriedumu. Neapaļojiet 62% varbūtību līdz evaņģēlija patiesībai, jo tas atbilst jūsu sākotnējām zināšanām.
Dziļviltojumi nav maģija; tie ir pārliecināšanas triki mērogā
Ja esat vērojis, kā VFX mākslinieki izjauc AI "brīnumus", jūs zināt žanru: dīvainas acu mirkšķināšanas, mati, kas uzvedas kā plastmasas augs, spekulāri izcēlumi, kas lēkā apkārt kā dīdžejs, kas skrāpē vinilu, un fizika, kas netic gravitācijai. Krāpniecības kļūst glītākas, bet fizikai un fonētikai joprojām ir signāli. Atšķirība tagad ir apjoms un ātrums — krāpniecībām nav jāapmāna visi, tikai pietiekami daudz cilvēku, pirms korekcija pienāk divas dienas vēlu un uz pusi mazāk vīrusveidīgi.
Un video nav vienīgā problēma. AI ģenerēts teksts joprojām ir slinkākais veids, kā piesārņot diskursu. Tas ir sintaktiski kompetents un semantiski slidens — kā politiķis, kurš nekad nav saticis neskaidru solījumu, ko viņš nemīlēja. Detektors var pamanīt statistisku dīvainību, bet labākais filtrs teksta dezinformācijai joprojām ir tas, kas atrodas starp jūsu ausīm. Ja tas ir pārāk glīts, pārāk savlaicīgs, pārāk viszinošs, tas, iespējams, tāds ir.
Izcelsmes likme: kāpēc C2PA ir svarīga pat tad, ja neviens neklikšķina uz emblēmas
Skeptiķi teiks, ka neviens neklikšķina uz emblēmām. Viņiem nav taisnība, kopumā. Bet redaktori, žurnālisti, platformas, tiesas un uzraugi to dara. Viņu pārbaude nonāk zemāk. Parakstīta glabāšanas ķēde padara noņemšanu ātrāku, strīdus skaidrākus un juridiskos draudus mazāk nenoteiktus. Jēga nav tāda, ka visi kļūst par metadatu detektīviem; jēga ir tāda, ka infrastruktūra pastāv, lai profesionāļi — un automatizētas sistēmas — varētu darīt savu darbu. Tā ir likme aiz C2PA un Satura autentiskuma iniciatīvas: padarīt autentiskumu pārbaudāmu pēc dizaina, nevis teatrāli.
Kur noteikšana darbojas šodien — un kur tā neizdodas
Darbojas diezgan labi:
- Sejas apmaiņas kontrolētos apstākļos un zināmos domēnos (slavenību datu kopas, kanoniskie leņķi) var atzīmēt ar pienācīgu precizitāti.
- Audio kloni ar specifiskām balsīm, kad jums ir pietiekami daudz reālās patiesības, ko salīdzināt, parāda spektrālus artefaktus, kas izceļas.
- Attēlu manipulācijas, kas atstāj tiesu medicīnas pēdas: pārņemšana, nekonsekventi trokšņu modeļi, klonēti reģioni.
Neveiksmīgi trokšņaini:
- Ārpus izplatīšanas saturs — jauni leņķi, vāja gaisma, spēcīga saspiešana — noslauka grīdu ar naiviem detektoriem.
- Koordinēta daļēji reāla video atkārtota izmantošana (sekls viltojums ar ciešu rediģēšanu) iziet daudzas tikai AI pārbaudes.
- Sintētisku tekstu, kas citē reālus faktus, kas sajaukti ar izdomātu cēloņsakarību, ir neticami grūti atzīmēt bez ārējiem zināšanu grafikiem.
Pievienojiet pieejamību: lielākā daļa cilvēku nevar vadīt laboratoriju. Viņiem ir nepieciešami rīki ar saprātīgiem noklusējuma iestatījumiem, skaidru valodu un godīgu nenoteiktību. Kas mani noved pie viena praktiska leņķa.
Kluss noderīgs rīku modelis
Ja jūs veicat verifikācijas darbu, jūsu komplektā jāiekļauj: izcelsmes skatītājs satura akreditācijas datiem, pāris preču detektori, reversā attēlu/video meklēšana un piezīmju grāmatiņa, lai ierakstītu savus soļus. Bonusa punkti par pārlūkprogrammas pavadoni, kas ļauj ielādēt klipu un redzēt metadatus, neielūkojoties failu galvenēs.
Sider.AISider faktiski balstās uz šo modeli ar pieejamiem, soli pa solim skaidrojumiem par to, kā noteikt, vai video ir ģenerēts ar AI — tāda veida pragmatiska, kontrolsaraksta domāšana, kas palīdz reāliem lietotājiem, nevis tikai drošības teātrim. Tas neizliekas, ka izcelsme atrisina visu; tas parāda, kā meklēt pazīstamus artefaktus, un norāda uz tādiem standartiem kā C2PA bez parastajiem mārketinga pasaku putekļiem. Pat Sider.AISider atlasītie klipi un veidotāju kopienas darbi norāda uz lielāku problēmu: tehnoloģija ir iespaidīga, un tieši tāpēc tā ir bīstama, ja to izmanto manipulācijām. Jā, tas ir atkāpe. Bet tas ir tāds kluss lietderīgums, kas lielākajai daļai cilvēku patiešām ir nepieciešams: nedaudz pretestības, nedaudz izglītības un darbplūsma, kas neliek jums justies tā, it kā jūs iesniegtu nodokļus. Jums nav nepieciešama sudraba lode; jums ir nepieciešams uzticams kabatas nazis.
Politika ar drošības jostām
Pieaug vēlme pēc ceļu satiksmes noteikumiem: atzīmējiet sintētisko saturu, sodiet ļaunprātīgu uzdošanos par citu personu un nosakiet platformu cerības vēlēšanu laikā. Juristi kartē regulējumus, kas cenšas aizsargāt runu, nepiešķirot segumu krāpšanai. Mēs neizkļūsim no tā pilnībā ar tiesvedību — neviens likums nevarēs turēt līdzi modeļu izlaidumiem —, bet normām ir nozīme. Ja veidotāji, platformas un rīki pēc noklusējuma pieņem izcelsmi, tas samazina virsmas laukumu, kurā plaukst meļi.
Korporatīvā realitātes pārbaude: tie paši uzņēmumi, kas sacenšas, lai piegādātu ģeneratīvas funkcijas, arī sēž komitejās, kas raksta izcelsmes standartus. Tas ir veselīgi, nevis liekulīgi, pieņemot, ka rezultāts ir savstarpēji savienojams un pēc noklusējuma ieslēgts. Google vieta C2PA liecina, ka smaguma centrs virzās uz platformas līmeņa atbalstu. Nākamais tests ir, vai tālruņu kameras, rediģēšanas lietotnes un sociālās plūsmas atklāj satura akreditācijas datus kā pirmās klases pilsoni un padara to noņemšanu dārgu.
Cilvēks cilpā, ko mēs turpinām izlikties, ka mums nav vajadzīgs
Jūs varat pārdot informācijas paneļus, līdz govis nosūtīs jums klonētu balss pastu, bet ekspertu pārskatīšanai joprojām ir nozīme. Ziņu redakcijas to mācās smagā veidā, kad vien viņi izlaiž pamatus. Darbplūsma, kas darbojas, ir tāda, kas pieņem, ka cilvēki pieņem galīgo lēmumu, kad likmes ir augstas: žurnālisti, uzticības un drošības komandas, vēlēšanu amatpersonas. Mašīnas triāžē; cilvēki lemj.
Noslēguma cilpa: "AI dezinformācijas noteikšana" ir mazāk produkts nekā prakse. Tas ir ieradumu, rīku un cerību kopums, kas pārvirza slogu atpakaļ uz potenciālajiem meļiem. Mēs panāksim progresu ne tad, kad detektori sasniegs 99,9%, bet gan tad, kad izcelsme būs normāla, pretestība palēninās melus un labi noklusējuma iestatījumi pasargās vidējos lietotājus no viņu sliktākajiem impulsiem.
Praktiska rokasgrāmata komandām (nevis teorija — dariet to):
- Ieslēdziet satura akreditācijas datus savā uzņemšanas un rediģēšanas cauruļvadā. Ja jūsu rīki to neatbalsta, jautājiet skaļāk. Vai pārslēdzieties.
- Integrējiet izcelsmes pārbaudītāju un vismaz divus detektorus savā CMS. Parādiet rezultātus valodā, ko var saprast ne eksperts.
- Izveidojiet sarkanu/dzeltenu/zaļu intertitru izplatīšanai. Sarkans iespējamai sintētikai; dzeltens nezināmai/bez izcelsmes; zaļš parakstītiem, nepārtrauktiem akreditācijas datiem. Nav bināru patiesības zīmogu.
- Sniedziet lietotājiem kvīti. Padariet metadatus izpētāmus ar vienu pieskārienu. Cilvēki mācās, redzot.
- Reģistrējiet verifikācijas soļus iekšēji. Kad kaut kas noiet greizi, papīra trase pārvērš "varbūt" par labojumu, nevis fiasko.
Neērtais patiesība
Daži cilvēki vēlas Šveices armijas lietotni, kas viņiem pasaka, kas ir reāls. Tas nenāks, un jūs tam neuzticētos, ja tas notiktu. Neērtais patiesība ir tāda, ka uzticēšanās tiek veidota, nevis izsecināta. Noteikšana ir nepieciešama, izcelsme ir fundamentāla, un platformas pretestība ir svira. Pārējais ir kultūra — vai mēs atalgojam pirmo kadru vai pareizo.
Pēdējais pavērsiens: lielākais risks nav tas, ka mēs nevaram atklāt melus. Tas ir tas, ka mēs pārstājam ticēt patiesībai, kad tā parādās. Tas ir izsmalcinātas dezinformācijas mērķis — nevis pārliecināt jūs par konkrētu melu, bet gan izpludināt visu ciniskā miglā, kur nekam nevar ticēt. Tāpēc tā nav tikai tehniska problēma. Tā ir pilsoniskā higiēna.
Ja tas izklausās grandiozi, apsveriet alternatīvu: plūsmu, kurā viss izskatās reāls, nekas nav, un vienīgais rādītājs, kam ir nozīme, ir klikšķis. Mēs vēl neesam tur. Bet mēs to varam redzēt no šejienes.
Papildu lasāmviela un standarti
- C2PA: tehnisks standarts satura izcelsmei un autentiskumam, ar pieaugošu nozaru adopciju.
- Satura autentiskuma iniciatīva: resursi un produktu atbalsts satura akreditācijas datiem.
- Aptauja un juridiskie viedokļi par dziļviltojumu noteikšanu un pārvaldību.
- Kāpēc uzticības infrastruktūra (nevis ažiotāža) ir īstais kaujas lauks.
Un, ja vēlaties ātru, pragmatisku pamācību par AI ģenerētu video noteikšanu, nopietnais ceļvedis ir stabila vieta, kur sākt — mazāk sprediķa, vairāk kvīšu.
BUJ
Q1:Kas patiesībā ir AI dezinformācijas noteikšana?
Tas nav maģisks melu detektors; tas ir rīku komplekts un darbplūsma, lai novērtētu izcelsmi, palaistu slāņveida klasifikatorus un ievadītu pretestību izplatīšanā. Domājiet mazāk par karstiem viedokļiem, vairāk par kvītīm — avots, rediģējumi, glabāšanas ķēde, tad modeļa signāli.
Q2:Vai detektori šodien var droši identificēt dziļviltojumus?
Dažreiz laboratorijā; mazāk konsekventi dabā. Precizitāte ir atkarīga no modalitātes, saspiešanas un domēna, tāpēc jūs savienojat noteikšanu ar izcelsmi un platformas dizainu, nevis bināru spriedumu.
Q3:Kāpēc man vajadzētu interesēties par C2PA un satura akreditācijas datiem?
Jo minēšana pēc pikseļiem ir zaudējums, un parakstīta izcelsme palielina melu izmaksas. Satura akreditācijas dati padara autentiskumu auditējamu pēc dizaina, kas palīdz gan cilvēkiem, gan automatizētām sistēmām.
Q4:Kā platformas samazina AI dezinformāciju, neiznīcinot runu?
Izmantojiet ar risku mērogu palielinātu pretestību: skaidras etiķetes, intertitrus un aizdomīgu mediju reitinga samazināšanu, vienlaikus paaugstinot pārbaudāmu izcelsmi. Tā nav cenzūra; tā ir atteikšanās algoritmiski uzlādēt apšaubāmu saturu.
Q5:Kāds ir labākais praktiskais pirmais solis komandām?
Ieslēdziet izcelsmi savā uzņemšanas/rediģēšanas cauruļvadā un atklājiet to savā produkta lietotāja saskarnē. Pēc tam pievienojiet divus detektorus un vienkāršu sarkanu/dzeltenu/zaļu pārliecības displeju, lai neeksperti varētu pieņemt saprātīgus lēmumus.
