Diena, kai mano šuo kandidatavo į valdžią (arba: kodėl svarbus dirbtinio intelekto sukurtų vaizdų aptikimas)
Praėjusią savaitę mano teta atsiuntė man nuotrauką, kurioje mano biglis Maksas spaudžia ranką senatoriui. „Ar jis dabar kandidatuoja į valdžią?" – paklausė ji. Kaklaraištis buvo kreivas, letena atrodė šiek tiek... leteniška, ir vis dėlto apšvietimas buvo toks geras, kad sekundei mano smegenys gūžtelėjo pečiais ir pasakė: „Žinoma. Aš už jį balsuočiau.“
Tai yra įtikinamų klastočių magija ir pavojus. Dirbtinio intelekto sukurtų vaizdų aptikimas nebėra vien tik nerdų triukas. Tai jūsų kasdienis apsaugininkas prie realybės durų, tikrinantis asmens tapatybės dokumentus, kai internetas bando jums įbrukti su gražiu kostiumu.
Pakalbėkime apie tai, kaip pastebėti dirbtinio intelekto sukurtus vaizdus, kol jie neatims jūsų sveiko proto, kaip iš tikrųjų veikia aptikimo įrankiai ir kaip jais naudotis netampant tuo žmogumi, kuris rėkia „NETIKRA!“ prie kiekvienos šeimos nuotraukos.
Apie ką mes iš tikrųjų kalbame: dirbtinio intelekto sukurtų vaizdų aptikimas, paaiškinta kaip žmogui
Dirbtinio intelekto sukurtų vaizdų aptikimas yra procesas, kurio metu nustatoma, ar vaizdą sukūrė – ar smarkiai redagavo – dirbtinio intelekto modelis, pvz., Midjourney, DALL·E arba Stable Diffusion. Jūs ieškote ženklų: keistų tekstūrų, matematiškai nesigaudančių rankų, šešėlių su pasitikėjimo problemomis. Ir jūs ieškote techninių pirštų atspaudų: metaduomenų, vandens ženklų, maišos kodų ir šaltinio patvirtinimų.
Paprasta kalba: DI vaizdų aptikimas yra CSI jūsų fotoaparatų juostai, atėmus akinius nuo saulės ir teminę muziką.
Kodėl jums turėtų rūpėti (net jei neorganizuojate rinkimų ar šunų kampanijos)
- Jūsų kanalai jau pilni DI turinio. Kai kuris nekenksmingas (sveiki, DI sukurta ūdra su cilindru), kai kuris – ne.
- Sukčiavimo schemos mėgsta įtikinamus vaizdus. Netikros produktų nuotraukos. Netikri nuomos skelbimai. Netikri „įžymybių“ patvirtinimai.
- Dezinformacijai nebūtina būti tobula – tiesiog greita ir emocinga. Kol pasirodo tiesa, klastotė jau išplito, padarė Pilates pratimus ir pavalgė vėlyvųjų pusryčių.
Dirbtinio intelekto sukurtų vaizdų aptikimas yra jūsų pauzės mygtukas. Paspauskite jį prieš dalindamiesi, pirkdami ar įnirtingai komentuodami.
Pradėkite čia: greitas, žmogiškas kontrolinis sąrašas DI vaizdams pastebėti
Prieš atverdami dvylika skirtukų ir pradėdami atvirkštinę vaizdų paiešką kaip detektyvas, kuris nemiegojo, atlikite 15 sekundžių patikrinimą:
- Rankos, dantys ir tekstas
- Pirštai: suskaičiuokite juos. DI kartais padaugina – kaip kepykla, kuri netiki porcijų dydžiais.
- Dantys: ieškokite dantų dėmių, o ne aiškių atskirų dantų.
- Tekstas: gatvės ženklai ir marškinėliai dažnai ištirpsta į nesąmones arba išgalvotus šriftus.
- Ar šešėliai atitinka šviesos šaltinį? DI kartais pamiršta, kad saulė egzistuoja vienoje vietoje vienu metu.
- Auskarai, akiniai ir apykaklės gali plūduriuoti, susilieti su skruostais arba mutuoti kadro viduryje.
- Plaukai prieš sudėtingus fonus (pvz., medžių šakas) dažnai atrodo per glotnūs arba per sutepti.
- Keista simetrija ir fonai
- Fono minios gali turėti klonų – tas pats veidas, skirtinga skrybėlė.
- Ieškokite pasikartojančių raštų ant tapetų, plytelių ar lapų.
- DI portretai kartais atrodo per daug nupoliruoti – tarsi kiekvienas žmogus būtų per vieną drėkintuvą nuo nušvitimo.
Jei jis išlaiko greitą uoslės testą, pereikite prie įrankių.
Įrankių dėžė: kaip iš tikrųjų veikia DI sugeneruotų vaizdų aptikimas
Galvokite apie aptikimą kaip apie trijų pakopų apsaugos sistemą: teismo ekspertizę, kilmės patikrinimus ir konteksto patvirtinimą.
- Teismo ekspertizės signalai („išdavystės“ pikselių lygiu)
- Suspaudimo artefaktai: DI modeliai dažnai palieka raštus, kurie skiriasi nuo išmaniųjų telefonų kamerų sistemų. Kai kurie teismo ekspertizės įrankiai ieško šių statistinių pirštų atspaudų.
- Apšvietimo neatitikimai: Algoritmai gali analizuoti, ar paryškinimai ir šešėliai atitinka žinomą fiziką.
- Triukšmo raštai: Tikros kameros sukuria jutiklio triukšmą, būdingą aparatinei įrangai. DI triukšmas gali atrodyti per daug vienodas arba per švarus.
- Metaduomenys: patikrinkite EXIF duomenis, ar nėra kamerų modelių, laiko žymų ir GPS. Atsargiai: manipuliatoriai gali tai pašalinti arba suklastoti.
- Nematomi vandens ženklai: Kai kurie generatoriai įterpia signalą. Nėra tobula, bet vis geriau.
- Turinio kredencialai: besiformuojantis standartas (pagalvokite: skaitmeninė maistinė vertė), kuris registruoja redagavimus ir šaltinius.
- Konteksto ir šaltinio patvirtinimas
- Atvirkštinė vaizdų paieška: pažiūrėkite, kur dar pasirodo vaizdas ir kada jis pirmą kartą pasirodė.
- Geolokacija ir oras: ar horizontas atitinka miestą? Ar tą dieną iš tikrųjų snigo?
- Socialinis grafikas: kas pirmas paskelbė? Žinomas šaltinis ar nauja anoniminė paskyra su nuliu sekėjų ir šešiais šauktukais?
Jūsų aptikimo įrankių rinkinys: ką naudoti ir kada
Čia yra jūsų praktiškas, be dramų rinkinys, skirtas DI sukurtų vaizdų aptikimui. Naudokite vieną, tada pridėkite kitus, jei statymai yra dideli.
- Atvirkštinė vaizdų paieška
- ir vaizdinė paieška: puikus pirmas žingsnis. Nuvilkite ir numeskite ir pažiūrėkite, ar nuotrauka egzistavo pernai ir buvo pavadinta kaip nors kitaip.
- Bet kuri EXIF peržiūros programa: naudinga kameros duomenims ir redagavimo istorijai. Jei metaduomenų nėra, tai yra ženklas – ne nuosprendis.
- Teismo ekspertizės analizatoriai
- Klaidų lygio analizė (ELA): paryškina suspaudimo skirtumus – naudinga norint pastebėti sujungimus ir redagavimus.
- Apšvietimo/šešėlių įvertintojai: kai kurie įrankiai patikrina, ar šviesos kryptys yra logiškos. Jie nėra būrėjai, bet yra patogūs melo detektoriai.
- Ieškokite „turinio kredencialų“ žymų, kai platformos jas priima. Jie parodo, ar vaizdas buvo sukurtas DI ar redaguotas, kas ir kokiais įrankiais.
- Minčių išmintis (atsargiai)
- Patikimi faktų tikrintojai, naujienų redakcijos, OSINT bendruomenės. Nelaikykite atsitiktinio pasitikėjimo „Reddit“ kaip įrodymo – bet naudokite jį kaip užuominą.
Dėmesio: nė vienas detektorius nėra tobulas. Su rezultatais elkitės kaip su skale, o ne su jungikliu.
Raudonos vėliavos pagal kategorijas: ką DI daro ne taip (o kartais labai gerai)
- Akiniai susilieja su antakiais, asimetriški auskarai, plaukai, kurie nepaiso gravitacijos. Taip pat: nenuosekli odos tekstūra.
- Letenų skaičiavimo metas. Kailis gali atrodyti retušuotas. Dantys tampa mažyčiais pianino klavišais.
- DI riestainio trupinys atrodys kaip lavos laukas. Sūris gali atrodyti... blizgus.
- Laiptai, kurie veda niekur. Langai, kurie kartojasi kaip kopijuoti-įklijuoti tapetai.
- Dokumentai ir ekrano kopijos
- Nesąmoningi šriftai, nesutampančios linijos, antspaudai ar logotipai, kurie susilieja priartinus.
- Žvaigždžių ir mėnulio deriniai, dėl kurių astronomas verktų. Vandens atspindžiai, kurie pamiršta atspindėti.
„Pasitikėjimo trikampis“: greitis, tikrumas ir statymai
Kiekvienam memui nereikia nusikaltimų laboratorijos. Mąstykite kaip triažo slaugytoja:
- Maži statymai (juokingas memas, jokių pasekmių): atlikite greitą patikrinimą ir eikite toliau.
- Vidutiniai statymai (apsipirkimas, renginių nuotraukos): pridėkite atvirkštinę paiešką ir metaduomenų žvilgsnį.
- Dideli statymai (politika, sveikata, finansai, reputacija): ištraukite visą rinkinį – kilmę, teismo ekspertizės įrankius, patvirtinančius šaltinius, laiko žymes ir platformos patvirtinimą.
Atminkite: esant dideliems statymams, gerai nedalinti iš karto. Internetas neduos jums medalio už tai, kad buvote pirmas, bet gali jus apskrudinti už tai, kad klydote.
Kai DI jus pergudrauja: DI sugeneruotų vaizdų aptikimo apribojimai
- Modelių šuoliai: generatoriams tobulėjant, jų išdavystės mažėja. Tai, kas jus apgavo pernai, neapgaus šiandien – ir atvirkščiai.
- Priešiški triukai: blogi veikėjai gali pridėti subtilaus triukšmo, kad apgautų detektorius.
- Pašalinti metaduomenys: daugelis platformų pagal numatytuosius nustatymus suspaudžia arba pašalina EXIF. Duomenų trūkumas ≠ klastotės įrodymas.
- Konteksto painiava: tikra nuotrauka vis tiek gali suklaidinti, jei antraštė neteisinga. Atminkite: aptikimas yra apie patį vaizdą; tiesai reikia konteksto.
Vertimas: nepriskirkite viso savo patikimumo vienam žaliajam varnelės ženklui.
Praktinis, realaus pasaulio apžvalga: virusinio vaizdo patikrinimas per 5 minutes
Scenarijus: matote dramatišką miesto horizonto nuotrauką po žaliu dangumi, pažymėtą „Toksiškas dujų nuotėkis – evakuotis!“ Štai žingsnis po žingsnio.
Minutė 0–1: greitas vizualinis nuskaitymas
- Debesys ir spalvos atrodo kinematografiškai. Šešėliai neatitinka saulėlydžio krypties. Žarnos sako „filmo plakatas“.
Minutė 1–2: atvirkštinė vaizdų paieška
- ir rodo tą patį horizontą senesniuose įrašuose – normalios spalvos. Žalias atspalvis pasirodo tik naujausiuose įkėlimuose.
Minutė 2–3: metaduomenų patikrinimas
- EXIF pašalintas (įprasta socialiniuose tinkluose). Nėra jokių įrodymų, bet ir jokios pagalbos.
Minutė 3–4: teismo ekspertizės žingsnis
- ELA rodo netolygų suspaudimą dangaus srityje – atitinka sunkų redagavimą arba DI generavimą.
Minutė 4–5: konteksto patvirtinimas
- Vietinės naujienos: jokių pranešimų. Orai: giedras dangus. Išvada: manipuliuota arba sugeneruota DI. Nesidalinkite be didelės žymos „tai netikra“.
Platformos realybė: ką socialiniai tinklai daro (ir ko nedaro)
- Automatinis aptikimas: platformos vis dažniau automatiškai pažymi DI sukurtus vaizdus, ypač tuos, kuriuose yra įterpti vandens ženklai arba turinio kredencialai.
- Žymos: tikėkitės besikeičiančių „DI sukurta“ arba „pakeista“ ženklelių. Jie padės, bet nepagamins visko.
- Pranešimo funkcijos: naudokite jas, kai matote kenksmingas klastotes. Tai nėra skundimas; tai tvarkymasis.
Patarimas: etiketės sumažina įsitraukimą į netikrą turinį. Trumpas interneto dėmesio trukmė – pagaliau dirba mums.
Asmeninės politikos kūrimas: dalintis, išsaugoti ar sunaikinti?
- Jei tai jus supykdo, sulėtinkite. Pasipiktinimas yra mėgstamiausias dezinformacijos prieskonis.
- Jei prašo pinigų, patikrinkite du kartus. Sukčiai mėgsta skubumą.
- Jei tai kenkia kažkieno reputacijai, nebūkite megafonas. Ieškokite originalių šaltinių.
- Jei tai tik katė su berete... Gerai, gerai, pasidalinkite ja. Bet patikrinkite beretės šešėlį.
Profesionalūs žingsniai žurnalistams, kūrėjams ir visiems, turintiems reputaciją, kurią reikia apsaugoti
- Laikykitės neprisijungusio fiksavimo darbo eigos. Ekrano kopijos su laiko žymėmis, originaliomis nuorodomis ir maišos kodais.
- Turėkite patikimų šaltinių adresų knygą: vietos pareigūnus, PR kontaktus, naujienų redakcijas.
- Išsaugokite versijas. Platformos keičia arba išvalo įrašus. Jūsų kvitai neturėtų.
- Atskleiskite netikrumą. „Mes tikriname“ nėra silpnumas; tai vientisumas.
Ateitis: aptikimas bus komandinis sportas
Aptikimas pereina nuo vienų stebuklingų kulkų prie daugiasluoksnės gynybos: kameros aparatinės įrangos signalai, kriptografinė kilmė, platformos politika ir taip, jūs – žmogus su stebėtinai geru nesąmonių detektoriumi.
Tikėkitės, kad daugiau kamerų ir telefonų įkeps parašus, kurie sako „ši nuotrauka atkeliavo iš šio jutiklio šiuo metu“. Tikėkitės, kad redagavimo programos pridės skaidrius redagavimo žurnalus. Tikėkitės, kad DI geriau kurs klastotes ir jas pastebės. Tai ginklavimosi varžybos, bet tokios, kurioje skaidrumas iš tikrųjų gali laimėti.
Verta paminėti: protingesnis būdas patikrinti vaizdų patikimumą naršant
Dėmesio: jei norite greitos antros nuomonės, kai jau žongliruojate skirtukais, Sider.AI gali būti jūsų naršyklės šoninėje juostoje ir padėti jums patikrinti įtartinus vaizdus be detektyvo skrybėlės. Įmeskite nuorodą arba ekrano kopiją ir jis gali apibūdinti tikėtinus išdavimus, pasiūlyti atvirkštines paieškas ir apibendrinti, ką sako patikimi šaltiniai – greičiau nei galite pasakyti: „Palaukite, kodėl tas erelis turi penkis sparnus?" Tai nepakeis jūsų sprendimo, bet padės jums greitai pereiti nuo nuojautos prie įrodymų. Greita nuoroda: DI sugeneruoto vaizdo aptikimo schema (nėra tikros schemos)
- 1 žingsnis: žarnos patikrinimas (rankos, tekstas, šešėliai, kraštai)
- 2 žingsnis: atvirkštinė paieška (raskite ankstesnes versijas)
- 3 žingsnis: metaduomenų žvilgsnis (EXIF, jei yra)
- 4 žingsnis: teismo ekspertizės nuskaitymas (ELA, apšvietimo nuoseklumas)
- 5 žingsnis: konteksto patvirtinimas (naujienos, oras, vieta)
- 6 žingsnis: dalinkitės tik tada, kai esate įsitikinę – arba nesidalinkite visai
Priklijuokite jį prie savo protinio šaldytuvo.
Punktas: jūs nesate paranojiški. Jūs pasiruošę.
Dirbtinio intelekto sukurtų vaizdų aptikimas nėra apie tapimą ciniku. Tai apie jūsų skepticizmo programinės įrangos atnaujinimą. Klastotės vis gerės. Taip pat ir jūs.
Kitą kartą, kai vaizdas suveiks jūsų „Palauk, kas?“ signalą – sustabdykite. Atlikite greitą patikrinimą, paleiskite įrankius, patikrinkite kontekstą. Ir jei mano biglis iš tikrųjų kandidatuos į valdžią, žinosite, nes nuotraukose bus tikros letenos, tikri šešėliai ir tikras kampanijos šūkis: daugiau pasivaikščiojimų, mažiau nesąmonių.
Dabar eikite būti suaugusiuoju laiko juostoje.
DUK
K1: Koks yra greičiausias būdas aptikti DI sugeneruotą vaizdą?
Pradėkite nuo 15 sekundžių patikrinimo – rankų, teksto, šešėlių ir kraštų – tada atlikite greitą atvirkštinę vaizdų paiešką. Jei atrodo, kad statymai yra dideli, prieš dalindamiesi pridėkite metaduomenų patikrinimą ir lengvą teismo ekspertizės nuskaitymą.
K2: Ar DI vaizdų detektoriai yra pakankamai tikslūs, kad jais būtų galima pasitikėti?
Jie yra naudingi, bet ne tobuli. Su DI sugeneruotų vaizdų aptikimu elkitės kaip su rezultatu, o ne su atsakymu „taip/ne“ – derinkite įrankius su kontekstu ir patikimais šaltiniais.
K3: Kaip galiu patikrinti virusinę nuotrauką socialinėje žiniasklaidoje?
Atvirkščiai ieškokite vaizdo, ieškokite ankstesnių versijų ir patikrinkite vietines naujienas ar oficialias paskyras, ar nėra patvirtinimo. Jei metaduomenys pašalinti, pasikliaukite kontekstu ir keliais šaltiniais, o ne tik vienu detektoriumi.
K4: Kokie yra įprasti vizualiniai DI sugeneruotų nuotraukų požymiai?
Stebėkite papildomus pirštus, netvarkingą tekstą ant ženklų, nenuoseklų apšvietimą, pasikartojančius fono raštus ir per tobulą odą. Priartinkite – DI trūkumai dažnai slepiasi smulkiuose dalykuose.
K5: Ar turėčiau naudoti tokius įrankius kaip Sider.AI, kad padėčiau patikrinti vaizdus?
Taip – įrankiai, kurie apibendrina įrodymus ir siūlo patikrinimus, gali pagreitinti DI sugeneruotų vaizdų aptikimą nepaverčiant jūsų visą darbo dieną dirbančiu tyrėju. Naudokite juos kaip patikrinimą, tada pritaikykite savo sprendimą.