Taigi, jūsų AI kamera galvoja, kad kiekviena moteris yra slaugytoja, o kiekvienas vyras – generalinis direktorius. Puiku, puiku, puiku.
Ar kada nors įkėlėte nuotrauką į "AI patobulintą" programėlę ir matėte, kaip ji užtikrintai pavadina jūsų draugo sarį chalatu? Arba matėte medicininio vaizdavimo sistemą, kuri tvirtina, kad apgamas ant jūsų rankos yra mėlynė? Tai yra duomenų rinkinio šališkumas AI vaizdavime, ir tai ne tik nepatogu – tai gali būti pavojinga. Pagalvokite apie tai, kaip apie vaiko mokymą abėcėlės tik su balsėmis. Žinoma, jis kažką dainuos. Bet nenorėtumėte, kad jis rašytų receptus.
Šiuo metu esame keistoje situacijoje, kai kompiuterinė rega yra pakankamai gera, kad būtų visur – jūsų telefone, automobilyje, gydytojo kabinete – bet vis dar pakankamai bloga, kad praleistų esmę, kontekstą ir kartais ištisas žmonių grupes. Paprastai kaltas ne matematika. Tai duomenys. Konkrečiai, duomenys, kurie apmokė šiuos modelius matyti pasaulį pro labai siaurą objektyvą.
Išsiaiškinkime, kaip duomenų rinkinio šališkumas AI vaizdavime įsėlina, sugadina ir – svarbiausia – kaip galite neleisti jam pavadinti jūsų katės kruasanu.
Kas yra duomenų rinkinio šališkumas AI vaizdavime? Trumpa versija, kurią perskaitys jūsų teta.
Duomenų rinkinio šališkumas AI vaizdavime atsiranda, kai vaizdai, naudojami modeliui apmokyti, neatspindi realaus pasaulio. Jei jūsų duomenų rinkinyje daugiausia veidai iš vienos demografinės grupės, odos atspalviai iš riboto diapazono arba objektai, nufotografuoti tobulame studijos apšvietime (sveiki, influencerių žiediniai žibintai!), modelis išmoksta iškreiptą realybės versiją.
- Atrankos šališkumas: pasirinkote vaizdus, kuriuos buvo lengviausia gauti – nuotraukų iš fotobankų, baltų fonų ir retkarčiais įtartinai laimingo salotų valgytojo.
- Ženklinimo šališkumas: žmones ženkliną vaizdus. Žmones turi nuomonių. Kartais tos nuomonės yra labiau "kūrybinis rašymas" nei "gryna tiesa".
- Konteksto šališkumas: stetoskopas šalia moters? Turi būti slaugytoja. Tas pats objektas šalia vyro? Gydytojas. Modelis išmoko stereotipą iš duomenų rinkinio.
- Srities šališkumas: apmokėte ant blizgančių produktų nuotraukų, tada panaudojote pritemdytose gamyklų patalpose. Staigmena: krautuvas atrodo kaip Snieguolis.
Jei išmokysite AI matyti pasaulį tik per vieną kaimynystę, nenustebkite, kai jis pasiklys miesto centre.
Ne visai juokingi statymai: kur šališkumas nustoja būti memu
Šališkumas AI vaizdavime ne tik sukuria memų vertus nesėkmes. Jis pasireiškia:
- Medicininis vaizdavimas: nepakankamai atstovaujami odos atspalviai dermatologijos duomenų rinkiniuose gali lemti prastesnius tokių būklių, kaip melanoma, aptikimo rodiklius. Kai pikseliai neatitinka mokymo pavyzdžių, klaidų skaičius išauga.
- Saugumas ir stebėjimas: neteisingas atpažinimas veido atpažinimo sistemoje buvo susijęs su neteisėtais areštais, ypač spalvotiems žmonėms. Nėra labai gera vartotojo patirtis.
- Įdarbinimas ir tapatybės patvirtinimas: veido atpažinimas, kuris susipainioja su ne dvejetainiais arba translyčiais veidais, yra ne tik erzinantis – tai atskiriantis.
- Autonominės sistemos: savavaldės automobilis, apmokytas daugiausia Kalifornijos saulėje, gali neatpažinti sniegu padengto sustojimo ženklo Minesotoje. Automobilis nėra neatsargus. Jis tiesiog apsaugotas.
Kai modelio pasaulis yra mažas, tikri žmonės moka kainą.
Kaip jis įsėlina: keturi vaizdo duomenų rinkinio šališkumo raiteliai
1) "Nemokamų dalykų šališkumas"
Vaizdų paieška atvirame internete iš esmės yra naršymas po pikselių šiukšlyną. Rasite daug įžymybių nuotraukų, technologijų konferencijų ženklelių ir produktų nuotraukų, kurios atrodo, tarsi būtų nufotografuotos Mėnulyje. Kasdienė, netvarkinga realybė? Mažiau. Tai pakreipia jūsų modelį link tam tikrų veidų, vietų ir atmosferos.
2) "Anotacijų dreifas"
Du ženklinimo specialistai ateina į ženklinimo darbą. Vienas pažymi džemperį kaip "sportinę aprangą", kitas sako "kasdienę aprangą", o trečias vadina ją "gatvės apranga". Modelis išmoksta, kad drabužiai yra chaosas. Dar blogiau, ženklinimo specialistai įneša kultūrinių prielaidų – pavyzdžiui, kas atrodo kaip "viršininkas" arba kas laikoma "natūralia" šukuosena.
3) "Konteksto ramentas"
Modeliai mėgsta nuorodas. Jei 90% jūsų duomenų rinkinio nuotraukų su virėjais yra vyrai, modelis naudos lyties užuominas kaip nuorodą prognozuoti "virėją". Tai nėra intelektas; tai šališkas apgaulės lapas.
4) "Srities neatitikimas"
Apmokykite ant DSLR blizgančių nuotraukų, panaudokite ant žemos raiškos apsaugos kamerų. Apmokykite ant dienos vaizdų, panaudokite naktį. Apmokykite ant miesto gatvių, panaudokite ant kaimo kelių. Jūsų modelis iš esmės keliauja be įkroviklio.
Šališkumo aptikimas be daktaro laipsnio – arba melo detektoriaus
Štai kaip sužinoti, kad jūsų AI vaizdavimo modelis turi šališkumo problemą, be to, kad jaučiate nerimą savo demonstracijoje:
- Veiklos spragos: suskaidykite savo patvirtinimo metrikas pagal demografiją, apšvietimą, geografiją ar įrenginio tipą. Jei tam tikroms grupėms tikslumas sumažėja kaip telefonui be dėklo, turite šališkumą.
- Painiavos matricos, kurios jus painioja: jei modelis nuolat painioja konkrečias klases – tarkime, hidžabus su kepurėmis – tai yra duomenų rinkinio ženklas.
- Funkcijų priskyrimo auditai: tokie įrankiai kaip Grad-CAM gali atskleisti, kad jūsų "katės" detektorius iš tikrųjų orientuojasi į sofos raštą. Sveikiname, apmokėte apmušalų atpažinimą.
- Realaus pasaulio bandomasis dreifas: paleiskite mažus bandomuosius projektus gamtoje. Jei modelis panikuoja po fluorescenciniu apšvietimu kaip augalas rūsyje, jam reikia įvairesnių duomenų.
Įrankių rinkinys: kaip sumažinti duomenų rinkinio šališkumą, kol jis nepakenks jūsų produkto planui
Įsivaizduokite kovą su šališkumu kaip namų renovaciją. Galite užtaisyti, sustiprinti arba išardyti ir atstatyti. Jūsų biudžetas: laikas, duomenys ir nuolankumas.
1) Rūpinkitės kaip muziejumi (o ne blusų turgumi)
- Apibrėžkite aprėptį: užrašykite demografines grupes, apšvietimo sąlygas, kamerų tipus, geografines vietas ir aplinkas, su kuriomis jūsų sistema turi susidoroti. Jei tai neužrašyta, tai yra norų išsipildymas.
- Nustatykite kvotas: taip, kvotas. Jei 30% jūsų vartotojų yra silpnoje šviesoje, 30% jūsų duomenų rinkinio turėtų būti silpnos šviesos vaizdai. Tas pats galioja odos atspalvių diapazonams (naudokite tokias skales kaip Fitzpatrick kaip tarpinį), amžiaus grupėms, drabužių stiliams ir kultūriniams kontekstams.
- Naudokite duomenis iš kelių šaltinių: nuotraukos iš fotobankų yra desertas. Jums taip pat reikia namuose gaminto maisto: vartotojų pateiktų nuotraukų (su sutikimu), viešųjų duomenų rinkinių su šališkumo auditais ir tikslinio duomenų rinkimo iš nepakankamai atstovaujamų grupių.
2) Ženklinkite kaip teisininkas (bet draugiškiau)
- Aiškus klasifikavimas: parašykite ženklinimo vadovą. Ne, tikrą. Įtraukite kraštutinius atvejus, pavyzdžius ir ką daryti negalima. Sumažinkite ženklinimo specialistų "vibracijas".
- Įvairūs anotatoriai: jei jūsų anotatoriai visi lankėsi tose pačiose trijose kavinėse, jūsų etiketės taip pat. Geografinė ir kultūrinė įvairovė padeda.
- Sutikimo patikrinimai: išmatuokite anotatorių tarpusavio susitarimą ir spręskite nesutarimus su pagrindiniu ženklinimo specialistu. Neapskaičiuokite vidurkio iki nesąmonių.
- Jautrūs atributai: kai tinkama ir sutikta, rinkite apsaugotų atributų žymes įvertinimui. Laikykite juos atokiau nuo mokymo, nebent atliekate kontroliuojamas sąžiningumo intervencijas.
3) Apmokykite kaip mokslininkas (su užkandžiais)
- Subalansuotas atranka: naudokite stratifikuotą atranką ir klasių perskyrimą, kad modelis nepaskęstų daugumos klasėje.
- Duomenų papildymas, atsakingai: keiskite apšvietimą, kampus, okliuzijas ir fonus. Sintetiniai duomenys gali padėti, bet neleiskite žaidimų varikliui išrasti visos jūsų realybės.
- Šališkumo mažinimo tikslai: įtraukite sąžiningumą atspindinčius nuostolius arba apribojimus, kurie sumažina veiklos spragas tarp grupių.
- Srities pritaikymas: jei naudojimas yra tamsus, triukšmingas arba žemos raiškos, imituokite tą pasaulį. Geriau: rinkite tame pasaulyje.
4) Testuokite kaip cinikas
- Įvertinimas suskaidant: praneškite apie tikslumą, tikslumą / atšaukimą ir kalibravimą pagal pogrupį. Jei nematote, nepataisysite.
- Kontrafaktiniai testai: pakeiskite kontekstą, išlaikydami subjektą pastovų. Ar moteris, laikanti portfelį, tampa "mokytoja", o vyras su portfeliu – "generaliniu direktoriumi"? Tai konteksto šališkumas, užfiksuotas 4K formatu.
- Streso testai: mėtykite į savo modelį priešišką akinimą, judesio suliejimą, sniegą, rūką, kaukes ir kepures. Iš esmės Helovinas neuroniniams tinklams.
5) Stebėkite taip, kaip iš tikrųjų norite
- Dreifo aptikimas: stebėkite įvesties paskirstymo pokyčius po paleidimo. Kai jūsų programėlė staiga išpopuliarėja Brazilijoje, norėsite tai žinoti.
- Žmogus dalyvauja procese: leiskite vartotojams pažymėti klaidas ir šališkumą ir iš tikrųjų perskaitykite ataskaitas. Taip, net ir tas, kurios parašytos didžiosiomis raidėmis.
- Perkvalifikavimo ritmas: suplanuokite atnaujinimus. Pasenę modeliai yra šališki modeliai su senatvine silpnybe.
Realaus pasaulio scenarijai: kur duomenų rinkinio šališkumas sugadina atmosferą
- Dermatologijos AI: jei jūsų mokymo vaizdai daugiausia yra šviesesnio odos atspalvio, pažeidimai ant tamsesnės odos yra nepakankamai aptinkami. Pataisykite: įvairinkite šaltinius iš klinikų visose populiacijose ir įvertinkite pagal odos atspalvių kategorijas.
- Mažmeninės prekybos nuostolių prevencija: modeliai, apmokyti su bandomąja medžiaga iš švarių, ryškių parduotuvių, netinkamai veikia perpildytose, pritemdytose parduotuvėse. Pataisykite: rinkite iš tikrų parduotuvių visuose regionuose ir sezonuose. Be to, galbūt nekriminalizuokite džemperių.
- Žemės ūkio vaizdavimas: modelis, apmokytas su dienos bepilotių orlaivių vaizdais, praleidžia kenkėjus prieblandoje. Pataisykite: įtraukite skirtingą paros laiką ir jutiklių tipus (RGB + šiluminiai). Augalai taip pat turi naktinį gyvenimą.
- Dokumentų nuskaitymas: paso asmenukių patikrinimai nepavyksta su garbanotais plaukais arba galvos apdangalais. Pataisykite: išplėskite mokymą ir aiškiai įvertinkite plaukų tekstūras ir apdangalus. Premija: patobulinkite vartotojo sąsajos raginimus ir apšvietimo gaires.
Mitai, kuriuos nuolat girdžiu (ir taip, aš atsinešiau kvitus)
- "Didesni duomenų rinkiniai = mažiau šališkumo." Jei jūsų didelis duomenų rinkinys yra tik daugiau to paties, jūs padidinote problemą. Tai tarsi užsisakyti didelį netinkamos kavos puodelį.
- "Mes tai pataisysime vėliau su protingu algoritmu." Algoritmai gali sumažinti šališkumą, bet negalite nupoliruoti bulvės ir pavadinti ją deimantu. Pradėkite nuo geresnių bulvių – t. y. duomenų.
- "Sąžiningumas reiškia tą patį tikslumą visiems." Kartais paritetas yra tikslas; kartais svarbesni suvienodinti šansai arba kalibruoti balai. Pasirinkite metrikas, kurios atitinka žalą, kurios norite išvengti.
- "Sintetiniai duomenys išsprendžia įvairovę." Tai padeda užpildyti spragas, bet jei generatorius išmoko šališkumo iš tikrų vaizdų, jūs tiesiog nuklonuovote problemą 4K formatu.
Praktinis, žingsnis po žingsnio šališkumo patikrinimas, kurį iš tikrųjų galite atlikti šią savaitę
- Inventoriaus savo duomenų rinkinys: sukurkite paprastą lentelę, kas ir kas jame yra – demografija, apšvietimas, įrenginiai, vietos. Raudonai paryškinkite spragas. Apsimeskite, kad vertinate savo modelį.
- Sukurkite sąžiningumo įvertinimo rinkinį: 1 000–10 000 vaizdų, suskirstytų pagal grupes, kurios jums rūpi. Tai yra jūsų metinis fizinis patikrinimas.
- Pasirinkite dvi šališkumo metrikas: pradėkite nuo pogrupių tikslumo ir kalibravimo klaidos. Jei jūsų programėlė yra didelės rizikos (medicinos, tapatybės), pridėkite suvienodintus šansus arba klaidingai neigiamų rodiklių spragas.
- Nustatykite ribas: "Nė vienas pogrupis neturi būti mažesnis nei 95% bendro tikslumo" yra gera pradžia. Užrašykite tai. Priklijuokite prie sienos.
- Triažas ir perkvalifikavimas: užpildykite spragas tiksliniu duomenų rinkimu, perskirkite savo imtį ir išbandykite srities papildymą ten, kur naudojate. Paleiskite sąžiningumo įvertinimą iš naujo. Kartokite, kol jūsų sienos plakatas nustos ant jūsų rėkti.
Dėmesio: reglamentai, auditai ir kodėl jūsų teisės skyrius staiga pamėgo pietus
Įstatymai ir standartai vejasi. Tikėkitės poveikio vertinimų reikalavimų, mokymo duomenų dokumentacijos ir stebėjimo po įdiegimo – ypač sveikatos priežiūros, įdarbinimo ir viešojo sektoriaus naudojimo srityse. Vertimas: tvarkykite įrašus. Duomenų rinkinių duomenų lapai, modelių kortelės ir dokumentinis įrodymas kiekvienam svarbiam pakeitimui. Jūsų ateities aš – ir reguliavimo institucija – jums padėkos.
Įrankiai, kuriuos verta išbandyti, kai jūsų skaičiuoklė pradeda verkti
- Šališkumo įvertinimo bibliotekos: ieškokite atvirojo kodo įrankių rinkinių, kurie praneša apie pogrupių metrikas, kalibravimą ir sąžiningumo apribojimus. Daugelis integruojasi su bendrais ML karkasais.
- Paaiškinamumas: aiškumo žemėlapiai, Grad-CAM, SHAP. Naudokite juos, kad pamatytumėte, į ką iš tikrųjų žiūri modelis. Jei tai logotipas, o ne produktas, turite susižavėjimo problemą.
- Duomenų naršyklės: sistemos, leidžiančios filtruoti pagal metaduomenis, vizualizuoti paskirstymo spragas ir pažymėti beveik dublikatus. Siekite mažiau klonų, didesnės aprėpties.
Verta paminėti: jei norite patikrinti sveiką protą pasirinkdami arba audituodami duomenų rinkinius, Sider.AI gali padėti greitai palyginti paskirstymus, paryškinti nepakankamai atstovaujamus segmentus ir išryškinti "oi-oi" koreliacijas, kol jie netampa gamybos klaidomis. Pagalvokite apie tai kaip apie draugą, kuris jums pasako, kad turite špinatų tarp dantų – švelniai ir su diagramomis. Žmogiškoji pusė: komandos pataiso šališkumą, ne įrankių juostos
- Įvairios komandos pastebi skirtingas akląsias zonas. Jei visi jūsų komandos nariai atostogauja tuose pačiuose trijuose miestuose, jūsų modelis taip pat.
- Svarbu skatinamosios priemonės. Jei sėkmė yra tik "bendras tikslumas", žmonės pateiks šališką modelį, kuris laimi lyderių lentelę. Nustatykite sąžiningumo tikslus ir apdovanokite už jų pasiekimą.
- Kalbėkite su vartotojais, ypač tais, kurie gauna blogiausius rezultatus. Jie jums pasakys, ko jūsų informacijos suvestinė nepasakys.
Greitos pergalės prieš ilgalaikius iššūkius: ką daryti, atsižvelgiant į jūsų terminą
- Išsiųsti rytoj: pridėkite tikslinį papildymą blogiausiai veikiančiam pogrupiui, perskirkite savo nuostolius ir uždėkite stebėjimo informacijos suvestinę su įspėjimais apie dreifą.
- Išsiųsti kitą mėnesį: surinkite mažą, bet galingą duomenų rinkinį, sutelktą į spragas, perkvalifikuokite su sąžiningumo apribojimais ir paleiskite kontrafaktinių testų rinkinį.
- Išsiųsti kitą ketvirtį: pertvarkykite savo duomenų srautą, kad įtrauktumėte kvotomis pagrįstą atranką, nuolatinius šališkumo įvertinimus ir tarpfunkcinę apžvalgą prieš išleidimą.
Kontrolinis sąrašas, kurį iš tikrųjų naudosite
- Ar žinome, kas yra mūsų duomenyse ir ko trūksta?
- Ar nustatėme pogrupių veiklos tikslus?
- Ar mūsų etiketės yra nuoseklios ir kultūriškai sąmoningos?
- Ar testavome aplinkose, kuriose gyvena mūsų vartotojai – ne tik mūsų laboratorijoje?
- Ar galime paaiškinti modelio sprendimus, kai kas nors negerai?
- Ar turime planą atnaujinti ir stebėti po paleidimo?
Atspausdinkite jį. Įrėminkite jį. Arba priklijuokite prie savo espreso aparato.
Kai šališkumas yra funkcija, o ne klaida: ribų pripažinimas
Kai kurios vaizdavimo užduotys užkoduoja kultūrines normas (mada, gestai, simboliai), kurios nėra universalios. Kartais teisingas atsakymas yra lokalizuoti modelius pagal regioną, kultūrą ar naudojimo atvejį, o ne vytis visiems tinkamą sąžiningumą. Tikslas nėra sukurti AI, kuris žino viską apie visus – tai sukurti tokį, kuris žino, kada nežino.
Esmė: neleiskite savo AI užaugti burbule
Duomenų rinkinio šališkumas AI vaizdavime yra tarsi mokyti savo kamerą matyti pasaulį per popierinio rankšluosčio tūbelę: gaunate siaurą vaizdą ir galvos skausmą. Bet jūs nesate pasmerktas.
- Audituokite savo duomenis taip, kaip tai svarbu – nes tai iš tikrųjų svarbu.
- Ženklinkite su ketinimu, apmokykite su apribojimais ir testuokite su skepticizmu.
- Stebėkite, klausykite ir pataisykite, nes realus pasaulis neišvengiamai jus nustebins.
Padarykite tai, ir jūsų AI nustos painioti sarius su chalatais ir apgamus su produktais. Tai netgi gali būti pakankamai gera, kad padėtų žmonėms – saugiai, sąžiningai ir laukinėje, netvarkingoje realybėje, kurioje mes visi iš tikrųjų gyvename.
Dabar eikite patikrinti savo duomenų rinkinio. Aš palauksiu. Ir aš būsiu tas, kuris kampe šnabžda jūsų modeliui: "Tai ne tu, tai tavo mokymo rinkinys."
DUK
Q1:Kas yra duomenų rinkinio šališkumas AI vaizdavime, paprasta kalba?
Tai yra tada, kai mokymo vaizdai neatitinka realaus pasaulio – per mažai odos atspalvių, apšvietimo sąlygų ar kontekstų. Modelis išmoksta siaurą realybę ir daro šališkas arba neteisingas prognozes, kai susiduria su bet kuo, kas yra už to burbulo ribų.
Q2:Kaip aptikti duomenų rinkinio šališkumą prieš išsiunčiant?
Suskaidykite savo metrikas pagal pogrupį – demografiją, apšvietimą, įrenginius – ir ieškokite veiklos spragų. Pridėkite kontrafaktinius testus ir mažą, kuruojamą sąžiningumo įvertinimo rinkinį, kad anksti pagautumėte konteksto ir ženklinimo šališkumą.
Q3:Ar sintetiniai duomenys gali pataisyti duomenų rinkinio šališkumą kompiuterinėje regoje?
Sintetiniai duomenys gali užpildyti spragas, tokias kaip retas apšvietimas ar kampai, bet jie taip pat gali klonuoti jūsų esamą šališkumą. Naudokite juos papildyti nepakankamai atstovaujamus scenarijus, o ne pakeisti įvairius realaus pasaulio vaizdus.
Q4:Kokie yra greiti būdai sumažinti šališkumą neperstatant visko?
Perskirkite klases, pridėkite tikslinių papildymų ir surinkite mažą duomenų rinkinį, sutelktą į jūsų blogiausiai veikiančias grupes. Tada perkvalifikuokite su sąžiningumą atspindinčiais nuostoliais ir stebėkite dreifą po paleidimo.
Q5:Kokias metrikas turėčiau naudoti vaizdavimo šališkumui matuoti?
Pradėkite nuo pogrupių tikslumo ir kalibravimo klaidos, tada apsvarstykite suvienodintus šansus arba klaidingai neigiamų rodiklių spragas didelės rizikos užduotims. Pasirinkite metrikas, kurios atitinka žalą, kurios labiausiai norite išvengti.
