Neuroniniai tinklai pripažinti blogus juodos vyrų ir moterų

veido atpažinimo sistema jau gana tankiai įvestas į mūsų gyvenimą. Jis naudojamas skeneriai, pavyzdžiui, veidų ID ir net naudojamas rasti nusikaltėlius. Tačiau, kaip pranešė paskelbimo Mokslas kasdien, mokslininkai iš Masačiusetso technologijos instituto (MIT) ir Stanfordo universiteto komanda, išstudijavęs keletą komercinių AI algoritmai veido pripažinimo, atskleidė jų požymiai seksizmo ir rasizmo.

Neuroniniai tinklai pripažinti blogus juodos vyrų ir moterų

Tyrimas nustatė, kad iš baltų vyrų algoritmų nuotraukomis analizė neteisingai nustato tik 0, 8% atvejų seksas, o juodas moterų klaidos normų atveju vidutiniškai apie 30%. Nustatyti modeliai darbuotojų MIT Joy Buolamvini surinkta 1200 nuotraukų skirtingų žmonių (kuris, tačiau, dažniausiai buvo vaizduojami Moterys su tamsiai odai). Tada ji kreipėsi į Fitzpatrick masto, pagal kurį yra 6 odos tipams, kur aš - tai lengviausias ir VI - tamsiausias.

Kaip rezultatas, jis tapo aišku, kad moterims su tamsiai odai su vertinimo IV, V arba VI pagal Fitzpatrick klaidų lygis 20, 8%, 34, 5 ir 34%, 7%, atitinkamai. Taigi buvo nustatyta, kad tamsesnės odos tipas - tuo labiau tikėtina, kad algoritmas suklysta. Nustatant vyrų su šviesos odos klaidų lygis neviršija 0, 8%. Be to, džiaugsmas (kuris pats yra afroamerikietis moteris) bandė analizuoti savo nuotrauką, ir paaiškėjo, kad sistema arba neatpažįsta savo veidą, ar ne tinkamai aptikti grindis. Tiesą sakant, tokio tyrimo gali būti traktuojami skirtingai. Bet Nesikartodami visas anekdotai ir prietarus apie toleranciją, tyrimas kelia labai svarbų klausimą: Ar veido atpažinimo algoritmai tikrųjų tinkamai dirbti? Galų gale, su jų pagalba, toje pačioje Kinijoje jau bando patraukti baudžiamojon atsakomybėn. Be to, naujų tyrimų silpnai koreliuoja su vieno iš programinės įrangos įmonių, kurios sukūrė programinę įrangą neuroninių tinklų ir tvirtino, kad jų programinė įranga atpažįsta veidus su 97% atvejų tikslumo ataskaitoje. Ką manote? Pateikė savo nuomonę mūsų naują pokalbių-Telegram.