Software pro rozpoznávání obličeje je zaujatý na základě studie pohlaví a rasy

Technologie rozpoznávání obličeje již není trikem. Stále častěji se používá na pěších cestách a nevykazuje žádné známky zpomalení. Dnes, kromě toho, že se používá k odemknutí smartphonů, se rozpoznání obličeje dostalo do každého koutu. Tuto technologii ve skutečnosti využívají čínští policisté k identifikaci podezřelých.

Podle nového výzkumu MIT's Media Lab to však vypadá, že technologie rozpoznávání obličeje podléhá předsudkům založeným na pohlaví a rase. Joy Buolamwini, výzkumná pracovnice v MIT Media Lab, vytvořila datovou sadu 1270 tváří. Poté otestovala přesnost tří systémů rozpoznávání obličeje od společností Microsoft, IBM a Megvii (čínská firma). Výsledek překvapivě ukázal nepřesnosti v identifikaci pohlaví.

Když byly systémům ukázány fotografie mužů s lehčí pletí, dokázalo je docela snadno identifikovat. Systém však nesprávně identifikoval až 12 procent mužů tmavší pleti; a až 35 procent žen tmavší pleti.

"Celkově byly mužské subjekty přesněji klasifikovány než ženské subjekty replikující předchozí nálezy (Ngan et al., 2015) a lehčí subjekty byly přesněji klasifikovány než tmavší jedinci." - Joy Buolamwini

IBM k tomu uvedla, že neustále zlepšovala svůj software pro analýzu obličeje a byla „hluboce odhodlána“ poskytovat „nezaujaté“ a „transparentní“ služby. Microsoft na druhé straně řekl: „Již jsme podnikli kroky ke zlepšení přesnosti naší technologie rozpoznávání obličeje “a že jsme investovali do výzkumu„ k rozpoznání, pochopení a odstranění zaujatosti."A nakonec Megvii neodpověděl.".

To je řečeno, není to poprvé, co se ukázalo, že technologie rozpoznávání obličeje je nepřesná. V roce 2015 zavolal Google softwarový inženýr, když aplikace Fotografie identifikovala jeho černého přítele jako „gorily“.