Google wyszukuje nowe dane dotyczące odcienia skóry, aby zmniejszyć stronniczość produktu

(ReutersGoogle Alphabet powiedział Reuterowi w tym tygodniu, że opracowuje alternatywę dla standardowej w branży metody klasyfikacji odcieni skóry, która według rosnącej grupy badaczy technologii i dermatologów jest niewystarczająca do oceny, czy produkty są stronnicze w stosunku do osób kolorowych.

W przypadku sześciokolorowa skala znana jako Typ skóry Fitzpatricka (FST)Jest stosowany przez dermatologów od lat 70-tych. Firmy technologiczne polegają teraz na nim, aby oceniać ludzi i mierzyć, czy produkty takie jak systemy rozpoznawania twarzy lub czujniki tętna smartwatcha działają równie dobrze w różnych odcieniach skóry.

Krytycy twierdzą, że FST, który obejmuje cztery kategorie dla „białej” i po jednej dla każdej kategorii „czarnej” i „brązowej” skóry, ignoruje różnorodność wśród osób czarnoskórych. Naukowcy z Departamentu Bezpieczeństwa Wewnętrznego Stanów Zjednoczonych, podczas Federalna Konferencja Standardów Technologicznych w październiku zeszłego roku, zalecili porzucenie FST do oceny rozpoznawania twarzy, ponieważ słabo odzwierciedla on zakres kolorów w różnych populacjach.

W odpowiedzi na pytania Reutera dotyczące FST, Google powiedział, po raz pierwszy i wyprzedzając swoich konkurentów, że po cichu poszukuje lepszych środków.

„Pracujemy nad alternatywnymi, bardziej kompleksowymi środkami, które mogą być przydatne w opracowywaniu naszych produktów, i będziemy współpracować z ekspertami naukowymi i medycznymi, a także grupami pracującymi ze społecznościami kolorowymi” – powiedziała firma, odmawiając podania szczegółów na temat wysiłek.

Kontrowersje są częścią większego rozrachunku na temat rasizmu i różnorodności w branży technologicznej, w której siła robocza jest bardziej biała niż sektory takie jak finanse. Zapewnienie, że technologia działa dobrze dla wszystkich kolorów skóry, a także w różnym wieku i płci, jest jeszcze ważniejsze, ponieważ nowe produkty, często napędzane sztuczną inteligencją (AI), obejmują wrażliwe i regulowane obszary, takie jak opieka zdrowotna i organy ścigania.

Firmy wiedzą, że ich produkty mogą być wadliwe dla grup, które nie są niedostatecznie reprezentowane w badaniach i danych testowych. Obawa dotycząca FST polega na tym, że jego ograniczony zakres dla ciemniejszej skóry może skutkować techniką, która działa na przykład na złocistobrązowej skórze, ale zawodzi na czerwieniach espresso.

Wiele rodzajów produktów oferuje panele znacznie bogatsze niż FST. W zeszłym roku Crayola wypuściła 24 skórzane kredki, aw tym roku Barbie Fashionistas firmy Mattel Inc obejmuje dziewięć odcieni.

Dla Google sprawa jest daleka od akademickiego. Gdy Firma ogłoszona w lutym To, że aparaty w niektórych telefonach z Androidem mogą mierzyć tętno za pomocą opuszka palca, powiedział, że średnie odczyty będą miały błąd 1,8%, niezależnie od tego, czy użytkownicy mają jasną, czy ciemną skórę.

Firma później dała podobne gwarancje Ten typ skóry nie wpłynie znacząco na wyniki funkcji filtrowania w tle podczas wideokonferencji w Meet ani nadchodzącego narzędzia internetowego do identyfikowania chorób skóry. Nieformalnie nazywa się Derm Assist.

Te wnioski pochodzą z testów z sześciotonowym FST.

„Punkt wyjścia”

Opóźnienie Dermatolog z Harvardu dr Thomas Fitzpatrick Skala wymyślona w celu dostosowania terapii UV do łuszczycy i swędzenia stan skóry. Pogrupował skórę „białych” ludzi jako cyfry rzymskie I-IV, pytając, ile oparzeń słonecznych lub opalenizny rozwinęli po pewnych okresach ekspozycji na słońce.

Dekadę później pojawiły się Typ 5 „brązowy” i Typ 6, co oznacza „czarny”. Skala nadal jest częścią amerykańskich przepisów dotyczących testowania produktów przeciwsłonecznych i pozostaje popularnym standardem dermatologicznym do oceny ryzyka raka u pacjentów i nie tylko.

Niektórzy dermatolodzy twierdzą, że skale są słabą, zbyt ostrożną skalą, często myloną z rasą i pochodzeniem etnicznym.

„Wiele osób myśli, że mam skórę typu 5 i rzadko kiedy się palę, ale tak jest” – powiedziała dr Susan Taylor, dermatolog z University of Pennsylvania, która w 2004 r. założyła Skin of Color Society w celu przyspieszenia badań nad marginalizowanymi społecznościami. „Patrzenie na mój odcień skóry i stwierdzenie, że jestem typem 5, mnie boli”.

Do niedawna firmy technologiczne były obojętne. Unicode, stowarzyszenie branżowe, które nadzoruje emoji, podało FST w 2014 roku jako podstawę przyjęcia pięciu odcieni skóry po żółtym, Mówiąc, że skala jest „bez negatywnych korelacji”.

za Badanie 2018 „Cienie płci” który odkrył, że systemy analizy twarzy często wprowadzają w błąd osoby o ciemniejszej skórze i spopularyzowały wykorzystanie FST do oceny sztucznej inteligencji. Badania nazwały FST „punktem wyjścia”, ale naukowcy z podobnych badań, które pojawiły się później, powiedzieli Reuterowi, że używali skali, aby zachować spójność.

„Jako pierwszy środek dla stosunkowo niedojrzałego rynku, służy on do identyfikacji czerwonych flag” – powiedział Inioluwa Deborah Raji, pracownik Mozilli, który koncentruje się na przeglądzie AI.

W badaniu przeprowadzonym w kwietniu w celu przetestowania sztucznej inteligencji w celu wykrycia głębokie podróbki, badacze Facebook Inc napisali, że FST „wyraźnie nie uwzględnia różnorodności w odcieniach brązowej i czarnej skóry”. Jednak opublikowali filmy 3000 osób do wykorzystania w ocenie systemów AI, z dołączonymi wynikami FST opartymi na ośmiu ocenach oceniających.

Kluczowe znaczenie ma ocena recenzentów. Uruchom oprogramowanie do rozpoznawania twarzy W zeszłym roku AnyVision dostarczyło mieszkańcom przykłady celebrytów: Były baseballista Derek Jeter jako Type IV, modelka Tyra Banks a V i raper 50 Cent a VI.

AnyVision powiedział Reuterowi, że zgadza się z decyzją Google o ponownym rozważeniu wykorzystania FST, a Facebook powiedział, że jest otwarty na lepsze środki.

Microsoft i producenci smartwatchów Apple i Garmin odwołują się do FST podczas pracy nad czujnikami związanymi ze zdrowiem.

Jednak stosowanie FST może podsycać „fałszywe twierdzenia” dotyczące odczytów tętna ze smartwatchy na ciemniejszej skórze oraz lekarzy z UCSD, zainspirowanych ruchem Black Lives Matter. Napisany w magazynie Sleep w zeszłym roku العام.

Microsoft przyznał się do uchybień w FST. Apple powiedział, że testuje na ludziach w różnych kolorach skóry przy użyciu różnych skal, tylko sporadycznie. Garmin powiedział, że dzięki szeroko zakrojonym testom wierzy, że odczyty są wiarygodne.

Victor Casal, który założył firmę makijażową Mob Beauty i pomógł Crayola opracować nowe kredki, powiedział, że opracował 40 odcieni podkładu, każdy różniący się od następnego o około 3%, czyli wystarczająco, aby odróżnić większość dorosłych.

Dokładność kolorów elektroniki mówi, że standardy techniczne powinny wynosić od 12 do 18 ton, powiedział, dodając: „Nie możesz mieć tylko sześciu”.