Przez Stany Zjednoczone przelewa się fala protestów przeciwko brutalności policji na tle rasowym. Wywołała ona dyskusję na temat metod stosowanych przez amerykańskie służby porządkowe, także tych technologicznych. W odpowiedzi na nie IBM zdecydowało się zaprzestać prac nad technologią rozpoznawania twarzy.
Decyzja producenta została podyktowana troską o transparentne i uczciwe postępowanie z informacjami o obywatelach. W liście otwartym skierowanym do Kongresu Stanów Zjednoczonych, przedstawiciele IBM podkreślają, że technologie rozpoznawania twarzy nigdy nie powinny być wykorzystywane do masowej inwigilacji, profilowania rasowego oraz innych działań naruszających podstawowe prawa i wolności człowieka. Jednocześnie firma zaprosiła inne przedsiębiorstwa do dyskusji na temat miejsca tych algorytmów w utrzymywaniu porządku publicznego.
Technologia rozpoznawania twarzy była wielokrotnie sprawdzana pod kątem dokładności w zależności od koloru skóry i płci obserwowanych osób. Przeprowadzone przez Joy Buolamwini i Timnit Gebru badanie Gender Shades z 2018 roku wskazało, że większość najpopularniejszych systemów rozpoznawania twarzy (w tym ten od IBM) ma problemy z poprawną identyfikacją ciemnoskórych osób, w szczególności kobiet. Podobne wyniki zostały uzyskane w zeszłorocznym projekcie amerykańskiego Narodowego Instytutu Standaryzacji i Technologii. IBM ma nadzieję, że technologie rozpoznawania twarzy nie wejdą do powszechnego wykorzystywania przez amerykańską policję do czasu udoskonalenia technologii i wyeliminowania niedokładnej identyfikacji osób.
