FTC는 Rite Aid가 매장에서 얼굴 인식 기술을 오용했다고 비난했습니다.

그러나 안전 장치를 채택하지 않은 체인의 “무모한” 실패와 부정확한 일치 및 인종적 편견에 대한 기술의 오랜 역사와 결합되어 궁극적으로 매장 직원이 쇼핑객을 절도 혐의로 거짓 비난하게 되었고 결과적으로 고객에게 “당황, 괴롭힘 및 기타 피해”를 입혔습니다. 연방거래위원회는 가족, 동료, 친구에게 이렇게 말했습니다. 성명.

한 경우에는 Rite Aid 직원이 허위 안면 인식 일치를 통해 11세 소녀를 수색했고 그 소녀는 너무 정신이 없어 그녀의 어머니가 직장을 빼먹었다고 FTC가 보고서에서 밝혔습니다. 연방 법원 고소장. 또 다른 경우에는 직원들이 기술을 통해 그녀를 금발 머리의 백인 여성으로 착각한 후 흑인 여성 요원에 대해 경찰에 신고했습니다.

Rite Aid는 A에서 말했습니다. 성명 ‘제한된 수의 매장’에서만 안면인식 기술을 사용했으며 FTC 조사가 시작되기 전인 3년여 전 시범 프로그램을 종료했다.

합의의 일환으로 회사는 5년 동안 이 기술을 사용하지 않고 수집한 얼굴 이미지를 삭제하며 FTC에 준수 여부를 매년 업데이트하기로 합의했다고 FTC는 말했습니다.

회사는 “우리는 FTC의 조사를 존중하며 소비자 개인정보를 보호하려는 FTC의 사명에 부합한다”고 밝혔다.

Rite Aid의 시스템은 들어오는 고객의 얼굴을 스캔하고 좀도둑으로 의심되거나 확인된 대규모 데이터베이스에서 일치하는 항목을 찾았다고 FTC는 말했습니다. 시스템이 일치하는 항목을 감지하면 매장 직원에게 플래그를 지정하여 쇼핑객을 면밀히 모니터링합니다.

데이터베이스에는 감시 카메라와 휴대전화에서 촬영한 저해상도 이미지가 포함되어 있어 경기 품질이 저하됐다고 FTC는 밝혔습니다. 이러한 부적절한 일치로 인해 직원은 범죄를 목격하지 않았더라도 매장 주변에서 고객을 추적하거나 경찰에 신고하게 됩니다.

FTC는 Rite Aid가 고객에게 이 기술을 사용하고 있다는 사실을 알리지 않았으며 직원들에게 이 기술의 사용을 소비자나 언론에 공개하지 말라고 지시했다고 밝혔습니다. Rite Aid는 수만 장의 사진이 포함된 “관심인” 데이터베이스를 만드는 데 도움을 주기 위해 두 회사와 계약을 맺었다고 FTC가 밝혔습니다. 이들 회사는 확인되지 않았습니다.

FTC는 심각한 오류가 흔하다고 말했다. FTC는 2019년 12월부터 2020년 7월 사이에 시나리오가 “불가능하거나 타당하지 않음”에도 불구하고 시스템이 원격 매장에서 동일한 사람에 대해 거의 동시에 2,000개 이상의 “일치 알림”을 ​​생성했다고 밝혔습니다.

한 경우, Rite Aid의 시스템은 시애틀, 디트로이트, 노퍽을 포함한 130개 매장에서 5일 동안 한 사람에 대해 900개 이상의 “경기 알림”을 ​​생성했다고 주최측은 말했습니다.

FTC는 시스템이 수천 건의 허위 일치를 생성했으며 그 중 다수는 여성, 흑인, 라틴계의 얼굴이었다고 말했습니다. 연방 및 독립 연구원들은 최근 몇 년 동안 이러한 그룹이 안면 인식 소프트웨어에 의해 잘못 식별될 가능성이 더 높다는 사실을 발견했습니다. 그러나 기술 지지자들은 이후 시스템이 개선되었다고 말합니다.

Rite Aid는 또한 주로 유색 인종이 사용하는 매장에 이 기술을 배포하는 것을 우선시했다고 FTC는 말했습니다. Rite Aid 매장의 거의 80%가 백인이 대다수인 지역에 위치해 있지만, FTC는 얼굴 인식 소프트웨어를 사용하는 대부분의 매장이 백인이 아닌 지역에 대부분 위치한 것으로 나타났습니다.

거짓 비난으로 인해 많은 쇼핑객은 자신이 인종적으로 프로필을 작성하는 것처럼 느꼈습니다. FTC가 인용한 메모에서 한 쇼핑객은 직원이 제지하는 경험이 “정서적으로 해롭다”고 Rite Aid에 썼습니다. “모든 흑인이 그런 건 아니야 [a] 익명의 고객은 “도둑이고 도둑처럼 느껴져서는 안 된다”고 썼다.

FTC는 Rite Aid의 이 기술 사용이 다음을 위반했다고 말했습니다. 데이터 보안 문제 2010년에는 약국 체인 직원들이 사람들의 건강 기록을 쓰레기통에 버린 사실이 알려진 후 FTC 합의의 일부가 제출되었습니다. Rite Aid는 회사의 고위 경영진이 감독해야 하는 강력한 정보 보안 프로그램을 구현해야 합니다.

FTC의 조치는 홈디포(Home Depot), 메이시스(Macy’s), 앨버트슨(Albertsons) 등 얼굴 인식 기술을 추구하는 미국의 다른 주요 소매 체인 전체에 파급 효과를 미칠 수 있다고 “스코어카드“옹호 단체인 Fight for the Future에서 작성했습니다.

이 그룹의 이사인 에반 그리어(Evan Greer)는 성명에서 “미국 기업들에게 보내는 메시지는 분명하다. 차별적이고 침해적인 안면 인식 사용을 지금 중단하지 않으면 대가를 치를 준비를 하라는 것”이라고 말했다.

지난해 FTC에 합류하기 전 얼굴 인식을 비판적으로 조사하는 조지타운 법률 연구 센터를 설립한 FTC 위원 알바로 베도야(Alvaro Bedoya)는 보고서에서 다음과 같이 말했습니다. 성명 Rite Aid 사건은 “알고리즘적 불의의 광범위한 추세의 일부”였으며 회사 경영진과 연방 국회의원에게 고객과 직원에게 “생체 인식 감시” 도구가 사용되는 방식을 금지하거나 제한할 것을 촉구했습니다.

“절대로 자동화되어서는 안 되는 결정이 있습니다. 처음부터 많은 기술을 배포해서는 안 됩니다.”라고 Bedoya는 말했습니다. 서적. “생체인식 감시에 대한 더 큰 보호를 원하는 국회의원들에게 이러한 보호 조치를 법안에 명시하고 법으로 제정할 것을 촉구합니다.”

안면인식 기술의 인종적 편견을 연구해 온 인공지능 연구자 조이 부올람위니(Joy Buolamwini)는 Rite Aid 사건은 국가가 포괄적인 개인정보 보호법을 제정하지 않아 미국인들이 공공 감시의 위험한 실험에 취약해졌다는 점을 “긴급하게 일깨워주는 것”이라고 말했습니다.

그녀는 문자 메시지에서 “이것은 무분별한 감시 기술 채택으로부터 대중을 보호하기 위해 오래 전에 부과된 일종의 상식적인 제한”이라고 말했습니다. “얼굴은 개인 정보 보호의 최종 개척지입니다. 이제 공항에서 약국, 학교 및 병원에 이르기까지 생체인식 권리를 위해 싸우는 것이 그 어느 때보다 중요합니다.”