Segundo a BBC News, a Sainsbury's suspendeu uso de câmeras de reconhecimento facial em loja de Londres após cliente ser erroneamente acusado de furto por sistema de IA. O incidente ocorreu em 6 de agosto com Matt Arnold, 46, que foi parado em caixa de autoatendimento enquanto finalizava compras.
Cliente foi parado em caixa após IA sinalizar suposto furto
Matt Arnold describe o momento em que foi abordado por gerentes enquanto finalizava compras em uma caixa de autoatendimento na loja Sainsbury's de Dulwich, em Londres. Segundo ele, já havia escaneado os itens com o cartão Nectar e acenou para um atendente quando dois membros do staff o abordaram. Os gerentes alegaram que ele não podia ser servido devido a um incidente 'mais cedo na semana', embora Arnold afirmasse não ter relação com nenhum problema anterior. Ele apontou que um shoplifter não anda com tanto alimento, não escaneia os itens e não passa o cartão Nectar. Ao ser retirado das dependências, Arnold disse ter visto em um monitor de CCTV overhead um círculo vermelho ao redor do rosto, indicando o alerta do sistema de reconhecimento facial.
Não é o primeiro caso com tecnologia Facewatch
Não foi o primeiro incidente envolvendo o sistema da Facewatch. Em setembro, Warren Rajah foi ordenado a sair de outra loja Sainsbury's após ser também erroneamente sinalizado. A firma de tecnologia confirmou depois que Rajah nem estava em seu sistema. Esse caso também foi atribuído a erro humano pela Sainsbury's e pela Facewatch. A mesma tecnologia foi envolvida em casos semelhantes com outros varejistas: uma loja Home Bargains em 2024 e um B&M em Cardiff no ano passado. Arnold argumentou que, mesmo que a precisão da rede seja de 99,8%, o erro de 0,2% representa muitas pessoas quando milhões frequentam as lojas Sainsbury's semanalmente. Ele relatou sentir pena dos funcionários, que não estariam sendo treinados adequadamente para operar o sistema em ambientes movimentados.
Sainsbury's pausa enquanto defende rollout maior
A Sainsbury's confirmou o pausamento das câmeras na loja de Dulwich enquanto investiga o caso. A rede defende o uso maior da tecnologia da Facewatch, citando o aumento da violência contra trabalhadores do varejo. Segundo a empresa, já tinha solicitado desculpas a Arnold e mantém que o erro foi humano, não de software. A pausa ocorre enquanto o varejo equilibra segurança contra o risco de humilhar clientes com tecnologia ainda em validação. A empresa afirmou que a tecnologia tem ajudado a reduzir incidentes de violência, mas admite que a operação adequada requer supervisão humana constante. A tecnologia requer revisão constante dos parâmetros de alerta.
