IA confunde pacote de Doritos com arma em escola de Baltimore
Em outubro de 2025, um sistema de IA confundiu um pacote de Doritos com arma em escola de Baltimore, levando a processo de alunos e revista.
Estudantes e ex-alunos do condado de Baltimore, nos Estados Unidos, estão processando o distrito escolar, a polícia local e a empresa responsável por um sistema de inteligência artificial (IA) que confundiu um pacote de Doritos com uma arma de fogo.
O episódio ocorreu em outubro de 2025 e terminou com quatro adolescentes cercados por policiais armados. Os jovens pedem indenização e querem impedir o uso da tecnologia até que os treinamentos e protocolos de segurança sejam aprimorados.
Sistema identificou pacote de salgadinhos como arma
O Omnilert AI Gun Detection System emitiu um alerta aos responsáveis pela Kenwood High School indicando que um estudante aparentemente portava uma arma. O objeto, na verdade, era um pacote de Doritos.
Após o aviso, policiais do condado de Baltimore cercaram um grupo de estudantes com armas em punho. Os quatro adolescentes foram detidos, e um deles foi revistado.
Imagens das câmeras corporais dos agentes, obtidas pela CBS News Baltimore, mostram a abordagem e a revista. A gravação registra o momento em que os policiais percebem que o objeto identificado pelo sistema era apenas uma embalagem de salgadinhos.
Depois de confirmar que não havia arma, o Departamento de Segurança e Proteção Escolar revisou a ocorrência e cancelou o alerta inicial.
Estudantes questionam abordagem e processam responsáveis
A ação judicial acusa o distrito escolar, o departamento de polícia e a Omnilert de busca e apreensão sem justificativa, prisão indevida, privação ilegal de liberdade e negligência, entre outras alegações. Os estudantes também pedem que a Justiça proíba as Escolas Públicas do Condado de Baltimore de utilizar o sistema até que o distrito melhore seus treinamentos e protocolos.
Embora a escola e a empresa tenham defendido o funcionamento da tecnologia, lideranças do condado cobraram uma revisão do caso diante do impacto do falso alerta sobre os adolescentes.
Um porta-voz da Omnilert afirmou à CBS News Baltimore que a imagem encaminhada à equipe da empresa se parecia bastante com uma arma. Segundo ele, o registro foi verificado e enviado em segundos à equipe de segurança das escolas para avaliação. O evento foi marcado como resolvido instantes depois, encerrando a participação da companhia. A empresa sustentou que o sistema funcionou conforme projetado, ao identificar uma possível ameaça e encaminhá-la para análise humana.
A então superintendente das escolas, Myriam Rodgers, também defendeu o procedimento adotado. “O programa fez o que deveria fazer, que era emitir um alerta para que pessoas analisassem e verificassem se havia motivo de preocupação naquele momento”, afirmou.
A explicação, porém, não encerrou os questionamentos. O vereador do condado de Baltimore Julian Jones criticou a abordagem policial: “Como foi possível que policiais se aproximassem de um garoto com armas em punho por causa de um pacote de Doritos?”
Comentários 0
Nenhum comentário ainda. Seja o primeiro a comentar.