A cidade de Paris está usando um algoritmo de IA para identificar potenciais ameaças durante as Olimpíadas de 2024 — e talvez a tecnologia seja adotada definitivamente pelo governo. A inteligência artificial analisará milhares de imagens de câmeras de segurança para encontrar pessoas em atitudes suspeitas. O uso desse algoritmo divide a opinião dos franceses.
Os primeiros testes com a tecnologia foram realizados em março, durante dois shows do Depeche Mode. A IA avalia apenas as imagens de câmeras instaladas nas estações de transporte público da cidade (como metrô e ônibus). O algoritmo foi desenvolvido pela Wintics, empresa francesa que desenvolve soluções para análises de vídeo.
Algoritmo treinado por dados abertos e sintéticos
A empresa afirma que os algoritmo foi treinado usando dados abertos e dados sintéticos (criados usando simulações). Críticos da adoção do sistema de segurança destacam que a tecnologia pode repetir comportamentos discriminatórios. Um dos problemas apontados pelo uso de algoritmos de vigilância é que o sistema tem um alto índice de erros no reconhecimento de rostos de pessoas pretas — além das questões sobre privacidade.
Porém, a Wintics afirma que seu algoritmo não trabalha com o reconhecimento facial ou de características físicas. A empresa explicou em nota para o Wired que a tecnologia avalia as ações das pessoas. Um exemplo é se o algoritmo identifica uma pessoa caindo e na sequência mais pessoas caem (um possível ataque contra um grande público), um aviso é enviado para os operadores sobre uma possível situação de risco.
O grupo ativista La Quadrature du Net, que defende questões sobre privacidade digital, não compra essa ideia. Noémie Levain, uma integrante do grupo, diz que não há como realizar essas análises sem ter acesso aos dados pessoais e biométricos das pessoas filmadas.
A Wintics tem contrato com a prefeitura de Paris desde 2020, quando usou o seu sistema de análise de imagens para coletar dados sobre ciclistas da cidade. As informações coletadas foram usadas no planejamento de novas ciclovias — a empresa segue realizando essas análises. Pessoas contrárias ao uso dessa tecnologia destacam que existe a possibilidade do serviço continuar mesmo após as Olimpíadas.
Com informações: Wired