A inserção das tecnologias de inteligência artificial na fábrica social apresenta-se como uma tendência irreversível. Testemunhamos a intrusão de tecnologias de reconhecimento facial e, em tendência crescente, de reconhecimento de emoções, nos espaços destinados à formação educacional: as escolas públicas estaduais do Paraná. A presente pesquisa baseia-se em um estudo conduzido por professores da UFPR, publicado em 2023 sobre a implementação do reconhecimento facial em aproximadamente 1.667 escolas. Essa pesquisa visa examinar a profunda tensão entre as justificações burocráticas de eficiência administrativa fornecidas pelo Estado e pela Secretaria de Educação, e a silenciosa implantação da vigilância em massa, com suas possíveis consequências sociais e jurídicas.
A utilização desses aparatos tecnológicos não pode ser tratada como espelho neutro refletindo a realidade social; mas constitui-se em construtos forjados e atravessados por relações de poder e enviesamentos humanos. Por outro lado, representar essas tecnologias como instrumentos falíveis constitui um profundo erro, como destacam McInerney e Keyes, essas tecnologias informam um projeto infopolítico mais amplo, que aprofunda formas de desumanização e discriminação em um contexto de data behaviorism, em que a máquina não questiona motivos, não busca subjetividades ou descreve narrativas causais, mas apenas age em relação a frequências estatísticas, operando em um nível supraindividual ao reduzir o indivíduo a sinais infraindividuais.
Enraizadas no processo de desterritorialização do capitalismo neoliberal, essas estruturas algorítmicas restringem o campo de possíveis condutas, modulando escolhas antes que sejam conscientemente representadas. A busca pela objetividade absoluta exige uma violenta extração da subjetividade e da dimensão de interpretação individual. Consequentemente, aponta Antonette Rouvroy, em sua teoria da Governamentalidade Algorítmica, a autonomia é substituída por uma atuação em conformidade com comportamentos normalizados definidos por padrões de normalidade algoritmicamente calculados. As implicações da aplicação da racionalidade da governamentalidade algorítmica às estruturas e à gestão dos espaços públicos de educação trazem consequências sociais e jurídicas relevantes que a atual pesquisa busca explorar.
Referências
Aradau, Claudia; Blanke, Tobias. Algorithmic Reason: The New Government of Self and Other. Oxford: Oxford University Press, 2022.
Harcourt, Bernard E. Exposed: Desire and disobedience in the digital age. Harvard University Press, 2015.
Israel, Carolina Batista; Firmino, Rodrigo; et al. Reconhecimento Facial nas Escolas Públicas do Paraná: Relatório 2023.
McInerney, Kerry; Keyes, Os. The Infopolitics of feeling: How race and disability are configured in Emotion Recognition Technology. New media & society, p 1-19, 2024.
Rouvroy, Antoinette; Berns, Thomas. Algorithmic governmentality and prospects of emancipation, Réseaux, n.177, v.1, p. 163-196, 2013.