Culpado até prova do futuro

Louise Amoore, nascida em 1972, é uma geógrafa e académica britânica que se tem dedicado a investigar as interseções entre geopolítica, biometria, segurança, algoritmos e ética da tecnologia. Entre 2017 e 2023, integrou o Grupo de Ética em Biometria e Forense (BFEG) – isto é, o órgão consultivo independente do Ministério do Interior britânico (Home Office) responsável pela reflexão ética sobre a utilização de tecnologias biométricas e forenses. À primeira vista, Amoore poderá parecer uma escolha insólita para uma rubrica dedicada à atualidade política e comunicacional. Afinal, o que poderá uma especialista em fronteiras e segurança dizer-nos sobre o debate público contemporâneo? Vejamos a resposta.

Foi durante a leitura de “The Politics of Possibility: Risk and Security Beyond Probability” (de 2013), publicado por Louise Amoore há mais de uma década, que me vi assaltado pela seguinte ideia: os dispositivos algorítmicos – ou, mais precisamente, aqueles que os desenham e lhes conferem legitimidade institucional – passaram a participar na definição social e política de quem somos.

No universo descrito pela autora, infelizmente nada distópico, estes sistemas antecipam quem poderá representar uma ameaça e quem, pelo contrário, merece confiança – mesmo quando nada existe, no plano das ações efetivamente praticadas, que fundamente tal distinção. A premissa, que mais parece saída de uma narrativa orwelliana, trata uma realidade quotidiana e inscrita em múltiplos dispositivos de segurança que operam de forma profundamente consequente. Para compreender esta transformação, importa regressar ao núcleo da proposta teórica de Amoore: a racionalidade securitária contemporânea, outrora assente exclusivamente em probabilidades estatísticas, orienta-se hoje pela gestão de possibilidades futuras. Por outras palavras, age sobre aquilo que poderá vir a acontecer, mesmo quando esta possibilidade resiste aos instrumentos convencionais do cálculo probabilístico.

Torna-se fundamental distinguir entre probabilidade e possibilidade. A lógica probabilística tem que ver com a observação de regularidades passadas: analisa a frequência com que determinado acontecimento ocorreu para, a partir desta evidência, estimar a probabilidade da sua repetição. É o princípio clássico do cálculo do risco, bem conhecido no domínio segurador – se, entre 100 mil condutores com determinadas características, 500 estiveram envolvidos em acidentes, existe uma base empírica suficientemente robusta para calcular o risco associado a um novo condutor com um perfil semelhante. É precisamente aqui que, segundo Louise Amoore, emerge a insuficiência deste modelo quando aplicado ao domínio da segurança. Como atribuir uma probabilidade a um acontecimento que nunca ocorreu? Ou que apenas aconteceu uma vez? Ou que, sempre que se manifesta, assume formas distintas? Ou ainda a um evento extremamente improvável, mas cujas consequências podem ser devastadoras? Os atentados de 11 de setembro de 2001 tornaram este dilema evidente.

Desponta, neste momento da obra, a sua filiação mais claramente foucaultiana – ainda que em contínuo diálogo com referências provenientes de campos tão diversos como a literatura, a filosofia ou as ciências da computação. Amoore rejeita a ideia de que existem indivíduos intrinsecamente perigosos e de que compete aos sistemas tecnológicos descobri-los. Pelo contrário, sustenta que o risco é performativo e que as tecnologias de segurança participam ativamente na produção das categorias através das quais certos indivíduos e comportamentos são percebidos como ameaças.

O processo é, em aparência, simples: um algoritmo agrega dados relativos a viagens, transações financeiras, deslocações, relações sociais, padrões de consumo, características biométricas e inúmeras outras informações dispersas. Em seguida, estabelece correlações, identifica padrões; quando determinada combinação ultrapassa um limiar previamente definido, assinala-a como digna de atenção. É neste instante que um indivíduo, até então indistinguível da restante população, se torna alguém “de interesse”, uma anomalia estatística ou uma potencial fonte de risco.

Importa, contudo, compreender que o algoritmo não descobre um terrorista escondido – ninguém, entre máquinas e seres humanos, possui a capacidade de conhecer o futuro –, mas produz uma figura de risco, construída a partir das relações estabelecidas entre fragmentos de informação que, isoladamente, nada significariam.

Daqui decorre que o problema dos algoritmos se estende muito para lá das fraudes ou dos textos escritos em tríades, pejados de gerúndios e invariavelmente condenados à mediania. O que está verdadeiramente em causa é algo bem mais inquietante: uma máquina que nos diz quem é isto e quem é aquilo – ressalvando, uma vez mais, que não é de uma máquina que falamos, mas de um sistema que devolve preconceitos profundamente humanos – com base em critérios mais ou menos opacos. A nós resta aguardar pelo diagnóstico e esperar que não sejamos enfiados numa gaveta a que nunca pertencemos, antes mesmo de termos feito alguma coisa que pudesse justificar que lá nos colocassem.

.

16/07/2026

Siga-nos: