ONU adverte que a IA representa risco existencial para a Humanidade

Volker Türk, o alto-comissário da Organização das Nações Unidas (ONU) para os Direitos Humanos, alerta que a inteligência artificial (IA) avançada pode representar um “risco existencial para a Humanidade” e apelou à ação imediata para tornar esta tecnologia mais segura, designadamente, pela criação urgente de salvaguardas globais, de mecanismos independentes de controlo e de limites consensuais.

Num discurso, a 7 de setembro, no Conselho de Direitos Humanos da ONU, Volker Türk afirmou que as pessoas enfrentam ameaças “desconhecidas, até sem precedentes”, aos seus direitos. “A necessidade de uma governação da IA é amplamente reconhecida, mas onde está a ação?”, questionou, avisando que “o atraso só beneficia as grandes empresas tecnológicas, os seus proprietários e facilitadores”.

Na verdade, como afirmou Volker Türk, “um punhado de homens tem um poder quase ilimitado sobre a IA, que nos dizem, repetidamente, ter uma capacidade de computação inimaginável”. “Falam de liberdade, mas, olhando melhor, isso revela-se pouco mais do que a liberdade para explorar os nossos dados”, vincou, apontando para sistemas de IA que escapam aos ambientes de teste ou chantageiam programadores, para evitarem ser desligados.

De acordo com a AFP, Türk avisou que “uma IA que escapa ao seu ambiente de teste ou chantageia programadores, para impedir que a desliguem é uma IA demasiado poderosa”. Tais declarações referem-se, em parte, às revelações, em julho, de que agentes da OpenAI escaparam a ambientes supostamente controlados e acederam a servidores da Hugging Face, uma plataforma amplamente utilizada onde programadores partilham software de IA.

O comissário da ONU referiu que agentes da OpenAI executaram um código em dezenas de servidores da Hugging Face e obtido acesso total a um deles, e que o incidente reavivou apelos a supervisão mais apertada dos sistemas de IA avançada. A Anthropic, a Meta e outras empresas tecnológicas relataram incidentes similares, envolvendo agentes, em fases de teste. “Partilho as preocupações de membros da indústria de que a IA avançada possa representar um risco existencial para a Humanidade. […] Apelo aqui, hoje, a um esforço total para estabelecer garantias sólidas, em torno da segurança e da proteção da IA, antes que seja demasiado tarde”, afirmou Türk, prometendo escrever, em breve, às empresas de IA, a exortá-las a tomarem medidas imediatas para reduzir os riscos que estão sob o seu controlo.

“No mínimo, precisamos que os países que acolhem a IA e os que integram as respetivas cadeias de fornecimento se juntem em torno de linhas vermelhas acordadas. […] Precisamos de verificação independente e de colaboração mais forte em matéria de segurança, na própria indústria. […] É também necessário ponderar o impacto da IA nos direitos humanos, nas práticas laborais, nos princípios fundamentais da democracia e no nosso ambiente”, frisou.

***

A 21 de julho, a criadora do ChatGPT, a OpenAI, afirmou que o seu sistema de IA invadiu, autonomamente, outra empresa de IA, num episódio que descreveu como “incidente cibernético sem precedentes”. E a startup de IA Hugging Face disse, na semana anterior, que detetara uma intrusão nos seus sistemas de processamento de dados, que suspeitava ter sido causada por um agente de IA a atuar de forma autónoma. “Suspeitávamos que o ciberataque da semana passada pudesse ter vindo de um laboratório de ponta, dada a sofisticação do agente. […] Afinal veio mesmo!”, afirmou, em comunicado, Clément Delangue, cofundador e presidente-executivo da Hugging Face.

O ataque era tão avançado e bem executado que a Hugging Face suspeitou, desde o início, que tinha origem nos sistemas de uma das grandes empresas de IA, e não num pirata informático.

Num teste interno, a OpenAI procurava medir até que ponto os seus modelos de IA conseguiam invadir sistemas, num exercício conhecido como ExploitGym. Para avaliar a capacidade máxima de intrusão dos modelos, a empresa desligou, propositadamente, os filtros de segurança que, normalmente, impedem atividades cibernéticas perigosas. O teste deveria decorrer num sandbox, ambiente isolado sem acesso real à Internet, exceto por uma ferramenta que permitia aos modelos descarregar software de que precisassem para cumprir a tarefa.

Contudo, os modelos ficaram obcecados em resolver o teste. Em vez de o fazerem pela via prevista, procuraram um atalho e encontraram uma forma de chegar ao espaço aberto da Internet, a que não deveriam aceder. Para lá chegarem, seguiram uma cadeia de passos, ampliando, silenciosamente, os seus níveis de acesso dentro dos próprios sistemas da OpenAI, até encontrarem um ponto com ligação à Internet. Já online, os modelos concluíram que a Hugging Face, uma grande plataforma que aloja modelos de IA e conjuntos de dados, provavelmente, tinha as respostas do próprio teste que estavam a tentar resolver. Invadiram, assim, os servidores da Hugging Face, para obter essas respostas. Basicamente, fizeram batota, recorrendo a credenciais de acesso roubadas e a outras vulnerabilidades.

Esta revelação surgiu num tempo de crescente preocupação com as capacidades de cibersegurança dos modelos mais potentes, que levaram, em junho, o presidente dos Estados Unidos da América (EUA), Donald Trump, a assinar uma ordem executiva que cria um quadro para o governo federal avaliar, durante até um mês antes da sua divulgação pública, os riscos para a segurança nacional dos sistemas de IA mais avançados.

Segundo a OpenAI, a intrusão foi provocada pela combinação dos seus modelos de IA, incluindo o recém-lançado GPT-5.6 Sol e um modelo “ainda mais capaz” que continua em testes internos; a IA utilizou credenciais roubadas e descobriu uma vulnerabilidade, até então desconhecida, para aceder aos servidores da Hugging Face; e o sistema, que foi “ao limite, para alcançar um objetivo de teste bastante restrito”, “encontrou formas de obter acesso a informação confidencial que podia usar para manipular a avaliação”.

Por conseguinte, a empresa que desenvolve o ChatGPT deliberou, em meados de agosto, abrandar o ritmo da sua investigação mais avançada, incluindo o maior treino de aprendizagem por reforço que previra realizar, semanas depois de um sistema construído com os seus próprios modelos ter escapado a um teste interno de segurança e ter invadido a plataforma de IA Hugging Face. A este respeito, o diretor executivo, Sam Altman, prometeu que a OpenAI se coordenará com o resto do setor em regras de segurança comuns, mas que, “até lá”, agirá de forma unilateral.

Um novo sistema de deteção escrutina, em tempo real, a atividade dos modelos e procura sinalizar, em 30 minutos, qualquer comportamento que se assemelhe a acessos não autorizados ou a tentativas de desativar salvaguardas, a um custo computacional que a OpenAI estima em cerca de 20% da capacidade de processamento monitorizada. A empresa diz que estas mudanças já estavam previstas e não resultam do incidente, embora o episódio tenha acelerado o processo.

A OpenAI e a Anthropic apoiaram, em separado, uma petição promovida por trabalhadores que apela aos governos para ajudarem a coordenar a velocidade a que o setor avança, marcando uma mudança, em relação à resistência anterior de Altman a pedidos públicos para abrandar o desenvolvimento da IA.

***

Centros de dados enfrentam crescente revolta nos EUA, devido à quantidade de água e de eletricidade que consomem. As gigantes tecnológicas que investem milhares de milhões de dólares nestas instalações dizem que, pelo menos, no atinente à água, o problema é resolúvel.

Os centros de dados são armazéns repletos de servidores informáticos que alimentam a Internet e, cada vez mais, a IA. Esses computadores geram calor e a sua refrigeração exige grandes quantidades de água. Segundo a consultora Rystad Energy, em 2025, centros de dados em todo o Mundo consumiram 222 mil milhões de litros (59 mil milhões de galões) de água para arrefecimento. E, sem medidas para reduzir o consumo, tal valor poderá quase triplicar para 644 mil milhões de litros, até 2030. Porém, a consultora sustenta que medidas para limitar o uso da água podem manter o aumento abaixo dos 100%.

A Nvidia, fabricante norte-americana de chips, afirmou, num relatório publicado em junho, que o seu mais recente sistema de conceção e gestão de centros de dados de IA, conhecido como DSX, pode, praticamente, eliminar o consumo de água em algumas instalações. É uma afirmação ambiciosa e o setor enfrenta uma pressão crescente para a concretizar.

O sistema da Nvidia recorre a arrefecimento em circuito fechado, com líquido a circular, diretamente, pelos servidores e o mais perto possível dos chips, que podem atingir temperaturas superiores a 80º C (graus Celsius) e 176º F (Fahrenheit). Todavia, reduzir o consumo de água pode implicar custos adicionais. “Há relação bastante direta entre a quantidade de água utilizada e a quantidade de energia necessária” para controlar as temperaturas, afirmou Andy Masley, investigador independente especializado em IA e centros de dados, sustentando que usar menos água exige mais eletricidade, porque o líquido que circula em tubagens estanques tem de ser arrefecido, muitas vezes, através de fluxos de ar.

A Nvidia contorna parte do problema, ao deixar que o líquido entre nos servidores mais quente do que é habitual, a 45º C. A maioria dos outros sistemas em circuito fechado funcionava em torno dos 32º C, em 2024, segundo o Uptime Institute, que certifica centros de dados.

Partindo de água mais quente, a Nvidia não precisa de injetar ar frio, ao longo do ano. “Simples ventoinhas a fazer circular o ar” são, muitas vezes, suficientes, embora, por vezes, seja necessário combinar métodos, afirmou Josh Parker, responsável pela sustentabilidade na Nvidia, referindo que, em locais com climas extremamente quentes ou durante ondas de calor, ar refrigerado ou sistemas de arrefecimento por evaporação podem continuar a ser necessários.

A Microsoft, a Amazon Web Services (AWS) e a Meta disseram à AFP que utilizam sistemas de arrefecimento em circuito fechado, que não provocam qualquer perda líquida de água.

A Microsoft e a WS, duas das maiores empresas de computação na nuvem do Mundo, consumiram mais água no total, entre 2022 e 2025, à medida que expandiram as operações dos seus centros de dados. No entanto, a eficiência do uso da água melhorou 25%, na Microsoft, e 37%, na AWS, de acordo com os seus relatórios de sustentabilidade mais recentes.

As comparações são difíceis por não haver um padrão transversal ao setor que regulamente a forma como as empresas comunicam os seus esforços ambientais, sociais e de governação. A SpaceX, de Elon Musk, que se tornou importante operador de centros de dados, depois de adquirir a sua empresa de IA xAI, nunca publicou um relatório ESG (environmental, social and governance: ambiental, social e de governação). Em junho, a agência de notação MSCI atribuiu à SpaceX (empresa norte-americana de voos espaciais, telecomunicações e IA) a sua classificação ESG mais baixa.

“Como a água é, em geral, muito mais barata do que a eletricidade, as empresas têm menos incentivos para reduzir o uso de água apenas com base nos custos”, afirmou Shaolei Ren, professor de engenharia na Universidade da Califórnia, Riverside, reconhecendo que “há incentivos”, mas que são, principalmente, motivados por preocupações de imagem pública, numa altura em que a oposição aos centros de dados cresce em todo o país.

Outro problema é o custo de modernizar centros de dados mais antigos com tecnologia mais recente, que consome menos água. Porém, as instalações mais antigas são, geralmente, mais pequenas e menos potentes do que os enormes centros de dados, atualmente, em construção, o que significa que precisam de menos arrefecimento, à partida.

A água utilizada, diretamente, pelos centros de dados é apenas uma parte da sua pegada global. É também necessária água para produzir a eletricidade que os alimenta e para fabricar os respetivos chips e servidores. E, nos EUA, este uso indireto de água pode ser duas vezes superior ao volume consumido pelos próprios centros de dados.

***

Há três anos, a utilização de IA na agricultura cingia‑se ao cálculo de inventário e era oferecida como produto especializado por empresas com stands bem atrás dos fabricantes de tratores, mas, hoje, a IA está a transformar a forma de produção de alimentos e de rações.

No atinente à monitorização das culturas, drones e imagens de satélite alimentam modelos de visão computacional que detetam infeções fúngicas ou pragas, antes do olho humano, e sugerem a aplicação de produtos de proteção das culturas, ou pesticidas, de forma mais eficaz. E, se os agricultores utilizarem sensores de solo, o conjunto de dados fica mais completo.

Na previsão da produção, o recurso a sensores permite aos agricultores terem o inventário do que já colheram e o do que estão prestes a colher. A Syngenta desenvolveu uma GenAI que atinge 95% de precisão, na previsão de rendimentos e que faz recomendações sobre a colocação das sementes. A previsão é importante, porque os agricultores precisam de preparar, antecipadamente, a logística das culturas. Quanto mais informação rigorosa fornecerem a retalhistas e a empresas de transporte, menos dinheiro perdem.

No âmbito da robótica na agricultura, a robótica expande‑se num contexto marcado pela IA. Não se trata só de veículos autónomos a conduzir‑nos pelas cidades, mas também de tratores e de outros equipamentos de campo, que podem ser automatizados com IA.

Na rega de precisão, que dependia, até agora, sobretudo, da experiência do agricultor, estão a ser usados sistemas de fusão de sensores que combinam humidade do solo, temperatura da copa das plantas e previsões meteorológicas, para reduzir o consumo de água, em cerca de 30%, mas aumentando a produtividade em algumas aplicações (num caso documentado em plantações de cana‑de‑açúcar, na Índia, a redução de 30% na água foi acompanhada do aumento de 40% no rendimento). E sistemas de pulverização de taxa variável aplicam pesticidas, apenas onde são necessários, reduzindo os volumes de químicos e criando registos de auditoria que facilitam o cumprimento das normas.

E, na pecuária, soluções de IA recorrem à visão computacional e a sensores vestíveis (acelerómetros, monitores biométricos) para detetar sinais de doença, vários dias antes de surgirem sintomas visíveis, o que reduz o uso de antibióticos e melhora os indicadores de bem‑estar animal, cada vez mais relevantes, face ao aumento da pressão regulatória e dos retalhistas sobre o uso de antibióticos na carne e nos lacticínios.

***

Como se vê, a IA tem mau e bom. Precisa de ser regulamentada, bem aplicada e arredada de utilização danosa. Assim, na União Europeia (UE), a lei da IA estipula o seu enquadramento jurídico, segundo o qual os sistemas de alto risco têm de cumprir requisitos rigorosos, antes de entrarem no mercado da UE, sendo proibidas utilizações consideradas ameaça inaceitável para a segurança ou para os direitos das pessoas, nomeadamente, pelas vias de manipulação, da exploração ou pela silenciosa ou expressa indução de crime.

.

10/09/2026