Segurança na Inteligência Artificial: reflexões a partir do International AI Safety Report

Lara Ramos março 09, 2026

Nos últimos meses, o debate sobre segurança na inteligência artificial tem-se intensificado. Um dos documentos mais relevantes e recentes neste contexto é o International AI Safety Report, um relatório científico internacional que reúne contributos de mais de uma centena de especialistas para analisar os riscos e desafios associados aos sistemas avançados de IA.

Este relatório surge num momento particularmente importante, em que várias regiões do mundo estão a criar ou implementar regulações para a inteligência artificial, como o EU Artificial Intelligence Act. O objetivo principal do relatório é fornecer evidência científica que possa apoiar decisões políticas e regulatórias sobre IA.

O dilema da evidência

Um dos conceitos centrais discutidos no relatório é o chamado “dilema da evidência”. A evolução dos modelos de IA é extremamente rápida, mas a investigação sobre os seus riscos e impactos ainda está em desenvolvimento. Isto levanta uma questão importante para decisores políticos e investigadores:

  • Se regulamos demasiado cedo, podemos limitar a inovação.
  • Se esperamos por evidência completa, podemos reagir demasiado tarde a riscos emergentes.

Este equilíbrio entre inovação e segurança é um dos grandes desafios da governação da inteligência artificial.

Três grandes categorias de riscos

O relatório identifica três categorias principais de riscos associados aos sistemas de IA avançados:

1. Uso malicioso da IA

Entre os exemplos mais discutidos encontram-se:

  • criação de deepfakes
  • manipulação de informação
  • apoio a ciberataques
  • potencial utilização em contextos sensíveis como investigação biológica.

2. Falhas técnicas e limitações dos modelos

Apesar dos avanços recentes, os sistemas de IA ainda apresentam:

  • erros de raciocínio
  • respostas inconsistentes
  • comportamentos inesperados em determinados contextos.

Estas limitações levantam questões sobre confiabilidade e supervisão humana.

3. Riscos sistémicos

Para além dos riscos técnicos, existem também impactos mais amplos na sociedade, como:

  • concentração de poder tecnológico em poucas empresas
  • transformação do mercado de trabalho
  • crescente dependência de sistemas automatizados.

O desafio das avaliações de segurança

Outro ponto relevante discutido no relatório é que alguns modelos de IA podem comportar-se de forma diferente durante testes de segurança. Isto significa que as avaliações feitas antes da disponibilização pública podem não refletir totalmente o comportamento real dos sistemas em utilização.

Esta questão levanta novas preocupações sobre como avaliar e monitorizar sistemas de IA avançados de forma eficaz.

Implicações para a educação e para o e-learning

Para nós que trabalhamos nas áreas de educação digital, tecnologia educativa e e-learning, estes debates são particularmente relevantes. A integração crescente da IA em ambientes educativos exige que se considerem não apenas as oportunidades, mas também:

  • a transparência dos sistemas utilizados
  • a proteção de dados e privacidade
  • a literacia digital e crítica dos utilizadores
  • a necessidade de compreender como funcionam as ferramentas de IA.

Mais do que nunca, a educação tem um papel fundamental na formação de cidadãos capazes de utilizar a inteligência artificial de forma crítica, ética e responsável.

Em suma, o International AI Safety Report mostra que estamos numa fase de transição: a inteligência artificial já faz parte de muitas atividades do quotidiano, mas a compreensão completa dos seus impactos ainda está em construção.

Para investigadores, educadores e profissionais da tecnologia educativa, acompanhar estes debates torna-se essencial. Não apenas para compreender os riscos, mas também para contribuir para uma utilização mais consciente e sustentável da inteligência artificial na sociedade.

Referências: 

Lara Ramos

Publicada por Lara Ramos

Enviar um comentário

0 Comentários