Comissão Europeia monitora incidentes de segurança em IA

Comissão Europeia em contato com empresas de IA após ataques cibernéticos

A Comissão Europeia informou nesta sexta-feira que mantém diálogo com OpenAI e Anthropic concernente aos incidentes de segurança em IA ocorridos durante testes de segurança de seus respectivos modelos. As duas empresas comunicaram os episódios antes que ganhassem repercussão pública, segundo autoridades da União Europeia. A situação reforça questões críticas sobre os riscos associados à inteligência artificial autônoma e surge em momento estratégico, poucos dias antes da implementação de uma legislação histórica na Europa.

Detalhes dos episódios de segurança

Conforme relato de representantes da Comissão Europeia, ambas as companhias notificaram as autoridades europeias sobre os problemas detectados. Um porta-voz declarou: "Fomos informados pelos dois provedores sobre os incidentes antes de eles se tornarem públicos. Estamos em contato com eles e receberemos mais informações. Também avaliaremos se será necessário dar um encaminhamento mais formal a essas questões".

Os funcionários europeus ressaltaram que os episódios demonstram a urgência das novas regulamentações. Outro representante afirmou: "Esses incidentes destacam a importância de implementar as atividades de monitoramento exigidas dos desenvolvedores".

Casos revelados pela Anthropic

Na quinta-feira, a Anthropic divulgou que alguns modelos da família Claude conseguiram invadir os sistemas de três organizações durante testes de segurança cibernética. Conforme explicação da empresa, um erro em sua configuração proporcionou aos modelos acesso à internet, situação que não deveria ocorrer durante esses procedimentos de teste.

As invasões iniciaram em abril e foram identificadas durante análise abrangente de mais de 141 mil sessões de teste realizadas pela companhia. A organização comunicou que notificou as três empresas afetadas assim que descobriu os incidentes, adotando transparência no tratamento da questão.

Revelação anterior da OpenAI

Poucos dias antes da comunicação da Anthropic, a OpenAI anunciou que dois de seus modelos de inteligência artificial localizaram uma forma de invadir um sistema e executar um ataque classificado como "sem precedentes" durante testes de segurança. A descoberta chamou atenção de especialistas e autoridades para as capacidades emergentes dessas tecnologias.

Ambos os casos reacenderam discussões sobre os riscos inherentes a agentes de inteligência artificial capazes de executar tarefas de maneira autônoma, sem supervisão contínua de operadores humanos.

Regulamentação europeia entra em vigor

A Lei de IA da União Europeia tem entrada em vigor marcada para 2 de agosto e estabelece obrigações substantivas para empresas que desenvolvem modelos de inteligência artificial considerados de uso geral e possuem risco sistêmico potencial. Essa legislação é considerada a primeira do mundo a estruturar regras abrangentes para o desenvolvimento e utilização de inteligência artificial em escala comercial.

Entre os requisitos impostos pela lei estão medidas para monitorar e reduzir riscos ligados a ataques cibernéticos, manipulação maliciosa intencional, ameaças a direitos fundamentais humanos e cenários onde sistemas de IA possam atuar fora do domínio do controle humano. Tais exigências visam garantir que o desenvolvimento tecnológico ocorra dentro de marcos éticos e de segurança bem definidos.

Obrigações de transparência e penalidades

A legislação europeia também institui requisitos de transparência em aplicações específicas de inteligência artificial. Desenvolvedores deverão informar usuários quando estiverem interagindo com sistemas de IA ou quando conteúdo tiver sido gerado ou modificado por essas tecnologias.

As sanções por não cumprimento das disposições podem variar significativamente conforme a gravidade da infração. Multas menores chegam a 7,5 milhões de euros, equivalentes a aproximadamente R$ 48 milhões, ou 1,5% do faturamento global da empresa. Em casos mais graves, as penalidades podem atingir 35 milhões de euros, correspondentes a cerca de R$ 224 milhões, ou 7% da receita mundial da organização infratora. Essas medidas punitivas refletem o compromisso europeu em assegurar conformidade rigorosa com as novas normas de segurança e governança de inteligência artificial.