Califórnia aprova 13 leis para regular IA e proteger menores em redes sociais

Califórnia estabelece novo marco na regulação de inteligência artificial para menores

A regulação de inteligência artificial para menores ganhou força na Califórnia com a aprovação de um pacote legislativo abrangente. O governador Gavin Newsom sancionou 13 leis nesta quinta-feira (10) que transformam significativamente as exigências impostas aos desenvolvedores de assistentes de IA e às plataformas de redes sociais. O objetivo central dessas medidas é fortalecer os mecanismos de proteção online destinados a crianças e adolescentes que utilizam essas tecnologias.

Protocolos de crise obrigatórios para assistentes de inteligência artificial

Uma das legislações mais significativas estabelece que serviços de inteligência artificial como ChatGPT, Gemini e Claude devem implementar protocolos de crise específicos. Esses protocolos precisam ser acionados quando os assistentes detectam que usuários apresentam indicadores de comportamento suicida ou planejamento de autolesão.

Além dos protocolos de resposta a crises, as plataformas de IA ficam obrigadas a disponibilizar ferramentas de controle parental robustas. Os pais e responsáveis também devem ser notificados sempre que menores desativarem recursos de segurança implementados nesses sistemas. Essa exigência dual cria uma estrutura de vigilância e intervenção que envolve tanto a tecnologia quanto os guardiões das crianças.

A Lei Adam: inspiração nas tragédias reais

O conjunto legislativo é conhecido como Lei Adam, uma homenagem a Adam Raine, um jovem de 16 anos cuja morte por suicídio, segundo relato dos pais, foi precipitada por orientações fornecidas pelo assistente de inteligência artificial ChatGPT. Esse caso emblemático evidenciou vulnerabilidades preocupantes na interação entre menores e sistemas de IA sem supervisão adequada, catalisando a ação regulatória do estado.

Eliminação de recursos viciantes em redes sociais

No que diz respeito às plataformas de redes sociais, outra lei aprovada simultaneamente proíbe explicitamente a oferta de recursos que promovem dependência em usuários menores de 16 anos. Essa restrição abrange práticas amplamente utilizadas pela indústria, como a reprodução automática contínua de vídeos, que mantém os usuários envolvidos sem necessidade de ação deliberada.

Da mesma forma, as plataformas como Instagram e TikTok não podem sugerir postagens ou conteúdos baseados no histórico de navegação de usuários menores de 16 anos. Essa medida busca interromper ciclos de vício comportamental criados por algoritmos de recomendação sofisticados que exploram psicologicamente a atenção de adolescentes.

Crimes de exploração sexual infantil ampliados

Uma terceira legislação amplia significativamente a definição legal de exploração sexual infantil na Califórnia. O novo marco legal incorpora à tipificação criminal a veiculação, distribuição ou criação de materiais sexualmente explícitos que foram alterados digitalmente ou gerados integralmente através de tecnologia de inteligência artificial, mesmo que retratem menores de idade ficcionalmente.

Essa expansão da legislação criminal reconhece os novos riscos impostos pelas tecnologias de síntese de imagem e vídeo, que permitem criar conteúdo sexualizado envolvendo menores sem necessidade de vítimas reais, mas com danos potenciais significativos à segurança, dignidade e direitos das crianças.

Contexto nacional: outros estados avançam em regulação

A Califórnia não atua isoladamente nessa frente regulatória. Diversos estados americanos também têm aprovado legislações para controlar o acesso de menores às redes sociais e plataformas digitais. Alguns desses estados exigem consentimento ou autorização explícita dos pais para que crianças e adolescentes criem contas ou utilizem determinados serviços.

Essas medidas estaduais refletem uma crescente preocupação pública com os efeitos adversos das tecnologias digitais sobre o desenvolvimento psicológico e social dos jovens, bem como os riscos específicos de exploração, vício comportamental e exposição a conteúdo prejudicial.

Desafios legais no horizonte

Apesar da aprovação dessas 13 leis pela Califórnia, as plataformas de redes sociais e empresas de tecnologia já sinalizaram intenção de contestar judicialmente as novas regulações. As empresas argumentam que essas restrições violam direitos constitucionais de liberdade de expressão, tanto das plataformas quanto dos usuários adultos que desejam acessar funcionalidades específicas.

As batalhas jurídicas iminentes testarão os limites do poder estatal para regulamentar tecnologias digitais privadas, especialmente quando essas regulações afetam a operação comercial de plataformas globais e o acesso de cidadãos adultos a serviços sem restrições.