A Coreia do Sul planeja expandir o alcance do monitoramento de seu sistema de Inteligência Artificial ( IA ) para detectar conteúdo de abuso sexual infantil online, de 79 plataformas este ano para 139 plataformas até 2027.
Entretanto, a Austrália está empenhada em finalizar um quadro legal que exigiria que as empresas de internet detectassem e prevenissem proativamente os riscos para os usuários.
Segundo a agência de notícias Yonhap, em 10 de novembro, o Ministério da Igualdade de Gênero e da Família da Coreia do Sul anunciou que, de abril a setembro, o Centro Nacional de Resposta a Crimes Sexuais no Ambiente Digital detectou 96.210 conteúdos de abuso sexual infantil e solicitou que as plataformas os removessem.
O centro lançou seu sistema de Inteligência Artificial em abril, permitindo a detecção em tempo real de conteúdo ilegal em redes sociais e aplicativos de bate-papo.
O sistema funciona 24 horas por dia, 7 dias por semana, sinalizando automaticamente conteúdo suspeito para que a equipe do centro o revise antes de enviar solicitações de remoção. Essa abordagem reduz a carga de trabalho em comparação com o método anterior, no qual a equipe monitorava as plataformas diretamente. O Ministério da Igualdade de Gênero e da Família planeja continuar treinando o sistema com os dados do centro para aprimorar sua precisão.
Fundado em 2018, o centro oferece apoio a vítimas de crimes sexuais online, incluindo a remoção de conteúdo infrator e auxílio em procedimentos legais. Até 2025, o centro havia auxiliado 10.637 pessoas, incluindo 3.052 vítimas menores de 20 anos.
Enquanto a Coreia do Sul se concentra na aplicação de tecnologia para detectar e combater conteúdo ilegal, a Austrália avança com um projeto de lei sobre o Dever de Cuidado Digital, que exige que as empresas de internet identifiquem e previnam proativamente riscos para os usuários. Empresas que não cumprirem essa obrigação poderão enfrentar multas de até 109 milhões de dólares australianos (aproximadamente 75 milhões de dólares americanos).
O projeto de lei foi aprovado pela Câmara dos Representantes, mas precisa do apoio de parlamentares independentes e partidos menores para ser aprovado pelo Senado. O governo australiano pretende concluir sua tramitação antes do final deste ano. O projeto de lei também permite que os usuários desativem as recomendações algorítmicas de conteúdo, visualizando apenas as publicações de contas que seguem ativamente.
No entanto, essa proposta é controversa. Os defensores argumentam que uma regulamentação abrangente é necessária para construir um mecanismo eficaz de proteção ao usuário. Enquanto isso, empresas de tecnologia e aqueles preocupados com a liberdade de expressão argumentam que o projeto de lei concede aos órgãos reguladores muito poder para determinar conteúdo prejudicial, o que pode levar à censura excessiva por parte das plataformas para evitar penalidades.
Em uma audiência no Senado em 9 de novembro, o representante australiano do Google alertou que os requisitos de verificação de idade para serviços que podem expor crianças à pornografia poderiam forçar a empresa a bloquear o acesso de usuários menores de 18 anos ao Gmail. Representantes da Meta, TikTok e Snap também expressaram preocupação com o alcance da autoridade do órgão regulador.
Em depoimento prestado em uma audiência no dia 10 de novembro, a Comissária Australiana de Segurança Online, Julie Inman Grant, rejeitou os alertas sobre o risco de censura excessiva, afirmando que não havia visto nenhuma evidência de empresas se engajando nessa prática em larga escala nos últimos dois anos.
Segundo ela, o modelo de negócios dessas plataformas incentiva a exibição máxima de conteúdo para aumentar o engajamento, incluindo conteúdo que pode ser prejudicial à comunidade. Ela também argumenta que a maioria dos casos de remoção excessiva de conteúdo decorre de sistemas automatizados de censura sem supervisão humana, e não da pressão de autoridades reguladoras.
