A Comissão Europeia enviou um pedido de informações sobre a concepção e funcionamento de sistemas de recomendação ao YouTube, Snapchat e TikTok. Os sistemas de recomendação são algoritmos de aprendizado de máquina que usam dados para sugerir itens nos quais um usuário possa estar interessado.
No entanto, ao abrigo da Lei dos Serviços Digitais (DSA), o principal regulamento de moderação de conteúdos da UE, a Comissão argumentou que estes estão “no cerne” dos riscos sistémicos que as plataformas apresentam aos utilizadores.
Em comunicado publicado nesta quarta-feira (2 de setembro), a Comissão da União Europeia disse: “No âmbito da DSA, as plataformas devem avaliar e mitigar adequadamente os riscos decorrentes dos seus sistemas de recomendação, incluindo os riscos para a saúde mental dos utilizadores e a propagação de conteúdos nocivos decorrentes da concepção destes algoritmos.”
Pedimos ao YouTube, Snapchat e TikTok informações sobre o design de seus sistemas de recomendação de acordo com a Lei de Serviços Digitais.
O YouTube e o Snapchat precisam detalhar os parâmetros de seus algoritmos e mitigação de riscos.
O TikTok deve tomar medidas contra a manipulação e… pic.twitter.com/usQkKHfPH4
– Comissão Europeia (@EU_Commission) 2 de outubro de 2024
Os pedidos “também dizem respeito às medidas das plataformas para reduzir o impacto potencial dos seus sistemas de recomendação na propagação de conteúdos ilegais, como a promoção de drogas ilegais e discursos de ódio”.
A comissão disse que pediu ao TikTok que forneça mais informações sobre as medidas da empresa para prevenir más práticas na plataforma e reduzir riscos relacionados a eleições e debates civis.
O YouTube e o Snapchat devem abordar questões relacionadas com os parâmetros dos seus algoritmos de recomendação e o seu papel potencial no aumento dos riscos sistémicos, incluindo os relacionados com a proteção de menores.
As três empresas de mídia social tiveram até 15 de novembro para fornecer as informações. A UE disse que as suas respostas informariam quaisquer medidas futuras, incluindo a possível abertura de uma investigação formal e possíveis multas.
A UE está abrindo um processo formal contra Meta
A UE já lançou casos de incumprimento no âmbito da DSA, o que obriga as empresas de tecnologia a tomar medidas mais duras contra conteúdos ilegais e prejudiciais nas suas plataformas. O teste está relacionado às recomendações fornecidas por Meta Facebook e Instagram, AliExpress e TikTok.
A comissão não aborda a controladora da Meta, Facebook e Instagram, já que as mesmas questões foram levantadas no processo formal contra a empresa em maio.
ReadWrite informou que a agência disse estar preocupada que os sistemas do Facebook e do Instagram, incluindo seus algoritmos, possam encorajar comportamento viciante em crianças, bem como criar os chamados “efeitos de toca de coelho”.
Imagem em destaque: meio da viagem
A mensagem da UE ao YouTube, Snapchat e TikTok sobre os sistemas de recomendação de IA apareceu primeiro no ReadWrite.
