A OpenAI afirma que interrompeu mais de 20 operações e redes de phishing para impedir agentes de ameaças em um ano eleitoral global.
Em um Relatório de outubroA empresa por trás do ChatGPT disse que “sabe como construir uma defesa forte e em várias camadas contra atores cibernéticos com operações de influência estatal e secreta que podem tentar usar nossos modelos para realizar campanhas fraudulentas em redes sociais e outras plataformas online, especialmente é importante .”
Os atores de ameaças são um grupo de pessoas que causam danos intencionalmente no ciberespaço.
Desde maio, a empresa continuou a construir novas ferramentas de inteligência artificial que os ajudam a detectar e isolar atividades potencialmente maliciosas.
Embora os atores da ameaça tenham sido identificados, uma empresa de pesquisa de IA não viu “evidências de que isso leve a um progresso significativo em sua capacidade de criar novo malware ou construir um público viral”.
A OpenAI interrompeu atividades que geraram conteúdo nas redes sociais sobre eleições nos Estados Unidos, Ruanda, Índia e União Europeia.
OpenAI permanece em alerta máximo para detectar e interromper agentes de ameaças
Desde o início do ano, quatro redes distintas que transmitiam pelo menos algum grau de conteúdo relacionado com as eleições foram interrompidas. Diz-se que apenas um destes canais no Ruanda se concentrou exclusivamente em questões eleitorais, enquanto outros produziram e publicaram conteúdos sobre outros temas.
Em Maio e Junho, duas operações que por vezes se referiam a processos democráticos, mas que tinham um objectivo principal diferente, tornaram-se controversas.
Também em junho, antes das eleições para o Parlamento Europeu, foi interrompida uma operação até então não reportada, que consistia em “analisar comentários sobre as eleições para o Parlamento Europeu em França e a política em Itália, Polónia, Alemanha e Estados Unidos”.
Foi então em julho que várias contas do ChatGPT em Ruanda foram banidas após comentários sobre as eleições no país. Os comentários foram postados por várias contas no X, mas a maioria recebeu poucas ou nenhuma curtida, compartilhamento ou comentário.
À medida que as eleições se aproximam nos Estados Unidos, a empresa de IA explica como continua a sua abordagem à disrupção responsável. “Compartilhamos inteligência sobre ameaças com parceiros do setor e partes interessadas relevantes. Continuamos vigilantes para detectar, perturbar e partilhar ideias sobre novas tentativas de visar eleições e processos democráticos.”
Imagem em destaque: IA gerada por Midjourney
A postagem OpenAI diz que atores de ameaças usaram plataforma para tentar influenciar as eleições nos EUA apareceu primeiro no ReadWrite.
