Preocupações com a privacidade foram levantadas depois que dois estudantes de Harvard demonstraram um sistema de prova de conceito chamado I-XRAY, que usa óculos inteligentes para acessar informações pessoais de outras pessoas.
O sistema combina o uso de óculos com software personalizado para identificar estranhos e recuperar informações pessoais sobre eles. O sistema é construído ‘I-XRAY’.
Os estudantes, AnhPhu Nguyen e Kane Ardaifio, recorreram à plataforma de mídia social X para compartilhar suas experiências: “Estamos prontos para um mundo onde nossos dados possam ser expostos rapidamente?”
Estamos prontos para um mundo onde nossos dados são expostos rapidamente? @CaineArdayfio e ofereço uma resposta em minha defesa: pic.twitter.com/Oo35TxBNtD
-AnhPhu Nguyen (@AnhPhuNguyen1) 30 de setembro de 2024
Eles testaram o I-XRAY no campus de Harvard e identificaram corretamente pessoas aleatórias antes de levá-lo ao metrô para testar em não estudantes.
Cinco tecnologias são utilizadas e integradas para o funcionamento do sistema. Para usá-lo, as pessoas apenas usam óculos, então, quando você passar por elas, os óculos detectarão se o rosto de alguém está no enquadramento.
A partir daí, a foto é utilizada para análise, e o I-XRAY pode fornecer informações pessoais, incluindo fotos, informações familiares e até endereços residenciais.
Os criadores do I-XRAY não o publicam
O sistema busca informações automaticamente porque usa a capacidade do LLM de “compreender, processar e agregar grandes quantidades de informações de múltiplas fontes – inferindo relações entre fontes on-line, como vincular nomes de um artigo a outro…”.
Nguyen e Ardafia expandem ainda mais em um artigo online: “Este sinergia entre LLMs e pesquisa facial reversa permitindo a mineração de dados totalmente automatizada e abrangente, anteriormente impossível apenas com métodos tradicionais.
“Em nome de um graduado do LLM, o FastPeopleSearch pode identificar seu endereço residencial, número de telefone e parentes.
Dois dos desenvolvedores do sistema dizem que a ferramenta “destacou rapidamente importantes questões de privacidade”.
Num documento que dá às pessoas o conhecimento para remover os seus dados de fontes online, elas escrevem que o sistema não se destina a ser abusado e não será publicado.
“Nosso objetivo é demonstrar as capacidades atuais dos óculos inteligentes, mecanismos de busca facial, LLM e bancos de dados públicos, para aumentar a conscientização de que hoje é possível extrair o endereço residencial de alguém e outros dados pessoais de seu rosto na rua.”
Embora a dupla não divulgue o I-XRAY publicamente, a demonstração por si só expõe questões de privacidade e vigilância na nova era da IA.
Imagem em destaque: IA gerada pelo Ideograma
A postagem Alunos transformam óculos de IA em dispositivos de documentos, sistema chamado I-XRAY apareceu pela primeira vez em ReadWrite.
