Centenas de conversas de usuários com o popular chatbot de inteligência artificial (IA) da Anthropic, Claude, foram encontradas abertas para praticamente qualquer pessoa online. Os links para os chats, alguns dos quais incluíam informações pessoais e profissionais, apareciam se um usuário de um mecanismo de busca como o Google usasse um termo de pesquisa específico do site. As buscas mostraram que conversas do Claude, nas quais um usuário havia decidido 'compartilhar' um link, foram salvas por mecanismos de busca como o Google, tornando-as acessíveis ao público em geral.
O ocorrido
A possibilidade de pesquisar os registros de bate-papo foi removida durante o fim de semana, mas muitos foram salvos e amplamente compartilhados online. Usuários do Reddit descobriram inicialmente os chats disponíveis publicamente, que abrangiam mais de 200 conversas com o Claude em pelo menos 25 páginas de resultados de pesquisa — algumas ocorridas há apenas algumas semanas. Os links para os chats foram indexados por mecanismos como Google, Bing, Brave e DuckDuckGo, apesar de a política do Claude afirmar que 'qualquer pessoa com o link' pode visualizar o conteúdo, sem explicitar que o link poderia parar nos resultados de busca.
Detalhes das conversas expostas
Nas conversas, os usuários solicitaram que o chatbot respondesse a uma ampla gama de tópicos. Em uma conversa de abril, um usuário pediu ao chat que redigisse uma postagem de blog inédita sobre segurança na nuvem, incluindo detalhes de um projeto corporativo. Em outra, do mês passado, um usuário perguntou ao Claude como 'se tornar a Raposa de Nove Caudas?', antes de esclarecer que queria se transformar literalmente de humano na criatura. O Claude primeiro tentou mostrar ao usuário uma imagem gerada por IA, alegando que ele havia recebido 'poderes de raposa totalmente funcionais!'. Outras conversas com o Claude incluíram usuários buscando ajuda com seus currículos, incluindo nomes, informações de contato e histórico profissional. Alguns usuários chegaram a realizar o que parecia ser pesquisa confidencial para seus trabalhos, como na área da saúde, incluindo transcrições de conversas privadas.
Posicionamento da Anthropic
Uma porta-voz da Anthropic afirmou que os usuários do Claude mantêm o controle sobre se e quando compartilhar as conversas que tiveram com o chatbot. Ela disse que os links para as conversas 'não eram previsíveis ou detectáveis, a menos que as pessoas optassem por compartilhá-los por conta própria'. 'Quando alguém compartilha uma conversa, está tornando esse conteúdo publicamente acessível e, como outros conteúdos públicos da web, ele pode ser arquivado por serviços de terceiros', acrescentou a porta-voz. A opção de compartilhamento do Claude informa ao usuário que 'qualquer pessoa com o link' pode visualizar o conteúdo, mas não afirma explicitamente que o link pode acabar nos resultados de pesquisa no Google. Como a indexação dos registros de bate-papo não está mais ocorrendo nos resultados de busca, é provável que a Anthropic tenha usado ferramentas disponíveis para bloquear rapidamente os links dos registros de bate-papo nos resultados de pesquisa.
Problemas semelhantes no setor
Quando a OpenAI enfrentou, no ano passado, um problema quase idêntico com a disponibilização pública dos registros de bate-papo do ChatGPT, a empresa acabou alterando a forma como esses registros eram acessados. O Grok, o chatbot de IA do X, plataforma social pertencente a Elon Musk, também teve centenas de milhares de registros de bate-papo disponibilizados publicamente no ano passado por meio de buscas online. Um porta-voz do Google esclareceu à BBC que a empresa não controla 'quais páginas são tornadas públicas na web', afirmando que essa ação parte dos próprios sites. 'Oferecemos aos proprietários de sites controles claros para que decidam se as páginas podem ser rastreadas ou indexadas, e sempre respeitamos essas diretrizes.'
Como evitar a exposição
O processo do Google para que um proprietário de site bloqueie um link é simples, mas deve ser iniciado pelo próprio proprietário do site. Outros mecanismos de busca, como Bing, Brave e DuckDuckGo, nos quais os registros de bate-papo do Claude também apareceram, foram contatados para comentar, mas não haviam se manifestado até a publicação desta reportagem.
