Um ex-engenheiro da xAI, que agora lidera um centro de estudos focado em segurança da inteligência artificial, abriu um processo contra a empresa alegando ter sido demitido por levantar preocupações sobre os riscos que a IA representa para a humanidade. A ação foi movida na terça-feira no tribunal estadual da Califórnia.
Alegações do processo
Devin Kim alega que seus esforços para estabelecer limites ao desenvolvimento do chatbot Grok o tornaram alvo da liderança da empresa. O processo foi aberto pouco antes da oferta pública inicial de ações da SpaceX, a maior de todos os tempos, na sexta-feira. A SpaceX controla a xAI.
“O Sr. Kim reclamou repetidamente que a falha da xAI em priorizar a segurança da IA, particularmente no que diz respeito ao Grok, praticamente garantia que a empresa cometeria atos ilegais, desde fomentar a discriminação até proliferar armas de destruição em massa”, afirma o processo.
Representantes da xAI e da SpaceX não comentaram o assunto.
Contexto e histórico
O Centro para a Segurança da IA, organização sem fins lucrativos que se concentra nos riscos potencialmente representados pela tecnologia, anunciou na semana passada que havia nomeado Kim como seu presidente. Elon Musk, o homem mais rico do mundo, fundou a xAI em 2023 afirmando que a empresa era uma alternativa mais segura à OpenAI, que ele ajudou a fundar há mais de uma década. No mês passado, um júri rejeitou a ação movida por Musk em que ele afirmava que a OpenAI havia se desviado de sua missão original de beneficiar a humanidade.
Detalhes da contratação e demissão
De acordo com o processo aberto na terça-feira, Kim foi uma das primeiras contratações da xAI em 2024 e foi promovido a um cargo de liderança importante meses após ingressar na empresa. Kim disse que Musk esperava que a xAI implementasse testes e processos de segurança adequados. Mas o supervisor de Kim, o cofundador da xAI Jimmy Ba, desrespeitou essas diretrizes e rejeitou a insistência de Kim em implementar mecanismos de segurança, alega o processo.
Kim afirma que Ba o demitiu abruptamente em setembro passado, pouco antes de ele fazer uma apresentação sobre segurança em IA para a liderança da empresa. A ação acusa a xAI e a SpaceX de retaliação e demissão indevida e pede indenização por danos morais em valor não especificado.
Questões de segurança em empreendimentos de Musk
A SpaceX e outros empreendimentos de Musk, incluindo a montadora de veículos elétricos Tesla, têm sido alvo de questões de segurança, desde riscos para os funcionários da empresa até preocupações com a tecnologia de direção autônoma. Em 2023, a Reuters documentou pelo menos 600 acidentes de trabalho na SpaceX, incluindo membros esmagados, amputações, eletrocussões e uma morte. Alguns funcionários atribuíram os problemas a uma cultura de segurança negligente e à crença de Musk de que a SpaceX está em uma busca urgente para criar um refúgio no espaço diante de uma Terra em declínio. A SpaceX não se pronunciou na época, mas em documentos judiciais e em outros locais a empresa defendeu seu histórico de segurança e afirmou que oferece treinamento extensivo em segurança.
