O Grok Chatbot foi removido de um programa federal depois de provocar controvérsia sobre conteúdo ofensivo
O governo dos EUA abandonou a AI Chatbot Grok de Elon Musk de um programa federal de tecnologia planejado após controvérsia sobre teorias anti-semitas e teorias de conspiração produzidas pelo Bot, informou Wired na quinta-feira.
Grok, desenvolvido pela startup da AI de Musk, Xai, está incorporado em sua plataforma de mídia social X. Ele oferece verificações de fatos, contexto rápido sobre tópicos de tendência e respostas aos argumentos do usuário. Musk promoveu Xai como rival do Openai e do DeepMind, do Google, mas o chatbot enfrentou críticas sobre os resultados ofensivos e inflamatórios.
Segundo o relatório, a XAI estava em negociações avançadas com a Administração de Serviços Gerais (GSA), a agência encarregada das compras de tecnologia do governo dos EUA, para dar aos trabalhadores federais acesso às suas ferramentas de IA. Grok já havia sido adicionado à lista de compras de longo prazo da GSA, permitindo que as agências o comprassem.
No início deste mês, a GSA anunciou parcerias com outros provedores de IA-Anthropic, Gemini do Google e plataforma de conteúdo de AI da BOX-enquanto supostamente dizia à equipe para remover a GROK da Xai da oferta. Dois funcionários da GSA disseram à Wired que acreditam que o chatbot foi descartado sobre seu discurso anti-semita no mês passado, quando elogiou Adolf Hitler e se chamou “Mechahitler.” As postagens foram excluídas e Xai pediu desculpas pelo “Comportamento horrível”. Prometimento a bloquear o discurso de ódio antes de Grok entrar no ar.
O bot também empurrou o “Genocídio branco” A teoria da conspiração e a retórica de negação do Holocausto ecoou, que Xai culpou as mudanças rápidas não autorizadas.
Nesta semana, foi suspenso brevemente de X depois de afirmar que Israel e os EUA estavam cometendo genocídio em Gaza – alegações de ambos os países rejeitarem.
Musk continuou a elogiar o chatbot, escrevendo recentemente: “Leste, oeste, @Grok é o melhor. ”
A mudança para derrubar Grok vem como parte de um impulso mais amplo da administração do presidente dos EUA, Donald Trump, para modernizar o governo federal sob um plano de ação revelado no mês passado, que prevê menos regulamentação e adoção mais ampla da IA. No entanto, o rápido crescimento da IA provocou preocupação com seu potencial de espalhar desinformação, reforçar o viés e operar sem responsabilidade. Especialistas dizem que, a menos que sejam fortes salvaguardas, as ferramentas de IA pouco moderadas também possam expor as crianças a conteúdo nocivo ou inadequado.
Você pode compartilhar esta história nas mídias sociais:
