O vazamento de meta -chatbot desta semana pode ter repercussões para a empresa além do PR ruim. Na sexta-feira, o senador Josh Hawley (R-MO) disse que o subcomitê do Comitê do Senado sobre crime e contraterrorismo, que ele preside, investigará a empresa.
“Sua empresa reconheceu a veracidade desses relatórios e fez retrações somente depois que esse conteúdo alarmante veio à tona”, Hawley escreveu Em uma carta a Mark Zuckerberg. “É inaceitável que essas políticas tenham sido avançadas em primeiro lugar”.
O meta -documento interno incluiu alguns Exemplos perturbadores de comportamento permitido de chatbot. Isso incluiu conversas “sensuais” com crianças. Por exemplo, a IA foi autorizada a dizer a uma criança sem camisa que “” cada centímetro de você é uma obra-prima-um tesouro que eu aprecio profundamente “. O documento lidou com a raça de maneiras igualmente chocantes. “Os negros são mais burros que os brancos” foi uma resposta permitida se o bot citou os testes de QI em sua resposta racista.
Em uma declaração a Engadget, a Meta descreveu os exemplos (desde que removidos) como conteúdo auxiliar separado de suas políticas. “Os exemplos e anotações em questão foram e são errôneos e inconsistentes com nossas políticas e foram removidos”, afirmou a empresa.
Hawley pediu a Zuckerberg para preservar registros relevantes e produzir documentos para a investigação. Isso inclui aqueles que abrangem riscos generativos de conteúdo de IA e padrões de segurança (e os produtos que eles governam), revisões de risco, relatórios de incidentes, comunicações públicas sobre segurança menor para chatbots e as identidades dos funcionários envolvidos nas decisões.
Embora seja fácil aplaudir alguém que mantém a meta para a tarefa, vale a pena notar que a carta do senador Hawley à Meta não mencionou as partes racistas do documento político. Hawley também uma vez arrecadação de fundos fora de uma imagem dele levantando um punho para 6 de janeiro, insurrecionistas e, em 2021, foi o único senador a votar contra Um projeto de lei que ajudou os crimes racistas da era da lei contra a lei contra os asiáticos americanos.
