A adoção da tecnologia de Elon Musk desafia as normas de segurança

A utilização do Grok AI pelo governo dos EUA levanta questões sobre a conformidade com normas de segurança e imparcialidade.

A recente decisão da Administração de Serviços Gerais (GSA) dos EUA, em 8 de outubro de 2023, de disponibilizar o Grok, um modelo de linguagem desenvolvido pela xAI de Elon Musk, para uso em agências federais, levanta sérias preocupações sobre conformidade com as diretrizes que regem a segurança e a neutralidade das tecnologias. A Public Citizen, junto a outras organizações, solicitou a suspensão dessa implementação, destacando que o Grok tem gerado conteúdos com viés racista e conspiratório.

Questões de conformidade e segurança

O uso do Grok desafia as diretrizes estabelecidas na Ordem Executiva 14319, que exige que os sistemas de IA do governo sejam “buscadores de verdade, precisos e ideologicamente neutros”. Embora o governo tenha ampliado a implantação do Grok, especialistas, incluindo o Conselheiro Científico da Casa Branca, Michael Kratsios, reconheceram que a utilização dessa tecnologia não atende aos padrões de verdade e precisão que a administração busca. Essa contradição entre as políticas do governo e a prática efetiva compromete a confiança pública.

O impacto da adoção de tecnologias corporativas

A implementação do Grok não é um caso isolado; a estratégia de aquisição de tecnologia da administração anterior está cada vez mais concentrada em grandes empresas de tecnologia, o que pode limitar a inovação competitiva e favorecer interesses corporativos em detrimento do interesse público. A adoção de ferramentas como o Grok, que têm mostrado tendências de viés e disseminação de desinformação, coloca em risco a integridade do discurso público e a confiança nos sistemas de governança.

Práticas necessárias para garantir a integridade

É vital que a OMB suspenda imediatamente a implementação do Grok e realize uma revisão completa de conformidade, divulgando os resultados de testes de segurança e avaliações de risco. O Congresso deve convocar uma audiência para discutir como a decisão da GSA se alinha com as políticas de neutralidade e busca pela verdade. Essas ações são essenciais para garantir que a adoção de novas tecnologias no setor público não se torne uma porta aberta para a captura ideológica ou favorecimento comercial.