Líder de segurança e transparência da OpenAI, David Robinson pede demissão e alerta para lançamentos rápidos

Robinson disse que empresas de IA deveriam operar como usinas nucleares, com múltiplas camadas de verificações de segurança

David Robinson, que liderava o trabalho de segurança e transparência na OpenAI, pediu demissão e disse que a empresa está lançando sistemas de IA cada vez mais capazes mais rápido do que consegue protegê-los.

Robinson disse que empresas de IA deveriam operar mais como usinas nucleares, construídas com múltiplas camadas de segurança em vez de uma única verificação. Em resposta, a OpenAI afirmou que está ampliando as avaliações de terceiros, os testes de segurança e o monitoramento em tempo real dos modelos que considera potencialmente perigosos.

A demissão segue uma série de divulgações que a OpenAI fez este ano, incluindo relatos voluntários de violações e pausas no treinamento até setembro. O procurador-geral da Califórnia intensificou essa fiscalização em 1º de outubro, com uma intimação sobre incidentes de cibersegurança, uma medida obrigatória que vai além do que a OpenAI havia divulgado por conta própria. Outras reportagens afirmam que Sam Altman não está muito envolvido com questões de segurança na empresa.

A saída de Robinson acrescenta uma voz nomeada e de alto perfil às preocupações que, até agora, convivem com o momento financeiro da OpenAI. A empresa concluiu em 1º de outubro uma rodada de financiamento na qual a SoftBank e a Nvidia realizaram cada uma investimentos de US$ 10 bilhões, concluindo compromissos de US$ 30 bilhões cada, num total combinado de US$ 20 bilhões, enquanto a receita anualizada da OpenAI se aproxima de US$ 70 bilhões e sua avaliação pré-IPO está em US$ 1,2 trilhão. O alerta aguça a questão de saber se reguladores ou a própria OpenAI vão forçar uma desaceleração antes que esses números de crescimento enfrentem mais escrutínio.