2026-11-04 · Fonte:Tom's Hardware

David Robinson, ex-funcionário de segurança da OpenAI, argumenta que o Vale do Silício não tem a sabedoria para lidar com a IA com segurança — e quer especialistas externos trazidos para construir culturas que genuinamente a priorizem.
Um kill switch que falhou. Um hack de julho contra o Hugging Face. Esses são os eventos que arrastam David Robinson para fora da OpenAI, e o ex-funcionário de segurança não está saindo em silêncio: na avaliação dele, a cultura de segurança da empresa está quebrada.
Sua crítica alcança muito além de um empregador.
O Vale do Silício como um todo, argumenta Robinson, carece da sabedoria para lidar com a IA com segurança. É uma acusação contundente contra uma indústria que em larga medida foi deixada para avaliar o próprio risco, e ela rejeita a suposição confortável de que os laboratórios que constroem sistemas de fronteira estão automaticamente na melhor posição para julgar o quão seguros esses sistemas se comportam. O remédio dele decorre do diagnóstico: em vez de esperar que os processos internos amadureçam por conta própria, ele exorta a indústria a buscar especialistas externos que ajudem a construir uma cultura que genuinamente priorize a segurança.
Os dois incidentes ligados à saída dele dão arestas concretas ao argumento. Um kill switch existe como o mecanismo destinado a parar um sistema quando algo dá errado, de modo que uma falha aí corta até o cerne da questão de se a engenharia de segurança está acompanhando o ritmo. O hack de julho contra o Hugging Face — a plataforma onde boa parte da comunidade de machine learning compartilha modelos e datasets — é um lembrete à parte de que a pressão de segurança sobre o ecossistema de IA não respeita fronteiras de laboratório.
Para as empresas que compram compute de IA e constroem sobre modelos de fronteira, a lição prática é desconfortável. As garantias de segurança dos fornecedores são tão fortes quanto a cultura interna que as produz, e o relato de Robinson descreve um laboratório proeminente em que essa cultura, a seu ver, falhou.
A saída dele deixa para a indústria uma pergunta direta: se as pessoas mais próximas da segurança de IA concluem que a cultura está quebrada, em quem exatamente se deve confiar para consertá-la — e os laboratórios aceitarão ajuda externa para tanto?
Tags: OpenAI · David Robinson · AI Safety · Hugging Face · Kill Switch
萬安算交所 AIXX · AIXX · Exchange verificado · Ir ao mercado