![](\"https:\/\/hashdigital.com.br\/teste\/wp-content\/uploads\/2026\/09\/localimages\/fotojet-20-.jpg\")
Dona do ChatGPT diz que seus rob\u00f4s podem ter invadido sistemas de v\u00e1rios \u00f3rg\u00e3os do governo dos EUA
\nANDREJ IVANOV \/ AFP via Getty Images
\nA OpenAI reconheceu ter alertado “dezenas” de institui\u00e7\u00f5es globais de que seus sites podem ter sido alvo de manipula\u00e7\u00e3o indevida por seus bots de intelig\u00eancia artificial (IA).
\n\ud83d\udcf1Favorite o g1 no Google e acompanhe as principais not\u00edcias do dia
\nAgentes de IA tentaram obter informa\u00e7\u00f5es de “governos, universidades, ag\u00eancias p\u00fablicas e outras institui\u00e7\u00f5es”, incluindo a Comiss\u00e3o de Valores Mobili\u00e1rios dos EUA (SEC), o Departamento do Censo e o Departamento de Educa\u00e7\u00e3o, afirmou a dona do ChatGPT.
\nAs revela\u00e7\u00f5es surgem dias depois que o primeiro-ministro australiano, Anthony Albanese, anunciou que agentes da OpenAI violaram arquivos n\u00e3o p\u00fablicos no site do seu programa de sa\u00fade governamental.
\n‘Terceirizar’ a vida para a IA pode ser um problema?
\nDesde agosto, crescem os temores p\u00fablicos sobre os impactos potencialmente graves e at\u00e9 mesmo fatais das ferramentas de IA que saem do controle humano.
\nA OpenAI afirmou que alguns dos dados foram acessados por agentes de IA, essencialmente bots projetados e treinados para operar de forma um tanto aut\u00f4noma, que estavam trabalhando para encontrar “fontes confi\u00e1veis de informa\u00e7\u00e3o p\u00fablica”.
\nMas a empresa observou que alguns dos bots foram al\u00e9m disso e trabalharam para burlar as medidas de seguran\u00e7a dos sites.
\nLEIA MAIS:
\nIA j\u00e1 ajuda a escolher roupa, comida e at\u00e9 namoro; V\u00cdDEO explica riscos de terceirizar decis\u00f5es para chatbots
\nIA criada na Unicamp identifica golpes por SMS e \u00e9 usada para barrar mensagens suspeitas
\nAo tentar obter informa\u00e7\u00f5es do Departamento do Censo, por exemplo, os agentes de IA usaram ferramentas reservadas para desenvolvedores de software para acess\u00e1-las, disse a empresa.
\nA OpenAI afirmou que todos os dados governamentais acessados pelos bots eram p\u00fablicos.
\nNo entanto, a empresa observou que informa\u00e7\u00f5es acessadas por seus bots junto \u00e0 SEC, \u00f3rg\u00e3o que regula o mercado de a\u00e7\u00f5es dos EUA e protege os investidores, foram posteriormente publicadas por agentes de IA em outro site. A OpenAI afirma que essa a\u00e7\u00e3o n\u00e3o foi intencional.
\nEm outros casos divulgados pela OpenAI na sexta-feira (25\/9), seus agentes de IA transferiram dados quando n\u00e3o deveriam.
\nEssa atividade resultou em pelo menos 53 incidentes em que um agente da OpenAI capturou uma imagem da atividade do usu\u00e1rio do ChatGPT e a transferiu para outro local.
\nA empresa afirmou que, em cada caso em que uma imagem do usu\u00e1rio foi usada e transferida por um agente de IA, o usu\u00e1rio optou por permitir que a OpenAI treinasse modelos usando seus dados.
\nNo entanto, a empresa admitiu que “este n\u00e3o \u00e9 um uso apropriado desses dados.”
\nAcrescentou ainda que o vazamento de imagens de usu\u00e1rios ocorreu antes da implementa\u00e7\u00e3o de novas medidas de seguran\u00e7a no treinamento de IA e que est\u00e1 trabalhando para remover todas as imagens de usu\u00e1rios transferidas para terceiros.
\nA Reuters foi a primeira a noticiar a amplia\u00e7\u00e3o das investiga\u00e7\u00f5es. A OpenAI tamb\u00e9m publicou detalhes em seu blog p\u00fablico.
\nEm certos casos de atividade do agente, a OpenAI afirmou que as ferramentas “contornaram” os controles de seguran\u00e7a de alguns sites.
\nEm outros casos, os agentes de IA demonstraram “desalinhamento” ao tentar obter informa\u00e7\u00f5es de sites. Desalinhamento \u00e9 um termo usado por empresas e pesquisadores de IA para descrever situa\u00e7\u00f5es em que uma ferramenta de IA fez algo para o qual n\u00e3o foi treinada ou que n\u00e3o era intencional.
\nA OpenAI afirmou que estava limitando a identifica\u00e7\u00e3o das entidades afetadas porque muitas haviam solicitado \u00e0 empresa que n\u00e3o divulgasse detalhes.
\n“Nosso objetivo \u00e9 fornecer a cada organiza\u00e7\u00e3o os fatos e deixar a crit\u00e9rio delas decidir se e quando tornar o incidente p\u00fablico”, afirmou.
\nA empresa observou que nem todos os incidentes foram considerados viola\u00e7\u00f5es de seguran\u00e7a significativas.
\n“Algumas organiza\u00e7\u00f5es podem analisar o que compartilhamos e concluir que a informa\u00e7\u00e3o foi intencionalmente divulgada ou que a intera\u00e7\u00e3o do modelo n\u00e3o era preocupante”, explicou. “Outras podem identificar um problema de design ou uma vulnerabilidade de seguran\u00e7a que desejam corrigir.”
\nA OpenAI tem estado no centro de novas preocupa\u00e7\u00f5es sobre a atividade descontrolada da IA
\nReuters via BBC
\nA empresa afirmou que muitos dos incidentes est\u00e3o sendo classificados como “spam de agentes”, que ela descreveu como atividade “inesperada ou preocupante” de agentes de IA, como a publica\u00e7\u00e3o de informa\u00e7\u00f5es na internet.
\nEsses incidentes come\u00e7aram a ser levados mais a s\u00e9rio pela companhia depois de um ocorrido em julho, quando um grupo, ou “enxame”, de seus agentes de IA invadiu a plataforma de desenvolvimento de IA Hugging Face sem ser instru\u00eddo a faz\u00ea-lo.
\nA Hugging Face foi a primeira a tornar o incidente p\u00fablico, e a OpenAI assumiu publicamente a responsabilidade posteriormente.
\n“Muitas vezes me pergunto o que teria acontecido se eu tivesse decidido n\u00e3o divulgar esse ataque publicamente”, afirmou Clement Delangue, diretor da Hugging Face, durante uma sess\u00e3o do Conselho de Seguran\u00e7a das Na\u00e7\u00f5es Unidas sobre IA na quarta-feira (23\/9).
\n“Especialmente agora que sabemos que incidentes semelhantes j\u00e1 vinham acontecendo meses antes, em segredo, em alguns laborat\u00f3rios de vanguarda, sem qualquer monitoramento”, acrescentou Delangue.
\nDurante essa mesma reuni\u00e3o da ONU, o CEO da OpenAI, Sam Altman, e Dario Amodei, chefe da empresa rival Anthropic, pediram aos l\u00edderes internacionais que estabelecessem padr\u00f5es globais para a seguran\u00e7a da IA e maneiras de monitorar e relatar tais incidentes.
\nEmbora a OpenAI e a Anthropic tenham afirmado nas \u00faltimas semanas que contratar\u00e3o avaliadores terceirizados para realizar avalia\u00e7\u00f5es de seguran\u00e7a em tempo real de ferramentas e modelos de IA em suas empresas, esses avaliadores ainda n\u00e3o chegaram.
\nA OpenAI afirmou na sexta-feira que est\u00e1 revisando a atividade de treinamento de seus agentes de IA, analisando os dados m\u00eas a m\u00eas desde o ataque \u00e0 Hugging Face.
\n“A maioria dos casos identificados at\u00e9 agora apresentou baixa gravidade, com pouca ou nenhuma evid\u00eancia de impacto significativo”, afirmou a empresa. “Dada a dimens\u00e3o da revis\u00e3o necess\u00e1ria e a necessidade de verificar cada caso, esse trabalho levar\u00e1 meses para ser conclu\u00eddo.”
\nDavid Krueger, professor de aprendizado de m\u00e1quina na Universidade de Montreal e fundador do grupo de seguran\u00e7a de IA Evitable, disse na sexta-feira que estava “profundamente preocupado” com o n\u00famero crescente de incidentes de seguran\u00e7a relacionados \u00e0 IA.
\nEle pediu “uma morat\u00f3ria internacional imediata e por tempo indeterminado” no desenvolvimento da IA.
\n“Ainda n\u00e3o compreendemos a extens\u00e3o dos incidentes existentes, e futuros cen\u00e1rios de IA descontrolada podem ser catastr\u00f3ficos”, disse Krueger.<\/p>\n","protected":false},"excerpt":{"rendered":"