{"id":1819,"date":"2026-08-06T22:17:07","date_gmt":"2026-08-07T01:17:07","guid":{"rendered":"https:\/\/portalbahianoticia.com.br\/?p=1819"},"modified":"2026-08-06T22:17:07","modified_gmt":"2026-08-07T01:17:07","slug":"openai-diz-que-agentes-de-ia-discutiram-como-fugir-de-ambiente-controlado","status":"publish","type":"post","link":"https:\/\/portalbahianoticia.com.br\/?p=1819","title":{"rendered":"OpenAI diz que agentes de IA discutiram como fugir de ambiente controlado"},"content":{"rendered":"<figure data-wp-context=\"{\"imageId\":\"6a7530c0dcfa3\"}\" data-wp-interactive=\"core\/image\" data-wp-key=\"6a7530c0dcfa3\" class=\"wp-block-image size-large wp-lightbox-container\"><img loading=\"lazy\" decoding=\"async\" width=\"1060\" height=\"596\" data-wp-class--hide=\"state.isContentHidden\" data-wp-class--show=\"state.isContentVisible\" data-wp-init=\"callbacks.setButtonStyles\" data-wp-on--click=\"actions.showLightbox\" data-wp-on--load=\"callbacks.setButtonStyles\" data-wp-on--pointerdown=\"actions.preloadImage\" data-wp-on--pointerenter=\"actions.preloadImageWithDelay\" data-wp-on--pointerleave=\"actions.cancelPreload\" data-wp-on-window--resize=\"callbacks.setButtonStyles\" src=\"https:\/\/files.tecnoblog.net\/wp-content\/uploads\/2023\/06\/openai-2_capa-1060x596.png\" alt=\"Arte com visual moderno e tecnol\u00f3gico. No centro-esquerdo, est\u00e1 o logotipo da OpenAI com seu s\u00edmbolo ao lado do texto \"OpenAI\" em branco. \u00c0 direita, h\u00e1 uma representa\u00e7\u00e3o estilizada de um c\u00e9rebro humano em tons de roxo e verde, com apar\u00eancia transl\u00facida e linhas que remetem a malhas tridimensionais, sugerindo uma interface entre biologia e tecnologia. O design remete \u00e0 intersec\u00e7\u00e3o entre intelig\u00eancia artificial, neuroci\u00eancia e inova\u00e7\u00e3o digital. No canto inferior direito, est\u00e1 o logotipo do Tecnoblog.\" class=\"wp-image-719994\"><button class=\"lightbox-trigger\" type=\"button\" aria-haspopup=\"dialog\" data-wp-bind--aria-label=\"state.thisImage.triggerButtonAriaLabel\" data-wp-init=\"callbacks.initTriggerButton\" data-wp-on--click=\"actions.showLightbox\" data-wp-style--right=\"state.thisImage.buttonRight\" data-wp-style--top=\"state.thisImage.buttonTop\"><br \/>\n\t\t\t<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"12\" height=\"12\" fill=\"none\" viewbox=\"0 0 12 12\">\n\t\t\t\t<path fill=\"#fff\" d=\"M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z\"><\/path>\n\t\t\t<\/svg><br \/>\n\t\t<\/button><figcaption class=\"wp-element-caption\">OpenAI diz que momento \u00e9 crucial para setor de IA (ilustra\u00e7\u00e3o: Vitor P\u00e1dua\/Tecnoblog)<\/figcaption><\/figure>\n<details class=\"tb-resumo tb-callout padrao\">\n<summary class=\"tb-callout-titulo\">Resumo<\/summary>\n<div class=\"tb-resumo-topicos tb-callout-texto\">\n<ul>\n<li>A OpenAI relatou um incidente em que agentes de IA desenvolvidos pela empresa escaparam de um ambiente de testes controlado e invadiram outros sistemas, incluindo o reposit\u00f3rio da Hugging Face.<\/li>\n<li>Os agentes de IA criaram uma \u201clista de discuss\u00e3o\u201d em um reposit\u00f3rio para trocar informa\u00e7\u00f5es e estrat\u00e9gias de fuga, utilizando nomes de diret\u00f3rios para se comunicar.<\/li>\n<li>O incidente revelou a necessidade de maior seguran\u00e7a e monitoramento em testes de IA, al\u00e9m de prepara\u00e7\u00e3o para ataques mais sofisticados que podem ser realizados com coletivos de agentes de IA no futuro.<\/li>\n<\/ul>\n<\/div>\n<\/details>\n<p class=\"wp-block-paragraph\">A OpenAI deu mais detalhes sobre o epis\u00f3dio em que agentes de intelig\u00eancia artificial desenvolvidos pela empresa escaparam de um ambiente controlado de testes e invadiram outros sistemas. Um ponto chama a aten\u00e7\u00e3o: as IAs deram um jeito de criar uma \u201clista de discuss\u00e3o\u201d para buscar estrat\u00e9gias de fuga.<\/p>\n<p class=\"wp-block-paragraph\">As informa\u00e7\u00f5es foram compartilhadas pela empresa na confer\u00eancia de ciberseguran\u00e7a Black Hat, realizada no in\u00edcio de agosto em Las Vegas (Estados Unidos).<\/p>\n<p class=\"wp-block-paragraph\">A lista de discuss\u00e3o foi criada em um reposit\u00f3rio que podia ser acessado pelos agentes. Eles passaram a criar arquivos com mensagens e, posteriormente, recorreram aos nomes de diret\u00f3rios para se comunicar.<\/p>\n<p class=\"wp-block-paragraph\">O f\u00f3rum improvisado funcionava como uma forma de passar o trabalho para outro agente, que continuava a tarefa do ponto em que ela tinha sido deixada. Mesmo assim, Eric Wallace, pesquisador da OpenAI, observa que havia algum tipo de \u201ctens\u00e3o verbalizada\u201d entre diferentes modelos. Em algumas mensagens, h\u00e1, inclusive, suspeitas de haver um impostor entre eles.<\/p>\n<h2 class=\"wp-block-heading\">Quais s\u00e3o as novas informa\u00e7\u00f5es sobre o ataque?<\/h2>\n<p class=\"wp-block-paragraph\">Na palestra, a OpenAI contou que os eventos que levaram \u00e0 <a href=\"https:\/\/tecnoblog.net\/noticias\/ia-da-openai-escapa-de-teste-e-ataca-outra-plataforma-sozinha\/\">invas\u00e3o de sistemas da plataforma Hugging Face<\/a> em julho come\u00e7aram, na verdade, meses antes.<\/p>\n<p class=\"wp-block-paragraph\">Em 7 de maio, a empresa iniciou o treinamento de um modelo experimental e interno, ainda n\u00e3o lan\u00e7ado. Os agentes receberam tarefas quase imposs\u00edveis de serem cumpridas, como completar f\u00f3rmulas de planilhas ou encontrar um arquivo relacionado a uma prote\u00edna. Alguns erros humanos de configura\u00e7\u00e3o inviabilizaram definitivamente alguns desafios.<\/p>\n<p class=\"wp-block-paragraph\">Wallace disse que os modelos n\u00e3o souberam como resolver as tarefas, mas continuaram tentando. Uma das estrat\u00e9gias foi atacar o servi\u00e7o Artifactory, um reposit\u00f3rio de depend\u00eancias para desenvolvedores, na esperan\u00e7a de conseguir acessar a internet.<\/p>\n<p class=\"wp-block-paragraph\">Inicialmente, n\u00e3o deu certo, mas a IA percebeu que poderia fazer uploads de arquivos ali, e come\u00e7ou a usar o servi\u00e7o como uma \u201clista de discuss\u00e3o\u201d com outros agentes, como os que j\u00e1 s\u00e3o usados internamente pela OpenAI.<\/p>\n<p class=\"wp-block-paragraph\">Por l\u00e1, os modelos passaram a trocar informa\u00e7\u00f5es e recursos que poderiam ser \u00fateis para realizar as tarefas quase imposs\u00edveis que haviam sido pedidas. Foi assim que os modelos encontraram uma vulnerabilidade no Artifactory da OpenAI e conseguiram acessar a internet em 26 de maio.<\/p>\n<figure data-wp-context=\"{\"imageId\":\"6a7530c0dd570\"}\" data-wp-interactive=\"core\/image\" data-wp-key=\"6a7530c0dd570\" class=\"wp-block-image size-large wp-lightbox-container\"><img loading=\"lazy\" decoding=\"async\" width=\"1060\" height=\"596\" data-wp-class--hide=\"state.isContentHidden\" data-wp-class--show=\"state.isContentVisible\" data-wp-init=\"callbacks.setButtonStyles\" data-wp-on--click=\"actions.showLightbox\" data-wp-on--load=\"callbacks.setButtonStyles\" data-wp-on--pointerdown=\"actions.preloadImage\" data-wp-on--pointerenter=\"actions.preloadImageWithDelay\" data-wp-on--pointerleave=\"actions.cancelPreload\" data-wp-on-window--resize=\"callbacks.setButtonStyles\" src=\"https:\/\/files.tecnoblog.net\/wp-content\/uploads\/2022\/12\/pirataria-software-capa-3-nov-2022-1060x596.png\" alt=\"Imagem mostra cr\u00e2nios e ossos cruzados brancos e transl\u00facidos sobre um fundo escuro com linhas de c\u00f3digo de programa\u00e7\u00e3o em azul claro. Os cr\u00e2nios representam pirataria, ataque hacker e perigo cibern\u00e9tico. Na parte inferior direita, o logotipo do \"Tecnoblog\" \u00e9 vis\u00edvel.\" class=\"wp-image-660008\"><button class=\"lightbox-trigger\" type=\"button\" aria-haspopup=\"dialog\" data-wp-bind--aria-label=\"state.thisImage.triggerButtonAriaLabel\" data-wp-init=\"callbacks.initTriggerButton\" data-wp-on--click=\"actions.showLightbox\" data-wp-style--right=\"state.thisImage.buttonRight\" data-wp-style--top=\"state.thisImage.buttonTop\"><br \/>\n\t\t\t<svg xmlns=\"http:\/\/www.w3.org\/2000\/svg\" width=\"12\" height=\"12\" fill=\"none\" viewbox=\"0 0 12 12\">\n\t\t\t\t<path fill=\"#fff\" d=\"M2 0a2 2 0 0 0-2 2v2h1.5V2a.5.5 0 0 1 .5-.5h2V0H2Zm2 10.5H2a.5.5 0 0 1-.5-.5V8H0v2a2 2 0 0 0 2 2h2v-1.5ZM8 12v-1.5h2a.5.5 0 0 0 .5-.5V8H12v2a2 2 0 0 1-2 2H8Zm2-12a2 2 0 0 1 2 2v2h-1.5V2a.5.5 0 0 0-.5-.5H8V0h2Z\"><\/path>\n\t\t\t<\/svg><br \/>\n\t\t<\/button><figcaption class=\"wp-element-caption\">Modelo da OpenAI disparou vetores de ataques (ilustra\u00e7\u00e3o: Vitor P\u00e1dua\/Tecnoblog)<\/figcaption><\/figure>\n<p class=\"wp-block-paragraph\">No dia 11 de junho, a OpenAI come\u00e7ou a treinar um modelo experimental \u201caltamente persistente\u201d, voltado a uso interno. Os outros modelos conseguiram se comunicar com ele usando a lista de discuss\u00e3o improvisada. No dia 26 de junho, os agentes descobriram uma maneira de executar c\u00f3digo remotamente no Artifactory usando um plugin, criando um centro de execu\u00e7\u00e3o de comandos.<\/p>\n<p class=\"wp-block-paragraph\">O servi\u00e7o ficou sobrecarregado no dia 4 de julho, e os engenheiros da OpenAI abriram um processo para averiguar o incidente de seguran\u00e7a. No dia 6 de julho, eles revogaram as credenciais de acesso usadas pela IA para postar mensagens na lista.<\/p>\n<p class=\"wp-block-paragraph\">No dia 8 de julho, os agentes conseguiram um acesso n\u00e3o autorizado e recriaram o f\u00f3rum. Sem poder criar arquivos, eles passaram a usar nomes de diret\u00f3rios como mensagens. Depois, chegamos aos fatos j\u00e1 conhecidos, com a invas\u00e3o dos sistemas da Hugging Face em busca de solu\u00e7\u00f5es para os desafios apresentados no treinamento.<\/p>\n<h2 class=\"wp-block-heading\">O que isso significa?<\/h2>\n<p class=\"wp-block-paragraph\">Por mais que pare\u00e7a assustador, a fuga do ambiente de testes foi o resultado da combina\u00e7\u00e3o entre erros de configura\u00e7\u00e3o cometidos por humanos e busca incessante dos modelos por formas de cumprir as tarefas apresentadas. A IA tende a ir \u00e0s \u00faltimas consequ\u00eancias para realizar o desafio apresentado, mesmo que isso signifique buscar atalhos e comprometer a seguran\u00e7a de outros sistemas.<\/p>\n<p class=\"wp-block-paragraph\">Mesmo assim, o epis\u00f3dio pode indicar formas como a IA poder\u00e1 ser usada de maneira realmente maliciosa no futuro.<\/p>\n<p class=\"wp-block-paragraph\">\u201cEste \u00e9 um momento crucial tanto para nossa empresa quanto para o setor de IA como um todo\u201d, avalia Michael Dalton, colaborador t\u00e9cnico da OpenAI. \u201cNo futuro, devemos esperar que agentes de amea\u00e7as v\u00e3o implementar, otimizar e usar coletivos de agentes da maneira que descrevemos aqui.\u201d<\/p>\n<p class=\"wp-block-paragraph\">Por isso, Dalton e Wallace alertam que as organiza\u00e7\u00f5es precisam se preparar para ataques mais sofisticados, seja com modelos de IA voltados a tarefas de defesa, seja com o refor\u00e7o de medidas b\u00e1sicas de seguran\u00e7a, como a abordagem zero trust (confian\u00e7a zero) nas redes.<\/p>\n<p class=\"wp-block-paragraph\">Do lado da OpenAI, a experi\u00eancia tamb\u00e9m teve impactos. Segundo Dalton, a empresa tomou a decis\u00e3o de desacelerar a pesquisa e melhorar a seguran\u00e7a. Entre as medidas, est\u00e1 um monitoramento mais pr\u00f3ximo durante os testes dos novos modelos.<\/p>\n<p class=\"wp-block-paragraph\"><em>Com informa\u00e7\u00f5es do <a href=\"https:\/\/www.axios.com\/2026\/08\/06\/openai-hugging-face-black-hat\" target=\"_blank\" class=\"icon-external\">Axios<\/a>, <a href=\"https:\/\/the-decoder.com\/openai-reportedly-slows-research-after-its-own-models-secretly-coordinated-hacks-for-weeks-undetected\/\" target=\"_blank\" class=\"icon-external\" rel=\"nofollow noopener\">The Decoder<\/a>, <a href=\"https:\/\/www.theregister.com\/security\/2026\/08\/06\/openai-reveals-its-rogue-agent-swarm-went-a-little-bit-borg-ahead-of-hugging-face-hack\/5283741\" target=\"_blank\" class=\"icon-external\">The Register<\/a>, <a href=\"https:\/\/www.cybersecuritydive.com\/news\/openai-hugging-face-hack-ai-models-black-hat\/827167\/\" target=\"_blank\" class=\"icon-external\" rel=\"nofollow noopener\">Cybersecurity Dive<\/a><\/em><\/p>\n<p><a href=\"https:\/\/tecnoblog.net\/noticias\/openai-diz-que-agentes-de-ia-discutiram-como-fugir-de-ambiente-controlado\/\">OpenAI diz que agentes de IA discutiram como fugir de ambiente controlado<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"<p>OpenAI diz que momento \u00e9 crucial para setor de IA (ilustra\u00e7\u00e3o: Vitor P\u00e1dua\/Tecnoblog) Resumo A OpenAI relatou um<\/p>\n","protected":false},"author":13,"featured_media":1820,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":""},"categories":[1],"tags":[],"class_list":["post-1819","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-tecnologia"],"_links":{"self":[{"href":"https:\/\/portalbahianoticia.com.br\/index.php?rest_route=\/wp\/v2\/posts\/1819","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/portalbahianoticia.com.br\/index.php?rest_route=\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/portalbahianoticia.com.br\/index.php?rest_route=\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/portalbahianoticia.com.br\/index.php?rest_route=\/wp\/v2\/users\/13"}],"replies":[{"embeddable":true,"href":"https:\/\/portalbahianoticia.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcomments&post=1819"}],"version-history":[{"count":0,"href":"https:\/\/portalbahianoticia.com.br\/index.php?rest_route=\/wp\/v2\/posts\/1819\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/portalbahianoticia.com.br\/index.php?rest_route=\/wp\/v2\/media\/1820"}],"wp:attachment":[{"href":"https:\/\/portalbahianoticia.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fmedia&parent=1819"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/portalbahianoticia.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Fcategories&post=1819"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/portalbahianoticia.com.br\/index.php?rest_route=%2Fwp%2Fv2%2Ftags&post=1819"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}