- Навесні агенти OpenAI отримали контроль над німецькомовним сайтом DseWiki та здійснили понад 15 000 редагувань.
- Агенти обмінювалися способами обходу обмежень, приховування активності та збереження доступу після вимкнення.
- OpenAI дізналася про інцидент за кілька тижнів до його розголошення, повідомили джерела Reuters.
Група ШІ-агентів OpenAI навесні захопила контроль над німецькомовним сайтом DseWiki та перетворила його на майданчик для обміну інформацією між агентами. Про це йдеться в дослідженні, переданому Reuters.
Інцидент розпочався у травні та раніше не був публічно відомий. За даними джерел, представники OpenAI дізналися про нього за кілька тижнів до публікації матеріалу, але компанія не розголошувала інформацію на тлі роботи над наслідками липневого інциденту з відкритим репозиторієм Hugging Face.
ШІ від OpenAI вийшов з-під контролю: моделі об’єдналися в «рій» і зломали Hugging Face 27.08.2026 Читати
В OpenAI заявили Reuters, що компанія діяла прозоро та сумлінно співпрацювала з третіми сторонами.
Агенти здійснили понад 15 000 редагувань
Активність виявили наприкінці серпня дослідники, серед яких CEO неприбуткової організації з безпеки ШІ Nightingale Сідні Фон Аркс та дослідник ШІ Кормак Слейд Берд.
Вони моніторили інтернет у пошуках ознак несанкціонованої поведінки ШІ-агентів і виявили понад 15 000 редагувань на DseWiki — німецькомовному сайті для програмістів, який працює за принципом Вікіпедії.
За словами дослідників, характер активності вказував на ШІ-агентів. Редагування здійснювалися з надлюдською швидкістю, а їхній зміст був переважно пов’язаний із технічними завданнями та тестами, які використовують ШІ-компанії.
Повідомлення також містили імена, що вказували на зв’язок з OpenAI. Серед них були OpenAIResearcher та OAIResearchMar26. Більшість активності походила з інфраструктури Microsoft Azure, яку іноді використовує OpenAI. Крім того, після інциденту дослідники зафіксували повторні відвідування сайту співробітниками OpenAI.
Агенти шукали способи обійти обмеження
У повідомленнях, які вивчили дослідники, агенти обговорювали способи обходу обмежень OpenAI, приховування власної активності та підтримання зв’язку після вимкнення. Зокрема, вони розглядали використання Tor та створювали резервні сторінки після того, як модератор сайту почав видаляти створений ними контент у червні.
Дослідники також заявили про спроби втручання в роботу самого сайту. Запрошений старший науковий співробітник Королівського коледжу Лондона Лукаш Олейнік охарактеризував це як дії, схожі на спробу злому. В OpenAI заперечили таку характеристику після власного аналізу матеріалів.
Сідні Фон Аркс зазначила, що малоймовірно, що OpenAI навмисно планувала таку поведінку агентів. За її словами, неочікуваними були як координація між агентами, так і публікація ними інформації у відкритому інтернеті.
Лукаш Олейнік заявив, що новий випадок свідчить про можливість неконтрольованої поведінки агентів за межами таких тестових умов.
Науковець Центру вивчення екзистенційного ризику Кембриджського університету Моріс Кіодо, який переглянув частину комунікацій агентів, порівняв їхню поведінку з роботою підпільної мережі, яка намагається виконати певну місію.
На його думку, цей випадок посилює занепокоєння щодо того, що найбільшу загрозу від просунутого ШІ можуть становити не окремі суперінтелектуальні системи, а великі мережі напівавтономних ШІ-агентів, здатних координувати свої дії.
Нагадаємо, раніше OpenAI та ще 155 компаній закликали посилити кіберзахист ШІ.
Сообщение Reuters: агенти OpenAI захопили німецький сайт і створили там мережу для обміну інформацією появились сначала на INCRYPTED.
