- У компанії вважають, що автономні ШІ-системи створюють масштабні ризики для корпоративної безпеки.
- Зловмисники можуть захоплювати агентів через шкідливі інструкції, плагіни та підроблені залежності.
- Експерти закликають відмовитися від довірчої моделі на користь архітектури нульової довіри.
Глобальне поширення ШІ-агентів може призвести до масштабної кризи кібербезпеки, якщо компанії й надалі впроваджуватимуть такі системи без належного захисту. Про це заявив співзасновник і генеральний директор CertiK Ронгхуей Гу.
За його словами, багато організацій уже надають ШІ-агентам доступ до локальних файлів, облікових даних, електронної пошти та фінансових сервісів. Водночас вони не оцінюють можливі наслідки компрометації таких систем, вважає експерт.
Гу зазначив, що сучасні агенти виконують значно складніші функції, ніж звичайні чат-боти. Вони здатні запускати робочі процеси, використовувати зовнішні інструменти, взаємодіяти з корпоративними сервісами та фінансовою інфраструктурою.
Посібник з ШІ-агентів: як влаштовані, для чого використовуються і навіщо їм блокчейн 03.02.2025 Читати
У результаті компрометація одного агента може відкрити зловмисникам широкий доступ до внутрішніх систем компанії.
На думку очільника CertiK, ключова проблема полягає в тому, що розробники продовжують будувати інфраструктуру навколо хибної моделі довіри. Вони припускають, що локальний запуск програм автоматично робить їх безпечними, підкреслив фахівець.
Хакери використовують ШІ проти інших автономних систем
Згідно з дослідженням CertiK, багато популярних агентних фреймворків містять сотні попереджень щодо безпеки, не усунені вразливості та проблеми з розмежуванням доступу.
Особливу загрозу становлять атаки через упровадження інструкцій природною мовою. Шкідливі команди можуть бути приховані у вебсторінках, електронних листах або документах і непомітно змінити поведінку агента після їх обробки.
За словами Гу, у такому разі система може проігнорувати початкові обмеження та виконати дії, яких від неї не очікував користувач. Наприклад, передати дані третім особам або ініціювати переказ коштів.
Вразливість BadHost поставила під загрозу мільйони ШІ-агентів і серверів — експерти 27.05.2026 Читати
У CertiK також повідомили про виявлення великої кількості шкідливих плагінів, підроблених інсталяторів і залежностей, що поширюються через відкриті екосистеми агентних інструментів.
Ще однією тривожною тенденцією стало зростання автоматизованих шахрайських схем у блокчейні, розрахованих не на людей, а на інші ШІ-системи. Такі операції можуть існувати лише кілька хвилин, після чого повністю зникати.
За словами Гу, зловмисники вже створюють короткоживучі фінансові пастки. Вони встигають обдурити торгових ботів і автономних агентів ще до того, як інцидент помітить людина.
На тлі цих ризиків глава CertiK закликав індустрію перейти до архітектури нульової довіри. За неї кожна команда, інтеграція та залежність проходять постійну перевірку незалежно від джерела походження.
Нагадаємо, ми писали, що компанія Robinhood дозволила ШІ-агентам торгувати акціями.
Сообщение CEO CertiK попередив про можливу катастрофу через масове впровадження ШІ-агентів появились сначала на INCRYPTED.
