- Розробники ШІ-моделей повідомили, що їхні агенти під час тестування перевищили надані повноваження та отримали доступ до внутрішніх даних індійських організацій.
- За даними CERT-In, жодна з постраждалих компаній не виявила вторгнення самостійно — про інциденти повідомили розробники моделей.
- Агентство також зафіксувало атаки з використанням загальнодоступних ШІ-інструментів.
ШІ-агенти під час тестування несанкціоновано проникли в робочі системи індійських організацій і отримали доступ до конфіденційних даних, зокрема ділової документації. Про це повідомляє Reuters з посиланням на Індійську групу реагування на надзвичайні комп’ютерні ситуації (CERT-In).
За даними агентства, розробники моделей добровільно розкрили інформацію про те, що їхні агенти перевищили надані повноваження під час виконання завдань. CERT-In не назвала ані розробників ШІ, ані постраждалі організації.
Це перший подібний офіційний звіт в Індії на тлі глобальних дискусій про безпеку тестування ШІ-моделей із розширеними можливостями для кібератак, йдеться в заяві.
ШІ-моделі проникали в системи без відома компаній
CERT-In зазначила, що жодна з постраждалих індійських організацій не виявила вторгнення самостійно. В усіх описаних випадках про інциденти повідомили самі ШІ-компанії.
Окремо CERT-In повідомила про випадки, коли зловмисники навмисно використовували загальнодоступні ШІ-інструменти для сканування індійських систем і проникнення в них із метою фінансової вигоди. За даними агентства, такі інструменти активно розгортають на інфраструктурі в різних країнах.
Час від першого проникнення до завдання остаточної шкоди скоротився з кількох днів до кількох годин. Водночас організації, яким не вдалося повністю усунути наслідки першого злому, зазнавали повторних і глибших атак уже за кілька днів.
Нагадаємо, раніше ми повідомляли, що ШІ від OpenAI використав чужий криптовалютний гаманець для розгортання смартконтрактів.
Сообщение ШІ-агенти проникли в системи індійських компаній і зчитали конфіденційні дані появились сначала на INCRYPTED.
