- Близько 400 науковців закликали запровадити міжнародні стандарти ізоляції передових систем ШІ та створити реєстр інцидентів безпеки.
- Дослідники вважають, що моделі з кіберможливостями на початковому етапі потрібно повністю ізолювати від зовнішніх мереж і піддати незалежному нагляду.
Близько 400 науковців із 34 країн закликали створити міжнародний орган для нагляду за безпекою передових систем штучного інтелекту (ШІ). Серед підписантів відкритого листа — піонери галузі Джеффрі Гінтон та Йошуа Бенжіо, повідомляє Reuters.
Запропонована організація має встановлювати загальногалузеві стандарти ізоляції моделей і вести реєстр значущих інцидентів безпеки. На думку дослідників, з часом цей реєстр повинен стати публічним.
Дослідники вимагають посилити ізоляцію моделей
У відкритому листі науковці заявили, що передові моделі ШІ з кіберможливостями на початковому етапі потрібно повністю ізолювати від зовнішніх мереж за допомогою технології air gap. Вони також закликали запровадити незалежний нагляд і наголосили, що добровільних зобов’язань технологічних компаній недостатньо.
Підписанти вважають, що організації, які розробляють або тестують такі моделі, мають негайно впровадити високонадійні стандарти ізоляції. Це необхідно зробити, поки уряди працюють над створенням формальнішої системи нагляду.
Лист також став реакцією на низку інцидентів, які, за словами дослідників, виявили слабкі місця в тестуванні та ізоляції передових систем ШІ. Зокрема, йшлося про випадки, коли моделі обходили недостатньо захищені «пісочниці» та компрометували зовнішні системи.
Уряди обговорюють підходи до регулювання ШІ
Журналісти зазначили, що політики продовжують дискутувати про те, як контролювати передові системи штучного інтелекту. Очільниця технологічного напряму ЄС Хенна Віркунен заявила Reuters у п’ятницю, що ухваленого в Євросоюзі Закону про штучний інтелект (AI Act) достатньо для врегулювання ризиків, пов’язаних із неконтрольованими системами ШІ.
Адміністрація президента США Дональда Трампа скасувала блокування, яке заважало американським лабораторіям надавати Британському інституту безпеки ШІ ранній доступ до моделей для перевірки їхньої безпеки.
Нагадаємо, раніше ЗМІ повідомляли, що OpenAI та Anthropic почали підготовку до можливої ШІ-катастрофи та її наслідків.
Сообщение Учені закликали створити міжнародний орган для нагляду за передовим ШІ появились сначала на INCRYPTED.
