Применение искусственного интеллекта в управлении криптопроектами повышает их уязвимость. Об этом заявил основатель Ethereum Виталик Бутерин.
«Если вы используете ИИ для распределения финансирования проектов, люди неизбежно начнут взламывать этот алгоритм, требуя „выдать все деньги” любыми способами», — отметил он.
Бутерин отреагировал на пост создателя платформы EdisonWatch Эйто Миямуры. Тот продемонстрировал, как с помощью новой функции ChatGPT можно красть конфиденциальную информацию пользователей.
Широкое использование ИИ для создания торговых ботов и портфельных агентов в криптосреде естественным образом привело к возникновению идеи о полной автоматизации управления протоколами на основе этой технологии.
В качестве решения основатель Ethereum предложил модель информационных финансов (info finance), которую разработал еще в 2024 году. Она предполагает создание открытого рынка для конкурирующих моделей искусственного интеллекта, которые проверяются состоящим из людей жюри.
«[Этот подход] обеспечивает как модельное разнообразие в реальном времени, так и встроенные стимулы для авторов моделей и внешних наблюдателей оперативно выявлять и исправлять подобные проблемы», — подчеркнул Бутерин.
Ранее программист раскритиковал тренд на создание «чрезмерно агентных» ИИ-моделей и призвал усиливать человеческий контроль для повышения качества и безопасности.
Реакция сообщества
Пользователи неоднозначно восприняли заявление Бутерина. Один из них даже обвинил основателя Ethereum в лицемерии.
«Выходит, по-вашему, не стоит отдавать общественные блага на аутсорс ИИ, так как люди его взломают и сделают предвзятым в вопросах поддержки? И вы не видите, насколько это лицемерно?» — написал он.
Другие участники обсуждения предложили контраргументы. Некоторые отметили , что ограничение действий ИИ смарт-контрактами может сделать управление более гибким и прозрачным:
«Если доступные действия ИИ предписаны и ограничены смарт-контрактами, управление может быть очень эффективным. Это не сильно отличается от мультисиг-кошельков , но с возможностью проверки логики принятия решений».
Часть сообщества усомнилась в практической применимости модели информационных финансов для финансирования общественных благ. Основатель EigenLayer Шрирам Каннан указал на сложность оценки субъективных решений.
«Условные рынки кажутся слабым решением для таких задач — истинная ценность (что стоит финансировать) часто не имеет объективного ответа в будущем», — заявил он.
Проблему взломов Каннан считает временной. По его словам, разработчики решат ее «достаточно быстро».
Как ChatGPT помогает красть данные?
10 сентября OpenAI добавила в ChatGPT поддержку инструментов Model Context Protocol, который позволяет интегрировать ИИ с другими программами для работы в роли агента.
Миямура назвал обновление «значительной угрозой безопасности». По его словам, злоумышленники могут отправлять календарные приглашения с вредоносным промтом на электронную почту жертвы.
Если пользователь попросит ChatGPT проверит календарь, чат-бот прочитает зараженный код даже без принятия приглашения. В таком случае атакующий «перехватывает» ИИ и выполняет с помощью него разные команды — например, ищет личные письма жертвы и крадет конфиденциальную информацию.
Миямура подчеркнул, что для обновления чат-бота необходимо ручное подтверждение.
«Усталость от принятия решений — реальная проблема. Обычные люди часто слепо доверяют ИИ, автоматически нажимая „подтвердить”. ИИ может быть очень умным, но его тоже можно обмануть и фишинговыми методами заставить раскрыть ваши данные самыми примитивными способами», — предупредил он.
Ранее злоумышленники научились использовать Grok для публикации в X запрещенных ссылок.
Команда по ИИ в Ethereum Foundation
15 сентября ведущий разработчик сети второй по капитализации криптовалюты Давид Крапис объявил о создании команды по искусственному интеллекту в Ethereum Foundation.
«Наша миссия — сделать Ethereum основной платформой для расчетов и координации между ИИ и машинной экономикой», — написал он.
Крапис выделил два основных направления, на которых сфокусируется новая структура:
- разработка механизмов, позволяющих ИИ-агентам и роботам проводить платежи, координировать действия и соблюдать правила без участия посредников;
- создание открытых, проверяемых и устойчивых к цензуре альтернатив, чтобы будущее искусственного интеллекта не контролировалось небольшой группой корпораций.
В краткосрочной перспективе команда завершит разработку стандарта ERC-8004 для транзакций ИИ-агентов . Его представят на конференции Devconnect в ноябре.
Будь в курсе! Подписывайся на Телеграм.
