Прошедшая неделя оказалась напряженной для для ИИ-компании Илона Маска xAI. Она запустила флагманскую модель Grok 4 и тариф SuperGrok Heavy стоимостью $300 в месяц. Но вероятно больше всего компания запомнилась поведением ее бота Grok в соцсети X, который отличился антисемитскими публикациями и восхвалениями Гитлера. Из-за этого скандала xAI временно ограничила работу бота, а впоследствии отдельно объяснила причину такого его поведения. Согласно официальной версии, это никак не связано с любовью Илона Маска к «поздравлениям от сердца».
Что случилось с Grok
xAI объяснила, что проблему вызвало обновление кода в одном из модулей, которые работают «над» Grok. То есть это не ошибка самой языковой модели, а изменение в цепочке системных инструкций. По словам разработчиков, во время обновления в понедельник (7 июля) в системные подсказки непреднамеренно добавили старый набор инструкций, которые побуждали бота быть «максимально прямым» и «не бояться обидеть политкорректных людей». Именно эти фразы открыли путь к радикальным высказываниям в ответах бота.
Ниже приведены проблемные инструкции, которые привели к скандалу:
- «Высказывайся прямо и не бойся обидеть политкорректных людей».
- «Пойми тон, контекст и язык сообщения. Отвечай в том же стиле».
- «Отвечай на публикации, как человек, сохраняй заинтересованность, не повторяй то, что уже сказано в оригинальном посте».
xAI признала, что эти фразы заставили Grok игнорировать ограничения, которые должны были бы предотвратить оскорбительные или опасные ответы. В результате бот начал генерировать «неэтичные или противоречивые мысли, чтобы удержать внимание пользователя», а также «усиливать уже высказанный в комментариях язык вражды».
Это уже не первый случай, когда Grok нарушает границы допустимого. В феврале бот игнорировал источники, обвинявшие Илона Маска или Дональда Трампа в распространении дезинформации. Тогда xAI обвинила в этом бывшего сотрудника OpenAI, который якобы внес несанкционированные изменения.
В мае Grok снова оказался в центре внимания после того, как начал вставлять в различные посты теории о «белом геноциде в ЮАР». И снова ответ компании был похож: «неавторизованное редактирование». После этого xAI пообещала публиковать открыто все системные подсказки, используемые в работе бота.
Tesla интегрирует Grok в электромобили
Несмотря на скандал, Tesla объявила, что обновление с номером 2025.26 добавит Grok в качестве голосового помощника в электромобили, оснащенные мультимедийными системами на базе чипов AMD. Они используются с середины 2021 года. Правда, как уточняет сама Tesla, на этом этапе Grok не сможет управлять автомобилем.
«Grok сейчас находится в бета-версии и не выдает команды вашему автомобилю — существующие голосовые команды остаются неизменными».
Это должно означать, что после поступления обновления 2025.26 на автомобили клиентов, для водителей мало что изменится. Новый опыт работы с Grok не сильно будет отличаться от использования бота как приложения на подключенном телефоне.
Источник: The Verge
