Иногда ответы Google AI Overview и остальных ИИ могут казаться подробными и убедительными, но на самом деле содержат бред. Американский писатель доказал, как легко «втюхать» ИИ ерунду.
В начале зарождения более-менее похожих на современные компьютернх игр в англоязычной среде возникла расшифровка AI как artificial idiot («искусственный идиот»), в значении интеллекта NPC, которые не слишком отличались умным поведением. Кажется, шутка не теряет актуальности и сейчас, когда миллионы людей обращаются к ИИ за советом или за поиском информации. Как замечает PC Gamer, который пересказал эту историю, любая фраза, которую кто-то где-то пишет, вероятно, побуждает Google AI Overview пересматривать свои ответы, и правда здесь не далеко не главный критерий.
Писатель, автор романов о «Звездных войнах» и собственного фэнтези, Чак Вендиг вообще не имеет кота. Но это не помешало обзору Google в качестве источника информации о человеке использовать блог, в котором он шутит о коте по имени Сэр Мяулингтон фон Писсбрет (Sir Mewlington Von Pissbreath). В своем декабрьском сообщении (почитайте, там очень много смешных деталей и скриншотов) Вендиг удивляется, что поиск в Google по запросу «Есть ли у Чака Вендига кот?» привел к появлению обзора ИИ, в котором утверждалось, что у него действительно есть домашний любимец по имени Бумба. Имена отличаются, но это только начало истории, не спешите.
«Пришло время поговорить о моем коте. На что вы, возможно, скажете: «Чак, я не знал, что у тебя есть кот!», а я отвечу: «Я тоже не знал, что у меня есть кот». Но Google, величайшая поисковая система, знает, благодаря своему замечательному, никогда не неточному AI Overview, который вовсе не является куском дерьма, придумывающим информацию», — начинает рассказ Чак.
В дальнейших результатах AI Overview объяснял, что его кот Бумба умер, и что он взял нового кота по имени Франкен. Google ссылался на блог Вендига для получения этой информации: поверхностный поиск в блоге показывает, что он никогда не использовал слов Бумба или Франкен.
Далее Чак рассказывает, что многократные поисковые запросы, связанные с именами его воображаемых домашних животных, привели к тому, что Google постоянно придумывал новые имена и домашних животных одно за другим. Также в ответах, что он болел раком и публично принял христианство — угадайте, происходило ли это на самом деле.
«Что за черт? Теперь есть Кэтлин? Кэтлин дружит с Д’Артаньяном? Есть ли шанс, что все эти коты — это просто оригинальный кот, Бумба? Также у меня есть собака по имени Рокси? Что случилось с моими двумя другими собаками, Лоа и Снубагом? Есть ли у меня еще домашние животные, о которых я не знаю?»
Вендиг завершил пост шутливым упоминанием «своего» кота, которого зовут сэр Мяулингтон фон Писсбрет, который точно настоящий, которому шесть лет, который носит маленький цилиндр и также «ограниченно говорит по-кантонски».
Если читатель удивлен, почему автор рассказывает такую давнюю историю в новостях, то это опять из-за спешки. Ведь через шесть недель после событий, 19 января, Google AI Overview таки включил сэра Мяулингтона в огромный корпус «фактов» о писателе. Чак Вендиг написал об этом в Bluesky (видно только зарегистрированным пользователям, но есть скриншот).
Завершить хочется еще одной цитатой Вендига, которая метко передает суть: «Это просто приятное маленькое напоминание о том, что генеративный ИИ — это дерьмо. Полное дерьмо! Он соскребет все, что мы когда-либо написали, а затем даже не сможет достаточно быстро это разобрать, чтобы дать нам правильный ответ, все время сжигая мир, чтобы солгать нам. Какую же действительно кошмарную вещь мы создали! Иисус Христос, мы уже готовы!»
