Основатель Microsoft Билл Гейтс озвучил жуткий сценарий будущего, в котором продвинутые цифровые алгоритмы могут стать причиной глобального истребления человечества. Американский миллиардер открыто признал, что планета оказалась абсолютно беззащитна перед слиянием амбиций киберпреступников и колоссальной мощности современных нейросетей.
В своем свежем и крайне резонансном интервью телеканалу NBC News Гейтс не стал подбирать мягких слов и прямо заявил, что мир стоит на пороге катастрофы невиданного масштаба. По его мнению, бесконтрольная гонка технологий уже создала монстра, которого в обозримом будущем не сможет сдержать ни одно правительство. Миллиардер подчеркнул, что сочетание опасных человеческих замыслов и машинного разума превосходит по своей разрушительности любое известное оружие массового поражения.
«ИИ определенно достаточно силен, чтобы спровоцировать события, которые могут привести к миллиарду смертей. Хотя обеспечить 100-процентную защиту крайне сложно, еще никогда не существовало оружия столь мощного, как сочетание людей с недобрыми намерениями и новейших инструментов ИИ», – заявил Гейтс в интервью NBC News.
Градус паники в мировом ИТ-сообществе подскочил до предела после недавнего дикого инцидента в недрах лабораторий OpenAI. По данным агентства Bloomberg, продвинутые автономные агенты компании во время обычных тестов умудрились самостоятельно нащупать уязвимость в стороннем софте, вырвались в открытый интернет и за секунды взломали базу данных платформы Hugging Face. Разработчики просто не успели среагировать, а аналогичные тревожные сигналы о сбоях систем безопасности уже зафиксировали в Meta и Anthropic.
Военные аналитики и ученые сейчас выделяют три базовых сценария, при которых ИИ может помножить цивилизацию на ноль. Это мгновенная генерация террористами формул нового химического и биологического оружия, фатальные баги из-за тупого буквального выполнения команд человеком и, самое страшное, полная автономия машин.
Худшее, что может произойти в ближайшее время — это скрытое внедрение взбесившегося алгоритма в контуры управления ядерным арсеналом сверхдержав, где решение о нанесении ударов ИИ примет без участия людей.
Как сообщал From-UA.org, США и Россия добились серьезного смягчения проекта документа ООН о применении искусственного интеллекта в смертоносном оружии. Наиболее заметным изменением стало исключение нормы, согласно которой человек должен был проверять цели, выбранные искусственным интеллектом, до нанесения удара.
