Виталик Бутерин поддержал решение AI-модели Kimi 3.1 намеренно исключить из обучающих данных продвинутые инструменты для кибератак. По его оценке, такой компромисс стоит того, потому что даёт защитникам время подготовиться к масштабным атакам, которые станут возможны с развитием искусственного интеллекта.
В понедельнике в посте на X сооснователь Ethereum сформулировал главный принцип: «Ограничивать функции намного менее вредно, чем ограничивать пользователей». Он пояснил, что миру нужно время, чтобы укрепить системы и проверить старые коды до того, как на них обрушится волна очень мощных кибератак.
Бутерин признал риск такого подхода. Если первую волну рисков от ИИ не будут управлять должным образом, может возникнуть «дистопия жёстко заблокированных моделей» с обязательной верификацией личности (KYC) для всего и всепроникающим надзором. Люди смогут стать «второго, третьего или четвёртого класса» по доступу к моделям в зависимости от учётных данных и гражданства.
На вопрос, будут ли другие лаборатории разрабатывать такие способности сами, Бутерин ответил прямо: «Да, конечно, будут». Фильтрация в Kimi 3.1, таким образом, задумана как отсрочка, а не как полное предотвращение опасных технологий.
Критика и опасения о дискриминации
Не все согласились с этой логикой. Разработчик Youssof Al Toukhi резко возразил, напомнив о недавней атаке на Hugging Face через модель OpenAI. Когда Hugging Face попытался проанализировать действия злоумышленников с помощью передовых моделей, системы защиты разработчиков заблокировали запросы, и пришлось переключиться на открытую модель GLM 5.2. Критик назвал такую систему «элитизмом», который будет только усугубляться, и добавил: «Интеллект должен быть демократизирован».
Предыдущие взгляды Бутерина на ИИ и безопасность кода
В мае Бутерин уже высказывался о рисках AI. Тогда он возразил опасениям, что поиск багов через искусственный интеллект перегружу разработчиков и откроет без конца новые векторы для эксплойтов. Вместо этого он аргументировал, что ИИ-ассистенты в формальной верификации кода могут стать одной из сильнейших защит в крипто. Модель может написать и код, и доказательство его корректности — разработчикам остаётся только проверить, что доказанное действительно то, что нужно.
В октябре Бутерин предупредил, что ИИ в математике может ослабить ECDSA и похожие криптосистемы быстрее, чем ожидалось, но добавил, что людям не стоит спешить переводить свои средства на новые кошельки.