Виталик Бутерин не разделяет растущую озабоченность по поводу того, что ИИ-атаки сделают кибербезопасность невозможной. По его мнению, если правильно построить системы и использовать мощные инструменты верификации, защита может естественным образом получить преимущество над атаками. «Кибербезопасность обречена» — эта идея, считает создатель Ethereum, не соответствует действительности.
Бутерин предложил простой пример. Если искусственный интеллект способен доказать гипотезу Навье — Стокса или Великую теорему Ферма, он сможет доказать и утверждение «эта программа безопасна» как математическую теорему. Даже если программа очень сложная.
Определение безопасности важнее кода
Сложность в другом: дать точное определение, что такое «безопасность» в принципе. Система может иметь множество разных векторов атак, способов утечки информации, вариантов сбоев. Каждый из них требует учёта. И определения становятся огромными и запутанными.
Вот почему Бутерин подчёркивает: нужны определения, которые поймёт человек. Это, пожалуй, единственный по-настоящему важный «высокоуровневый язык» в безопасности. Для критичных компонентов определение часто намного проще, чем сам код. А значит, проверить, соответствует ли определение реальности, легче, чем линия за линией сканировать исходник.
Бутерин видит дополнительный плюс в работе с определениями: их можно комбинировать. Если две группы разработчиков предложили разные критерии безопасности, можно доказать, что программа удовлетворяет обоим. Если критерии друг другу противоречат, конфликт становится явным и требует решения.
Код и программа — не одно и то же
По словам Бутерина, традиционный подход не работает: если ошибка в одной части программы, она может скомпрометировать всё целое. Раньше разработчики проверяли только те части кода, которые считали критичными для безопасности, остальное оставляли без внимания. Когда верификация была редкой и дорогой, это было понятно.
Но современный ИИ меняет ситуацию. Теперь ставка не на то, чтобы «хорошие парни» нашли уязвимость раньше врагов. Правильная стратегия — с самого начала сделать код намного более устойчивым. Особенно это критично для блокчейнов, ориентированных на масштабируемость и приватность. Без такой работы, убежден Бутерин, их будущее под вопросом.