Ограничивать нужно ИИ, а не пользователей. Виталик Бутерин одобрил решение компании Moonshot AI исключить данные, связанные с кибербезопасностью, из обучающего набора данных Kimi 3.1. Сооснователь Ethereum считает это правильным способом избежать ситуации, когда доступ к ИИ будет зависеть от предоставления документов, удостоверяющих личность.

Основные моменты статьи:

• Компания Moonshot AI удалила данные, связанные с кибербезопасностью, из обучающего набора данных Kimi 3.1 Pro.
• Отфильтрованная модель решает 81,0% задач внутреннего тестирования, в то время как необработанная модель справляется с 90,5%.
• Открытые веса планируется опубликовать не позднее 4 ноября 2026 года.
• Виталик Бутерин прогнозирует появление "закрытых" моделей и доступа к ним только после прохождения процедуры идентификации личности (KYC) в случае нежелательных последствий.

Почему фильтровать ИИ, а не пользователей?

Moonshot AI – это лаборатория искусственного интеллекта, расположенная в Пекине, которая планирует опубликовать открытые веса своей новой модели Kimi K3.1 Pro не позднее 4 ноября. Каждый сможет загрузить ее и запустить на своем собственном сервере. Действительно, эта модель, с более чем 3 триллионами параметров, требует серьезной инфраструктуры для работы.

Лаборатория сообщила, что удала данные, связанные с кибербезопасностью, из своего обучающего набора данных и сред обучения с подкреплением, в то время как данные, связанные с общими задачами программирования, были сохранены.

Я согласен с тем, что Kimi 3.1 намеренно исключает передовые возможности в области кибербезопасности из своих обучающих данных.

Дискриминация по признаку использования гораздо менее вредна, чем дискриминация по признаку пользователей. И миру нужно все время, которое только возможно, чтобы подготовиться, укрепить защиту, проверить...

— vitalik.eth (@VitalikButerin) 26 октября 2026 года

Этот подход меняет все для модели с открытыми весами, потому что после публикации открытых весов контроль после обучения становится более сложным. Исключение знаний в области кибербезопасности на раннем этапе, на уровне данных, переносит границу ограничений на этап обучения.

Виталик Бутерин защитил свою точку зрения в X в воскресенье, 25 октября, заявив, что дискриминация по признаку использования гораздо менее вредна, чем дискриминация по признаку пользователей.

"Если эта первая волна пойдет не так, у нас будут "закрытые" модели, KYC повсюду и всеобъемлющий контроль."

Виталик Бутерин, сооснователь Ethereum

Что, если первая волна пойдет не так?

Создатель Ethereum не представляет эту систему фильтрации как окончательное решение, а скорее как гонку со временем. Атаки, использующие искусственный интеллект, будут продолжать множиться. На прошлой неделе это стало очевидным: ни дня не проходило без обнаружения серьезной уязвимости.

В течение этого времени разработчики имеют возможность укрепить свои системы, провести аудит устаревшего кода и формально проверить новые программные продукты.

Угроза уже реальна: Binance Research в этом году подсчитала, что искусственный интеллект использует смарт-контракты примерно в два раза эффективнее, чем выявляет уязвимости, что является серьезным дисбалансом, подробно описанным в нашей предыдущей статье об угрозе, исходящей от ИИ.

Стоимость использования системы фильтрации имеет свою цену. Компания Moonshot утверждает, что ее отфильтрованная модель решила 81,0% задач в ходе внутреннего тестирования, в то время как нефильтрованная версия справлялась с 90,5%. Действительно, лаборатория пошла на этот компромисс, чтобы снизить потенциальную "атакующую" способность модели.

Этот разрыв не защитит никого надолго. По данным той же лаборатории, конкурирующая открытая модель DeepSeek V4.1-Flash уже достигает 85,7% по тому же показателю.

И Виталик Бутерин не ожидает, что другие лаборатории откажутся от этих возможностей: отвечая на вопрос об этом, он заявил, что они будут развивать эти возможности. Риски, связанные с этим, хорошо задокументированы в предыдущих случаях взломов, совершенных агентами ИИ.

В любом случае, ключевую роль играет оборона. Протоколы, которые укрепляют свои системы до первого крупного взлома, получают преимущество в этой гонке со временем.