Сооснователь Ethereum Виталик Бутерин в понедельник опубликовал в социальной сети X сообщение, в котором заявил, что он не возражает против того, чтобы в обучающие данные модели искусственного интеллекта Kimi 3.1 намеренно не включались самые современные возможности для проведения наступательных кибератак.

По его мнению, такая мера оправдана, поскольку она дает больше времени для подготовки средств защиты.

Ограничение вариантов использования, а не пользователей

«Ограничение вариантов использования гораздо менее вредно, чем ограничение пользователей», — написал Бутерин.

По его словам, миру нужно время, чтобы укрепить системы и проверить старый код, прежде чем «вся мощь очень сильных кибератак обрушится на нас». Проще говоря, он предпочитает модель, которая отказывает в выполнении определенных задач для всех, а не модель, которая отказывает в доступе определенным людям.

Он также описал возможные негативные последствия. Если «с первой крупной волной рисков, связанных с ИИ, не удастся справиться должным образом», предупредил он, результатом может стать «антиутопическая ситуация, когда модели будут сильно ограничены», и для всего потребуется проверка KYC, которая привязывает учетную запись к подтвержденной личности, а также навязчивое наблюдение. В зависимости от учетных данных и гражданства человек может оказаться «гражданином второго, третьего или четвертого сорта» с точки зрения доступа к модели.

На вопрос пользователя X под ником LOID, не создадут ли другие лаборатории эти возможности в любом случае, Бутерин ответил: «Да, конечно, создадут». Если рассматривать это в контексте аргумента о необходимости времени, то фильтрация призвана отсрочить появление таких возможностей, а не предотвратить их.

Не все с этим согласились. «Категорически не согласен», — написал разработчик Юсуф Аль Тукхи, который упомянул недавнюю атаку на Hugging Face, осуществленную моделью OpenAI, и о том, как, когда Hugging Face попытался проанализировать действия злоумышленников с помощью передовых моделей, системы безопасности поставщиков заблокировали запросы, что вынудило перейти на открытую модель GLM 5.2. Назвав эту ситуацию «системой элитизма», которая «со временем будет только ухудшаться», критик добавил: «Интеллект должен быть демократизирован».

Предыдущие высказывания об ИИ и безопасности кода

Как ранее сообщал CryptoPotato, в мае Бутерин опроверг опасения, что поиск ошибок с помощью ИИ перегрузит разработчиков и создаст непрерывные возможности для эксплуатации, заявив, что формальная верификация с помощью ИИ может стать одной из самых эффективных мер защиты в криптографии.

По его словам, модель теперь может создавать как код, так и его доказательство, оставляя разработчикам только подтверждение того, что доказанное утверждение соответствует тому, которое они хотели получить. В своем сообщении в понедельник он назвал формальную верификацию нового кода одной из задач, для которой требуется дополнительное время. Это сообщение от 19 мая появилось после того, как хакер украл более 76 миллионов долларов из кроссчейн-моста Echo Protocol, что стало третьей крупной эксплуатацией за четыре дня.

8 октября он предупредил, что использование искусственного интеллекта в математических расчетах может ослабить ECDSA и аналогичные криптографические системы быстрее, чем ожидалось, однако добавил, что пользователям не следует «в панике переводить свои средства в новые кошельки уже сегодня».