Поделиться

Ссылка скопирована

Сооснователь Ethereum, Виталик Бутерин, поддержал решение компании Moonshot AI ограничить продвинутые возможности взлома в своей модели Kimi K3.1 Pro, предупредив, что ненадлежащее управление рисками безопасности, связанными с искусственным интеллектом, может привести к строгим проверкам личности и повсеместной слежке.

В публикации в X от 26 октября Бутерин защитил решение Moonshot исключить из обучения модели продвинутые материалы в области кибербезопасности, утверждая, что разработчикам необходимо больше времени для усиления защиты программного обеспечения от все более мощных атак, осуществляемых с помощью искусственного интеллекта.

Эти комментарии последовали за объявлением Moonshot от 23 октября о выпуске Kimi K3.1 Pro, который уже доступен через ее приложения и API. Китайский стартап планирует опубликовать полные параметры модели к 4 ноября.

Виталик Бутерин поддерживает ограничение опасных возможностей искусственного интеллекта

Позиция Виталика Бутерина заключается в разграничении между ограничением того, что может делать модель искусственного интеллекта, и определением того, кому следует разрешить ее использование.

"Дискриминация по отношению к вариантам использования гораздо менее опасна, чем дискриминация по отношению к пользователям", - написал он, поддерживая решение Moonshot исключить продвинутые возможности кибербезопасности из процесса обучения.

Я согласен с тем, что Kimi 3.1 намеренно исключает из своих данных для обучения самые передовые возможности кибербезопасности.

Дискриминация по отношению к вариантам использования гораздо менее опасна, чем дискриминация по отношению к пользователям. И миру нужно все возможное время, чтобы подготовиться, укрепить защиту, проверить старое...

— vitalik.eth (@VitalikButerin) 26 октября 2026

Он утверждал, что миру необходимо время, чтобы подготовиться к мощным атакам, осуществляемым с помощью искусственного интеллекта, путем укрепления существующей инфраструктуры, проверки старого программного обеспечения и применения формальной верификации к вновь разработанному коду.

Формальная верификация предполагает математическую проверку того, соответствует ли программное обеспечение заданным требованиям. Бутерин неоднократно поддерживал этот подход как способ выявления уязвимостей в системе безопасности до развертывания программ.

В сентябре он отклонил утверждения о том, что использование искусственного интеллекта для взлома в конечном итоге сделает кибербезопасность невозможной, утверждая, что автоматизированная верификация может улучшить способность защитников обеспечивать безопасность программного обеспечения.

Вам также может быть интересно: Виталик Бутерин предлагает новый способ работы с криптографией Ethereum

Его последние комментарии не указывали на то, что удаление опасных материалов для обучения предотвратит создание более мощных моделей другими разработчиками.

Когда пользователь X с ником LOID спросил, разработают ли конкурирующие лаборатории в конечном итоге продвинутые возможности для проведения кибератак, Бутерин ответил: "Да, конечно, они это сделают".

Moonshot зафиксировала измеримые результаты от ограничений безопасности Kimi

Компания Moonshot представила Kimi K3.1 Pro как улучшенную модель с открытым исходным кодом, построенную на существующей архитектуре Kimi K3.

Согласно техническому объявлению компании, разработчики удалили определенные данные, связанные с кибератаками, из процесса обучения и обучения с подкреплением, сохранив при этом общие возможности программирования.

Это решение снизило производительность модели в рамках внутренних тестов Moonshot на выявление уязвимостей. Версия без ограничений решила 90,5% задач, в то время как выпущенная модель – 81%.

Разница составляет 9,5 процентных пункта, хотя компания еще не определила, как это снижение отражается на реальной предотвращении кибератак.

Moonshot сообщила, что предыдущая модель Kimi K3 показала результат 33,3% в том же тесте, что указывает на то, что обновленная модель с ограничениями все же демонстрирует значительно лучшие результаты в собственных тестах компании.

В тесте Terminal-Bench 4.0 новая модель показала результат 65,7%, в то время как Moonshot сообщила результаты 66,4% для Claude Opus 5.5 и 58,2% для GPT-6 Astra.

Эти показатели производительности получены в результате тестирования Moonshot и не были независимо подтверждены.

Компания выпустила версию Highspeed, которая, по ее словам, работает в два-три раза быстрее, чем стандартная версия.

Бутерин предупреждает, что сбои в работе ИИ могут привести к более строгим мерам контроля доступа

Помимо непосредственных проблем кибербезопасности, Виталик Бутерин предупредил, что правительства и технологические компании могут отреагировать на серьезные инциденты, связанные с ИИ, путем введения ограничений для обычных пользователей.

Он описал возможное будущее, в котором будут использоваться "заблокированные" модели, обязательная процедура идентификации клиентов и навязчивое наблюдение.

В таких условиях доступ к продвинутым инструментам ИИ может зависеть от национальности человека, документов, удостоверяющих личность, или других учетных данных.

Бутерин предупредил, что некоторые пользователи могут стать "участниками второго, третьего или даже четвертого класса" в зависимости от их квалификации или гражданства.

Его опасения соответствуют его недавним экспериментам, связанным с приватным доступом к ИИ.

16 октября он представил систему, ориентированную на конфиденциальность, которая сочетает в себе маршрутизацию через Tor, анонимные платежи через zkAPI и локальную переработку запросов для уменьшения объема личной информации, передаваемой внешним моделям.

Эта система была разработана для того, чтобы позволить пользователям получать доступ к сервисам ИИ, ограничивая при этом раскрытие их личности и активности.

Кибербезопасность ИИ остается проблемой для разработчиков блокчейна

Независимые оценки ранее изучали возможности проведения кибератак с использованием моделей Moonshot.

В июле Центр стандартов и инноваций в области искусственного интеллекта (ИИ) США и Институт безопасности ИИ Великобритании провели оценку модели Kimi K3 в условиях имитированных кибератак.

Исследователи обнаружили, что производительность модели оказалась ниже, чем у ведущих систем, способных к проведению кибератак, но при этом она все еще могла предпринимать попытки проведения атакующих операций, несмотря на существующие меры защиты.

В ходе одной из имитированных атак на корпоративную сеть модель Kimi K3 в среднем выполняла 17 из 32 этапов, в то время как наиболее продвинутые американские модели, участвовавшие в тестировании, выполняли в среднем 28,5 этапов.

Оценка охватывала предыдущую версию Kimi K3, а не недавно выпущенную K3.1 Pro.

Ранее Виталик Бутерин предлагал направить больше усилий в области разработки с использованием ИИ на тестирование безопасности и математическую верификацию.

В мае он выделил области применения данного подхода в виртуальных машинах Ethereum с использованием технологий "нулевого знания", криптографических доказательствах, системах консенсуса и исследованиях в области квантово-устойчивой безопасности.

Читайте далее: Криптовалютный обзор недели: Биткоин столкнется с проверками со стороны Федеральной резервной системы, инфляцией и ВВП