Основатель Ethereum, Виталик Бутерин, поддержал решение компании Moonshot AI о том, чтобы не включать в свою модель Kimi K3.1 Pro продвинутые инструменты для проведения кибератак.

Кратко:

• Он считает, что ограничение функциональности модели гораздо предпочтительнее, чем ограничение круга пользователей, и опасается, что сбои в системах безопасности ИИ могут привести к обязательной проверке личности и усилению контроля.
• Собственные тесты компании Moonshot показали, что отфильтрованная модель решает 81% задач, связанных с эксплуатацией уязвимостей, в то время как нефильтрованная модель справляется с 90,5%. Открытый доступ к весам модели запланирован на 4 ноября.
• Эти данные предоставлены компанией Moonshot и не были независимо подтверждены.

Бутерин выступает за осторожность

В своем посте в X от 26 октября Бутерин заявил, что считает целесообразным намеренное исключение из обучающих данных модели Kimi K3.1 передовых возможностей для проведения кибератак. Его аргументация связана со временем. По его мнению, миру необходимо время, чтобы укрепить системы, пересмотреть старое программное обеспечение и применять формальную верификацию к новому коду, прежде чем атаки, осуществляемые с помощью ИИ, станут обычным явлением.