Anthropic приостановила выпуск следующей версии ИИ "Claude Mythos" из-за опасений, запускает проект "Project Glasswing" с более чем 40 компаниями.

Основные моменты статьи:

• Общий доступ к "Claude Mythos" приостановлен, запущен киберзащитный проект.
• Предоставлены кредиты на использование в размере до 100 миллионов долларов в рамках "Project Glasswing".

Запуск "Project Glasswing"

Компания Anthropic, занимающаяся разработкой ИИ, 7 числа объявила о приостановке выпуска передовой модели "Claude Mythos Preview" из-за рисков в области кибербезопасности.

Вместо этого компания запускает "Project Glasswing", который будет предоставлять эту новую модель технологическим компаниям для усиления их мер безопасности.

Anthropic сотрудничает с такими компаниями, как Amazon Web Services (AWS), Apple, Cisco, Google, JP Morgan, Microsoft, Nvidia и другими, чтобы выявлять и устранять недостатки в широко используемых системах во всем мире.

Разрабатываемая модель следующего поколения "Claude Mythos" была скомпрометирована в конце марта, когда внутренняя документация была утечена. Особенно важным было то, что она может быстро обнаруживать недостатки программного обеспечения и автоматизировать атаки, что представляло собой серьезный риск для кибербезопасности.

Существует вероятность того, что, узнав о содержании модели, Anthropic быстро запустила проект для ее использования в целях защиты.

Фон: Утечка материалов разрушительного ИИ "Claude Mythos" от Anthropic вызывает опасения в секторах кибербезопасности и криптовалют

Утекли материалы неопубликованной модели "Claude Mythos" от Anthropic. Выявлена чрезвычайно мощная способность к обнаружению уязвимостей. Компании, занимающиеся кибербезопасностью, такие как Palo Alto Networks, а также сектор криптовалют, выразили обеспокоенность и значительно снизились в цене.

Anthropic заявила, что благодаря "Claude Mythos" стало известно, что модели ИИ обладают кодированием, превосходящим навыки даже самых опытных людей, в способности обнаруживать и использовать уязвимости программного обеспечения.

Действительно, "Claude Mythos" уже обнаружил тысячи уязвимостей, о которых разработчики не знали, включая основные операционные системы и веб-браузеры. Компания добавила:

Учитывая скорость развития ИИ, распространение таких возможностей среди субъектов, не стремящихся к безопасной эксплуатации, станет вопросом времени.

Воздействие на экономику, общественную безопасность и национальную безопасность может быть весьма значительным. "Проект Glasswing" – это срочная инициатива по использованию этих возможностей в оборонительных целях.

Предоставление кредитов на использование в размере до 16 миллиардов иен

В рамках "Проекта Glasswing" более 40 компаний и организаций используют "Claude-3" для сканирования как собственных, так и систем с открытым исходным кодом, чтобы обеспечить безопасность.

Компания Anthropic предоставляет кредиты на использование "Claude-3" на сумму до 1 миллиарда долларов США (около 16 миллиардов иен) для этих усилий, а также делает прямые пожертвования организациям, занимающимся безопасностью открытого исходного кода, в размере 40 миллионов долларов США (около 6 миллиардов иен).

Компания заявила, что, с оптимистичной точки зрения, возможности моделей искусственного интеллекта, которые могут быть использованы в злонамеренных целях, также ценны для обнаружения и исправления дефектов программного обеспечения и значительного сокращения уязвимостей безопасности. "Проект Glasswing" – это важный шаг к обеспечению устойчивого преимущества для обороняющейся стороны.

По словам Джареда Каплана, главного научного сотрудника Anthropic, название "Glasswing" происходит от названия бабочки, у которой есть крылья, похожие на стекло, позволяющие ей оставаться незаметной.

Подход, учитывающий "эмоции" ИИ

Специалист по вопросам благополучия ИИ в компании, Кайл Фиш, 8 числа сообщил о проведении "оценки благополучия модели" для "Claude-3 Preview", в ходе которой изучались "внутренние представления, связанные с самоотчетом, поведением и эмоциями".

Это шаг к концепции "согласия модели". Подход заключается в том, чтобы рассматривать модель ИИ как самостоятельную сущность, позволяя ей выражать свое мнение о своей "ситуации", "обучении", "способе использования" и "потенциальной боли", и учитывать это при разработке.

"Claude-3 Preview" была оценена как "самая психологически стабильная модель". Привлекает внимание тот факт, что компания рассматривает ИИ как существо, обладающее эмоциями, как люди.

Статья: Администрация Трампа в США объявила национальную политику ИИ, направленную на то, чтобы "граждане могли извлекать выгоду из искусственного интеллекта"

Белый дом США объявил о структуре национальной политики ИИ. В ней поставлены шесть основных целей, включая защиту детей, уважение авторских прав, свободу выражения мнений и содействие инновациям, и планируется законодательное закрепление этих целей в сотрудничестве с Конгрессом.

📊 Информацию о том, как купить Ethereum и каковы его долгосрочные перспективы и прогнозы цен, можно найти в этом всеобъемлющем руководстве, которое постоянно обновляется.

Что такое Ethereum? | Последние новости, ключевые моменты Как купить Ethereum? | Рекомендуемые биржи и инструкция по покупке Прогноз цены и перспективы Ethereum | Обзор мнений экспертов Как использовать MetaMask? | Начало работы и настройки

Специальные статьи CoinPost New!

📊Руководство по инвестициям: Начните инвестирование в экосистеме SBI | Комплексное руководство по криптовалютам, акциям и NISA→ 📈Руководство по акциям: Как начать инвестировать в акции | Базовые знания, технический анализ, акции, связанные с криптовалютами→ 🔰Руководство по криптовалютам: Что такое криптовалюта? Начало работы, налоги и инвестирование | Полное руководство для начинающих→ ₿Руководство по Bitcoin: Что такое Bitcoin? | Подробное объяснение принципов работы, истории и перспектив→ 📚Руководство по Ethereum: Что такое Ethereum? | Подробное объяснение принципов работы, истории и перспектив→ 📝Руководство по XRP: Что такое XRP? | Подробное объяснение принципов работы, истории и перспектив→ 💰Что такое стейблкоины? | Подробное объяснение принципов работы, видов, рисков и перспектив→ 💊Здоровье и производительность: 3 добавки, на которые обращают внимание инвесторы | Поддержка при усталости, стрессе, недостатке сна и высоком уровне сахара в крови→ 💡Вакансии: Крупнейшее в Японии медиа о криптовалютах CoinPost ищет новых сотрудников→