Десятилетняя личная вражда, которая могла бы не произойти, если бы не "лицемерие" OpenAI, привела к созданию Anthropic, одной из самых сильных AI-компаний в мире.

По сути, это глубокий философский спор о границах власти и контроля в области ИИ, который развернулся как личная вражда между двумя чрезвычайно талантливыми лидерами. Технологические подходы, конкуренция в бизнесе и даже геополитические игры – все это лишь внешние проявления основного противоречия.

С точки зрения криптографии и децентрализации, конфликт между Дарио Амодеем и Сэмом Альтманом/Брокманом – это, по сути, финальная битва между идеей "суверенного индивида" и моделью "технологического гиганта" в эпоху ИИ. Позиция Амодея ближе к основному духу криптомира: глубокое недоверие к централизованной власти. Он считает, что огромная власть ИИ должна быть сбалансирована и не может быть сосредоточена в руках какой-либо одной сущности – будь то компания или правительство. Он сравнивает OpenAI с "табачной компанией", обвиняя ее в "лицемерии", и, по сути, критикует ее за создание централизованной, закрытой системы, которая может приносить выгоду самой себе, нанося ущерб обществу. Он настаивает на том, что модели ИИ не должны использоваться для массовой слежки и автономного оружия, что является установлением технологических границ для защиты индивидуальной свободы и предотвращения превращения ИИ в инструмент окончательного угнетения.

Альтман и Брокман представляют собой классическую "силиконовскую" модель "достижения широкого распространения через централизацию". Они считают, что для безопасного развития и распространения AGI необходимо сотрудничать с существующими мощными структурами (например, правительством, армией) и накапливать достаточно капитала и влияния в этом процессе. Сотрудничество с Пентагоном и развертывание моделей в секретных сетях – это продолжение этой логики. Такой подход, основанный на централизованных решениях, неизбежно приводит к острой конфронтации с децентрализованным доверием и строгими принципами безопасности, которые отстаивает Амодей.

Еще одна ключевая грань этого конфликта – это идеологическая борьба между "эффективным альтруизмом" (EA) и "эффективным ускорением" (e/acc). Амодей и Карнофски находятся под сильным влиянием EA, которая основана на неприятии рисков и долгосрочном планировании и требует максимальной уверенности в безопасности ИИ, даже если это означает жертву развития. Это объясняет, почему Anthropic занимает непримиримую позицию в контрактах с Пентагоном, предпочитая рисковать серьезными коммерческими последствиями, включая возможное запрещение со стороны правительства, ради соблюдения своих принципов безопасности.

Напротив, подход OpenAI ближе к некоторым идеям e/acc: принятие технологического ускорения и постепенное формирование будущего путем интеграции с существующими системами. Эта фундаментальная разница в мировоззрении делает невозможным примирение сторон по таким вопросам, как прозрачность технологий (следует ли сначала сообщать правительству), распределение власти (кому подчиняются руководители) и даже корпоративная культура.

В конечном итоге, этот спор, начавшийся в гостиной, имеет гораздо большее значение, чем просто личные сплетни. Он предлагает рынку и обществу два совершенно разных варианта будущего ИИ: один – это ИИ, представленный Anthropic, который ставит во главу угла ограничения и безопасность ("ограниченный, но надежный"); другой – это ИИ, представленный OpenAI, который ставит во главу угла возможности и распространение ("мощный, но требующий осторожности").

Рынок реагирует: корпоративные клиенты выбирают продукты компании Anthropic, но при этом капитал и государственные контракты направляются в OpenAI. Это не просто вопрос "хорошо или плохо", а скорее отражает фундаментальное противоречие в управлении искусственным интеллектом: мы одновременно стремимся к тому, чтобы ИИ обладал божественными способностями, и боимся, что он обретет демонические силы. Конкуренция и взаимоотношения этих двух компаний – это проекция коллективной тревоги в реальном мире.