Генеральный директор OpenAI призывает США подготовиться к рискам и преимуществам "сверх-интеллекта" в области ИИ

Генеральный директор OpenAI Сэм Альтман заявил, что политикам США необходимо действовать сейчас, чтобы подготовиться к развитию искусственного интеллекта, предупреждая, что эта технология переходит от теории к практическому применению в экономике.

В интервью Axios Альтман сказал, что системы искусственного интеллекта уже выполняют задачи по программированию и исследованиям, которые ранее требовали команд программистов. Новые модели, по его словам, пойдут еще дальше, помогая ученым совершать важные открытия и позволяя отдельным лицам выполнять работу целых групп.

Этот сдвиг уже заметен в области кибербезопасности, где некоторые лидеры отрасли утверждают, что искусственный интеллект склоняет баланс в пользу злоумышленников.

Например, главный технический директор компании Ledger, производящей аппаратные кошельки, Чарльз Гиллемет, заявил изданию CoinDesk, что инструменты искусственного интеллекта снижают стоимость и уровень квалификации, необходимые для поиска и эксплуатации уязвимостей в программном обеспечении. Задачи, которые раньше занимали месяцы, такие как обратная инженерия кода или выявление нескольких уязвимостей, теперь могут быть выполнены за считанные секунды с использованием правильных запросов.

В прошлом году криптоиндустрия понесла убытки более чем в 1,4 миллиарда долларов из-за краж и потерь активов в результате атак. Эта цифра, по мнению Гиллемета, может продолжать расти. Кроме того, разработчики все чаще используют код, сгенерированный искусственным интеллектом, что может потенциально привести к появлению новых уязвимостей в больших масштабах.

Для решения этой проблемы, по его словам, потребуются более надежные средства защиты, такие как код, прошедший математическую верификацию, аппаратные устройства, хранящие закрытые ключи в автономном режиме, и более широкое осознание того, что системы могут выходить из строя.

ИИ в кибербезопасности и биобезопасности

Альтман отметил, что искусственный интеллект может ускорить разработку лекарств или материаловедение, но также предупредил, что он может позволить проводить более мощные кибератаки и снизить порог для проведения вредных биологических исследований. Такие угрозы могут возникнуть в течение года, что делает координацию между правительством, технологическими компаниями и группами безопасности крайне важной.

"Мы не так далеки от мира, в котором существуют невероятно мощные модели с открытым исходным кодом, которые очень хорошо справляются с задачами в области биологии", - сказал он. "Необходимость того, чтобы общество было устойчивым к террористическим группам, использующим эти модели для создания новых патогенов, уже не является теоретической проблемой".

Другим примером, который он привел, является "шокирующая кибератака", которая может произойти уже в этом году. Чтобы этого избежать, по его словам, потребуется "огромный объем работы".

Он представил предложения OpenAI в качестве отправной точки, стремясь стимулировать дискуссию о том, как управлять системами, которые быстро обучаются и действуют в различных областях. Использование искусственного интеллекта для защиты от этих потенциальных атак, по его словам, имеет важное значение.

Что касается возможной национализации OpenAI, Альтман сказал, что аргументы против этого основаны на необходимости для США достичь "сверх-интеллекта" раньше, чем их конкуренты.

«Наибольшим аргументом против национализации было бы то, что нам необходимо, чтобы США добились успеха в создании сверхинтеллекта, который соответствовал бы демократическим ценностям Соединенных Штатов, прежде чем это сделает кто-либо другой. Я думаю, что это, вероятно, не сработало бы как государственный проект, и это, на мой взгляд, печально».

Тем не менее, Альтман считает, что компании, занимающиеся разработкой ИИ, должны тесно сотрудничать с правительством США.

Учитывая свою роль в OpenAI, Альтман также имеет финансовый интерес в том, как развивается этот сектор. Эта позиция может влиять на то, как он представляет как срочность регулирования, так и роль частных компаний, таких как OpenAI, в управлении возникающими рисками, что может повлиять на конкурентоспособность компании.

ИИ как коммунальная услуга

Энергетика – одна из областей, где, по его мнению, наблюдается быстрый прогресс, поскольку увеличение вычислительной мощности может снизить затраты по мере роста спроса на ИИ.

Альтман также отметил первые признаки изменений в сфере труда. По его словам, программист в 2026 году уже работает иначе, чем год назад.

ИИ станет своего рода коммунальной услугой, как электричество, встроенной во все устройства, при этом стоимость базового интеллекта будет снижаться, а самые передовые системы останутся дорогими.

«У вас будет этот персональный супер-помощник, работающий в облаке», – сказал Альтман. «Если вы будете активно его использовать или использовать на высоком уровне интеллекта, у вас будет более высокая плата в месяц, а если вы будете использовать его меньше, у вас будет более низкая плата».

«Крайне важно, чтобы люди, разрабатывающие ИИ, были людьми с высокими моральными качествами и заслуживающими доверия».