Компания Block, занимающаяся платежными системами, основанная Джеком Дорси, представила модель голосового искусственного интеллекта, которая в демонстрациях компании звучит удивительно похоже на человеческий голос, вызывая широкий спектр реакций: от восхищения ее способностями к ведению диалога до опасений, что такая технология может затруднить выявление телефонных мошенничеств.

Эта модель, названная Dessa, была обучена исключительно на человеческой речи, а не на тексте, и может слушать, одновременно говоря, что позволяет ей реагировать на перебивания, смех и изменения в тоне во время разговора, как указано в объявлении Block.

"Разговор с ней ощущается как разговор с человеком... полным эмоций, нюансов, пауз и естественного ритма", - написал Дорси в X.

В одной из демонстраций Dessa смеется посреди предложения, а в другой – реагирует на неожиданность, проявляя, казалось бы, искренние эмоции. Компания Block заявляет, что эти разговоры были записаны в режиме реального времени, без какого-либо управления ответами модели.

В отличие от систем, которые сначала преобразуют речь в текст, а затем генерируют голосовой ответ, Dessa обрабатывает аудио напрямую. Компания Block сообщила, что обучила Dessa с нуля, используя одну вычислительную систему Nvidia GB200 NVL72. По заявлению компании, модель достаточно компактна, чтобы работать локально на MacBook Pro, оснащенном чипом M4 Max или более новым.

На данный момент Dessa остается лишь демонстрационной версией, а не продуктом, доступным для широкой публики.

Удивление и восторг

Демонстрация Dessa быстро привлекла внимание в социальных сетях, и некоторые пользователи хвалили, насколько естественным звучали взаимодействия.

Пользователь X Александр Хофф сказал, что он никогда "не слышал ничего искусственного, что звучало бы настолько... человечно", в то время как пользователь Hesamation описал это как "просто научную фантастику".

Основатель Binance Чанпэн "CZ" Чжао также высказался, указав на потенциальное применение в образовании, где естественные голосовые взаимодействия могут помочь детям учиться в процессе разговора.

"Это может быть очень полезно для GiggleAcademy. Обучение детей с использованием текущих "голосовых помощников" было сложной задачей", - написал Чжао, имея в виду свой образовательный проект.

Однако те самые человекоподобные качества, которые впечатлили некоторых слушателей, вызвали опасения у других относительно потенциала этой технологии для обмана.

Кинорежиссер Джастин Бэйтман задалась вопросом, зачем голосам искусственного интеллекта нужно звучать как человеческие, утверждая, что это может быть использовано для введения людей в заблуждение. "Чтобы вы могли обманывать людей, заставляя их терять бдительность", - написала она.

Журналист Шив Арур выразил аналогичные опасения по поводу мошенничества, написав, что "количество мошеннических звонков вот-вот достигнет эпидемического уровня".

Компания Dessa, входящая в состав Block (которая управляет сервисами Square, Cash App, криптовалютным кошельком Bitkey и подразделением Proto, занимающимся оборудованием для майнинга биткоина), напрямую подчиняется Джек Дореси. В ее исследовательском центре искусственного интеллекта работают бывшие сотрудники канадской компании Dessa, занимающейся разработкой ИИ, которую Square приобрела в 2020 году.

Компания Block не раскрыла размер модели, результаты ее тестирования и дату публичного релиза. Аудиопримеры, представленные компанией, пока являются лишь демонстрациями, а не результатами независимых тестов.

Компания предлагает ограниченному кругу исследователей в области безопасности ИИ ранний доступ к разработке. В Block утверждают, что ИИ, основанный на анализе речи, со временем может стать лучше в распознавании эмоциональных сигналов, таких как страдание и боль, которые могут быть упущены при анализе текстовых транскриптов, в то время как исследователи оценивают риски, которые компания могла не учесть.