Block, платёжная компания Jack Dorsey, показала прототип голосового ИИ Dessa, который звучит настолько естественно, что вызвал одновременно восхищение и страх перед потенциалом использования в мошенничестве. Модель обучена исключительно на человеческой речи и может работать локально на MacBook Pro с чипом M4 Max, не требуя облачных сервисов.
В отличие от обычных систем, которые сначала преобразуют речь в текст, а затем генерируют ответ, Dessa обрабатывает аудио напрямую. Она может слушать во время говорения, реагируя на перебивания, смех и перепады интонаций. В демонстрациях модель смеётся посередине фразы и реагирует на неожиданности так, как это делал бы человек. «Разговор с ней похож на разговор с личностью — полный эмоций, нюансов, пауз и естественного ритма», — написал Dorsey в X.
Восхищение и опасения
Видео Dessa быстро разлетелось по соцсетям. Пользователи хвалили естественность взаимодействия: один назвал её первым искусственным голосом, который звучит по-настоящему человечески, другой написал, что это «чистая фантастика». Основатель Binance Changpeng «CZ» Zhao увидел потенциал в образовании — модель может помочь детям учиться через естественный диалог. Он упомянул свой проект GiggleAcademy и отметил, что нынешние голосовые ИИ создают проблемы при обучении.
Однако та же человеческость, которая впечатляла пользователей, всполошила критиков. Режиссёр Justine Bateman поставила вопрос: зачем голосовому ИИ звучать как человек, если это помогает обманывать людей? Журналист Shiv Aroor предупредил, что звонки мошенников могут «достичь масштаба пандемии».
Что дальше
Dessa остаётся исследовательским прототипом. Block не раскрыла размер модели, результаты тестов или дату запуска. Ранний доступ получит небольшая группа учёных, занимающихся безопасностью ИИ. Компания указывает, что голосовой ИИ со временем сможет лучше распознавать эмоциональные сигналы — боль, стресс, дистресс, — которые текстовые расшифровки упускают. Исследователи оценят риски, которые Block, возможно, недооценила.