В OpenAI научили нейросеть копировать голос человека

OpenAI представила нейросеть Voice Engine, которая способна воспроизвести голос любого человека на основе 15-секундной записи речи. Об этом говорится в блоге компании.

В OpenAI отметили, что разработка технологии Voice Engine ведется с 2022 года. Она позволяет озвучивать текст на различных языках, используя не механический, а «клонированный» голос. Для его создания достаточно иметь всего лишь 15-секундный образец голоса человека и ввести в сервисе текст, который требуется озвучить.

Там отметили, что технология может использоваться для восстановления голоса у тех, кто потерял его из-за различных заболеваний. В частности, в рамках пилотного проекта

удалось восстановить голос юной пациентки, потерявшей речь из-за сосудистой опухоли головного мозга, используя звук из видео, записанного для школьного проекта.

При этом в компании подчеркнули, что осознают опасность технологии и уже внедрили ряд мер безопасности, «включая водяные знаки для отслеживания происхождения любого звука, генерируемого Voice Engine, а также упреждающий мониторинг того, как он используется».

Также в OpenAI считают, что необходимы дополнительные меры для снижения опасности преступного использования «клонированного» голоса. В их числе: поэтапный отказ от голосовой аутентификации для доступа к банковским счетам, введение политики защиты голосов людей в области искусственного интеллекта, повышение уровня грамотности населения.

Ранее компания OpenAI, создавшая ChatGPT на основе искусственного интеллекта, начала работать с Пентагоном над несколькими проектами, включая проект по кибербезопасности. Таким образом стартап отказался от собственного запрета на предоставление искусственного интеллекта военным.

В компании при этом подчеркнули, что принципы OpenAI по-прежнему запрещают использовать ее технологии и разработки для производства оружия.