В ответ на критику того, что Azure AI Speech является всего лишь «создателем дипфейков», компания Microsoft заявила, что предприняла все необходимые меры безопасности и включилась в гонку искусственного интеллекта. Это заявление было сделано на её конференции для разработчиков Microsoft Ignite 2023 на этой неделе.
Представленное на конференции Azure AI Speech — это программное обеспечение, способное генерировать аватары и голоса людей, воспроизводить облик и речь существующего человека. В Microsoft признали, что появление такого ПО вызывает опасения, поскольку оно может увеличить количество дипфейков, то есть видео событий, которые не произошли.
Поэтому ПО Azure AI Speech от Microsoft имеет ряд ограничений, которые не позволят создавать дипфейки, но будут полезны для пользователей, которым нужно создать «разговорных агентов, виртуальных ассистентов, чат-ботов и так далее».
В частности, в заявлении разработчика сообщается: «Клиенты могут выбрать либо заранее построенный, либо настраиваемый нейронный голос для своего аватара. Если будет выбран настраиваемый вариант, то пользователь может использовать свой облик и голос для своего аватара, который в итоге должен быть очень похож на своего владельца. При этом конечный продукт будет помечаться «водяными знаками».
Примечательно, что в лицензионном соглашении для пользователей указывается на запрет от Microsoft использовать данное ПО для создания дипфейков. Более того, в компании заявили, что Azure AI Speech будет доступно только тем пользователям, которые пройдут особую проверку и подтвердят свою надёжность.
Таким образом, компания надеется «снизить потенциальные риски, предоставляя своим клиентам, возможность внедрять передовые голосовые и речевые возможности искусственного интеллекта прозрачным и безопасным образом», — заявила Сара Бёрд из подразделения инженерной ответственности по ИИ в Microsoft.