微软在本周的开发者大会上宣布了其对人工智能竞赛的最新贡献：可以生成新头像和声音或复制用户现有外观和语音的软件——这引发了人们的担忧，即它可能会增强深度伪造的创建，即人工智能制作的事件视频。
在 Microsoft Ignite 2023 上宣布，Azure AI 语音使用人类图像进行训练，并允许用户输入脚本，然后可以通过使用人工智能创建的逼真化身大声“朗读”。用户可以选择预加载的微软头像，也可以上传他们想要复制其声音和肖像的人的镜头。微软周三发表的一篇博客文章中表示，该工具可用于构建“对话代理、虚拟助手、聊天机器人等”。
该帖子写道：“客户可以为他们的头像选择预构建或自定义的神经语音。如果同一个人的声音和肖像同时用于自定义神经语音和自定义文本到语音化身，则化身将与该人非常相似。
该公司表示，新的文本转语音软件正在发布，其中包含各种限制和保护措施，以防止滥用。该公司表示：“作为微软对负责任的人工智能承诺的一部分，文字转语音头像的设计旨在保护个人和社会的权利，促进透明的人机交互，并抵制有害的深度伪造和误导性内容的扩散。
“客户可以上传他们自己的化身人才视频记录，该功能用于训练自定义化身说话的合成视频，”博客文章写道。“阿凡达人才”是人类对着人工智能众所周知的相机摆姿势。
这一宣布很快引发了批评，称微软推出了一个“深度伪造创造者”——这将更容易地让一个人的肖像被复制，并让一个人说和做这个人没有说过或做过的事情。微软自己的总裁在5月份表示，当谈到人工智能的兴起时，深度伪造是他“最大的担忧”。
在一份声明中，该公司反驳了批评，称定制的头像现在是一种“有限访问”工具，客户必须申请并获得微软的批准。用户还将被要求披露何时使用人工智能来创建合成语音或化身。
“有了这些保障措施，我们有助于限制潜在风险，并使客户能够以透明和安全的方式将先进的语音和语音功能注入他们的人工智能应用程序，”微软负责人工智能工程部门的Sarah Bird在一份声明中说。
文本转语音头像制作工具是最新的工具，因为主要科技公司竞相利用近年来的人工智能热潮。在微软支持的 OpenAI 公司推出的 ChatGPT 大受欢迎之后，Meta 和谷歌等公司已将自己的人工智能工具推向市场。
