在一个激动人心的公告中，Microsoft Azure 自豪地推出即将推出的模型即服务预览版，这是一项开创性的计划，提供即用即付推理 API，并在 Azure AI 模型目录中托管了对 Llama 2 的微调。此次扩大与 Meta 的合作标志着我们朝着通过 Azure AI Studio 中的 MaaS 提供尖端大型语言模型迈出了重要一步。
使用 PayGo 推理 API 简化对 Llama 2 的访问
MaaS 旨在简化使用 LLM 的生成式人工智能开发人员的体验。将 Llama 2 作为 API 访问变得无缝，并且引入 PayGo 推理 API，根据令牌使用情况计费，降低了开发人员的进入门槛。这允许在 Playground 中轻松探索模型，或与首选的 LLM 工具集成，从而开发创新的 LLM 应用程序。
个性化模型的托管微调
MaaS 的一个突出特点是能够使用自定义数据微调 Llama 2，从而增强模型对特定领域或问题空间的理解。托管微调不仅可以提高预测准确性，而且价格也更容易获得。此功能迎合了寻求个性化模型的开发人员，而不会影响成本效益。
内容审核和负责任的人工智能实践
为了确保负责任的人工智能实践，Azure AI 中的 Llama 2 推理 API 配备了内置的内容审查功能。这种分层方法符合 Microsoft 提供合乎道德和负责任的人工智能解决方案的承诺。通过整合内容过滤系统，我们的目标是检测和防止潜在有害内容的输出，为生成式人工智能开发人员营造一个安全的环境。
使 Azure 成为生成式人工智能的首选平台
Azure AI 致力于成为开发生成式人工智能应用程序的首选平台。MaaS 通过提供对 Llama 2 等尖端 LLM 的无缝访问来加强这一承诺。通过消除对具有高端 GPU 的专用虚拟机的需求，MaaS 确保成本和 GPU 可用性不会阻碍生成式 AI 模型的开发和部署。
Azure 上的模型即服务入门
对于那些渴望在 Azure 上探索模型即服务的人来说，这个过程很简单。如果你不熟悉 Azure AI Studio，请按照简单的指南熟悉并创建你的第一个项目。在 AI Studio 中打开模型目录，按 Meta 集合进行筛选，或单击 MaaS 公告卡查看模型。选择Llama-2-70b-chat模型，使用PayGo部署选项进行部署，然后订阅产品/服务。几秒钟后，你就会发现自己置身于 Playground 中，准备探索和自定义模型。
使用 Prompt Flow 开发 LLM 应用程序
部署 Llama 2 模型后，使用提示流程简化人工智能应用的开发。在提示流程中利用开源 LLM 工具将 Llama 2 模型无缝集成到您的项目中。将该工具配置为使用已部署的 Llama 2 端点，支持完成和聊天 API 类型，并自定义参数以满足项目要求。
使用托管微调自定义 Llama 2
微调像 Llama 2 这样的大型语言模型是开发人员和数据科学家的常见做法。Llama 2-7b、Llama 2-13b 和 Llama 2-70b 模型支持的托管微调简化了此过程。通过采用即用即付的方式，开发人员只需为所需的实际训练时间付费，从而降低成本和延迟。微调后的模型可以无缝部署并与领先的 LLM 工具集成，以增强人工智能功能。
负责任地构建内容安全
内容安全是生成式人工智能开发中的首要考虑因素。集成到 Llama 2 推理 API 中的内容过滤系统确保了对人工智能的负责任的方法。通过通过一组分类模型同时运行提示和补全，可以检测到有害内容并采取相应的措施。此内容安全功能符合微软对提供安全且合乎道德的人工智能环境的承诺。
Microsoft Azure AI 平台公司副总裁 John Montgomery 对此次发布表示兴奋，他说：“通过 Azure AI 上的模型即服务，我们展示了我们致力于为开发人员提供最佳人工智能技术的承诺。我们与 Meta 合作，通过 MaaS 将 Llama 2 引入 Azure AI Studio，使最好的前沿和开放语言模型更易于访问和适应性强。
结论
即将推出的模型即服务预览版是人工智能民主化的关键一步。PayGo推理API和针对Llama 2等最先进模型的托管微调功能旨在显着降低采用的障碍。Microsoft Azure 继续使每个组织、开发人员和数据科学家能够利用生成式人工智能的强大功能，无论技能水平或组织规模如何。随着我们推出这些新功能，我们热切期待开发人员社区将在 Azure AI 平台上构建的创新应用程序和解决方案。
