微软正处于人工智能时代。该公司已经进行了整合狂潮，将Open AI的模型放入Office，Bing甚至Windows中。现在，这家科技巨头正在开源一套工具，为所有开发人员带来这种级别的人工智能集成。这家雷德蒙德巨头最近发布了TypeChat，这是一个软件工具库，旨在利用人工智能的力量增强传统UI。
通过针对LLM的代码生成功能，微软的研究人员创建了一个可以帮助人工智能算法与应用程序通信的系统。这样，除了现有的UI元素之外，用户还可以依靠自然语言输入与软件进行交互。更重要的是，以真正的开源方式，该工具包可以与开发人员选择的任何LLM一起使用，从而向世界打开人工智能驱动的应用程序的闸门。
正如该公司试图通过将人工智能紧密集成到数百万人每天使用的应用程序中来创造计算的未来一样，它也使开发人员运动能够将人工智能更多地集成到日常应用程序中。
类型聊天解释
开发人员在将LLM集成到软件方面一直在处理的最大问题之一是语言模型很少提供机器可读的文本。即使用户提示模型提供结构化数据，LLM 也达不到要求。然而，微软的团队发现，这些生成人工智能算法在将用户查询转换为JSON(JavaScript对象表示法)格式方面表现良好，这非常适合机器。
在微软在其博客中提供的示例中，LLM能够准确地将客户的订单转录为基本上没有错误的JSON输出。为了确保这种情况反复发生，他们通过在输出中添加类型要求来进一步完善该技术。例如，当被要求以名为“响应”的预定义输出类型进行响应时，LLM 会为查询创建更加精细和结构化的输出。
此代码也可以由 TypeScript 编译器进行验证，研究人员将其用于示例。这为在应用的工作流程中使用干净、结构化和机器可读的输出铺平了道路。这种方法暂时称为“响应模式”，通过为每个用例明确定义模式，可用于各种不同的应用程序。展示的一些应用程序包括情绪分析、通过“API 模式”创建应用程序以及用于结构化输出的“数据模式”。
如前所述，该项目不仅是开源的，而且还具有插入不同LLM的管道。虽然它是使用Open AI API和Azure Open AI服务构建的，但研究人员明确提到它可以与“任何聊天完成风格的API”一起使用。然而，他们也表示，TypeChat最适合那些经过散文和代码训练的模型。TypeChat只是当前高速增长环境中的最新公告，使开发人员能够创建未来的应用程序。
面向未来的 人工智能 工具
TypeChat只是LLM集成的一系列工具中的最新工具。可以说是随着LangCh人工智能n的推出而启动的，在过去的几个月里，这个领域经历了极端的创新。即使是在阳光下度过时光的 人工智能 代理，如 AutoGPT 和 Baby AGI，也可以归类为 人工智能 工具类别。此外，由于PineCone和Weavite等矢量数据库系统，LLM在解析大型数据库方面变得更加强大。
软件领域的任何成功创新只会被开发人员生态系统中的运动放大。开放式开发工具的力量非常明显，正如围绕 Meta LLaMA 模型的爆炸性创新所见。就连科技巨头的高管也承认，顶级人工智能公司没有护城河，开源最终会胜出。
根据红杉资本的一项调查，只有15%的受访者从头开始或开源构建自定义语言模型。然而，其中38%的人对LLM周围的应用程序开发框架感兴趣，高达94%的人使用预先训练的模型。另一个有趣的结论是，88%的受访者表示，检索机制，如矢量数据库，是技术堆栈的关键部分。
这表明该领域渴望更多以开发人员为中心的LLM工具;胃口微软似乎渴望满足。在 2023 年 Microsoft Build 大会期间，该公司宣布了一系列开发工具，从采用 Open AI 的插件标准到 为 WinML API 提供超级动力。
这些工具也服务于与TypeChat相同的垂直领域，直接针对希望构建人工智能应用程序的开发人员。随着这个生态系统的兴起，开发人员将很快拥有创建可以将人工智能与简单文本框集成的应用程序的工具，并且将多个模型链接在一起将创建一个只能在科幻小说中匹配的人工智能。
