IBM推出了一套新的人工智能工具，旨在防止大型语言模型行为异常。
IBM公司今年早些时候推出了WatsonX AI软件平台，进入市场，为客户设计生成式人工智能应用程序的工具。该公司当时宣布，该套件将包括治理工具，以防止模型创建或冒犯性结果。现在，这些工具已准备好上线。
更具体地说，IBM表示，其WatsonX.governance软件工具将从12月5日开始全面发布。该平台将帮助使用大型人工智能模型的公司确保结果是公正的、事实正确的和可解释的。该公司表示，WatsonX.governance将“帮助企业了解人工智能模型，并消除数据输入和答案的神秘感”。
该软件最初将用于 IBM 自己的 LLM，以及人工智能初创公司 HuggingFace 维护的存储库中的 LLM，以及 Meta 的 Llama 2 模型。IBM表示，明年初，该公司将增加与其他型号的联系。
IBM指出，LLM通常依赖于来自“互联网角落的数据，这些角落无法被验证为公平和准确。新软件旨在帮助客户管理风险、提高供应商透明度，并预测未来以人工智能为重点的法规的合规性。
IBM认为，其新的治理工具可以帮助解决该命令中提出的一些问题。
IBM高级副总裁卡里姆·优素福表示：“公司董事会和首席执行官希望从当今更强大的人工智能模型中获得回报，但由于缺乏透明度和无法管理这些模型而带来的风险一直阻碍着他们。
Yusaf补充说，新的治理软件为业务工具提供了“自动化人工智能治理流程，监控其模型并采取纠正措施，所有这些都具有更高的可见性。他补充说，随着新的人工智能法规在全球范围内站稳脚跟，该软件将法规转化为可执行政策的能力“只会变得更加重要”。
