企业中人类主导的人工智能模型

随着人工智能的应用日益广泛，由人类主导的人工智能的概念变得越来越重要。我们认为，随着人工智能和机器学习变得更加强大，并能够做出决策，人类必须保持控制。

人工智能的人类主导意味着人类最终要对这些工具做出的决定负责。特别是对于商业应用，人类主导有助于确保人工智能做出的判断符合法规，合乎道德且尊重他人。

重要的是要认识到，不能简单地通过将人注入决策过程来应用人类主导。这有时被称为“人类安全气囊”方法，即通过让人参与进来承担责任来减轻对人工智能的担忧。事实上，为了有效地将人类主导融入人工智能，我们必须明确地设计决策过程，以整合决策者。

AI风险与人工治理的益处

如果没有人工治理，AI可能会使您的公司面临未受管理的风险。相反，对AI进行人工治理可以提高AI被客户和员工信任的可能性，从而使他们更愿意使用它。

法律和合规风险

缺乏对AI的人工治理，最明显的风险是AI可能做出不符合法规或不合法的决策。用于训练AI的数据可能暗示某个特定决策是“最佳”的，但该决策可能是不允许的。AI可能违反已发布的政策、程序、合同或监管指南。

决策风险

某些AI方法，例如生成式AI或大型语言模型，已经因编造听起来合理的解释但实际上并不真实而闻名。这是一个显而易见的决策风险。即使AI没有编造任何东西，它仍然可能做出不是最佳或最合适的决策。这可能是由于缺乏上下文，或者因为AI训练的数据缺少基本要素。

接受风险

最后，如果人们觉得他们无法控制或管理人工智能的行为，就很难让他们接受人工智能。这可能会限制人工智能在业务领域中潜在的积极影响，因为它会限制采用，或者如果公司开始使用人工智能，可能会导致客户强烈反对。

以人为本的AI治理最佳实践

将AI和机器学习从您的数据中推断出的信息与您员工的专业知识相结合，可以使您施加指导方针、约束条件、产品设计、监管框架和政策。 确保以人为本的AI治理意味着专注于作为一个整体的决策——超越AI的各种技术——以及持续改进。

决策思维，而非算法思维

要实现以人为本的AI 治理，重要的是要转变孤立地思考 AI 的方式。相反，你应该尝试全面地思考决策——在业务决策的背景下使用机器学习和人工智能。这意味着聘用能够理解所做决策的人，捕捉指导和约束它的业务规则，并准确地了解在什么背景下应用机器学习和 AI。

混合和匹配技术

AI 不是孤立存在的。成功的、以人为本的 AI 是与更“传统”的机器学习和分析技术混合在一起的，以创建自动化但受管控的决策。这意味着将决策分解成各个部分，并有策略地将它们分配给 AI。这也意味着将应该基于人类专业知识做出的决策分配给人类决策者——不是在最后才临时添加，而是要让他们的角色在指示中被充分明确地定义。

持续改进

最后，正如该术语所暗示的那样，最重要的方面是人类参与其中。业务专家观察决策过程，评估其有效性，并使用决策过程中生成的数据对其进行改进。这种持续改进的循环使您能够在面对新数据和真实世界结果时改进决策。专业知识、判断和结果被重新注入到一个整体结构良好的决策中。

迈向人类治理的人工智能

随着我们进入新的技术时代，我看到了对人类治理的人工智能日益增长的需求。它可以帮助确保人类仍然控制着人工智能系统做出的决策，同时仍然允许我们在业务系统中最大限度地利用人工智能。

通过理解决策过程，捕获指导和约束它的业务规则，并准确展示机器学习和人工智能在其中使用的上下文，公司可以确保他们的人工智能系统得到适当的治理。

嵌入人类治理的人工智能可以帮助牢记伦理考量，监控和评估潜在风险，并适应和响应不断变化的环境。最终，我相信只有人类治理的人工智能才能确保公司的人工智能系统得到客户和员工的适当治理和信任。