因果人工智能 人工智能承认为什么它做了它所做的事情

人工智能开发的圣杯是可解释的人工智能，这是一种揭示人工智能模型用于得出其输出的决策过程的手段。换句话说，在我们把自己的事业、生命或生意押在人工智能的输出上之前，我们人类想知道人工智能为什么会这么做。

“因果人工智能需要模型来解释他们的预测。最简单的解释是一张代表因果链的图表。” GSI Technology机器学习、数据科学和嵌入式人工智能总监 George Williams 说道。“在现代形式中，它是一种人类可以理解的文本形式的解释，”他说。

通常，人工智能模型在决策过程中没有可审计的线索，没有自我报告机制，也无法窥探日益复杂的算法背后的秘密。

“传统的预测人工智能可以比作一个黑匣子，几乎不可能知道是什么驱动了单个结果，” mPulse数据解决方案副总裁 Phil Johnson 说道。

因此，人类几乎不能相信人工智能模型提供的任何东西。输出可能是幻觉——谎言、捏造、误算或童话，这取决于你想在多大程度上标记此类错误以及所使用的人工智能模型类型。

“GenAI 模型有时仍然会产生幻觉或捏造事实的副作用。这意味着他们也可以产生幻觉。减轻幻觉是一个快速发展的研究领域，组织可能很难跟上最新的研究/技术，”威廉姆斯说。

另一方面，同样的人工智能模型可以揭示人类无法看到的深刻真相，因为他们的观点被大量数据所掩盖。

就像众所周知的敲击键盘的猴子大军有一天可能会创作出一本伟大的小说一样，许多人有一天可能会发现埋藏在巨大数据存储中的重要见解。或者我们现在可以依靠人工智能的速度来找到有用的答案，并专注于教导它来揭示它是如何得出这个结论的。后者比前者更容易管理。

打破人工智能黑匣子

如果说人们从使用人工智能的经历中得到了什么，那就应该是重新发现人类大脑的奇迹。我们越是按照自己的大脑来塑造人工智能，我们就越会发现它只是我们自己惊人能力的影子。

这并不是对人工智能的蔑视，人工智能是一项真正令人震惊的发明，它本身就是人类能力的证明。尽管如此，创作者确实想知道创作的真正目的是什么。

“大多数人工智能/机器学习本质上是相关的，而不是因果关系，”安永美洲生成人工智能负责人 David Guarrera 解释道。“所以，关于效果的方向你不能说太多。如果年龄和薪水相关，那么从技术上讲，你并不知道年龄的增长是否会导致你拥有更多的钱，或者金钱会导致你变老，”他说。

我们大多数人直觉上都会同意，缺钱会导致人变老，但我们不能可靠地依靠我们的直觉来评估人工智能的输出。我们也不能依靠人工智能来解释自己——主要是因为它的设计初衷并不是这样做。

“在深度学习等许多先进的机器学习模型中，需要摄取大量数据来创建模型，” Geminos Software首席布道者兼《因果人工智能：有效商业人工智能的下一步》一书的作者 Judith Hurwitz 说道。“这种人工智能方法的一个关键问题是企业无法轻松理解数据创建的模型。因此，它们是无法解释的。此外，根据用于创建模型的数据质量，很容易产生有偏差的结果，”她说。

这个问题通常被称为人工智能的“黑匣子”。从技术上讲，闯入人工智能模型的内部以检索其决策细节并不是一件容易的事。

Caylent数据和应用主管 Ryan Gross 表示：“这涉及因果推理理论和图形模型的使用，例如有向无环图 (DAG)，有助于绘制和理解变量之间的因果关系。” “通过操纵一个变量，因果人工智能可以观察并预测这一变化如何影响其他变量，从而识别因果关系。”

因果人工智能如何运作

传统的人工智能模型的时间是固定的，并且什么也不理解。因果人工智能是一种完全不同的动物。

“因果人工智能是动态的，而类似的工具是静态的。因果人工智能代表了一个事件如何影响后来的世界。可以查询这样的模型来了解事情是如何运作的，” Infosys Consulting的 Brent Field 说道。“另一方面，传统的机器学习模型构建了相互关联的静态表示。当世界发生变化时，它们往往无法很好地发挥作用，统计学家称之为非遍历性，”他说。

重要的是要理解为什么非遍历性这一点对我们所做的几乎所有事情都是至关重要的。

“非正神性无处不在。这就是基金经理普遍表现逊于标准普尔 500 指数基金的原因之一。这就是为什么选举民意调查经常会出现很多百分点的偏差。商业房地产和全球物流模式于 2020 年 3 月 15 日左右停止运行，因为新冠疫情造成了大规模的供给侧经济冲击，至今仍在世界经济中产生影响。”菲尔德解释道。

在不知道事件原因或潜在结果的情况下，我们从人工智能中提取的知识在很大程度上是向后的，即使它是向前预测的。仅基于历史数据和事件的输出本质上是有缺陷的，有时甚至是无用的。因果人工智能试图解决这个问题。

“因果模型使人类能够更多地参与和了解决策过程。默认情况下，因果模型是可解释和可调试的，这意味着人类可以信任和验证结果，从而获得更高的信任度。”Amplitude 软件工程经理 Joseph Reeve说道。“因果模型还允许在训练模型时利用模型设计中的人类专业知识，而不是需要在没有人类指导的情况下从头开始训练的传统模型，”他说。

因果人工智能甚至可以应用于 GenAI 模型吗？总之，是的。

万事达卡数据、洞察和分析执行副总裁 Mohamed Abdelsadek 表示：“我们可以使用因果 AI 来分析大量数据，并将其与 GenAI 配对，使用图形或解释来可视化分析。 ” “或者，另一方面，GenAI 可以在一开始就识别常见的分析问题，例如自然事件造成的损坏的图片，然后引入因果人工智能来执行数据处理和分析。”他说。

因果人工智能和 GenAI 还可以通过其他方式协同工作。

“生成式人工智能可以成为支持因果人工智能的有效工具。然而，请记住，GenAI 是一种工具，而不是解决方案。”Geminos Software 的 Hurwitz 说道。“GenAI 在因果人工智能中发挥巨大作用的新兴方式之一是使用这些工具来分析以结构化和指令格式存储的主题信息。创建有效的因果人工智能解决方案所需的基本领域之一是需要所谓的因果发现——确定需要哪些数据来理解因果关系，”她说。

这是否意味着因果人工智能是所有人工智能的灵丹妙药，或者说它是一种万无一失的技术？

“因果人工智能是一个新兴领域。由于该技术尚未完全开发出来，错误率往往高于预期，尤其是在没有对人工智能系统进行足够培训的领域。”LexisNexis Risk Solutions全球首席信息安全官 Flavio Villanustre 表示。“但是，你应该期望随着时间的推移，这种情况会显着改善。”

那么因果人工智能在这个计划中处于什么位置呢？

Intellibus创始人兼负责人 Ed Watal 表示：“在2022 年 Gartner 技术成熟度曲线中，因果人工智能被认为更加成熟，并且领先于生成人工智能。 ” “然而，与生成式人工智能不同，因果式人工智能尚未找到像 ChatGPT 这样的工具相对于 GPT 等生成式人工智能模型所提供的主流用例和采用，”他说。