可解释的人工智能如何帮助人类创新

人工智能(AI)领域已经创造出可以驾驶汽车，合成化合物，折叠蛋白质并以超人水平检测高能粒子的计算机。但是，这些AI算法无法解释其决策背后的思维过程。一台掌握蛋白质折叠功能并告诉研究人员更多生物学规则的计算机比一台无需解释即可折叠蛋白质的计算机有用得多。

因此，像我这样的AI研究人员现在正在将精力转向开发可以以人类能够理解的方式进行自我解释的AI算法。如果我们能够做到这一点，我相信人工智能将能够发现并向人们传授尚未发现的关于世界的新事实，从而带来新的创新。

从经验中学习

AI的一个领域称为强化学习，研究计算机如何从自己的经验中学习。在强化学习中，人工智能可以探索世界，并根据其行为获得正面或负面的反馈。

这种方法导致算法可以独立学习超人水平的国际象棋并在没有任何人工指导的情况下证明数学定理。在我作为AI研究人员的工作中，我使用强化学习来创建AI算法，以学习如何解决诸如Rubik's Cube之类的难题。

通过强化学习，AI可以独立学习解决甚至人类都难以解决的问题。这使我和其他许多研究人员对AI可以学习的内容的思考减少了，对人类可以从AI中学习的知识的思考减少了。能够解决魔方的计算机也应该能够教人们如何解决它。

窥视黑匣子

不幸的是，超人类AI的思想目前对我们人类来说是遥不可及的。人工智能造就了可怕的老师，这就是我们在计算机科学界所说的“黑匣子”。

逐步完善的方法可以使人类更容易理解为什么AI会做他们所做的事情。图片来源：Forest Agostinelli，CC BY-ND

黑盒子的AI只会吐出解决方案，而没有给出解决方案的理由。计算机科学家数十年来一直在尝试打开这个黑匣子，而最近的研究表明，许多AI算法实际上以与人类相似的方式思考。例如，训练有素的识别动物的计算机将了解不同类型的眼睛和耳朵，并将这些信息放在一起以正确识别动物。

打开黑匣子的工作称为可解释的AI。我在南卡罗来纳大学AI研究所的研究小组对开发可解释的AI感兴趣。为了实现这一目标，我们与Rubik's Cube紧密合作。

魔方魔方本质上是一个寻路问题：找到一条从点A(一个混乱的魔方)到点B的路径-一个已解决的魔方。其他寻路问题包括导航，定理证明和化学合成。

我的实验室建立了一个网站，任何人都可以看到我们的AI算法如何解决Rubik's Cube;但是，一个人很难从该网站上学习如何求解多维数据集。这是因为计算机无法告诉您其解决方案背后的逻辑。

Rubik's Cube的解决方案可以分解为几个通用步骤-例如，第一步可以是形成十字形，而第二步可以是将拐角零件放置到位。虽然魔方本身具有超过10到19的可能幂组合，但通用的分步指南非常容易记住，并且适用于许多不同的情况。

通过将问题分解为多个步骤来解决问题通常是人们相互解释事物的默认方式。Rubik的多维数据集自然适合此分步框架，这使我们有机会更轻松地打开算法的黑匣子。创建具有这种能力的AI算法可以使人们与AI合作，并将各种复杂的问题分解为易于理解的步骤。

协作带来创新

我们的过程始于使用自己的直觉来定义逐步解决方案，以解决潜在的复杂问题。然后，算法查看每个单独的步骤，并给出关于哪些步骤可行，哪些不可能，以及如何改进计划的反馈。然后，人员使用AI的建议来完善初始计划，然后重复该过程，直到问题解决为止。希望人与AI最终会融合成一种相互理解的方式。

目前，我们的算法能够考虑解决卢比克魔方的人工计划，提出对计划的改进，识别无效的计划并找到可行的替代方案。这样，它会提供反馈，从而导致逐步解决人可以理解的魔方的计划。我们团队的下一步是建立一个直观的界面，该界面将使我们的算法可以教人们如何解决魔方。我们希望将这种方法推广到广泛的寻路问题。

人们以任何AI都无法比拟的方式直观，但是机器的计算能力和算法严格性要好得多。人与机器之间的这种来回结合利用了两者的优势。我相信，这种合作将揭示从化学到数学各个领域以前未解决的问题，从而带来可能无法实现的新解决方案，直觉和创新。

　　免责声明：本文由用户上传，与本网站立场无关。财经信息仅供读者参考，并不构成投资建议。投资者据此操作，风险自担。 如有侵权请联系删除！