当时机器学习的数据处理办法疏忽了人类智能的一个基本要素。
撰文｜Judea Pearl、Dana Mackenzie
翻译｜吴小安（清华大学-阿姆斯特丹大学逻辑学联合研究中心）
在通向人工智能那绵长又崎岖的路途中，核算机程序现已抵达了一个缤纷点。它在那些咱们从前以为只要人类专属的使命中体现杰出，比方玩扑克或许在稠人广众中识别出一张脸。但运用相同技术，无人驾驶轿车却撞向路人和栏杆，所以关于它们是否总是值得信赖，咱们心存疑虑。
在这急速开展又总有意想不到的困难呈现的过程中，在阅历了数十年的开展之后，机器仍然无法企及人工智能的一个重要的构建柱石：了解原因和效果。
简略来说，今日的机器学习程序并不能告知咱们是否公鸡打鸣是太阳升起的原因，或许后者是前者的原因。不论机器剖析多大体量的数据，它并不能了解人们直觉所获取的东西。从婴儿时分开端，咱们就把咱们的阅历以原因和效果的方法安排。“为什么这件事会发作？”和“假如我以另一种方法来行为会怎么样？”的问题是认知开展的中心，使得咱们人之为人，但现在机器还不具有这种才干。
例如，假定一个药店决议把药品的定价权交给一个咱们称为 Charlie 的机器学习程序。Charlie回忆药店曩昔的价格改动和出售记载后，发现牙膏价格的改动和出售量的改动不相关，因而决议前进牙膏出售价格以发作更多的赢利。效果是，一个月之后牙膏的出售量降了下来 —— 与之相伴的还有牙线、饼干和其他产品的出售量。Charlie 在哪个当地犯了过错呢？
Charlie 并不理解之前的司理之所以会调整价格是竞赛所造成的。当 Charlie 单独面的前进价格，那么对价格反常敏锐的顾客就会挑选去其他当地消费。这个比方阐明单单是前史的数据并没有告知咱们关于原因的任何东西 —— 且因果的指引是重要的。
在剖析数据方式方面，机器学习体系取得了令人为之侧意图前进，但那仅仅人工智能的低端效果。要到达更高端的效果，AI需求一个阶梯，我称之为因果的阶梯，它包括因果推理的三个层级。
榜首层级是相关，当时的学习机器和大多数动物都坐落这一个层次，在这个层级，巴甫洛夫的狗习得了铃声响起和有食物可吃之间的联络；下一个层级是干涉，意图是看看假如故意制作铃声，或许前进牙膏的价格将会发作什么？干涉不同于调查，无理由前进价格和以曩昔的数据体现为根据前进价格有不同的成果；最高的层级是反现实，这是一种幻想效果会怎么的才干，反思一个人的行为并在在其他情境中做判别。正是在这一层次，机器能到达对职责、归誉、咎责以及自我更新的断定和传达。幻想给予一辆无人驾驶轿车这种才干，在一个事端之后，它的 CPU 会问自己这样的问题：假如我没有向醉酒的行人按喇叭将会发作什么呢？
为了到达更高的层级，除了更多的数据之外，机器需求一个暗含着因果元素的模型 —— 实质上是原因和效果的数学。也许是这样一个简略的要素：“酒精会损害一个人的判别，醉酒之人会以异于寻常的方法运动”，咱们咱们可以以科学家所称之为的因果图来编码这个信息，在这个图中箭头表明的是一系列或许的因果关系：酒精 损害判别 非正常行为。这类图不仅仅为了简练美丽，并且构成了一个开端算法，以此就使得轿车可以猜测某类行人关于轿车喇叭所宣布的鸣叫会做出与众不同的反响。这也为咱们“拷问”轿车解说它的所为供给了或许：为什么你要按喇叭呢？
当时的机器学习体系只在一个受规矩严厉约束的小规模内才干灵通更高的层级，比方下象棋。超出这个规模，它就会不知所措、过错百出。可是假如有了因果模型，机器就能猜测之前所从未阅历的行为的效果，并反思这个效果，然后把所学到的技术使用于新的景象中。
因果模型源自二十世纪八十年代人工智能的一些作业，由于它可以做更高层级的核算且常常还能消解计算悖论，现在现已在健康科学和社会科学中大规模的使用。跟着机器学习研究者寻求更具解说性和回应性的体系，因果模型又开端被重视。比方谷歌和脸书的科学家们诉诸于因果模型来剖析网上的广告，以断定广告是否会影响人们购买产品的决议计划—— 一个反现实问题。
这仅仅一个开端。当研究者把数据和因果推理结合起来，咱们希望在人工智能范畴能看到一场迷你革新，这个新的体系可以规划行为，哪怕不存在关于这个行为及其效果的任何数据；这个新的体系还可以把它们之所学使用于新的景象，并用人类言语天生就含有的“因果”概念来解说它们的行为。
作者简介
Judea Pearl 是加州大学洛杉矶分校核算机系的教授，由于他在概率推理和因果推理的作业而获得了2011年的图灵奖。
Dana Mackenzie 是数学科普类作家，他们两人合写了一本书《为什么：关于因果关系的新科学》，该书不久前由 Basic Books 出书。
原文链接：https:///articles/ai-cant-reason-why-1526657442 ，原题为“AI Can’t Reason Why”
特 别 提 示
1. 进入『返朴』微信大众号底部菜单“精品专栏“，可查阅不同主题系列科普文章。
2. 『返朴』供给按月检索文章功用。重视大众号，回复四位数组成的年份+月份，如“1903”，可获取2019年3月的文章索引，以此类推。
版权阐明：欢迎个人转发，任何方法的媒体或组织未经授权，不得转载和摘编。转载授权请在「返朴」微信大众号内联络后台。
