如何让人类与人工智能合作来改善业务

存在这样一个矛盾：当企业试图通过使用人工智能来做出关键决策以简化业务时，它们可能会在不经意间降低自己的效率。商业技术专家西尔万·迪朗东（Sylvain Duranton）提倡一种“人类 + 人工智能”的方法——将人工智能系统与人类结合，而不是代替人类——并分享了企业可以采用的具体规则，以帮助公司成功地使用人工智能，同时也让人类参与其中。

我来分享一个矛盾。

在过去十年中，

很多公司都想摆脱官僚化，

通过减少职务，
精简程序，

给团队更多自主权，
让公司运作更灵活。

现在公司开始引进人工智能，AI，

却没意识到这个很酷的科技

可能让他们变得更加官僚。

为什么呢？

因为 AI 的运作方式就很官僚。

官僚的本质

就是看重规则和程序，
而非人类自身的判断，

而且只根据规则做决策。

虽然 AI 是依据原有规则形成的，

但只有规则。

若我们抛弃人类的判断，

运用 AI 将带来可怕的新官僚主义——

我称之为 AI 官僚主义 (algocracy)，

也就是说 AI 将脱离
人类的控制，仅凭规则

做出越来越多重要决策。

这有风险吗？

当然有。

我领导的团队由
800 名 AI 专家组成，

我们为很多全球的大公司

量身打造了上百个 AI 系统。

我看过太多的公司高管
因此重拾了过往的官僚做派。

他们对麻烦又老套的
人类决策嗤之以鼻，

完全依赖 AI 来做决策。

我称之为无人类思维
（human-zero mindset）。

可为何这种思维这么诱人？

因为另一种思维——
人类＋AI

费时、费钱、又费力。

商业团队、科技团队
和数据科学团队

不得不花费几个月的功夫，

探索人类和 AI 如何更好地合作。

探索过程漫长艰难，
花了很多钱，

但取得了巨大成果。

根据波士顿咨询公司和
麻省理工大学最近的调查，

全球有 18％ 的公司

都在推动 AI 的发展，

希望借此盈利。

这些公司 80% 的人工智能计划

都集中在效率和增长上，

以做出更好的决策——

而不是用 AI 取代人类
以减少开支。

为什么人类的作用必不可少？

原因很简单：
没有人类，AI 会干傻事。

有时候 AI 的工作毫无价值，
就像这条推文讲的：

“亲爱的亚马逊公司，

我之前买了一个马桶圈。

生活必需品，
不是什么癖好。

我不收藏马桶圈，

我没有马桶圈瘾。

不管你的广告邮件多诱人，

我都不会觉得
‘哦，受不了，

只好再买个马桶圈了，
偶尔放纵一下自己。’ ”

(笑声)

有时，AI 又“太有帮助”，
像这条推文：

“我在为妈妈买了骨灰盒后

遇到了同样的状况。”

(笑声)

“在她去世后的几个月里，

亚马逊给我发的邮件都是‘根据你
的购物历史，你可能喜欢… (骨灰盒) ’ ”

(笑声)

有时结果更糟。

比如说 AI 曾经拒绝了
一名学生的大学申请。

为什么？

因为这个AI
从以前的数据“学”到了

哪些学生会通过，
哪些学生不能——

有一些指标很明确，
比如绩点。

但如果在过去，某个地区
学生都没通过，

AI 很可能就此定下规则，

然后拒绝所有来自这个地区的学生，

不给任何人证明规则有误的机会。

并且没有人能够筛查掉这样的规则，

因为先进的 AI 一直在学。

那么如果直接用 AI 取代人类，

迎来的将是 AI 官僚主义的噩梦：

谁应该对学生的被拒负责？

没有谁，AI 来负责。

这公平吗？公平。

因为所有学生都用同一规则判定。

那可不可以重新考虑这个
“住错了地方”的聪明学生？

不行，AI 算法不会改变主意。

我们需要做出选择：

继续 AI 的独裁，

还是考虑“人类＋AI”思维？

要拥有这种思维，

我们不能再优先考虑技术，

而是要从秘密公式入手。

要实现“人类＋AI”，

需要 10％ 的编程算法；

20％ 的科技成分，

包括收集数据，构建用户界面，
整合进遗留系统；

其余 70％ 是最重要的，

是结合 AI 和人类的方法，

让结果最接近完美。

如果这 70％ 被削减，
AI 就会出现问题。

代价可以很小，

只是在无用科技上
浪费数百万美元。

谁会在乎呢？

但代价也可以大到无法承受：

最近两起波音
737 空难造成了 346 人遇难，

原因都是电脑控制的飞行系统

没有正确回应飞行员的指令。

要成功实现那 70％，

第一步就要保证算法编程
由数据科学家

和领域专家共同完成。

拿医疗领域举例，

我们有一个团队曾经处理过
一种药产生的小问题。

在首次服用这种药后，

有很少一部分患者会诱发心脏病。

于是所有第一次服用这种药的患者

都要住院观察一天，

以防心脏病发作。

我们想区分出
完全不可能发心脏病的患者，

这样他们就不用在医院多待一天。

我们用 AI 分析了临床试验的数据，

寻找心电图、血液成分、生物标记

和心脏病发作风险之间的关系。

在一个月内，

我们训练的模型就能标记出
62％ 的零发病风险患者。

这样，这些患者就不必
白白在医院呆上一天。

但是，你会放心地
在第一次服药后直接回家，

就因为 AI 说你可以回家了？

(笑声)

医师也不会放心。

万一出现了错误结果呢？

也就是说，AI 叫他们回家等死？

（笑声）

这就需要那 70％ 的作用了。

我们与医师团队合作，

检验模型中变量的医学合理性。

比方说，我们用肝酶浓度

作为预测变量，

这里的医学逻辑并不明显，

但从统计信号角度看，
与结果有很大关系。

但万一它是个偏置项呢？
（注：即该变量与心脏病无实际关联）

所以这个变量会被剔除。

我们还剔除了一些变量，

因为医师无法精准测出这些变量。

四个月后，

我们训练出了模型，
制定了医学使用协议。

它们都获批通过。

去年春天，与我们合作的
美国医疗机构，

为一半服用这种药的患者减轻了压力，

提高了生活品质。

且这种药的销量迅速增加，
超过了一亿份。

人类团队和方法造就的 70％，

也意味着在人类和 AI 之间

建立了坚固的联结，
以共同解决最难的问题。

以前有一个时装零售商问我们：

“时装零售商都很会进货，

你能不能做一个 AI
在预测销量上超过他们？

要卖多少件高端服装、
浅绿色衣服、加大码男衬衫，

能赚到最多钱？

能不能预测哪些衣服会大卖，

预测得比设计师还准？”

我们的团队在几周内
用以往销量数据训练出模型，

和人类商家比赛。

猜猜谁赢了？

AI 胜出，预测错误率比人类低 25％。

零人类思维者可能会改进模型，

投入和人类商家的竞争。

开心就好。

但我们知道，
人类买家对时尚潮流有远见，

这是 AI 在以往数据学不到的。

于是我们转向那 70％，

我们开始了第二次测试。

人类商家来复查

AI 推算的购买量，

然后做出必要纠正。

结果如何？

使用 AI 的人类商家……

输了。

人类做出的纠正中，

有 75％ 都在降低 AI 准确率。

是不是要放弃人类商家的介入了？

不是。

我们要重新搭建一个模型，

这一次，不让人类猜 AI 的对错，

而是让 AI 寻求人类的建议。

我们将模型改头换面，

抛弃了最初的交互方式：

“嘿人类！这是我的预测，

帮我纠正一下吧！”

改进后的交互方式
变得更广泛，像这样：

“嘿人类！

我不懂明年的流行趋势，

可不可以告诉我你押宝在哪？”

“嘿人类！

可以帮我看看这些大家伙吗？

它们超出了我的认知范围。”

结果如何？

“人类＋AI” 胜出，

这次预测错误率降低了 50%。

我们花了一年才最终完成这个工具，

漫长、成本高，还很艰难，

但利润很丰厚，好处很多，

每年为零售商节省了超过一亿美金。

在一些特定议题上，

70％ 也意味着人类要决定对错，

定下规则限制 AI 的权力。

例如设定价格上限，

防止 AI 粗暴地抬价，
向不知情的顾客

漫天要价。

只有人类能够设定界限，

因为 AI 不可能从以往数据学到。

有时候我们可能遇到灰色地带。

我们曾和保险公司有过合作，

他们开发了一个
针对客户的 AI 系统，

用来识别快要去治病的客户，

向他们推销附加产品。

问题是，

一些接到推销电话的客户，

这时候并不知道

他们很可能马上要去医院看病。

如果你是这家公司的执行长，

你会取消这个项目吗？

这是个两难的抉择。

为了解决这个问题，
一些公司正在组建团队，

帮商业和科技团队
制定伦理规则和标准，

在个性化和可操作性间寻找平衡点，

区别意见和偏见，

分清关照和冒犯。

我坚信在每家公司，

把 AI 运用到关键之处
定会有巨大回报。

商业领袖们要大胆尝试，

选择一些项目，

为每个项目召集几十个
领域佼佼者——

科技、AI、科学、伦理——

然后完成10％、20％、70％的

“人类＋AI”目标。

这样 AI 就可以和人类高效合作。

除此之外别无他法。

经济飞速发展的同时，
公民已对 AI 官僚主义产生了恐惧。

在近期的一项针对七千人的调研中，

超过 75％ 的人表示了担忧，

担心 AI 影响就业、隐私，

担心社会会失去人性。

AI 官僚主义的出现
会导致公司和社会

对 AI 的强烈抵触。

“人类＋AI”是唯一选项，

只有这样才能让 AI 真正带来福祉。

最后，

因 AI 获利的组织，
要为人类智慧投资，

而不仅仅投资 AI 和数据。

聘募、培养、奖励人类专家。

有人说数据是新的燃料，

但相信我，人类知识能改变世界。

因为人类知识是唯一的泵，

能将蕴藏于数据的“燃料”
源源不断地泵出。

谢谢大家。

(掌声)