「人類+AI」構建商業未來

這是一個悖論：很多公司試圖透過使用人工智慧做關鍵決策，以精簡業務，但它們可能會無意間在降低效率。商業技術專家西爾萬·杜蘭頓（Sylvain Duranton）倡導一種「人類+AI」的思維方式——AI 與人類合作，而不是 AI 取代人類。他還分享了公司可以採用的特定公式，來成功使用 AI，同時發揮人類作用。

我來和大家分享發現的一個悖論。

在過去十年裡，

很多公司都想擺脫官僚化，

通過減少職務、精簡程序，

給團隊更多自主，
讓公司運作更靈活。

現在，公司開始引進人工智慧，AI，

卻沒意識到這個很酷的科技，

可能讓他們比以前更官僚。

為什麼呢？

因為 AI 的運作方式就很官僚。

官僚的本質

就是看重規則和程序，
而不是人類自身的判斷，

而 AI 僅依據規則做決策。

即便 AI 的規則
依據過去的數據形成，

那也終究是規則。

如果將人類判斷置若罔聞，

對 AI 的運用將帶來
可怕的新官僚主義——

我稱之為「AI 官僚主義」
(algocracy)，

意即 AI 將根據規則，
不受人為控制，

做更多重要決策。

真有風險嗎？

當然有。

我領導的團隊
由 800 位 AI 專家組成，

我們為很多全球的大公司

量身打造了超過 100 個 AI 系統。

我看過太多的公司高管
因此而變得官僚作風。

他們對麻煩、老舊的
人類決策嗤之以鼻，

完全依賴 AI 來做決策。

我稱之為「無人類思維」。
(human-zero mindset)

可為何這種思維這麼誘人？

因為另一種思維——
「人類+AI」(Human plus AI)

費時、費錢又費力。

商業團隊、科技團隊和數據科學團隊

不得不費幾個月的功夫

探索人類和 AI
怎樣達到最好的合作。

探索過程漫長艱難，耗了很多錢，

但取得了巨大成果。

根據波士頓諮詢公司
和麻省理工學院最近的調查，

全球有 18% 的公司

在研究 AI，

藉此盈利。

那些公司把 80% 的 AI 創新

專注在效率和成長，

做更好的決策，

而不是用 AI 取代人類來減少開支。

為什麼人類的作用必不可少？

原因很簡單：
沒有人類，AI 會幹傻事。

有時候毫無幫助，
就像這條推文講的：

「親愛的亞馬遜公司，

我之前買了一個馬桶圈。

生活必需品，不是什麼私人愛好。

我不收藏馬桶圈，

我沒有馬桶圈癮。

不管你的廣告郵件多誘人，

我都不會覺得
『噢，受不了，

只好再買個馬桶圈了，
偶爾放縱一下自己。』」

（笑聲）

有時候，AI 又「太有幫助」，
就像這條推文：

「我在買我媽媽的骨灰盒後

遇到了同樣狀況。」

（笑聲）

「在她去世後的幾個月，

亞馬遜發給我多個郵件：
『如果你喜歡這個⋯（骨灰盒）』」

（笑聲）

有時 AI 幹壞事。

比如說 AI 曾經拒絕
學生的大學申請。

為什麼？

因為這個 AI
從以前的數據「學」了

哪些學生會通過，哪些學生不能——

有一些指標很明顯，比如 GPA。

但如果在過去，某個地區
所有的學生都沒通過，

AI 很可能就以此定下規則，

拒絕每一個來自這個地區的學生，

不給任何人證明規則有誤的機會。

沒有人能檢查每一條規則，

因為先進的 AI 一直在學。

所以如果直接用 AI 取代人類，

迎來的將是 AI 官僚主義的噩夢：

誰應該對學生的被拒負責？

沒有誰，AI 負責。

這公平嗎？公平。

因為所有學生都用同一規則判定。

那可不可以重新考慮這個
「住錯了地方」的聰明學生？

不行，AI 官僚不會改主意。

我們的選項是，

繼續 AI 的獨裁，

還是考慮「人類+AI」思維？

要擁有這種思維，

我們要先把科技放在一邊，

從秘密公式入手。

要實現「人類+AI」，

需要 10% 的程式；

20% 的科技成份，

包括收集數據、構建用戶界面、
整合進遺留系統；

但 70%，最主要的部份，

是結合 AI 和人類方法，

讓結果最接近完美。

如果這 70% 被削減，
AI 就會出現問題。

代價可以很小，

比如在無用科技上浪費數百萬美元。

誰會在乎呢？

但代價也可以大到無法承受：

最近兩起波音 737 空難中
346 人遇難，

原因是電腦控制的飛行系統

無法正確回應飛機師的指令。

要實現人類的 70%，

第一步是保證算法程式由數據科學家

和領域專家共同完成。

拿醫療保健舉例，

我們有一個團隊
曾經處理一種藥產生的小問題。

在第一次服用這種藥後，

有一小部份的患者會發心臟病。

於是所有第一次服這種藥的患者

都要住院觀察一天，

以防心臟病發作。

我們想要識別出
完全沒可能發心臟病的患者，

這樣他們就不用在醫院多待一天。

我們用 AI 分析臨床試驗的數據，

尋找心電圖、血液成份、生物標記

和心臟病發作概率之間的關係。

在一個月內，

我們訓練的模型就能識別出
62% 的零發病風險患者。

這樣，這些患者就免去了
待在醫院的一天。

但是，你會放心地
在第一次服藥後直接回家，

就因為 AI 說你可以回家啦？

（笑聲）

醫師也不會放心。

萬一出現偽陰性呢？

也就是 AI 叫他們回家，
結果他們死了？

（笑聲）

這時就需要那 70% 的作用了。

我們與醫師團隊合作，

檢驗模型中每個變量的醫學合理性。

比方說，我們用肝酵素濃度

作為預測變量，

其醫學邏輯並不明顯，

但從統計信號角度看，
它與結果有很大的關聯。

但萬一它實際上是個偏置項呢？
[意即這個變量與心臟病無實際關聯]

模型就會剔除那個變量。

我們還剔除了一些變量，

因為醫師無法精準測出這些變量。

四個月後，

我們訓練出了模型，
制定了醫學使用規則。

去年春天它們都獲
美國醫療機構批准通過，

為一半服用這種藥的患者減輕壓力，

提高生活品質。

還預期這種藥的銷量
增加超過一億份。

人類團隊和方法造就的 70%，

也意味著在人類和 AI 之間
建立堅固的連結，

共同解決最難的問題。

以前有一個時裝零售商問我們：

「世上有很會進貨的時裝零售商，

你能不能做一個 AI
比他們更會預測銷量，

告訴我們明年要訂購多少

高端服裝、淺綠色衣服、
加大碼男襯衫呢？

能不能預測哪些衣服會大賣，

預測得比設計師還準？」

我們的團隊在幾週內
用以往銷量數據訓練出模型，

和人類商家比賽。

猜猜誰贏了？

AI 勝出，預測錯誤率比人類低 25%。

零人類思維的人可能會改進模型，

投入和人類商家的競爭。

開心就好。

但我們知道，人類對時尚潮流有遠見，

這是 AI 在以往數據學不到的。

於是我們轉向 70%。

我們開始了第二次測試，

人類商家來審查

AI 推薦的購買量，

然後做出糾正。

結果如何？

使用 AI 的人類商家⋯

輸了。

人類做出的糾正中，

有 75% 降低了 AI 的準確率。

是不是要放棄人類商家的介入了？

不是。

我們要重新搭建一個模型，

這一次，不讓人類猜 AI 的對錯，

而是讓 AI 尋求人類的建議。

我們將模型改頭換面，

拋棄了最初的交互方式，
有點像這樣：

「嘿人類！這是我的預測，

照你的意思幫我糾正一下吧！」

改進後的交互方式變得更廣泛，像這樣：

「嘿人類！

我不懂明年的流行趨勢，

可不可以告訴我你押寶在哪？」

「嘿人類！

可以幫我看看這些大傢伙嗎？

它們超出了我已知的知識範圍。」

結果如何？

「人類+AI」勝出，

這次預測錯誤率低了 50%。

我們花了一年才最終完成這個工具，

漫長、成本高又艱難，

但利潤和獲益頗豐厚，

每年為零售商節省超過一億美金。

在一些特定議題上，

70% 也意味著人類要決定對錯，

限制 AI 的權力。

例如設定價格上限，

防止 AI 粗暴地提高價格，

向不知情的顧客漫天要價。

只有人類能夠設定界線，

因為 AI 不可能從以往數據學到。

有時我們可能遇到灰色地帶。

我們曾和保險公司有過合作，

他們開發了一個
針對客戶的 AI 系統，

用來識別健康狀況較差，
很可能即將要去治病的客戶，

向他們推銷附加產品。

問題是，

一些接到推銷電話的客戶，

這時候並不知道

他們很可能馬上要去醫院看病。

如果你是這家公司的執行長，

你會取消掉這個項目嗎？

這是個兩難抉擇。

為了解決這個問題，
一些公司正在組建團隊，

幫商業和科技團隊
制訂倫理規則和標準，

在個性化和可操作性間尋找平衡點，

區別客製與偏見，

分清關照與冒犯。

我堅信在每家公司，

把 AI 運用到關鍵之處
定會有巨大回報。

商業領袖們要勇敢嘗試，

選擇幾個項目，

每個項目，召集幾十個領域佼佼者——

科技、AI、數據科學、倫理——

然後完成 10%、20%、70% 的

「人類+AI」。

這樣 AI 就可以和人類高效合作。

除此之外別無他法。

經濟飛速發展的同時，
公民已對 AI 官僚主義產生恐懼。

在近期對七千人的調查中，

超過 75% 的人表示實質的擔憂，

擔心 AI 影響勞動力、隱私，

擔心社會會失去人性。

AI 官僚主義的出現

會導致公司和社會
對 AI 的強烈牴觸。

「人類+AI」是唯一選項，

只有這樣才能讓 AI 真正帶來福祉。

到頭來，

因 AI 獲利的組織，
會為人類知識投資，

而不僅僅投資 AI 和數據。

招募、培養、獎勵人類專家。

有人說數據是新的燃料，

但相信我，人類知識能改變世界。

因為人類知識是唯一的泵，

將蘊藏於數據中的燃料泵出。

謝謝大家。

（掌聲）