推特需要改进的地方

推特还有救吗？在与TED的克里斯·安德森和惠特尼·彭宁顿·罗杰斯的一场广泛谈话中，推特的CEO杰克 · 多西探讨了该平台的未来——他承认推特存在骚扰和监管问题，并提出了一些根本性的改革，希望能鼓励健康、互敬的谈话。“我们是否能够传达人们每天所重视的事物呢？”多西问到。

克里斯·安德森：
你现在担心什么？

一直以来你都敞开探讨
推特上的问题。

对于现在的情况，

你最担心的是什么？

杰克·多西：
现在我最担心的是谈话的质量。

我们的目标是促进大众交流，

但我们已经在上面看到了
很多攻击性言论。

我们看到了侮辱，我们看到了骚扰，

我们还看到了诱导性言论，

机器回复、水军、错误信息。

这些变化

是我们在13年前创建公司时
没有想到的。

然而，现在这些言论数量巨大，

我最担心的是我们是否有能力
解决这个问题，

通过一种可延展的系统性方式，

有一个严格的处理标准，

过程公开透明，大众可以理解，

并且在我们犯错的时候
有一个而严格的上诉机制，

因为每个人都会犯错。

惠特尼·彭宁顿·罗杰斯：
我非常高兴

听到你谈论你的担心，

因为我觉得有很多人

都觉得自己在推特上被侮辱和骚扰，

并且我觉得首当其冲的

就是女性，非白人女性和黑人女性。

有数据表明，

来自国际特赦组织几个月前的一份报告称

有一部分活跃的黑人女性推特用户

平均每10条推文

就会收到一条骚扰回复。

当你谈论到为推特用户
塑造健康环境的时候，

我对你说的“大众的健康”很感兴趣，

但具体来讲：你准备如何为这个群体、
为女性、为非白人女性和黑人女性

营造一个安全的环境呢？

多西：好的。

现在状况比较糟糕，

当你来到这个平台，

理想情况下，你想了解这个世界，

但你要花费大量时间来举报
和受到侮辱信息，

还有骚扰信息。

所以我们现在研究的是

平台和服务所提供的动机。

现在，系统的动态性使得在平台上

骚扰和侮辱他人非常容易，

不幸的是，过去我们大部分系统

完全依赖于用户举报骚扰和侮辱信息。

大约在去年年中，我们决定更多采用

机器学习与深度学习，

使其能够主动发现侮辱信息，

这样我们就能让受害者卸下重担。

最近我们颇有成效。

机器自主学习算法

能够主动发现38%的侮辱性推文，

这样人们就不用举报这些了。

但即使机器识别了那些信息，
也还需要人来审查，

所以在有人审查之前，
我们不会删除任何评论或账号。

但重点是我们一年前是从零起步。

我的意思是，以前，

每个受到侮辱的人都需要亲自举报，

对于他们和我们而言是一项大工程，

并且这非常不公平。

我们在做的另外一件事，
是确保在公司里

有足够的员工来代表反映
我们服务的所有群体。

若我们的团队没有多元的观念，

若没有员工会每天亲身经历这些问题，

我们将无法成功地建立一个企业。

这一点不仅仅适用于开发小组，

也适用于领导团队。

所以我们要继续在
同情人们的遭遇的同时，

给他们创造更好的交流平台，

并且为我们的用户打造更好而简便的方法

来处理一些问题。

所以我们的大部分工作都是
围绕科技展开的，

但我们同时也在思考这个服务的动机：

当你第一次登录的时候，
推特鼓励你做了什么事？

在过去，

这个平台催生了许多愤怒，
催生了许多暴徒行为，

也催生了许多团体骚扰。

我们正在深入研究我们服务的基本原则，

以探求这种行为现象的原因。

正如我刚才所描述的，
我们可以在科技方面做出许多小的改变，

但最终，我们必须深入研究
网络本身的动态性，

而这就是我们现在所做的。

安德森：但在你看来——

哪些方面的改动是你力所能及

并且可以从根本上改善人们行为的呢？

多西：有一件事——

我们开设的关注别人账号的这个功能，

我举一个例子，

我猜这不是吸引人们用推特的主要原因。

我相信推特的最佳用途是构建兴趣网络。

人们来到这里，每个人兴趣不同，

他们需要花很大的工夫
才能找到志同道合的人，

关注兴趣相同的账号。

我们可以改进的地方在于
让你关注一项兴趣爱好，

关注一个标签，关注一种趋势，

关注一个群体。

通过这种方式，我们可以给你推荐
与你兴趣有关的

所有账号、所有话题、

所有时刻以及所有标签，

这可以开拓用户的视野。

但要从只关注特定账号、
话题和兴趣爱好，

转而关注整个社交网络，

这是一个非常巨大的转变。

安德森：但之所以推特上内容丰富，

是因为

推特使全球很多人
在“角斗场”中相互竞争，

看谁有更多的粉丝，获得更多的关注吗？

我是说，对于那些关注者而言，

这并不是什么大问题。

但对于那些博主而言，每个人都在说，

“你知道吗，我希望我也能有更多的赞、
更多的粉丝和转发，”

所以他们不断地尝试，

希望通过某种方式来做到这一点。

并且我们发现，能达成这个目的
最有效方法，

就是发表挑衅的、

讨厌的、词藻华丽而令人憎恶的言论，

比方说，在推特上花式骂人，

如果你不停地侮辱他人——

最终愤怒的情绪就会
自然不断地蔓延到其他人。

你要怎么解决这个问题？

多西：是的，我觉得你讲的正中要害，

但这反过来回到了刚才所说的动机问题。

在早期，我们设计的系统是这样的：

系统会显示关注你账号的人数。

我们决定让这个数字放大又加粗显示，

你界面上放大粗体的字体都很重要，

这些就是你想推动的东西。

对当时而言，这是否是正确的做法呢？

也许不是。

如果让我重头来过，

我不会再这么强调关注人数。

我不会再这么强调推文的“喜爱”数量。

我甚至不觉得我会创造“喜爱”这个功能，

因为这个功能并不能推动

我们眼中最重要的事：

对网络提供健康的贡献，

促进交流，

推动人们参与交流，

在交流中学习。

我们在13年前没有考虑到这些，

但现在我们却认为它们非常重要。

所以我们需要审视系统如何呈现粉丝数，

呈现转推数，

呈现“喜爱”的数量，

并且问这个深奥的问题：

我们想让人们提升的是否就是这个数字？

我们是否希望人们打开推特，

意识到，“这就是我要提升的东西？”

我相信现在答案是否定的。

（掌声）

罗杰斯：我觉得我们也应该看看

一部分来自听众的推文。

安德森：让我们看看你们在问什么。

我觉得，这是——总体而言，
推特的特点之一

在于它能够集中大众智慧，

推特上的知识，问题和观点

多得超乎你的想象。

而且有时候，很多观点意见质量都很高。

罗杰斯：刚才我看到的这个很好，在下面，

“在2020年美国大选中，
推特准备采取什么措施对抗外国干涉？”

我觉得这是我们在互联网上见到的

非常重要的一个问题，

网络上有着许多恶意的机器操作，

用推特打个比方，

来自齐格努实验室的朋友
给了我们一些资料，

也许我们可以把这当做一个例子，

来引出我想谈论的这个问题，

有很多机器人小号，

或者说一系列的自动化恶意账号活动，

它们被用来影响选举这类的事件。

在这个例子中，齐格努给我们分享了一些

他们从推特上收集到的数据，

你能在这里看到，

白色代表——人类账号，
每个点代表一个账号，

颜色越粉，

说明这个账号活动越像机器人。

你能到看到有一些人与机器账号互动，

在这里，互动内容是关于
以色列选举的，

机器账号散播关于
本尼·甘茨的虚假信息，

我们都知道，选举的结果，

最终内塔尼亚胡以微弱优势获胜，

而这个结果可能被这些互动影响了。

当你想到推特上的这些事情时，

你正在采取具体什么措施，

来保证类似的虚假信息不会传播，

影响他人，以致于影响民主制度呢？

多西：让我们倒回去一点，

我们问了自己一个问题：

我们是否能测量对话的质量？

而对质量的定义又是什么？

就像你我

作为人类会有显示
我们健不健康的指标，

比如说体温，脸上的红晕，

我们相信我们能够找到反应
谈话健康程度的指标。

我们与麻省理工学院的
一个名叫匡提科的实验室合作，

提出了四项指标，

我们认为最终可以运用在系统上。

第一项指标叫作共同关注。

这个指标用于测量对话中
人们多大程度集中于

同一个话题，还是不同的话题。

第二个指标叫作共同现实。

这个指标用于测量这段对话有多少部分

是基于共同事实的——

不是指这些事实真实与否，

而是我们认为的事实是否相同？

第三个指标是感受性：

一段对话在多大程度上是温和，
让人容易接受的，

亦或者是完全相反，会使人不快呢？

第四个指标是观点多样性。

我们所接收的信息是否被筛选过，
人云亦云，

又或者是我们能在谈话中

接收到许多不同的观点呢？

而这四个指标背后蕴含意思是

指标越高，谈话的质量就越高。

所以第一步是试验是否能在网上
检测这些指标，

我们内心持肯定的态度。

我们在感受性方面势头较大。

我们在系统中建立了反感分，
一个反感模型，

它能够检测在推特上

你是否会终止某个你正在参与的话题，

因为这个话题让你感到不快，

并且是非常不愉快。

我们正在努力测量其他指标，

而下一步是，

在我们制定解决方案之后，

观察这些指标长期的趋势走向，

并且继续试验。

我们的目标是保证这些指标的平衡，

因为一个指标的提升可能会导致
另一个的降低。

如果你提高观点的多样性，

可能就会导致共同现实值的降低。

安德森：让我们选择屏幕上的
一些问题提问。

多西：持续不断地发问。

安德森：许多人好奇，

在推特上把纳粹清除出去有多难？

多西：（笑声）

我们对于暴力极端组织制定了规则，

而我们的大部分工作和服务条款

是研究用户行为，而非网站内容。

所以我们实际上在研究行为模式。

比如说，有人利用这个平台

来持续或是间断性地骚扰他人，

利用可憎的意象，

比如可能与3K党有关的意象，

或是与美国纳粹党有关的。

这些都是我们会立即处理的问题。

现在，这些术语被使用的次数相对较多，
用词不严谨，

所以我们不能因为有人提到这些单词，

就指控某人有罪，

并且以此为证据将他们赶出这个平台。

所以我们的许多模型
要检测的第一件事是：

这个账号是否与暴力极端组织
有联系？

如果答案是肯定的，
那我们可以采取措施。

我们对于3K党、美国纳粹党
以及其他组织就采取了措施。

第二个问题：这些账号是否在使用
与上述组织有关的图片，

或是其行为是否与上述组织有关？

安德森：你安排了多少人给账号行为评分，

来检查这些行为？

多西：人数不固定。

我们希望能灵活应对这件事，

因为我们想保证，第一，

建立算法而不是雇佣大量的人，

因为我们这项任务是会延展的

雇多少人都会显得不够。

这就是为什么我们要努力建立
能积极检测辱骂信息的系统，

然后让人来审阅这些信息。

我们希望可以做到让

算法能够不断检测所有的推文，

把其中问题最大的挑出来，

这样人就可以决定到底要不要采取措施，

基于我们的服务条款。

罗杰斯：你说从事这项工作的人数
永远不够，

那么你现在到底雇佣了多少人
来监控账号？

你怎么知道这些人足够完成任务？

多西：我们的安排非常灵活。

有时我们让人监控垃圾信息。

有时我们让人监控侮辱和
骚扰信息。

我们要确保我们的人事安排足够灵活，

这样我们就能把他们派往
最有需要的地方。

有时，他们监控选举信息。

我们在墨西哥有一组人，
马上在印度也会成立一个小组。

很明显，去年有选举，中期选举，

所以我们希望确保人员流动性。

当人们——

举个例子，如果你现在去查
我们的服务条款，

然后你打开页面，

然后你想弄明白你刚刚收到的
侮辱和骚扰，

它们是否违反我们的服务条款，
是否要举报，

你打开页面后看到的第一个东西，

是知识产权保护。

你向下看就能看到侮辱，骚扰有关，

以及其他所有你可能会遭遇的事情。

尽管我不清楚为什么近几年来
推特上会出现这些问题，

但我们把这些信息列为人们
最需要的信息，

并且正在着手解决这些问题。

这些信息排列的先后顺序
代表了我们对其的重视程度。

所以我们正在改变。

我们以正确的顺序排列信息，

但同时我们也在简化规则，
使其简单易懂，

这样人们就能理解

哪些行为违反了条例，哪些没有。

接下来我们——

正如我刚才所说，现在工作的重点
是减少受害者的操作压力。

这意味着继续发展科技，

代替真人做这些工作——

真人会接收侮辱信息，

同时还要亲自举报。

所以我们并不希望

我们一步步

朝一些负面的东西发展，

我们希望

在科技和人类创新中取得平衡，

让人类来审查规则，

而非机械地发现问题，报告问题。

以上就是我们的想法。

安德森：我想进一步了解你刚刚讲的事。

我的意思是，我很开心听到你说
你在寻求方法

来调整重构系统设计，

来阻止一些反应性行为，并且或许——

引用特里斯坦·哈里斯的说法——

鼓励人们反思。

你现在进行到哪一步？

你准备用什么功能
来代替“喜欢”功能？

多西：首先，

我对于推特的个人目标来自于

我认为公众交流是最关键的。

世界上有一些问题，

不仅仅某个特定国家地区，
全世界都面临这些问题，

而全球公共交流
有助于解决这些问题。

这就是推特独特的活力之一，

这个平台完全开放，

完全公共，

完全流动，

任何人可以浏览和参与和人话题。

所以会有气候变化的讨论。

有对人工智能取代人类的讨论。

有对经济差距的讨论。

无论你来自哪个国家或地区，

人类都无法独自解决这些问题。

这需要全球合作，

我们认为这就是推特发挥作用的地方。

第二，现在你登录推特，

当你离开的时候，
也许你觉得没什么收获，

但有些人觉得有收获。

有些人的社交网络非常丰富，

他们身处一个庞大的社区，
每天都可以学习到新的知识。

但要想建造这样的社区，
需要大量的精力和时间。

所以我们让人们可以更快得

找到那些主题、那些兴趣。

并确保他们有所收获，

无论他们每天在推特上花多少时间——

我不想扩大用户使用推特的时间，

我想扩大用户在推特上的收获，

让他们在推特上学到更多知识，并且——

安德森：你是这么想的吗?

这是许多人想问的一个核心问题。

当然，杰克，你在很大程度上受到约束，

因为这是一家上市公司，

你会收到投资者的压力，

你赚钱的方法之一是广告——

而广告的数量取决于用户参与度。

如果有需要的话，
你是否愿意牺牲用户参与度，

来换取更加有效的交流呢？

多西：当然；高效交流意味着
用户使用时间的减少，

我完全可以接受这个，

因为我们希望确保，当你来到推特，

你马上就能看到一些你感兴趣，
想学的东西。

在这个基础上，我们依然能投放广告。

这并不意味着你需要加快速度
看更多的东西。

第二件我们正在研究的事情是...

安德森：但是，就你的目标而言，

如果每日活跃参与度
是你追求的东西的话，

这个指数并不意味着人们
每天参与了兴趣相关的事务。

它可能指

人们每天出于好奇围观的事务。

我们之所以沉迷于此，因为我们
看到一些惹怒我们的东西，

然后我们参与进去，与别人争论，

然后每日活跃参与度就上升了，

因此广告收益也增多了，

但最终结果是我们愈发互相仇恨。

你是如何定义...

过于美化“每日活跃参与度”这个数值
似乎是一件危险的事。

（掌声）

多西：确实，如果你单独
讨论这个数值的话，

但你得让我介绍其他衡量标准，

我们同时也在检测谈话

和谈话链。

我们希望鼓励平台发展健康交流，

而我们认为健康交流的定义是

参与有益的交流，

这里的有益通过我刚刚所
提到的四个指标来测量。

所以你不能只看一个指标。

你得平衡一下，不断观察

在平台上什么因素可以创造健康交流，

可以为人们创造健康的体验。

最终，我们希望可以达到这样的标准，

人们会说：“嘿，我从推特上
学到了一些东西，

它让我增长了见识。”

这是我们未来的最终目标，

但距离这个目标的实现还有一段时间。

安德森：你在很多人看来，是一个谜。
我也这样觉得。

这可能不公平，
但当我之前某天醒来的时候，

脑海中的画面是你和这个现状，

我们正乘坐在一艘名为“推坦尼克号”
的巨轮上前进...

（笑声）

在船上，普通舱的一些人

感觉非常不舒服，

而你，和其他船长不同，

说：“嘿，告诉我，
我想知道你们的意见。”

所以人们过来跟你讲话，他们说：
“我们担心前方的冰山。”

然后你回答：“你们知道吗，
那是一个巨大的挑战，

说实话，我们的船可能不像
它看上去的那样

可以轻松转向。”

然后人们说：“请想想办法。”

然后你登上舰桥，

我们就在等待。

我们向外看，发现你神态自若，

但我们都站在外面，
喊着：“杰克，求你快点转向！”

你能懂吗？

（笑声）

（掌声）

我是说

（掌声）

民主制度危在旦夕。

我们的文化、我们的世界危在旦夕。

推特非常了不起，变化非常巨大。

它也许没有另一些平台那么大，

但有影响力的人用它来设定世界议程，

很难想象世界上比它更重要的角色。

我的意思是，杰克，你现在
听取他人意见，你做得很好，

但讲到真正专心推动解决的办法——

你会这么做吗？

多西：能，我们取得了
一些实质性的进展。

我的意思是，在推特的历史上
有着一些巨大变化。

当我重回到公司时，

我们对未来情形一筹莫展，

不仅仅是因为人们使用这个平台的方法，

还因为公司结构的问题。

所以我们得改变一些公司基础，

转变公司的方向，

经历两次疯狂的裁员，

因为对于当时的业务而言雇员太多，

然后我们将工作重心

放在为公众交流服务上。

这花了一点时间。

当我们开始关注这方面时，

我们意识到一些原则性的问题。

为了达成你所说的目的，
我们可以采取一系列浅层措施，

但我们需要找到可持续的改进措施，

而这意味着非常深入，

观察我们13年前建立的东西，

并且反省

这个系统是怎样工作的，
这个框架是怎样工作的，

现今社会需要的是什么，

考虑到世界变化之快和
人们使用它的方法。

所以我们已经尽快努力了，
但速度无法帮我们完成任务。

重要的是专注、优先级、

是对网络之基的理解，

构建可以灵活变动、适应变化的机制。

坦诚布公我们的现状，

这样我们才能继续赢得人们的信任。

所以我对已经投入执行的机制感到自豪。

我对我们选定的前进方向感到自豪。

显然，我们可以更快进步，

但这需要我们放弃过去一系列愚蠢的决定。

安德森：很好。

那么，我觉得如果有机会的话，
在场的很多人

都愿意帮助你完场这一项重大改变，

我不知道惠特尼是否还有问题，

杰克，感谢你能来与我们
开诚布公地讨论。

这非常需要勇气。

我对你所说的非常感激，
祝你好运完成任务。

多西：非常感谢。谢谢你们邀请我。

（掌声）

谢谢。