Showing Revision 2 created 04/27/2013 by Lian7.

1. Title:
   cs344_u1_13_更多计算能力
2. Description:

3. 203 0:00 - 0:03
   在我教的课上，我向学生提的其中一个问题是，
4. 3468 0:03 - 0:06
   “你将如何使用高出100 倍的计算能力？”
5. 5956 0:06 - 0:08
   有时候这对他们来说是个很难回答的问题。
6. 7895 0:08 - 0:14
   有许多令人伤脑筋的问题，无论是我们可以用一台强大100倍的超级计算机做什么，
7. 13866 0:14 - 0:17
   还是你可以用课桌上或口袋里的东西做什么。
8. 16973 0:17 - 0:23
   ——你认为我们在这个方向处在什么位置？——嗯，我对浮点运算（FLOP）的欲望永不满足。
9. 22816 0:23 - 0:28
   我对使用高出100倍的计算能力没有任何问题，即使 1000 倍或甚至 10000倍。
10. 27847 0:28 - 0:31
    我的很多工作是设计计算机，
11. 31031 0:31 - 0:35
    许多涉及原型设计和模拟新计算机设计。
12. 35200 0:35 - 0:38
    我总是对那些模拟的运行方式感到失望。
13. 37914 0:38 - 0:43
    因此，如果我能以高出100 倍的速度运行一台新计算机的 RTL 模拟，
14. 43042 0:43 - 0:48
    这将使我在试验一些新的计算机设计理念时更加有效率。
15. 47745 0:48 - 0:49
    对电路模拟也是如此。
16. 48945 0:49 - 0:52
    我花了很多时间等待电路模拟收敛。
17. 51885 0:52 - 0:58
    如果我能以高出100 倍的速度运行模拟，我不仅可以运行一次模拟，而且能够同时运行整个参数扫描，
18. 57519 0:58 - 1:02
    并且在我模拟的同时进行优化。
19. 62241 1:02 - 1:05
    另外，你也可以看看你汽车里的计算机。
20. 64963 1:05 - 1:09
    我是说我们的Tegra处理器实际上被设计到很多不同汽车中，
21. 68520 1:09 - 1:13
    包括《汽车潮流》杂志的年度车型特斯拉Model S，
22. 73015 1:13 - 1:21
    还有奥迪、宝马和各种福特汽车也使用Tegra。
23. 81247 1:21 - 1:26
    人们现在开始使用的这些车载移动处理器上运行的应用程序
24. 85818 1:26 - 1:30
    涉及很多电脑视觉技术，既注意汽车里面的人在做什么，
25. 90171 1:30 - 1:32
    也注意汽车外面的人在做什么。
26. 91888 1:32 - 1:37
    通过让汽车感知周围的情况，在很多方面它使得你的汽车更安全。
27. 97013 1:37 - 1:41
    它在很多方面可以弥补驾驶员不是完全警觉
28. 101264 1:41 - 1:44
    或可能在短信或做一些他们不该做的事情。
29. 103968 1:44 - 1:48
    在移动设备中，我觉得在计算机图像和增强现实方面有很多令人赞叹的应用程序。
30. 111731 1:52 - 1:56
    如果您的移动设备持续感知你周围的事物，它可以实时通知您
31. 116216 1:56 - 1:58
    哦，我估计你饿了吧。
32. 117738 1:58 - 2:01
    这有个地方有皮塔三明治，我知道你喜欢，
33. 121186 2:01 - 2:08
    因为我有你的喜恶档案。也许你应该停下来吃午饭。
34. 127746 2:08 - 2:10
    或是一个街区之外有一个你不喜欢的家伙。
35. 130461 2:10 - 2:14
    或许你应该在这个拐角右转来避免碰到他。
36. 133998 2:14 - 2:20
    在许多方面，我认为它在某种程度上演变成把你的计算设备变成了你的个人助理。
37. 139504 2:20 - 2:23
    我一直喜欢钢铁侠电影中的吉夫斯。
38. 142674 2:23 - 2:26
    我想要一个能够谈话的设备，它能够感知
39. 145945 2:26 - 2:30
    我周围的环境，而且基本上能充当我的大脑放大器。
40. 150384 2:30 - 2:34
    它在某种程度上能够记住我遗忘事情，
41. 153659 2:34 - 2:40
    告诉我周围的事情，并且协助我完成基本日常活动，
42. 159691 2:40 - 2:42
    不管是工作上还是个人事务。
43. 162340 2:42 - 2:47
    超级计算机产业的目标之一是达到——他们使用的术语是exascale量级，
44. 166648 2:47 - 2:50
    也就是他们希望每秒做10^18次浮点运算。
45. 170315 2:50 - 2:55
    当然，英伟达对进入那些计算机很感兴趣。我们将用它来做什么？
46. 175178 2:55 - 2:59
    嗯，首先我觉得exascale计算机并不是不可思议的。
47. 178588 2:59 - 3:00
    就好像，你知道，当我们首次制作出
48. 180354 3:00 - 3:03
    千万亿次量级（petascale）的机器，这不过是几年前的事情，
49. 182888 3:03 - 3:07
    它不是突破音障或真正发生质变的东西，
50. 187285 3:07 - 3:11
    但是更好地促进了科技，而且总有——
51. 190991 3:11 - 3:15
    你看看我们今天能做的模拟的保真度
52. 194724 3:15 - 3:19
    例如，模拟一个更高效的汽车发动机来改善油耗，
53. 198675 3:19 - 3:23
    我们在现有的超级计算机上设置很多近似值来拟合。
54. 203472 3:23 - 3:27
    如果我们能获得更高的保真度，通过更精细地解析网格栅
55. 206939 3:27 - 3:30
    以及对像湍流那样的一批效应更直接地建立模型，
56. 209877 3:30 - 3:34
    而不是使用宏观模型为它们建模，我们将实现更加精准的模拟。
57. 213855 3:34 - 3:40
    这将有助于更好地理解燃烧的作用，在某些
58. 219860 3:40 - 3:45
    蛋白质如何折叠的生物技术应用方面，多种气候 ——
59. 225051 3:45 - 3:47
    ——气候建模。——当然。
60. 226786 3:47 - 3:48
    气候演变。
61. 228260 3:48 - 3:53
    基本上随着我们拥有更强的计算能力，
62. 232829 3:53 - 3:56
    不是在你达到神奇的exascale，奇妙的事情发生了；
63. 236275 3:56 - 3:59
    而是在前进中的每一步，我们实现了更先进的科学，
64. 239034 3:59 - 4:02
    我们可以设计更好的产品。
65. 241572 4:02 - 4:05
    计算能力是一个很大的驱动力，驱动科学的认知
66. 245059 4:05 - 4:08
    以及全面地驱动经济发展。
67. 248241 4:08 - 4:11
    我认为我们继续稳步向前迈进非常重要,
68. 251377 4:11 - 4:14
    而exascale 只是征途中的一个里程碑。
69. 254347 4:14 - 4:21
    另外，我的理解是电力对它们确实很至关重要，
70. 261092 4:21 - 4:24
    关系到能否使exascale成为可能。我们不需要
71. 264058 4:24 - 4:27
    只插上电源每月就要花费两百万美元的机器。— 是的。
72. 267204 4:27 - 4:28
    它的确是一个经济方面的争论。
73. 268368 4:28 - 4:31
    我是说如果你今天真的想要一台exascale机器，你可以建造一台。
74. 271334 4:31 - 4:35
    你只需要写一张非常大额的支票，并将机器直接放在核电站的旁边，
75. 275345 4:35 - 4:38
    它将消耗核电站的所有电力输出。
76. 278008 4:38 - 4:41
    但我认为，如果有一些应用迫切需要，
77. 280783 4:41 - 4:46
    他们确实愿意花费那么做需要的几十亿美元，你可以建造它。
78. 286383 4:46 - 4:50
    我认为exascale的实际问题是一个经济的exascale，
79. 290016 4:50 - 4:57
    由于在总拥有成本的账单上，电费开支是一个巨大的部分。
80. 296959 4:57 - 5:00
    所以它实际上不是一台经济的exascale机器，
81. 299762 5:00 - 5:03
    除非你可以在合理的电力级别使用它。
82. 302604 5:03 - 5:07
    提出的电力数值是 20 兆瓦，
83. 306908 5:07 - 5:08
    那就是一年二千万美元。
84. 307943 5:08 - 5:13
    是啊，如果每度电你支付约10美元，电费账单是每年二千万美元。
85. 312871 5:13 - 5:17
    事实上，最终的账单金额通常比那个要高一点。
86. 316529 5:17 - 5:23
    因为能源供应的成本是分期摊销的，譬如，设备的30年使用寿命，
87. 322916 5:23 - 5:28
    通常约等于能源的年账单。
88. 327565 5:28 - 5:29
    还有一个叫做电源使用效率（PUE），
89. 329401 5:29 - 5:32
    这基本上是提供能源的效率。
90. 331650 5:32 - 5:37
    即使今天很好的设备也可能在 1.1 至 1.2。
91. 337429 5:37 - 5:43
    你需要支付另外的，例如20%，用于设施里面的空调、电扇和类似设备，
92. 343238 5:43 - 5:48
    而且基本上你正在消耗的能源并不是电脑正在使用的。
93. 347508 5:48 - 5:52
    但是这对我们是一项重大的挑战。如从今天的Sandy Bridge
94. 352210 5:52 - 5:59
    ——每个指令 1.5 纳焦耳——到如果你想每秒运行百亿亿次指令，
95. 358572 5:59 - 6:02
    要想运行百亿亿次的浮点运算，你可能得每秒运行超过百亿亿次的指令。
96. 362157 6:02 - 6:05
    但是即使你以 20 兆瓦运行机器，
97. 365292 6:05 - 6:08
    每条指令才20微微焦耳。
98. 367527 6:08 - 6:10
    这不仅仅是处理器，包括所有东西。
99. 369852 6:10 - 6:15
    这包括内存系统、网络、IO存储系统。
100. 374558 6:15 - 6:17
     这涉及机器的所有细节。
101. 376935 6:17 - 6:21
     因此，你大致上每个指令只有10微微焦耳用在处理器。
102. 380964 6:21 - 6:24
     即使在英伟达也不能足够接近这个值。
103. 384373 6:24 - 6:27
     是，与Sandy Bridge相比，降低了150倍，
104. 387100 6:27 - 6:30
     工艺没有多大帮助。
105. 389804 6:30 - 6:33
     这也是为什么传统的CPU无法做到这一点。
106. 392740 6:33 - 6:35
     这将需要一种混合型多核方法，
107. 395328 6:35 - 6:41
     依靠GPU像吞吐量处理器那样处理大部分工作，这样才能实现。
108. 400961 6:41 - 6:44
     但是即使我们有方法，
109. 403724 6:44 - 6:49
     我们大概快超过量级了，我们可能会在工艺中得到因数3。
110. 408812 6:49 - 6:52
     我们需要很聪明，才能得到我们需要的其他因数 3 或 4 。
111. 412434 6:52 - 6:56
     ——Titan里面确实有CPU，是吗？——对的。
112. 415682 6:56 - 6:59
     那么，将来会不会出现甚至没有CPU这种情况？
113. 418667 6:59 - 7:01
     不会，我认为总有代码片段，
114. 421424 7:01 - 7:06
     在其中你有一条关键路径，你有一段需要快速运行的单线程代码。
115. 426460 7:06 - 7:10
     所以你总是需要一个延迟优化处理器来处理它。
116. 430340 7:10 - 7:17
     但大多数的的工作，这些中的一个，它有点像高速缓存内存，你的大多数访问
117. 437719 7:18 - 7:19
     都是到这个小小的内存，虽然它运行速度很快，
118. 439043 7:19 - 7:23
     但这背后你仍需要大内存容量，对吧？
119. 442885 7:23 - 7:26
     所以，对吞吐量与延迟来说，这是相同的。
120. 445912 7:26 - 7:28
     你的大部分工作是在吞吐量处理器上完成的，
121. 448420 7:28 - 7:32
     但当你有一个关键的延迟事件，你在延迟优化处理器上运行它。
122. 452254 7:32 - 7:36
     这样你最终获得CPU的关键路径性能，
123. 456258 7:36 - 7:39
     伴随着GPU的大部分能源消耗。
124. 459234 7:39 - 7:42
     ——大部分浮点运算和Titan肯定通过 GPU处理器。—— 是的。
125. 462164 7:42 - 7:45
     大部分浮点运算将在GPU中进行。