[Script Info]
Title: 
[Events]
Format: Layer, Start, End, Style, Name, MarginL, MarginR, MarginV, Effect, Text
Dialogue: 0,0:00:01.00,0:00:03.22,Default,,0000,0000,0000,,Tôi chuẩn bị nói về\Nsự thất bại của trực giác
Dialogue: 0,0:00:03.24,0:00:05.46,Default,,0000,0000,0000,,mà nhiều người trong chúng ta\Nthường gặp phải.
Dialogue: 0,0:00:05.48,0:00:09.36,Default,,0000,0000,0000,,Nó thật ra là sự thất bại trong việc\Nphát hiện một mối nguy hiểm nhất định.
Dialogue: 0,0:00:09.36,0:00:11.10,Default,,0000,0000,0000,,Tôi sẽ mô tả một viễn cảnh
Dialogue: 0,0:00:11.12,0:00:14.38,Default,,0000,0000,0000,,mà tôi nghĩ vừa kinh khủng
Dialogue: 0,0:00:14.40,0:00:16.80,Default,,0000,0000,0000,,vừa có thể sẽ xảy ra,
Dialogue: 0,0:00:16.84,0:00:18.50,Default,,0000,0000,0000,,và đây không phải sự kết hợp tốt
Dialogue: 0,0:00:18.52,0:00:20.06,Default,,0000,0000,0000,,khi nó xảy ra.
Dialogue: 0,0:00:20.08,0:00:22.54,Default,,0000,0000,0000,,Thế nhưng thay vì sợ,\Nhầu hết các bạn sẽ cảm thấy
Dialogue: 0,0:00:22.56,0:00:25.15,Default,,0000,0000,0000,,rằng điều tôi đang nói thật ra rất tuyệt
Dialogue: 0,0:00:25.20,0:00:28.18,Default,,0000,0000,0000,,Tôi sẽ mô tả cách mà\Nnhững thứ ta gặt hái được
Dialogue: 0,0:00:28.20,0:00:29.98,Default,,0000,0000,0000,,từ trí thông minh nhân tạo (AI)
Dialogue: 0,0:00:30.00,0:00:31.76,Default,,0000,0000,0000,,có thể hủy diệt chúng ta.
Dialogue: 0,0:00:31.76,0:00:35.43,Default,,0000,0000,0000,,Thực ra, tôi nghĩ rất khó để xem làm sao\Nchúng có thể không tiêu diệt chúng ta
Dialogue: 0,0:00:35.43,0:00:37.42,Default,,0000,0000,0000,,hoặc làm cho chúng ta tự hủy diệt mình.
Dialogue: 0,0:00:37.42,0:00:39.26,Default,,0000,0000,0000,,Nhưng nếu các bạn giống tôi,
Dialogue: 0,0:00:39.28,0:00:41.94,Default,,0000,0000,0000,,bạn sẽ thấy rằng nó rất vui\Nkhi nghĩ về những điều này.
Dialogue: 0,0:00:41.96,0:00:45.34,Default,,0000,0000,0000,,Và phản ứng đó là một phần của vấn đề.
Dialogue: 0,0:00:45.36,0:00:47.72,Default,,0000,0000,0000,,OK? Phản ứng đó sẽ làm bạn lo lắng.
Dialogue: 0,0:00:47.72,0:00:50.58,Default,,0000,0000,0000,,Và nếu tôi thuyết phục được các bạn\Ntrong buổi nói chuyện này
Dialogue: 0,0:00:50.60,0:00:54.02,Default,,0000,0000,0000,,rằng chúng ta có thể sẽ phải\Nhứng chịu một nạn đói toàn cầu,
Dialogue: 0,0:00:54.04,0:00:57.10,Default,,0000,0000,0000,,hoặc do biến đổi khí hậu hoặc\Ndo một số thiên tai khác,
Dialogue: 0,0:00:57.12,0:01:00.54,Default,,0000,0000,0000,,và rằng cháu chắt của các bạn hay của họ,
Dialogue: 0,0:01:00.56,0:01:03.10,Default,,0000,0000,0000,,rất có thể sẽ phải sống như thế này,
Dialogue: 0,0:01:03.20,0:01:05.15,Default,,0000,0000,0000,,thì bạn sẽ không nghĩ,
Dialogue: 0,0:01:05.44,0:01:06.78,Default,,0000,0000,0000,,"Tuyệt vời.
Dialogue: 0,0:01:06.80,0:01:09.13,Default,,0000,0000,0000,,Tôi thích buổi nói chuyện này."
Dialogue: 0,0:01:09.20,0:01:11.53,Default,,0000,0000,0000,,Nạn đói không vui vẻ gì đâu.
Dialogue: 0,0:01:11.80,0:01:15.18,Default,,0000,0000,0000,,Tuy nhiên cái chết do khoa học\Nviễn tưởng lại rất hài hước.
Dialogue: 0,0:01:15.20,0:01:19.18,Default,,0000,0000,0000,,mà một trong số những thứ làm tôi\Nlo lắng nhất về việc phát triển AI
Dialogue: 0,0:01:19.20,0:01:23.30,Default,,0000,0000,0000,,là chúng ta dường như không thể sắp xếp\Nmột phản ứng cảm xúc thích hợp nào
Dialogue: 0,0:01:23.32,0:01:25.14,Default,,0000,0000,0000,,cho những mối nguy hiểm trước mắt.
Dialogue: 0,0:01:25.16,0:01:30.11,Default,,0000,0000,0000,,Tôi không thể sắp xếp thứ phản ứng này,\Nnên tôi mới đưa ra buổi nói chuyện này.
Dialogue: 0,0:01:30.12,0:01:32.82,Default,,0000,0000,0000,,Nó như thể chúng ta\Nđứng trước hai cánh cửa.
Dialogue: 0,0:01:32.84,0:01:34.10,Default,,0000,0000,0000,,Sau cánh cửa thứ nhất,
Dialogue: 0,0:01:34.12,0:01:37.42,Default,,0000,0000,0000,,chúng ta ngưng quá trình xây dựng\Ncác loại máy móc thông minh.
Dialogue: 0,0:01:37.44,0:01:41.46,Default,,0000,0000,0000,,Phần cứng và phần mềm máy tính\Nkhông cải tiến tốt hơn nữa vì vài lí do.
Dialogue: 0,0:01:41.48,0:01:44.95,Default,,0000,0000,0000,,Giờ hãy dành thời gian suy nghĩ\Ntại sao điều này có thể xảy ra.
Dialogue: 0,0:01:45.08,0:01:48.74,Default,,0000,0000,0000,,Ý tôi là, dựa vào giá trị của\Ntrí thông minh và sự tự động hóa,
Dialogue: 0,0:01:48.76,0:01:52.28,Default,,0000,0000,0000,,chúng ta vẫn sẽ tiếp tục cải tiến\Ncông nghệ nếu ta hoàn toàn có thể.
Dialogue: 0,0:01:52.52,0:01:55.80,Default,,0000,0000,0000,,Điều gì có thể khiến chúng ta\Ndừng làm việc này?
Dialogue: 0,0:01:55.80,0:01:58.80,Default,,0000,0000,0000,,Một cuộc chiến hạt nhân quy mô lớn?
Dialogue: 0,0:01:59.00,0:02:02.14,Default,,0000,0000,0000,,Một đại dịch toàn cầu?
Dialogue: 0,0:02:02.32,0:02:05.52,Default,,0000,0000,0000,,Va chạm thiên thạch?
Dialogue: 0,0:02:05.64,0:02:08.22,Default,,0000,0000,0000,,Hay Justin Bieber trở thành tổng thống Mỹ?
Dialogue: 0,0:02:08.24,0:02:10.52,Default,,0000,0000,0000,,(Cười)
Dialogue: 0,0:02:12.76,0:02:16.96,Default,,0000,0000,0000,,Vấn đề là, thứ gì đó sẽ phải hủy diệt\Nnền văn minh như chúng ta đã biết.
Dialogue: 0,0:02:17.35,0:02:21.66,Default,,0000,0000,0000,,Bạn phải tưởng tượng nó\Nsẽ phải tồi tệ như thế nào
Dialogue: 0,0:02:21.68,0:02:25.02,Default,,0000,0000,0000,,để ngăn chúng ta tiếp tục\Ncải tiến công nghệ
Dialogue: 0,0:02:25.04,0:02:26.26,Default,,0000,0000,0000,,vĩnh viễn,
Dialogue: 0,0:02:26.28,0:02:28.29,Default,,0000,0000,0000,,thế hệ này qua thế hệ khác.
Dialogue: 0,0:02:28.30,0:02:30.49,Default,,0000,0000,0000,,Gần như theo định nghĩa,\Nđây là thứ tồi tệ nhất
Dialogue: 0,0:02:30.49,0:02:32.50,Default,,0000,0000,0000,,xảy ra trong lịch sử nhân loại.
Dialogue: 0,0:02:32.52,0:02:33.82,Default,,0000,0000,0000,,Vậy nên lựa chọn duy nhất,
Dialogue: 0,0:02:33.84,0:02:36.18,Default,,0000,0000,0000,,và nó nằm sau cánh cửa số hai,
Dialogue: 0,0:02:36.20,0:02:39.34,Default,,0000,0000,0000,,đó là chúng ta tiếp tục cải tiến\Ncác máy móc thông minh
Dialogue: 0,0:02:39.36,0:02:41.14,Default,,0000,0000,0000,,năm này qua năm khác.
Dialogue: 0,0:02:41.31,0:02:45.91,Default,,0000,0000,0000,,Tới một thời điểm nhất định, chúng ta sẽ\Ntạo ra những cỗ máy thông minh hơn mình,
Dialogue: 0,0:02:45.91,0:02:48.70,Default,,0000,0000,0000,,và một khi chúng ta sở hữu\Ncác cỗ máy thông minh hơn mình,
Dialogue: 0,0:02:48.72,0:02:50.68,Default,,0000,0000,0000,,chúng sẽ bắt đầu tự cải tiến.
Dialogue: 0,0:02:50.68,0:02:53.68,Default,,0000,0000,0000,,Sau đó, chúng ta mạo hiểm với thứ\Nmà nhà toán học Ij Good gọi là
Dialogue: 0,0:02:53.68,0:02:55.26,Default,,0000,0000,0000,,sự "bùng nổ trí tuệ"
Dialogue: 0,0:02:55.28,0:02:58.11,Default,,0000,0000,0000,,và quá trình đó có thể sẽ\Ntiến xa ra khỏi chúng ta.
Dialogue: 0,0:02:58.12,0:03:00.94,Default,,0000,0000,0000,,Và giờ, điều này thường hay bị biếm họa,\Nnhư tôi có ở đây,
Dialogue: 0,0:03:00.96,0:03:04.18,Default,,0000,0000,0000,,nỗi sợ trước một đội quân robot độc ác
Dialogue: 0,0:03:04.20,0:03:05.46,Default,,0000,0000,0000,,sẽ tấn công chúng ta.
Dialogue: 0,0:03:05.48,0:03:08.18,Default,,0000,0000,0000,,Nhưng đó chưa phải là viễn cảnh\Ndễ xảy ra nhất.
Dialogue: 0,0:03:08.20,0:03:13.06,Default,,0000,0000,0000,,Không phải những cỗ máy của chúng ta \Ntự nhiên trở nên ác độc
Dialogue: 0,0:03:13.08,0:03:15.70,Default,,0000,0000,0000,,Mối lo thật sự là khi \Nchúng ta tạo ra những cỗ máy
Dialogue: 0,0:03:15.72,0:03:17.78,Default,,0000,0000,0000,,tài giỏi hơn chúng ta quá nhiều
Dialogue: 0,0:03:17.80,0:03:21.58,Default,,0000,0000,0000,,để rồi, dù chỉ một khác biệt nhỏ nhất\Ngiữa mục tiêu của chúng và ta thôi
Dialogue: 0,0:03:21.60,0:03:23.95,Default,,0000,0000,0000,,cũng có thể hủy diệt chúng ta.
Dialogue: 0,0:03:23.96,0:03:26.58,Default,,0000,0000,0000,,Hãy nghĩ đến mối quan hệ\Ngiữa chúng ta loài kiến.
Dialogue: 0,0:03:26.60,0:03:28.26,Default,,0000,0000,0000,,Chúng ta không ghét chúng.
Dialogue: 0,0:03:28.28,0:03:30.32,Default,,0000,0000,0000,,Chúng ta không cố tình làm hại chúng.
Dialogue: 0,0:03:30.32,0:03:32.80,Default,,0000,0000,0000,,Thực tế đôi khi chúng ta cố gắng\Nkhông làm hại chúng.
Dialogue: 0,0:03:32.80,0:03:34.78,Default,,0000,0000,0000,,Chúng ta bước qua chúng trên vỉa hè.
Dialogue: 0,0:03:34.80,0:03:36.93,Default,,0000,0000,0000,,Nhưng mỗi khi sự xuất hiện của chúng
Dialogue: 0,0:03:36.93,0:03:39.55,Default,,0000,0000,0000,,xung đột cực kì với một\Ntrong các mục đích của chúng ta,
Dialogue: 0,0:03:39.55,0:03:42.03,Default,,0000,0000,0000,,Ví dụ như khi xây dựng\Nmột tòa nhà như thế này,
Dialogue: 0,0:03:42.03,0:03:44.48,Default,,0000,0000,0000,,chúng ta tiêu diệt chúng không lo lắng.
Dialogue: 0,0:03:44.48,0:03:47.42,Default,,0000,0000,0000,,Có nghĩa là một ngày nào đó\Nkhi chúng ta tạo ra các cỗ máy
Dialogue: 0,0:03:47.44,0:03:50.18,Default,,0000,0000,0000,,cho dù chúng có ý thức hay không,
Dialogue: 0,0:03:50.20,0:03:53.72,Default,,0000,0000,0000,,cũng sẽ đối xử với chúng ta \Ntheo sự bất chấp tương tự như thế.
Dialogue: 0,0:03:53.76,0:03:57.35,Default,,0000,0000,0000,,Bây giờ, tôi nghi ngờ rằng điều này có vẻ\Nquá xa với nhiều người
Dialogue: 0,0:03:57.36,0:04:03.70,Default,,0000,0000,0000,,Tôi cá là có một số người đang nghi ngờ\Nrằng AI siêu thông minh có thể xảy ra,
Dialogue: 0,0:04:03.72,0:04:05.38,Default,,0000,0000,0000,,ít nhiều không thể tránh khỏi.
Dialogue: 0,0:04:05.40,0:04:09.02,Default,,0000,0000,0000,,Nhưng sau đó bạn phải tìm ra điều sai\Nvới một trong các giả định sau.
Dialogue: 0,0:04:09.04,0:04:11.57,Default,,0000,0000,0000,,Và chỉ có 3 giả định.
Dialogue: 0,0:04:11.80,0:04:17.15,Default,,0000,0000,0000,,Trí thông minh là một vấn đề của quá trình\Nxử lí thông tin trong các hệ thống vật lí.
Dialogue: 0,0:04:17.16,0:04:19.96,Default,,0000,0000,0000,,Thực ra, điều này hơn một chút\Nso với giả định.
Dialogue: 0,0:04:19.96,0:04:23.42,Default,,0000,0000,0000,,Chúng ta đã tạo ra trí thông minh hạn hẹp\Ntrong các cỗ máy của mình rồi,
Dialogue: 0,0:04:23.44,0:04:25.46,Default,,0000,0000,0000,,Và rất nhiều máy móc cũng đã hoạt động
Dialogue: 0,0:04:25.48,0:04:28.82,Default,,0000,0000,0000,,ở mức độ của trí thông minh siêu việt rồi.
Dialogue: 0,0:04:28.84,0:04:31.38,Default,,0000,0000,0000,,Và chúng ta biết rằng chỉ có vật chất
Dialogue: 0,0:04:31.38,0:04:34.15,Default,,0000,0000,0000,,mới có thể tạo cơ hội cho\N"trí thông minh không giới hạn,"
Dialogue: 0,0:04:34.15,0:04:37.74,Default,,0000,0000,0000,,một khả năng suy nghĩ linh hoạt\Ntrên nhiều lĩnh vực,
Dialogue: 0,0:04:37.76,0:04:40.90,Default,,0000,0000,0000,,bởi vì bộ não chúng ta quản lí nó.\NĐúng chứ?
Dialogue: 0,0:04:40.92,0:04:44.86,Default,,0000,0000,0000,,Ý tôi là, chỉ có các hạt nhân trong đây,
Dialogue: 0,0:04:44.88,0:04:49.38,Default,,0000,0000,0000,,và miễn là chúng ta tiếp tục xây dựng\Nhệ thống các nguyên tử
Dialogue: 0,0:04:49.40,0:04:52.10,Default,,0000,0000,0000,,để biểu lộ những hành động\Nthông minh nhiều hơn nữa,
Dialogue: 0,0:04:52.12,0:04:54.66,Default,,0000,0000,0000,,cuối cùng chúng ta sẽ,\Ntrừ khi chúng ta bị gián đoạn,
Dialogue: 0,0:04:54.68,0:04:58.06,Default,,0000,0000,0000,,cuối cùng chúng ta sẽ xây dựng được\Ntrí tuệ không giới hạn
Dialogue: 0,0:04:58.08,0:04:59.38,Default,,0000,0000,0000,,cho máy móc của mình.
Dialogue: 0,0:04:59.40,0:05:02.85,Default,,0000,0000,0000,,Cần phải nhận ra rằng\Ntiến độ không quan trọng.
Dialogue: 0,0:05:02.85,0:05:06.28,Default,,0000,0000,0000,,bởi vì bất kì quá trình nào cũng đủ\Nđể đưa chúng ta vào khu vực kết thúc.
Dialogue: 0,0:05:06.28,0:05:10.18,Default,,0000,0000,0000,,Ta không cần định luật Moore để tiếp tục.\NTa không cần phát triển theo cấp số nhân.
Dialogue: 0,0:05:10.18,0:05:13.46,Default,,0000,0000,0000,,Chúng ta chỉ cần tiếp tục bước đi.
Dialogue: 0,0:05:13.48,0:05:16.96,Default,,0000,0000,0000,,Giả định thứ hai là\Nchúng ta sẽ tiếp tục đi.
Dialogue: 0,0:05:17.00,0:05:20.94,Default,,0000,0000,0000,,Chúng ta tiếp tục cải tiến\Nnhững cỗ máy thông minh của mình.
Dialogue: 0,0:05:21.00,0:05:25.09,Default,,0000,0000,0000,,Và dựa vào giá trị của trí thông minh --
Dialogue: 0,0:05:25.09,0:05:28.85,Default,,0000,0000,0000,,Ý tôi là, trí thông minh hoặc là nguồn gốc\Ncủa tất cả mọi thứ chúng ta đánh giá
Dialogue: 0,0:05:28.85,0:05:31.90,Default,,0000,0000,0000,,hoặc chúng ta cần nó để bảo vệ\Ntất cả mọi thứ chúng ta coi trọng.
Dialogue: 0,0:05:31.90,0:05:33.99,Default,,0000,0000,0000,,Nó là tài nguyên quý giá nhất\Ncủa chúng ta.
Dialogue: 0,0:05:33.99,0:05:35.61,Default,,0000,0000,0000,,Vì thế chúng ta muốn làm điều này.
Dialogue: 0,0:05:35.61,0:05:38.94,Default,,0000,0000,0000,,Chúng ta có những vần đề nhất định\Nphải liều mạng giải quyết.
Dialogue: 0,0:05:38.96,0:05:42.92,Default,,0000,0000,0000,,Chúng ta muốn chữa khỏi các căn bệnh\Nnhư Alzheimer hay ung thư.
Dialogue: 0,0:05:42.96,0:05:46.90,Default,,0000,0000,0000,,Chúng ta muốn nắm vững hệ thống kinh tế.\NChúng ta muốn cải thiện khoa học khí hậu.
Dialogue: 0,0:05:46.92,0:05:49.18,Default,,0000,0000,0000,,Cho nên chúng ta sẽ làm nó nếu có thể.
Dialogue: 0,0:05:49.20,0:05:53.54,Default,,0000,0000,0000,,Tàu đã rời khỏi trạm,\Nvà không thể kéo phanh nữa.
Dialogue: 0,0:05:53.88,0:05:59.34,Default,,0000,0000,0000,,Và điều cuối: chúng ta không đứng trên\Nđỉnh cao của trí thông minh,
Dialogue: 0,0:05:59.36,0:06:01.25,Default,,0000,0000,0000,,hay có thể là chỗ nào đó gần nó.
Dialogue: 0,0:06:01.25,0:06:03.63,Default,,0000,0000,0000,,Và điều này thực sự là\Ncái nhìn sâu sắc quan trọng.
Dialogue: 0,0:06:03.63,0:06:05.98,Default,,0000,0000,0000,,Đây là thứ làm tình trạng của\Nchúng ta bất ổn,
Dialogue: 0,0:06:06.00,0:06:10.04,Default,,0000,0000,0000,,và nó cũng làm trực giác của chúng ta\Nvề rủi ro trở nên không đáng tin.
Dialogue: 0,0:06:11.12,0:06:14.63,Default,,0000,0000,0000,,Bây giờ hãy xem xét một người\Nthông minh nhất trên đời.
Dialogue: 0,0:06:14.64,0:06:18.06,Default,,0000,0000,0000,,Hầu như trong danh sách của các bạn\Nđều sẽ có tên John von Neumann.
Dialogue: 0,0:06:18.08,0:06:21.42,Default,,0000,0000,0000,,Ý tôi là, ấn tượng mà von Neumann tạo ra\Nđối với mọi người xung quanh,
Dialogue: 0,0:06:21.44,0:06:25.50,Default,,0000,0000,0000,,và nó cũng bao gồm những nhà toán học\Nvà vật lí vĩ đại ở thời của ông ta,
Dialogue: 0,0:06:25.52,0:06:27.46,Default,,0000,0000,0000,,được lưu truyền khá tốt.
Dialogue: 0,0:06:27.48,0:06:31.26,Default,,0000,0000,0000,,Nếu một nửa câu chuyện về ông\Nchỉ đúng 50%,
Dialogue: 0,0:06:31.28,0:06:32.50,Default,,0000,0000,0000,,không cần bàn cãi
Dialogue: 0,0:06:32.52,0:06:34.98,Default,,0000,0000,0000,,ông là người thông minh nhất\Ntừng sống trên đời.
Dialogue: 0,0:06:35.00,0:06:38.27,Default,,0000,0000,0000,,Vậy hãy xét về chuỗi phân bố\Ncủa trí thông minh.
Dialogue: 0,0:06:38.32,0:06:39.75,Default,,0000,0000,0000,,Ở đây là John von Neumann.
Dialogue: 0,0:06:41.56,0:06:42.89,Default,,0000,0000,0000,,Tiếp theo là các bạn và tôi.
Dialogue: 0,0:06:44.12,0:06:45.42,Default,,0000,0000,0000,,Và tiếp là con gà.
Dialogue: 0,0:06:45.44,0:06:47.38,Default,,0000,0000,0000,,(Cười)
Dialogue: 0,0:06:47.40,0:06:48.62,Default,,0000,0000,0000,,Xin lỗi, một con gà.
Dialogue: 0,0:06:48.64,0:06:49.90,Default,,0000,0000,0000,,(Cười)
Dialogue: 0,0:06:49.92,0:06:53.66,Default,,0000,0000,0000,,Không lí do gì tôi phải làm buổi\Nnói chuyện này tệ hại hơn cần thiết.
Dialogue: 0,0:06:53.68,0:06:55.28,Default,,0000,0000,0000,,(Cười)
Dialogue: 0,0:06:56.34,0:06:59.82,Default,,0000,0000,0000,,Tuy nhiên, có vẻ có khả năng rất lớn là\Nchuỗi phân bố trí thông minh
Dialogue: 0,0:06:59.84,0:07:03.79,Default,,0000,0000,0000,,mở rộng ra xa hơn nhiều so với\Nnhững gì chúng ta tưởng tượng,
Dialogue: 0,0:07:03.83,0:07:07.10,Default,,0000,0000,0000,,và nếu chúng ta tạo ra\Nnhững cỗ máy thông minh hơn mình,
Dialogue: 0,0:07:07.12,0:07:09.42,Default,,0000,0000,0000,,chúng có thể sẽ khai phá dải phân bố này
Dialogue: 0,0:07:09.44,0:07:11.30,Default,,0000,0000,0000,,theo cách ta không thể tưởng tượng,
Dialogue: 0,0:07:11.32,0:07:14.99,Default,,0000,0000,0000,,và vượt xa chúng ta theo cách\Nta không thể tưởng tượng.
Dialogue: 0,0:07:15.00,0:07:19.34,Default,,0000,0000,0000,,Và quan trọng là nhận ra rằng điều này\Nđúng với tính hấp dẫn của sự mau lẹ.
Dialogue: 0,0:07:19.36,0:07:24.42,Default,,0000,0000,0000,,Đúng chứ? Hãy cứ tưởng tượng nếu ta\Ntạo ra một AI siêu thông minh
Dialogue: 0,0:07:24.44,0:07:27.90,Default,,0000,0000,0000,,mà không tài giỏi hơn\Nnhóm các nhà nghiên cứu trung bình
Dialogue: 0,0:07:27.92,0:07:30.22,Default,,0000,0000,0000,,ở Stanford hay MIT.
Dialogue: 0,0:07:30.24,0:07:33.22,Default,,0000,0000,0000,,Vâng, các mạch điện tử hoạt động\Nnhanh hơn khoảng một triệu lần
Dialogue: 0,0:07:33.24,0:07:34.50,Default,,0000,0000,0000,,so với các mạch sinh hóa,
Dialogue: 0,0:07:34.52,0:07:37.66,Default,,0000,0000,0000,,nên cỗ máy này có thể suy nghĩ\Nnhanh hơn khoảng một triệu lần
Dialogue: 0,0:07:37.68,0:07:39.50,Default,,0000,0000,0000,,so với trí não đã tạo ra nó.
Dialogue: 0,0:07:39.52,0:07:41.18,Default,,0000,0000,0000,,Rồi bạn cài đặt nó chạy một tuần,
Dialogue: 0,0:07:41.20,0:07:46.38,Default,,0000,0000,0000,,và nó sẽ thực hiện 20.000 năm làm việc\Nở trình độ trí tuệ của con người,
Dialogue: 0,0:07:46.40,0:07:49.64,Default,,0000,0000,0000,,tuần này qua tuần khác.
Dialogue: 0,0:07:49.64,0:07:52.74,Default,,0000,0000,0000,,Thậm chí làm sao ta hiểu được,\Ndù ít nhiều hạn chế,
Dialogue: 0,0:07:52.76,0:07:56.82,Default,,0000,0000,0000,,một bộ óc thực hiện\Nkiểu quá trình như vậy?
Dialogue: 0,0:07:56.84,0:07:58.98,Default,,0000,0000,0000,,Một điều khác thật sự đáng lo lắng,
Dialogue: 0,0:07:59.00,0:08:03.98,Default,,0000,0000,0000,,đó là, tưởng tượng ra\Nmột viễn cảnh tốt nhất.
Dialogue: 0,0:08:04.00,0:08:08.13,Default,,0000,0000,0000,,Nào hãy tưởng tượng chúng ta tìm ra\Nmột thiết kế cho AI siêu thông minh
Dialogue: 0,0:08:08.13,0:08:09.61,Default,,0000,0000,0000,,mà không có các vấn đề an toàn.
Dialogue: 0,0:08:09.61,0:08:12.86,Default,,0000,0000,0000,,Lần đầu tiên chúng ta có được\Nmột bản thiết kế hoàn hảo.
Dialogue: 0,0:08:12.88,0:08:15.10,Default,,0000,0000,0000,,Nó như thể chúng ta nhận được\Nmột lời tiên tri
Dialogue: 0,0:08:15.12,0:08:17.14,Default,,0000,0000,0000,,xảy ra chính xác như trong dự định.
Dialogue: 0,0:08:17.16,0:08:20.88,Default,,0000,0000,0000,,Vâng, cỗ máy này sẽ là một thiết bị\Ntuyệt vời giúp tiết kiệm nhân lực.
Dialogue: 0,0:08:20.91,0:08:24.11,Default,,0000,0000,0000,,Nó có thể thiết kế một cỗ máy\Ncó khả năng tạo ra cỗ máy khác
Dialogue: 0,0:08:24.13,0:08:25.90,Default,,0000,0000,0000,,thực hiện các công việc thể chất,
Dialogue: 0,0:08:25.92,0:08:27.38,Default,,0000,0000,0000,,chạy bằng ánh sáng mặt trời,
Dialogue: 0,0:08:27.40,0:08:30.10,Default,,0000,0000,0000,,nhiều hơn hoặc ít hơn cho\Ncác chi phí nguyên liệu.
Dialogue: 0,0:08:30.12,0:08:33.38,Default,,0000,0000,0000,,Vậy chúng ta đang nói tới sự kết thúc\Ncho nỗi cực nhọc của con người.
Dialogue: 0,0:08:33.40,0:08:36.35,Default,,0000,0000,0000,,Chúng ta cũng nói về sự chấm dứt\Ncho các công việc trí óc.
Dialogue: 0,0:08:36.35,0:08:40.26,Default,,0000,0000,0000,,Vậy loài khỉ giống chúng ta sẽ làm gì\Ntrong tình huống này?
Dialogue: 0,0:08:40.28,0:08:45.68,Default,,0000,0000,0000,,Vâng, chúng ta được tự do chơi Frisbee\Nvà nhắn tin với từng người.
Dialogue: 0,0:08:45.84,0:08:48.70,Default,,0000,0000,0000,,Thêm vài LSD và vài lựa chọn cho\Nbộ quần áo đáng ngờ,
Dialogue: 0,0:08:48.72,0:08:50.90,Default,,0000,0000,0000,,và cả thế giới sẽ như ở Burning Man.
Dialogue: 0,0:08:50.92,0:08:52.56,Default,,0000,0000,0000,,(Cười)
Dialogue: 0,0:08:54.32,0:08:57.21,Default,,0000,0000,0000,,Bây giờ, điều đó có lẽ nghe rất tốt,
Dialogue: 0,0:08:57.28,0:08:59.66,Default,,0000,0000,0000,,nhưng thử hỏi bản thân xem\Nđiều gì sẽ xảy ra
Dialogue: 0,0:08:59.68,0:09:02.42,Default,,0000,0000,0000,,dưới trật tự kinh tế và chính trị\Ncủa chúng ta bây giờ?
Dialogue: 0,0:09:02.44,0:09:04.86,Default,,0000,0000,0000,,Có vẻ là chúng ta sẽ chứng kiến
Dialogue: 0,0:09:04.88,0:09:08.91,Default,,0000,0000,0000,,một mức độ phân biệt giàu nghèo\Nvà nạn thất nghiệp
Dialogue: 0,0:09:08.91,0:09:10.54,Default,,0000,0000,0000,,chưa từng thấy trước đây.
Dialogue: 0,0:09:10.56,0:09:13.51,Default,,0000,0000,0000,,Sự thiếu tự nguyện trong việc lập tức\Nđưa sự giàu có mới này
Dialogue: 0,0:09:13.51,0:09:15.64,Default,,0000,0000,0000,,vào phục vụ cho toàn nhân loại,
Dialogue: 0,0:09:15.64,0:09:19.26,Default,,0000,0000,0000,,một vài "tỷ tỷ phú" đươc vinh danh \Ntrên trang bìa của các tờ tạp chí kinh tế
Dialogue: 0,0:09:19.28,0:09:22.11,Default,,0000,0000,0000,,trong khi phần còn lại của thế giới\Nthì chịu cảnh chết đói
Dialogue: 0,0:09:22.11,0:09:24.47,Default,,0000,0000,0000,,Người Nga và Trung Quốc sẽ làm gì
Dialogue: 0,0:09:24.47,0:09:27.28,Default,,0000,0000,0000,,khi họ nghe được tin một số công ty\Ntrong Thung lũng Silicon
Dialogue: 0,0:09:27.29,0:09:30.02,Default,,0000,0000,0000,,chuẩn bị triển khai\Nmột AI siêu thông minh?
Dialogue: 0,0:09:30.04,0:09:32.90,Default,,0000,0000,0000,,Cỗ máy này có khả năng sẽ\Ntiến hành chiến tranh
Dialogue: 0,0:09:32.92,0:09:35.14,Default,,0000,0000,0000,,dù cho trên mặt đất hay trên mạng,
Dialogue: 0,0:09:35.16,0:09:37.72,Default,,0000,0000,0000,,với sức mạnh chưa từng có.
Dialogue: 0,0:09:38.12,0:09:39.98,Default,,0000,0000,0000,,Đây là viễn cảnh "thắng làm vua".
Dialogue: 0,0:09:40.00,0:09:43.14,Default,,0000,0000,0000,,Dẫn trước sáu tháng trong cuộc đua này
Dialogue: 0,0:09:43.16,0:09:45.94,Default,,0000,0000,0000,,tương đương với\Nbị dẫn trước 500.000 năm,
Dialogue: 0,0:09:45.96,0:09:47.46,Default,,0000,0000,0000,,ít nhất là vậy.
Dialogue: 0,0:09:47.48,0:09:52.22,Default,,0000,0000,0000,,Vì vậy, thậm chí nó có vẻ chỉ là\Nnhững tin đồn cho kiểu đột phá như thế
Dialogue: 0,0:09:52.24,0:09:54.62,Default,,0000,0000,0000,,nhưng cũng đủ khiến loài người cáu tiết.
Dialogue: 0,0:09:54.64,0:09:57.54,Default,,0000,0000,0000,,Và giờ, một trong những điều đáng sợ nhất,
Dialogue: 0,0:09:57.56,0:10:00.34,Default,,0000,0000,0000,,theo tôi nghĩ ngay tại thời điểm này,
Dialogue: 0,0:10:00.36,0:10:04.66,Default,,0000,0000,0000,,chính là những thứ mà\Ncác nhà nghiên cứu về AI nói
Dialogue: 0,0:10:04.68,0:10:06.87,Default,,0000,0000,0000,,khi họ muốn được yên tâm.
Dialogue: 0,0:10:06.87,0:10:10.42,Default,,0000,0000,0000,,Và thời gian là lí do thường nhất cho việc\Nchúng ta không cần phải lo lắng.
Dialogue: 0,0:10:10.42,0:10:12.58,Default,,0000,0000,0000,,Các bạn biết không,\Nđây là một con đường dài.
Dialogue: 0,0:10:12.58,0:10:15.68,Default,,0000,0000,0000,,Có thể là 50 hay 100 năm nữa.
Dialogue: 0,0:10:15.72,0:10:16.98,Default,,0000,0000,0000,,Một nhà nghiên cứu đã nói,
Dialogue: 0,0:10:17.00,0:10:18.58,Default,,0000,0000,0000,,"lo lắng về độ an toàn của AI
Dialogue: 0,0:10:18.60,0:10:21.61,Default,,0000,0000,0000,,cũng như lo lắng về\Nbùng nổ dân số trên sao Hỏa."
Dialogue: 0,0:10:21.61,0:10:23.73,Default,,0000,0000,0000,,Đây là phiên bản của Thung lũng Silicon
Dialogue: 0,0:10:23.73,0:10:26.22,Default,,0000,0000,0000,,về việc "đừng làm cái đầu nhỏ\Ncủa bạn lo lắng về nó."
Dialogue: 0,0:10:26.22,0:10:27.50,Default,,0000,0000,0000,,(Cười)
Dialogue: 0,0:10:27.52,0:10:29.42,Default,,0000,0000,0000,,Có vẻ chả ai chú ý
Dialogue: 0,0:10:29.44,0:10:32.06,Default,,0000,0000,0000,,rằng xem xét trên phạm vi thời gian
Dialogue: 0,0:10:32.08,0:10:34.66,Default,,0000,0000,0000,,là hoàn toàn vô căn cứ.
Dialogue: 0,0:10:34.68,0:10:37.94,Default,,0000,0000,0000,,Nếu trí thông minh chỉ là một vấn đề\Nvề xử lí thông tin,
Dialogue: 0,0:10:37.96,0:10:40.62,Default,,0000,0000,0000,,và chúng ta tiếp tục cải tiến các cỗ máy,
Dialogue: 0,0:10:40.64,0:10:43.52,Default,,0000,0000,0000,,chúng ta sẽ tạo ra được\Nvài dạng của siêu trí tuệ.
Dialogue: 0,0:10:44.32,0:10:47.98,Default,,0000,0000,0000,,Và chúng ta không biết\Nsẽ tốn bao nhiêu thời gian
Dialogue: 0,0:10:48.00,0:10:52.01,Default,,0000,0000,0000,,để tạo ra những điều kiện\Nthực hiện việc này một cách an toàn.
Dialogue: 0,0:10:52.20,0:10:53.50,Default,,0000,0000,0000,,Tôi xin nhắc lại.
Dialogue: 0,0:10:53.52,0:10:57.34,Default,,0000,0000,0000,,Chúng ta không biết\Nsẽ tốn bao nhiêu thời gian
Dialogue: 0,0:10:57.36,0:11:00.91,Default,,0000,0000,0000,,để tạo ra những điều kiện\Nthực hiện việc này một cách an toàn.
Dialogue: 0,0:11:00.92,0:11:04.38,Default,,0000,0000,0000,,Và nếu bạn chưa nhận ra,\N50 năm không còn như xưa
Dialogue: 0,0:11:04.40,0:11:06.86,Default,,0000,0000,0000,,Đây là 50 năm tính theo nhiều tháng.
Dialogue: 0,0:11:06.88,0:11:09.34,Default,,0000,0000,0000,,Đây là thời gian chúng ta tạo ra iPhone.
Dialogue: 0,0:11:09.44,0:11:12.04,Default,,0000,0000,0000,,Đây là thời gian "Gia đình Simpson"\Nđược chiếu trên TV.
Dialogue: 0,0:11:12.68,0:11:15.06,Default,,0000,0000,0000,,50 năm không quá nhiều
Dialogue: 0,0:11:15.08,0:11:19.57,Default,,0000,0000,0000,,để thực hiện một trong số những thử thách\Nlớn nhất mà loài người từng đối mặt.
Dialogue: 0,0:11:19.64,0:11:23.66,Default,,0000,0000,0000,,Một lần nữa, chúng ta có vẻ không thế\Nđưa ra một phản ứng cảm xúc phù hợp
Dialogue: 0,0:11:23.68,0:11:26.38,Default,,0000,0000,0000,,cho thứ mà chúng ta có đủ lí do\Nđể tin rằng nó sẽ xảy ra.
Dialogue: 0,0:11:26.40,0:11:30.38,Default,,0000,0000,0000,,Nhà khoa học máy tính Stuart Russell\Ncó một phép loại suy rất hay ở đây.
Dialogue: 0,0:11:30.40,0:11:35.30,Default,,0000,0000,0000,,Ông nói, tưởng tượng chúng ta nhận được\Ntin nhắn từ nền văn minh ngoài hành tinh,
Dialogue: 0,0:11:35.32,0:11:37.02,Default,,0000,0000,0000,,ghi rằng:
Dialogue: 0,0:11:37.04,0:11:38.58,Default,,0000,0000,0000,,"Loài người trên Trái Đất,
Dialogue: 0,0:11:38.60,0:11:41.79,Default,,0000,0000,0000,,Chúng ta sẽ đáp xuống\Nhành tinh các người trong 50 năm nữa.
Dialogue: 0,0:11:41.80,0:11:43.38,Default,,0000,0000,0000,,Chuẩn bị đi."
Dialogue: 0,0:11:43.40,0:11:47.66,Default,,0000,0000,0000,,Và giờ chúng ta chỉ đếm ngược từng tháng\Nđến khi phi thuyền mẹ đáp xuống?
Dialogue: 0,0:11:47.68,0:11:51.85,Default,,0000,0000,0000,,Chúng ta sẽ cảm thấy nhiều cấp bách hơn.
Dialogue: 0,0:11:51.96,0:11:54.19,Default,,0000,0000,0000,,Một lí do khác bảo\Nchúng ta không nên lo lắng
Dialogue: 0,0:11:54.20,0:11:57.53,Default,,0000,0000,0000,,là các cỗ máy này không làm gì khác\Nngoài chia sẻ giá trị với chúng ta
Dialogue: 0,0:11:57.53,0:12:00.29,Default,,0000,0000,0000,,bởi vì chúng thật sự sẽ là\Nnhững phần mở rộng của chúng ta.
Dialogue: 0,0:12:00.29,0:12:02.06,Default,,0000,0000,0000,,Chúng sẽ được cấy vào não chúng ta,
Dialogue: 0,0:12:02.08,0:12:05.09,Default,,0000,0000,0000,,và chúng ta về cơ bản trở thành\Nhệ thống cảm xúc của chúng.
Dialogue: 0,0:12:05.12,0:12:06.54,Default,,0000,0000,0000,,Giờ hãy xem xét
Dialogue: 0,0:12:06.56,0:12:09.74,Default,,0000,0000,0000,,rằng con đường an toàn và\Nđầy thận trọng duy nhất phía trước,
Dialogue: 0,0:12:09.76,0:12:11.10,Default,,0000,0000,0000,,được đề xuất,
Dialogue: 0,0:12:11.12,0:12:13.92,Default,,0000,0000,0000,,chính là cấy trực tiếp công nghệ này\Nvào não chúng ta.
Dialogue: 0,0:12:14.60,0:12:17.98,Default,,0000,0000,0000,,Hiện giờ nó có lẽ thật sự là con đường\Nan toàn, thận trọng duy nhất,
Dialogue: 0,0:12:18.00,0:12:21.06,Default,,0000,0000,0000,,nhưng thường thì mối lo lắng an toàn\Ncủa một người về công nghệ
Dialogue: 0,0:12:21.08,0:12:24.74,Default,,0000,0000,0000,,phải được tính toán khá kĩ càng\Ntrước khi bạn đính nó vào đầu mình.
Dialogue: 0,0:12:24.76,0:12:26.78,Default,,0000,0000,0000,,(Cười)
Dialogue: 0,0:12:26.80,0:12:32.14,Default,,0000,0000,0000,,Vấn đề sâu hơn là xây dựng\Nmột AI siêu thông minh riêng lẻ
Dialogue: 0,0:12:32.16,0:12:33.90,Default,,0000,0000,0000,,có vẻ dễ dàng hơn
Dialogue: 0,0:12:33.92,0:12:35.76,Default,,0000,0000,0000,,là tạo ra một AI siêu thông minh
Dialogue: 0,0:12:35.76,0:12:37.91,Default,,0000,0000,0000,,và có được ngành\Nkhoa học thần kinh hoàn chỉnh
Dialogue: 0,0:12:37.91,0:12:40.78,Default,,0000,0000,0000,,mà cho phép chúng ta chúng ta\Ntích hợp trí óc của mình và nó.
Dialogue: 0,0:12:40.81,0:12:43.98,Default,,0000,0000,0000,,Và giả sử các công ty và\Ncác chính phủ làm việc này
Dialogue: 0,0:12:44.00,0:12:47.66,Default,,0000,0000,0000,,có thể sẽ nhận ra bản thân đang trong\Ncuộc đua chống lại loài người,
Dialogue: 0,0:12:47.68,0:12:50.94,Default,,0000,0000,0000,,giả sử rằng thắng cuộc đua này\Nlà có cả thế giới,
Dialogue: 0,0:12:50.96,0:12:53.42,Default,,0000,0000,0000,,miễn là bạn không hủy diệt nó\Nvào thời điểm kế tiếp,
Dialogue: 0,0:12:53.44,0:12:56.06,Default,,0000,0000,0000,,thì nó có vẻ như là bất kể cái gì dễ hơn
Dialogue: 0,0:12:56.08,0:12:58.48,Default,,0000,0000,0000,,sẽ được hoàn thành trước.
Dialogue: 0,0:12:58.56,0:13:01.42,Default,,0000,0000,0000,,Bây giờ, đáng tiếc là tôi không có\Ngiải pháp cho vấn đề này,
Dialogue: 0,0:13:01.44,0:13:03.98,Default,,0000,0000,0000,,ngoại trừ đề nghị chúng ta\Ncần nghĩ về nó nhiều hơn.
Dialogue: 0,0:13:03.98,0:13:06.49,Default,,0000,0000,0000,,Tôi nghĩ chúng ta cần thứ gì đó\Nnhư Manhattan Project
Dialogue: 0,0:13:06.49,0:13:08.43,Default,,0000,0000,0000,,trong chủ đề về trí thông minh nhân tạo.
Dialogue: 0,0:13:08.43,0:13:11.57,Default,,0000,0000,0000,,Không vì để tạo ra nó, bởi tôi nghĩ\Nchúng ta chắc chắn sẽ làm được,
Dialogue: 0,0:13:11.57,0:13:14.62,Default,,0000,0000,0000,,mà để hiểu cách ngăn ngừa\Ncuộc chạy đua vũ trang
Dialogue: 0,0:13:14.64,0:13:18.14,Default,,0000,0000,0000,,và xây dựng nó theo cách phù hợp\Nvới lợi ích của chúng ta.
Dialogue: 0,0:13:18.16,0:13:20.30,Default,,0000,0000,0000,,Khi chúng ta nói về AI siêu thông minh
Dialogue: 0,0:13:20.32,0:13:22.58,Default,,0000,0000,0000,,có thể tự thay đổi,
Dialogue: 0,0:13:22.60,0:13:27.14,Default,,0000,0000,0000,,có vẻ như chúng ta chỉ có một cơ hội\Nđể làm những điều kiện ban đầu đúng đắn,
Dialogue: 0,0:13:27.14,0:13:29.58,Default,,0000,0000,0000,,và thậm chí sau đó chúng ta\Nsẽ cần phải ta hứng chịu
Dialogue: 0,0:13:29.58,0:13:33.55,Default,,0000,0000,0000,,những hậu quả kinh tế chính trị\Nkhi làm nó đúng đắn.
Dialogue: 0,0:13:33.76,0:13:35.82,Default,,0000,0000,0000,,Nhưng khoảnh khác ta thừa nhận
Dialogue: 0,0:13:35.84,0:13:40.66,Default,,0000,0000,0000,,rằng xử lí thông tin là\Nnguồn gốc của trí thông minh,
Dialogue: 0,0:13:40.72,0:13:46.17,Default,,0000,0000,0000,,rằng một số hệ thống tính toán phù hợp\Nlà nền tảng cho trí thông minh
Dialogue: 0,0:13:46.36,0:13:51.22,Default,,0000,0000,0000,,và chúng ta thừa nhận rằng chúng ta\Ntiếp tục cải tiến những hệ thống này,
Dialogue: 0,0:13:51.28,0:13:55.74,Default,,0000,0000,0000,,và chúng ta thừa nhận rằng\Nchân trời của nhận thức có thể rất xa
Dialogue: 0,0:13:55.76,0:13:57.92,Default,,0000,0000,0000,,so với những gì chúng ta đang biết,
Dialogue: 0,0:13:57.92,0:13:59.34,Default,,0000,0000,0000,,thì chúng ta phải công nhận
Dialogue: 0,0:13:59.36,0:14:03.24,Default,,0000,0000,0000,,rằng chúng ta đang trong quá trình\Ntạo ra một loại thánh thần.
Dialogue: 0,0:14:03.40,0:14:04.98,Default,,0000,0000,0000,,Bây giờ sẽ là thời điểm tốt
Dialogue: 0,0:14:05.00,0:14:08.10,Default,,0000,0000,0000,,để chắc chắn rằng nó là thánh thần\Nmà chúng ta có thể sống chung
Dialogue: 0,0:14:08.12,0:14:09.66,Default,,0000,0000,0000,,Cảm ơn các bạn rất nhiều.
Dialogue: 0,0:14:09.68,0:14:14.77,Default,,0000,0000,0000,,(Vỗ tay)