0:00:01.041,0:00:04.175 Xin chào, Tôi là Joy, một nhà thơ viết mã, 0:00:04.199,0:00:09.192 đang thực hiện nhiệm vụ ngăn chặn một[br]một lực lượng vô hình đang gia tăng, 0:00:09.216,0:00:12.072 một lực lượng mà tôi gọi là[br]"the coded gaze," 0:00:12.096,0:00:15.405 là từ tôi nói về[br]sự thiên vị thuật toán. 0:00:15.429,0:00:19.729 Thiên vị thuật toán, giống như thiên vị[br]con người, sẽ đưa đến sự bất công. 0:00:19.753,0:00:25.775 Tuy nhiên, thuật toán, giống như virút, có[br]thể phát tán sự thiên vị trên quy mô lớn 0:00:25.799,0:00:27.381 với tốc độ nhanh chóng. 0:00:27.943,0:00:32.330 Thiên vị thuật toán có thể dẫn đến[br]nhiều trải nghiệm bị loại trừ ra 0:00:32.354,0:00:34.482 và các hành vi phân biệt đối xử. 0:00:34.506,0:00:36.567 Tôi sẽ cho các bạn thấy điều tôi muốn nói. 0:00:36.980,0:00:39.416 (Video) Joy: Chào camera.[br]Tôi có một khuôn mặt. 0:00:40.162,0:00:42.026 Bạn có thấy mặt tôi không? 0:00:42.051,0:00:43.676 Khuôn mặt không đeo kính ấy? 0:00:43.701,0:00:45.915 Bạn có thể thấy mặt cô ấy. 0:00:46.237,0:00:48.482 Thế còn mặt của tôi? 0:00:51.890,0:00:55.640 Tôi có một mặt nạ. Bạn có thấy mặt nạ[br]của tôi không? 0:00:56.474,0:00:58.839 Joy Buolamwini: Việc này là thế nào? 0:00:58.863,0:01:02.004 Tại sao tôi đang ngồi trước máy tính 0:01:02.028,0:01:03.452 đeo mặt nạ trắng, 0:01:03.476,0:01:07.126 cố dò khuôn mặt mình bằng một[br]webcam rẽ tiền? 0:01:07.150,0:01:09.441 Vâng, tôi không chống lại[br]the coded gaze 0:01:09.465,0:01:10.985 với vai trò một nhà thơ viết mã 0:01:11.009,0:01:14.281 Tôi là sinh viên tốt nghiệp[br]tại MIT Media Lab, 0:01:14.305,0:01:19.222 và ở đó, tôi có cơ hội làm việc với mọi[br]loại dự án kỳ quặc, 0:01:19.246,0:01:21.273 bao gồm dự án Aspire Mirror, 0:01:21.297,0:01:26.431 dự án này tôi đã thực hiện nên tôi có thể[br]chiếu các mặt nạ số phản ánh tâm trạng tôi 0:01:26.455,0:01:28.805 vào buổi sáng, nếu tôi muốn[br]cảm thấy mạnh mẽ 0:01:28.829,0:01:30.263 Tôi có thể đeo mặt nạ sư tử. 0:01:30.287,0:01:33.783 Nếu tôi muốn được lên tinh thần,[br]tôi có thể có một viện dẫn. 0:01:33.807,0:01:36.796 Và tôi đã sử dụng một phần mềm[br]nhận diện khuôn mặt thông dụng 0:01:36.820,0:01:38.171 để xây dựng hệ thống, 0:01:38.195,0:01:43.298 nhưng tôi nhận ra rằng rất khó để[br]chạy thử nó trừ khi tôi đeo mặt nạ trắng 0:01:44.282,0:01:48.628 Thật không may, trước đây tôi cũng đã[br]gặp sự cố này. 0:01:48.652,0:01:52.955 Khi tôi còn là sinh viên nghiên cứu khoa[br]học máy tính ở Georgia Tech, 0:01:52.979,0:01:55.034 tôi đã từng làm các robot xã hội, 0:01:55.058,0:01:58.835 và một trong những công việc của tôi là[br]cài đặt robot chơi trò "Ú òa", 0:01:58.859,0:02:00.542 một trò chơi luân phiên đơn giản 0:02:00.566,0:02:04.887 trong đó các người chơi che mặt lại[br]và tháo mặt ra và nói "Ú òa!" 0:02:04.911,0:02:09.340 Vấn đề là, tôi sẽ không Ú Òa nếu [br]không nhìn thấy bạn, 0:02:09.364,0:02:11.863 và robot của tôi đã không thấy tôi. 0:02:11.887,0:02:15.837 Nhưng khi tôi mượn khuôn mặt của bạn[br]cùng phòng để thực hiện dự án, 0:02:15.861,0:02:17.241 nộp bài tập, 0:02:17.265,0:02:21.018 và tham gia, bạn biết không, ai sẽ giải[br]quyết vấn đề này. 0:02:21.669,0:02:23.672 Không lâu sau đó, 0:02:23.696,0:02:27.855 Tôi đã đến Hong Kong để tham gia một[br]cuộc thi làm doanh nhân. 0:02:28.339,0:02:31.033 Các nhà tổ chức đã quyết định đưa những[br]người tham gia 0:02:31.057,0:02:33.429 đi tham quan các startup địa phương. 0:02:33.453,0:02:36.168 Một trong các startup đó có một[br]robot xã hội, 0:02:36.192,0:02:38.104 và họ đã quyết định demo. 0:02:38.128,0:02:41.108 Việc demo thực hiện với mọi người[br]và khi đến lược tôi 0:02:41.132,0:02:43.055 và bạn có lẽ cùng đoán được. 0:02:43.079,0:02:46.044 Nó không nhận diện được khuôn mặt tôi. 0:02:46.068,0:02:48.579 Tôi đã hỏi người phát triển nó[br]chuyện gì xãy ra vậy, 0:02:48.603,0:02:54.136 và hóa ra chúng tôi đã sử dụng cùng một[br]phần mềm nhận diện khuôn mặt đó. 0:02:54.160,0:02:55.810 Nữa vòng trái đất, 0:02:55.834,0:02:59.686 Tôi đã học được rằng sự thiên vị[br]thuật toán có thể di chuyển nhanh như 0:02:59.710,0:03:02.880 việc tải một số file từ internet. 0:03:03.745,0:03:06.821 Vậy điều gì đang xãy ra?[br]Tại sao khuôn mặt tôi không nhận ra được 0:03:06.845,0:03:10.201 Vâng, chúng ta phải xem lại cách chúng ta[br]cho máy tính nhìn. 0:03:10.225,0:03:13.634 Thi giác máy tính sử dụng các công nghệ[br]học máy để nhìn 0:03:13.658,0:03:15.538 để nhận diện khuôn mặt. 0:03:15.562,0:03:19.459 Và cách làm là, ta tạo ra một một tập huấn[br]luyện với các ví dụ về khuôn mặt. 0:03:19.483,0:03:22.301 Đây là khuôn mặt. Đây là khuôn mặt.[br]Còn đây thì không. 0:03:22.325,0:03:26.844 và qua thời gian, ta có thể dạy máy tính[br]cách nhận ra các khuôn mặt khác. 0:03:26.868,0:03:30.857 Tuy nhiên, nếu tập huấn luyện[br]không đa dạng, 0:03:30.881,0:03:34.230 bất kỳ khuôn mặt nào mà khác quá nhiều[br]so với chuẩn đã thiết lập 0:03:34.254,0:03:35.903 sẽ khó dò tìm hơn, 0:03:35.927,0:03:37.890 đó chính là trường hợp xãy ra với tôi. 0:03:37.914,0:03:40.296 Nhưng đừng lo - có một vài tin tốt. 0:03:40.320,0:03:43.091 Các tập huấn luyện không tồn tại ở[br]cõi hư vô. 0:03:43.115,0:03:44.903 Mà do chính chúng ta tạo ra. 0:03:44.927,0:03:49.103 Do vậy chúng ta có cơ hội tạo ra các tập[br]huấn luyện phủ kín các trường hợp 0:03:49.127,0:03:52.951 và phản ánh một bức tranh đầy đủ hơn[br]về con người. 0:03:52.975,0:03:55.196 Bây giờ bạn đã thấy trong các ví dụ[br]của tôi 0:03:55.220,0:03:56.988 các robot xã hội nó ra sao 0:03:57.012,0:04:01.623 cách tôi đã tìm ra sự sai sót về[br]thiên vị thuật toán. 0:04:01.647,0:04:06.462 Nhưng sự thiên vị thuật toán có thể dẫn[br]đến các hành vi phân biệt đối xử. 0:04:07.437,0:04:08.890 Khắp nước Mỹ, 0:04:08.914,0:04:13.112 các sở cảnh sát đang bắt đầu đưa[br]phần mềm nhận dạng khuôn mặt 0:04:13.136,0:04:15.595 vào kho vũ khí chống tội phạm của họ. 0:04:15.619,0:04:17.632 Trường luật Georgetown công bố một[br]báo cáo 0:04:17.656,0:04:24.419 cho thấy 1/2 người lớn ở Mỹ[br]-- có đến 117 triệu người -- 0:04:24.443,0:04:27.977 có khuôn mặt trong các mạng lưới[br]nhận dạng khuôn mặt. 0:04:28.001,0:04:32.553 Hiện tại các sở cảnh sát có thể nhìn[br]vào các mạng lưới không được kiểm soát này 0:04:32.577,0:04:36.863 sử dụng các thuật toán không được kiểm tra[br]để bảo đảm sự chính xác. 0:04:36.887,0:04:40.751 Nhưng chúng ta biết nhận dạng khuôn mặt[br]không phải là không có sai sót 0:04:40.775,0:04:44.954 và đánh nhãn khuôn mặt một cách chắc chắn[br]vẫn còn là một thách thức. 0:04:44.978,0:04:46.740 Bạn có thể thấy điều này[br]trên Facebook 0:04:46.764,0:04:49.752 Tôi và các bạn tôi luôn cười khi thấy[br]những người khác 0:04:49.776,0:04:52.234 bị đánh nhãn sai trong các bức hình[br]của chúng tôi. 0:04:52.258,0:04:57.849 Nhưng nhận diện sai một nghi phạm[br]không phải là một chuyện để cười, 0:04:57.873,0:05:00.700 cũng không phải là vi phạm[br]quyền tự do dân sự. 0:05:00.724,0:05:03.929 Công nghệ học máy đang được sử dụng[br]để nhận diện khuôn mặt, 0:05:03.953,0:05:08.458 nhưng nó cũng đang mở rộng vượt quá lĩnh[br]vực thị giác máy tính. 0:05:09.266,0:05:13.282 Trong cuốn sách "Vũ khí hủy diệt toán học" 0:05:13.306,0:05:19.987 của cô Cathy O'Neil, một nhà khoa học[br]dữ liệu, nói các loại WMD đang gia tăng -- 0:05:20.011,0:05:24.364 các giải thuật hủy diệt, thần bí và[br]phổ biến rộng rãi 0:05:24.388,0:05:27.352 đang ngày càng được sử dụng để đưa[br]ra quyết định 0:05:27.376,0:05:30.553 mà ảnh hưởng đến nhiều lĩnh vực của[br]cuộc sống. 0:05:30.577,0:05:32.447 Vậy ai được tuyển dụng hoặc sa thải? 0:05:32.471,0:05:34.583 Bạn có khoản vay đó?[br]Bạn có bảo hiểm không? 0:05:34.607,0:05:38.110 Bạn có được tiếp nhận vào trường đại học[br]mà bạn muốn? 0:05:38.134,0:05:41.643 Bạn và tôi có trả cùng giá[br]cho cùng sản phẩm 0:05:41.667,0:05:44.109 được mua trên cùng một nền tảng? 0:05:44.133,0:05:47.892 Việc thực thi luật pháp cũng đang bắt đầu[br]sử dụng công nghệ học máy 0:05:47.916,0:05:50.205 để dự báo tình hình phạm pháp 0:05:50.229,0:05:53.723 Một số thẩm phán sử dụng điểm số rủi ro[br]do máy tạo ra để xác định 0:05:53.747,0:05:58.149 một cá nhân sẽ đi tù trong bao lâu. 0:05:58.173,0:06:00.627 Do vậy chúng ta phải nghĩ về những[br]quyết định này. 0:06:00.651,0:06:01.833 Chúng có công bằng? 0:06:01.857,0:06:04.747 Và chúng ta đã thấy rằng[br]sự thiên vị thuật toán 0:06:04.771,0:06:08.145 không nhất thiết luôn cho ra kết quả[br]công bằng 0:06:08.169,0:06:10.133 Vậy ta có thể làm gì với chúng? 0:06:10.157,0:06:13.837 Vâng, ta có thể bắt đầu nghĩ về cách[br]tạo ra mã lệnh bao hàm nhiều hơn 0:06:13.861,0:06:16.851 và sử dụng các hoạt động viết mã có[br]tính bao hàm. 0:06:16.875,0:06:19.184 Nó thực sự bắt đầu với con người. 0:06:19.708,0:06:21.669 Vậy ai viết các mã lệnh đó. 0:06:21.693,0:06:25.812 Có phải chúng ta đang tạo ra các nhóm[br]đầy đủ với các cá nhân đa dạng 0:06:25.836,0:06:28.247 những người có thể kiểm tra các điểm mù[br]lẫn nhau? 0:06:28.271,0:06:31.816 Về mặt kỹ thuật,[br]chúng ta viết các mã lệnh đó như thế nào 0:06:31.840,0:06:35.491 Chúng ta có đang tính đến yếu tố công bằng[br]khi xây dựng hệ thống/ 0:06:35.515,0:06:38.428 Và cuối cùng, tại sao chúng ta viết những[br]mã lệnh đó. 0:06:38.785,0:06:43.868 Chúng ta đã sử dụng các công cụ sáng tạo[br]tính toán để mở khóa sự giàu có to lớn. 0:06:43.892,0:06:48.339 Giờ đây chúng ta có cơ hội mở khóa[br]sự bình đẳng to lớn hơn 0:06:48.363,0:06:51.293 nếu chúng ta tạo ra sự thay đổi xã hội[br]một sự ưu tiên 0:06:51.317,0:06:53.487 và không suy nghĩ lại 0:06:54.008,0:06:58.530 Và đây là 3 nguyên lý mà sẽ tạo nên[br]phong trào "incoding". 0:06:58.554,0:07:00.206 Ai viết mã lệnh đó, 0:07:00.230,0:07:01.773 chúng ta viết mã lệnh đó ra sao 0:07:01.797,0:07:03.820 và tại sao ta viết mã lệnh đó. 0:07:03.844,0:07:06.943 Do đó để hướng đến sự viết mã tận tâm,[br]ta có thể bắt đầu nghĩ về 0:07:06.967,0:07:10.131 xây dựng các nền tảng mà có thể[br]nhận diện sự thiên vị 0:07:10.155,0:07:13.233 bằng cách tập hợp trải nghiệm của[br]mọi người như tôi đã chia sẽ 0:07:13.257,0:07:16.327 nhưng cũng kiểm tra các phần mềm hiện tại. 0:07:16.351,0:07:20.116 Chúng ta cũng có thể bắt đầu tạo ra[br]những tập huấn luyện bao hàm hơn 0:07:20.140,0:07:22.943 Hãy tưởng tượng một chiến dịch[br]"Tự sướng để hòa nhập" 0:07:22.967,0:07:26.622 ở đó bạn và tôi có thể giúp các[br]nhà phát triển kiểm thử và tạo ra 0:07:26.646,0:07:28.739 các tập huấn luyện bao hàm hơn. 0:07:29.302,0:07:32.130 Và chúng ta cũng bắt đầu suy nghĩ[br]một cách tận tâm hơn 0:07:32.154,0:07:37.545 về sự ảnh hưởng xã hội của công nghệ[br]mà ta đang phát triển. 0:07:37.569,0:07:39.962 Để bắt đầu phong trào viết mã tận tâm 0:07:39.986,0:07:42.833 Tôi đã khởi xướng Liên minh công lý[br]thuật toán, 0:07:42.857,0:07:48.729 ở đó bất cứ ai quan tâm đến sự công bằng[br]đều có thể giúp chống lại the coded gaze. 0:07:48.753,0:07:52.049 trên codedgaze.com, nơi bạn có thể[br]báo cáo lại các thiên vị, 0:07:52.073,0:07:54.518 đề nghị sự kiểm tra, trở thành[br]người kiểm thử 0:07:54.542,0:07:57.313 và tham gia vào các cuộc nói chuyện 0:07:57.337,0:07:59.624 #codedgaze.[br] 0:08:00.742,0:08:03.229 Tôi mời bạn tham gia với tôi 0:08:03.253,0:08:06.972 để tạo ra một thế giới ở đó công nghệ[br]phục vụ cho tất cả chúng ta, 0:08:06.996,0:08:08.893 không phải chỉ với một số người, 0:08:08.917,0:08:13.505 một thế giới ở đó chúng ta đề cao sự hòa[br]nhập và thay đổi xã hội làm trung tâm 0:08:13.529,0:08:14.704 Xin cảm ơn. 0:08:14.728,0:08:18.999 (Vỗ tay) 0:08:20.873,0:08:23.727 Nhưng tôi còn một câu hỏi: 0:08:23.751,0:08:25.810 Bạn có cùng tôi vào[br]cuộc chiến này không? 0:08:25.834,0:08:27.119 (Cười) 0:08:27.143,0:08:30.830 (Vỗ tay)