WEBVTT

00:00:01.041 --> 00:00:04.175
Xin chào, Tôi là Joy, một nhà thơ viết mã,

00:00:04.199 --> 00:00:09.192
đang thực hiện nhiệm vụ ngăn chặn một
một lực lượng vô hình đang gia tăng,

00:00:09.216 --> 00:00:12.072
một lực lượng mà tôi gọi là
"the coded gaze,"

00:00:12.096 --> 00:00:15.405
là từ tôi nói về
sự thiên vị thuật toán.

NOTE Paragraph

00:00:15.429 --> 00:00:19.729
Thiên vị thuật toán, giống như thiên vị
con người, sẽ đưa đến sự bất công.

00:00:19.753 --> 00:00:25.775
Tuy nhiên, thuật toán, giống như virút, có
thể phát tán sự thiên vị trên quy mô lớn

00:00:25.799 --> 00:00:27.381
với tốc độ nhanh chóng.

00:00:27.943 --> 00:00:32.330
Thiên vị thuật toán có thể dẫn đến
nhiều trải nghiệm bị loại trừ ra

00:00:32.354 --> 00:00:34.482
và các hành vi phân biệt đối xử.

00:00:34.506 --> 00:00:36.567
Tôi sẽ cho các bạn thấy điều tôi muốn nói.

NOTE Paragraph

00:00:36.980 --> 00:00:39.416
(Video) Joy: Chào camera.
Tôi có một khuôn mặt.

00:00:40.162 --> 00:00:42.026
Bạn có thấy mặt tôi không?

00:00:42.051 --> 00:00:43.676
Khuôn mặt không đeo kính ấy?

00:00:43.701 --> 00:00:45.915
Bạn có thể thấy mặt cô ấy.

00:00:46.237 --> 00:00:48.482
Thế còn mặt của tôi?

00:00:51.890 --> 00:00:55.640
Tôi có một mặt nạ. Bạn có thấy mặt nạ
của tôi không?

NOTE Paragraph

00:00:56.474 --> 00:00:58.839
Joy Buolamwini: Việc này là thế nào?

00:00:58.863 --> 00:01:02.004
Tại sao tôi đang ngồi trước máy tính

00:01:02.028 --> 00:01:03.452
đeo mặt nạ trắng,

00:01:03.476 --> 00:01:07.126
cố dò khuôn mặt mình bằng một
webcam rẽ tiền?

00:01:07.150 --> 00:01:09.441
Vâng, tôi không chống lại
the coded gaze

00:01:09.465 --> 00:01:10.985
với vai trò một nhà thơ viết mã

00:01:11.009 --> 00:01:14.281
Tôi là sinh viên tốt nghiệp
tại MIT Media Lab,

00:01:14.305 --> 00:01:19.222
và ở đó, tôi có cơ hội làm việc với mọi
loại dự án kỳ quặc,

00:01:19.246 --> 00:01:21.273
bao gồm dự án Aspire Mirror,

00:01:21.297 --> 00:01:26.431
dự án này tôi đã thực hiện nên tôi có thể
chiếu các mặt nạ số phản ánh tâm trạng tôi

00:01:26.455 --> 00:01:28.805
vào buổi sáng, nếu tôi muốn
cảm thấy mạnh mẽ

00:01:28.829 --> 00:01:30.263
Tôi có thể đeo mặt nạ sư tử.

00:01:30.287 --> 00:01:33.783
Nếu tôi muốn được lên tinh thần,
tôi có thể có một viện dẫn.

00:01:33.807 --> 00:01:36.796
Và tôi đã sử dụng một phần mềm
nhận diện khuôn mặt thông dụng

00:01:36.820 --> 00:01:38.171
để xây dựng hệ thống,

00:01:38.195 --> 00:01:43.298
nhưng tôi nhận ra rằng rất khó để
chạy thử nó trừ khi tôi đeo mặt nạ trắng

NOTE Paragraph

00:01:44.282 --> 00:01:48.628
Thật không may, trước đây tôi cũng đã
gặp sự cố này.

00:01:48.652 --> 00:01:52.955
Khi tôi còn là sinh viên nghiên cứu khoa
học máy tính ở Georgia Tech,

00:01:52.979 --> 00:01:55.034
tôi đã từng làm các robot xã hội,

00:01:55.058 --> 00:01:58.835
và một trong những công việc của tôi là
cài đặt robot chơi trò "Ú òa",

00:01:58.859 --> 00:02:00.542
một trò chơi luân phiên đơn giản

00:02:00.566 --> 00:02:04.887
trong đó các người chơi che mặt lại
và tháo mặt ra và nói "Ú òa!"

00:02:04.911 --> 00:02:09.340
Vấn đề là, tôi sẽ không Ú Òa nếu 
không nhìn thấy bạn,

00:02:09.364 --> 00:02:11.863
và robot của tôi đã không thấy tôi.

00:02:11.887 --> 00:02:15.837
Nhưng khi tôi mượn khuôn mặt của bạn
cùng phòng để thực hiện dự án,

00:02:15.861 --> 00:02:17.241
nộp bài tập,

00:02:17.265 --> 00:02:21.018
và tham gia, bạn biết không, ai sẽ giải
quyết vấn đề này.

NOTE Paragraph

00:02:21.669 --> 00:02:23.672
Không lâu sau đó,

00:02:23.696 --> 00:02:27.855
Tôi đã đến Hong Kong để tham gia một
cuộc thi làm doanh nhân.

00:02:28.339 --> 00:02:31.033
Các nhà tổ chức đã quyết định đưa những
người tham gia

00:02:31.057 --> 00:02:33.429
đi tham quan các startup địa phương.

00:02:33.453 --> 00:02:36.168
Một trong các startup đó có một
robot xã hội,

00:02:36.192 --> 00:02:38.104
và họ đã quyết định demo.

00:02:38.128 --> 00:02:41.108
Việc demo thực hiện với mọi người
và khi đến lược tôi

00:02:41.132 --> 00:02:43.055
và bạn có lẽ cùng đoán được.

00:02:43.079 --> 00:02:46.044
Nó không nhận diện được khuôn mặt tôi.

00:02:46.068 --> 00:02:48.579
Tôi đã hỏi người phát triển nó
chuyện gì xãy ra vậy,

00:02:48.603 --> 00:02:54.136
và hóa ra chúng tôi đã sử dụng cùng một
phần mềm nhận diện khuôn mặt đó.

00:02:54.160 --> 00:02:55.810
Nữa vòng trái đất,

00:02:55.834 --> 00:02:59.686
Tôi đã học được rằng sự thiên vị
thuật toán có thể di chuyển nhanh như

00:02:59.710 --> 00:03:02.880
việc tải một số file từ internet.

NOTE Paragraph

00:03:03.745 --> 00:03:06.821
Vậy điều gì đang xãy ra?
Tại sao khuôn mặt tôi không nhận ra được

00:03:06.845 --> 00:03:10.201
Vâng, chúng ta phải xem lại cách chúng ta
cho máy tính nhìn.

00:03:10.225 --> 00:03:13.634
Thi giác máy tính sử dụng các công nghệ
học máy để nhìn

00:03:13.658 --> 00:03:15.538
để nhận diện khuôn mặt.

00:03:15.562 --> 00:03:19.459
Và cách làm là, ta tạo ra một một tập huấn
luyện với các ví dụ về khuôn mặt.

00:03:19.483 --> 00:03:22.301
Đây là khuôn mặt. Đây là khuôn mặt.
Còn đây thì không.

00:03:22.325 --> 00:03:26.844
và qua thời gian, ta có thể dạy máy tính
cách nhận ra các khuôn mặt khác.

00:03:26.868 --> 00:03:30.857
Tuy nhiên, nếu tập huấn luyện
không đa dạng,

00:03:30.881 --> 00:03:34.230
bất kỳ khuôn mặt nào mà khác quá nhiều
so với chuẩn đã thiết lập

00:03:34.254 --> 00:03:35.903
sẽ khó dò tìm hơn,

00:03:35.927 --> 00:03:37.890
đó chính là trường hợp xãy ra với tôi.

NOTE Paragraph

00:03:37.914 --> 00:03:40.296
Nhưng đừng lo - có một vài tin tốt.

00:03:40.320 --> 00:03:43.091
Các tập huấn luyện không tồn tại ở
cõi hư vô.

00:03:43.115 --> 00:03:44.903
Mà do chính chúng ta tạo ra.

00:03:44.927 --> 00:03:49.103
Do vậy chúng ta có cơ hội tạo ra các tập
huấn luyện phủ kín các trường hợp

00:03:49.127 --> 00:03:52.951
và phản ánh một bức tranh đầy đủ hơn
về con người.

NOTE Paragraph

00:03:52.975 --> 00:03:55.196
Bây giờ bạn đã thấy trong các ví dụ
của tôi

00:03:55.220 --> 00:03:56.988
các robot xã hội nó ra sao

00:03:57.012 --> 00:04:01.623
cách tôi đã tìm ra sự sai sót về
thiên vị thuật toán.

00:04:01.647 --> 00:04:06.462
Nhưng sự thiên vị thuật toán có thể dẫn
đến các hành vi phân biệt đối xử.

00:04:07.437 --> 00:04:08.890
Khắp nước Mỹ,

00:04:08.914 --> 00:04:13.112
các sở cảnh sát đang bắt đầu đưa
phần mềm nhận dạng khuôn mặt

00:04:13.136 --> 00:04:15.595
vào kho vũ khí chống tội phạm của họ.

00:04:15.619 --> 00:04:17.632
Trường luật Georgetown công bố một
báo cáo

00:04:17.656 --> 00:04:24.419
cho thấy 1/2 người lớn ở Mỹ
-- có đến 117 triệu người --

00:04:24.443 --> 00:04:27.977
có khuôn mặt trong các mạng lưới
nhận dạng khuôn mặt.

00:04:28.001 --> 00:04:32.553
Hiện tại các sở cảnh sát có thể nhìn
vào các mạng lưới không được kiểm soát này

00:04:32.577 --> 00:04:36.863
sử dụng các thuật toán không được kiểm tra
để bảo đảm sự chính xác.

00:04:36.887 --> 00:04:40.751
Nhưng chúng ta biết nhận dạng khuôn mặt
không phải là không có sai sót

00:04:40.775 --> 00:04:44.954
và đánh nhãn khuôn mặt một cách chắc chắn
vẫn còn là một thách thức.

00:04:44.978 --> 00:04:46.740
Bạn có thể thấy điều này
trên Facebook

00:04:46.764 --> 00:04:49.752
Tôi và các bạn tôi luôn cười khi thấy
những người khác

00:04:49.776 --> 00:04:52.234
bị đánh nhãn sai trong các bức hình
của chúng tôi.

00:04:52.258 --> 00:04:57.849
Nhưng nhận diện sai một nghi phạm
không phải là một chuyện để cười,

00:04:57.873 --> 00:05:00.700
cũng không phải là vi phạm
quyền tự do dân sự.

NOTE Paragraph

00:05:00.724 --> 00:05:03.929
Công nghệ học máy đang được sử dụng
để nhận diện khuôn mặt,

00:05:03.953 --> 00:05:08.458
nhưng nó cũng đang mở rộng vượt quá lĩnh
vực thị giác máy tính.

00:05:09.266 --> 00:05:13.282
Trong cuốn sách "Vũ khí hủy diệt toán học"

00:05:13.306 --> 00:05:19.987
của cô Cathy O'Neil, một nhà khoa học
dữ liệu, nói các loại WMD đang gia tăng --

00:05:20.011 --> 00:05:24.364
các giải thuật hủy diệt, thần bí và
phổ biến rộng rãi

00:05:24.388 --> 00:05:27.352
đang ngày càng được sử dụng để đưa
ra quyết định

00:05:27.376 --> 00:05:30.553
mà ảnh hưởng đến nhiều lĩnh vực của
cuộc sống.

00:05:30.577 --> 00:05:32.447
Vậy ai được tuyển dụng hoặc sa thải?

00:05:32.471 --> 00:05:34.583
Bạn có khoản vay đó?
Bạn có bảo hiểm không?

00:05:34.607 --> 00:05:38.110
Bạn có được tiếp nhận vào trường đại học
mà bạn muốn?

00:05:38.134 --> 00:05:41.643
Bạn và tôi có trả cùng giá
cho cùng sản phẩm

00:05:41.667 --> 00:05:44.109
được mua trên cùng một nền tảng?

NOTE Paragraph

00:05:44.133 --> 00:05:47.892
Việc thực thi luật pháp cũng đang bắt đầu
sử dụng công nghệ học máy

00:05:47.916 --> 00:05:50.205
để dự báo tình hình phạm pháp

00:05:50.229 --> 00:05:53.723
Một số thẩm phán sử dụng điểm số rủi ro
do máy tạo ra để xác định

00:05:53.747 --> 00:05:58.149
một cá nhân sẽ đi tù trong bao lâu.

00:05:58.173 --> 00:06:00.627
Do vậy chúng ta phải nghĩ về những
quyết định này.

00:06:00.651 --> 00:06:01.833
Chúng có công bằng?

00:06:01.857 --> 00:06:04.747
Và chúng ta đã thấy rằng
sự thiên vị thuật toán

00:06:04.771 --> 00:06:08.145
không nhất thiết luôn cho ra kết quả
công bằng

NOTE Paragraph

00:06:08.169 --> 00:06:10.133
Vậy ta có thể làm gì với chúng?

00:06:10.157 --> 00:06:13.837
Vâng, ta có thể bắt đầu nghĩ về cách
tạo ra mã lệnh bao hàm nhiều hơn

00:06:13.861 --> 00:06:16.851
và sử dụng các hoạt động viết mã có
tính bao hàm.

00:06:16.875 --> 00:06:19.184
Nó thực sự bắt đầu với con người.

00:06:19.708 --> 00:06:21.669
Vậy ai viết các mã lệnh đó.

00:06:21.693 --> 00:06:25.812
Có phải chúng ta đang tạo ra các nhóm
đầy đủ với các cá nhân đa dạng

00:06:25.836 --> 00:06:28.247
những người có thể kiểm tra các điểm mù
lẫn nhau?

00:06:28.271 --> 00:06:31.816
Về mặt kỹ thuật,
chúng ta viết các mã lệnh đó như thế nào

00:06:31.840 --> 00:06:35.491
Chúng ta có đang tính đến yếu tố công bằng
khi xây dựng hệ thống/

00:06:35.515 --> 00:06:38.428
Và cuối cùng, tại sao chúng ta viết những
mã lệnh đó.

00:06:38.785 --> 00:06:43.868
Chúng ta đã sử dụng các công cụ sáng tạo
tính toán để mở khóa sự giàu có to lớn.

00:06:43.892 --> 00:06:48.339
Giờ đây chúng ta có cơ hội mở khóa
sự bình đẳng to lớn hơn

00:06:48.363 --> 00:06:51.293
nếu chúng ta tạo ra sự thay đổi xã hội
một sự ưu tiên

00:06:51.317 --> 00:06:53.487
và không suy nghĩ lại

00:06:54.008 --> 00:06:58.530
Và đây là 3 nguyên lý mà sẽ tạo nên
phong trào "incoding".

00:06:58.554 --> 00:07:00.206
Ai viết mã lệnh đó,

00:07:00.230 --> 00:07:01.773
chúng ta viết mã lệnh đó ra sao

00:07:01.797 --> 00:07:03.820
và tại sao ta viết mã lệnh đó.

NOTE Paragraph

00:07:03.844 --> 00:07:06.943
Do đó để hướng đến sự viết mã tận tâm,
ta có thể bắt đầu nghĩ về

00:07:06.967 --> 00:07:10.131
xây dựng các nền tảng mà có thể
nhận diện sự thiên vị

00:07:10.155 --> 00:07:13.233
bằng cách tập hợp trải nghiệm của
mọi người như tôi đã chia sẽ

00:07:13.257 --> 00:07:16.327
nhưng cũng kiểm tra các phần mềm hiện tại.

00:07:16.351 --> 00:07:20.116
Chúng ta cũng có thể bắt đầu tạo ra
những tập huấn luyện bao hàm hơn

00:07:20.140 --> 00:07:22.943
Hãy tưởng tượng một chiến dịch
"Tự sướng để hòa nhập"

00:07:22.967 --> 00:07:26.622
ở đó bạn và tôi có thể giúp các
nhà phát triển kiểm thử và tạo ra

00:07:26.646 --> 00:07:28.739
các tập huấn luyện bao hàm hơn.

00:07:29.302 --> 00:07:32.130
Và chúng ta cũng bắt đầu suy nghĩ
một cách tận tâm hơn

00:07:32.154 --> 00:07:37.545
về sự ảnh hưởng xã hội của công nghệ
mà ta đang phát triển.

NOTE Paragraph

00:07:37.569 --> 00:07:39.962
Để bắt đầu phong trào viết mã tận tâm

00:07:39.986 --> 00:07:42.833
Tôi đã khởi xướng Liên minh công lý
thuật toán,

00:07:42.857 --> 00:07:48.729
ở đó bất cứ ai quan tâm đến sự công bằng
đều có thể giúp chống lại the coded gaze.

00:07:48.753 --> 00:07:52.049
trên codedgaze.com, nơi bạn có thể
báo cáo lại các thiên vị,

00:07:52.073 --> 00:07:54.518
đề nghị sự kiểm tra, trở thành
người kiểm thử

00:07:54.542 --> 00:07:57.313
và tham gia vào các cuộc nói chuyện

00:07:57.337 --> 00:07:59.624
#codedgaze.


NOTE Paragraph

00:08:00.742 --> 00:08:03.229
Tôi mời bạn tham gia với tôi

00:08:03.253 --> 00:08:06.972
để tạo ra một thế giới ở đó công nghệ
phục vụ cho tất cả chúng ta,

00:08:06.996 --> 00:08:08.893
không phải chỉ với một số người,

00:08:08.917 --> 00:08:13.505
một thế giới ở đó chúng ta đề cao sự hòa
nhập và thay đổi xã hội làm trung tâm

NOTE Paragraph

00:08:13.529 --> 00:08:14.704
Xin cảm ơn.

NOTE Paragraph

00:08:14.728 --> 00:08:18.999
(Vỗ tay)

NOTE Paragraph

00:08:20.873 --> 00:08:23.727
Nhưng tôi còn một câu hỏi:

00:08:23.751 --> 00:08:25.810
Bạn có cùng tôi vào
cuộc chiến này không?

NOTE Paragraph

00:08:25.834 --> 00:08:27.119
(Cười)

NOTE Paragraph

00:08:27.143 --> 00:08:30.830
(Vỗ tay)