Tôi đang đấu tranh với sự thiên vị trong thuật toán

Joy Buolamwini, một sinh viên tốt nghiệp MIT, khi đang làm việc với phần mềm nhận dạng khuôn mặt thì cô phát hiện thấy một vấn đề: phần mềm không nhận ra được khuôn mặt của cô - bởi vì những người viết mã cho các thuật toán đã không dạy chúng nhận diện đầy đủ các loại tông màu da và cấu trúc khuôn mặt. Giờ đây cô đang thực hiện nhiệm vụ chiến đấu với sự thiên vị trong công nghệ học máy, một hiện tượng cô ấy gọi là "coded gaze". Đó là một cuộc nói chuyện cởi mở về yêu cầu giải trình trong viết mã... khi các thuật toán chiếm lĩnh ngày càng nhiều lĩnh vực trong cuộc sống.

Xin chào, Tôi là Joy, một nhà thơ viết mã,

đang thực hiện nhiệm vụ ngăn chặn một
một lực lượng vô hình đang gia tăng,

một lực lượng mà tôi gọi là
"the coded gaze,"

là từ tôi nói về
sự thiên vị thuật toán.

Thiên vị thuật toán, giống như thiên vị
con người, sẽ đưa đến sự bất công.

Tuy nhiên, thuật toán, giống như virút, có
thể phát tán sự thiên vị trên quy mô lớn

với tốc độ nhanh chóng.

Thiên vị thuật toán có thể dẫn đến
nhiều trải nghiệm bị loại trừ ra

và các hành vi phân biệt đối xử.

Tôi sẽ cho các bạn thấy điều tôi muốn nói.

(Video) Joy: Chào camera.
Tôi có một khuôn mặt.

Bạn có thấy mặt tôi không?

Khuôn mặt không đeo kính ấy?

Bạn có thể thấy mặt cô ấy.

Thế còn mặt của tôi?

Tôi có một mặt nạ. Bạn có thấy mặt nạ
của tôi không?

Joy Buolamwini: Việc này là thế nào?

Tại sao tôi đang ngồi trước máy tính

đeo mặt nạ trắng,

cố dò khuôn mặt mình bằng một
webcam rẽ tiền?

Vâng, tôi không chống lại
the coded gaze

với vai trò một nhà thơ viết mã

Tôi là sinh viên tốt nghiệp
tại MIT Media Lab,

và ở đó, tôi có cơ hội làm việc với mọi
loại dự án kỳ quặc,

bao gồm dự án Aspire Mirror,

dự án này tôi đã thực hiện nên tôi có thể
chiếu các mặt nạ số phản ánh tâm trạng tôi

vào buổi sáng, nếu tôi muốn
cảm thấy mạnh mẽ

Tôi có thể đeo mặt nạ sư tử.

Nếu tôi muốn được lên tinh thần,
tôi có thể có một viện dẫn.

Và tôi đã sử dụng một phần mềm
nhận diện khuôn mặt thông dụng

để xây dựng hệ thống,

nhưng tôi nhận ra rằng rất khó để
chạy thử nó trừ khi tôi đeo mặt nạ trắng

Thật không may, trước đây tôi cũng đã
gặp sự cố này.

Khi tôi còn là sinh viên nghiên cứu khoa
học máy tính ở Georgia Tech,

tôi đã từng làm các robot xã hội,

và một trong những công việc của tôi là
cài đặt robot chơi trò "Ú òa",

một trò chơi luân phiên đơn giản

trong đó các người chơi che mặt lại
và tháo mặt ra và nói "Ú òa!"

Vấn đề là, tôi sẽ không Ú Òa nếu
không nhìn thấy bạn,

và robot của tôi đã không thấy tôi.

Nhưng khi tôi mượn khuôn mặt của bạn
cùng phòng để thực hiện dự án,

nộp bài tập,

và tham gia, bạn biết không, ai sẽ giải
quyết vấn đề này.

Không lâu sau đó,

Tôi đã đến Hong Kong để tham gia một
cuộc thi làm doanh nhân.

Các nhà tổ chức đã quyết định đưa những
người tham gia

đi tham quan các startup địa phương.

Một trong các startup đó có một
robot xã hội,

và họ đã quyết định demo.

Việc demo thực hiện với mọi người
và khi đến lược tôi

và bạn có lẽ cùng đoán được.

Nó không nhận diện được khuôn mặt tôi.

Tôi đã hỏi người phát triển nó
chuyện gì xãy ra vậy,

và hóa ra chúng tôi đã sử dụng cùng một
phần mềm nhận diện khuôn mặt đó.

Nữa vòng trái đất,

Tôi đã học được rằng sự thiên vị
thuật toán có thể di chuyển nhanh như

việc tải một số file từ internet.

Vậy điều gì đang xãy ra?
Tại sao khuôn mặt tôi không nhận ra được

Vâng, chúng ta phải xem lại cách chúng ta
cho máy tính nhìn.

Thi giác máy tính sử dụng các công nghệ
học máy để nhìn

để nhận diện khuôn mặt.

Và cách làm là, ta tạo ra một một tập huấn
luyện với các ví dụ về khuôn mặt.

Đây là khuôn mặt. Đây là khuôn mặt.
Còn đây thì không.

và qua thời gian, ta có thể dạy máy tính
cách nhận ra các khuôn mặt khác.

Tuy nhiên, nếu tập huấn luyện
không đa dạng,

bất kỳ khuôn mặt nào mà khác quá nhiều
so với chuẩn đã thiết lập

sẽ khó dò tìm hơn,

đó chính là trường hợp xãy ra với tôi.

Nhưng đừng lo - có một vài tin tốt.

Các tập huấn luyện không tồn tại ở
cõi hư vô.

Mà do chính chúng ta tạo ra.

Do vậy chúng ta có cơ hội tạo ra các tập
huấn luyện phủ kín các trường hợp

và phản ánh một bức tranh đầy đủ hơn
về con người.

Bây giờ bạn đã thấy trong các ví dụ
của tôi

các robot xã hội nó ra sao

cách tôi đã tìm ra sự sai sót về
thiên vị thuật toán.

Nhưng sự thiên vị thuật toán có thể dẫn
đến các hành vi phân biệt đối xử.

Khắp nước Mỹ,

các sở cảnh sát đang bắt đầu đưa
phần mềm nhận dạng khuôn mặt

vào kho vũ khí chống tội phạm của họ.

Trường luật Georgetown công bố một
báo cáo

cho thấy 1/2 người lớn ở Mỹ
-- có đến 117 triệu người --

có khuôn mặt trong các mạng lưới
nhận dạng khuôn mặt.

Hiện tại các sở cảnh sát có thể nhìn
vào các mạng lưới không được kiểm soát này

sử dụng các thuật toán không được kiểm tra
để bảo đảm sự chính xác.

Nhưng chúng ta biết nhận dạng khuôn mặt
không phải là không có sai sót

và đánh nhãn khuôn mặt một cách chắc chắn
vẫn còn là một thách thức.

Bạn có thể thấy điều này
trên Facebook

Tôi và các bạn tôi luôn cười khi thấy
những người khác

bị đánh nhãn sai trong các bức hình
của chúng tôi.

Nhưng nhận diện sai một nghi phạm
không phải là một chuyện để cười,

cũng không phải là vi phạm
quyền tự do dân sự.

Công nghệ học máy đang được sử dụng
để nhận diện khuôn mặt,

nhưng nó cũng đang mở rộng vượt quá lĩnh
vực thị giác máy tính.

Trong cuốn sách "Vũ khí hủy diệt toán học"

của cô Cathy O'Neil, một nhà khoa học
dữ liệu, nói các loại WMD đang gia tăng --

các giải thuật hủy diệt, thần bí và
phổ biến rộng rãi

đang ngày càng được sử dụng để đưa
ra quyết định

mà ảnh hưởng đến nhiều lĩnh vực của
cuộc sống.

Vậy ai được tuyển dụng hoặc sa thải?

Bạn có khoản vay đó?
Bạn có bảo hiểm không?

Bạn có được tiếp nhận vào trường đại học
mà bạn muốn?

Bạn và tôi có trả cùng giá
cho cùng sản phẩm

được mua trên cùng một nền tảng?

Việc thực thi luật pháp cũng đang bắt đầu
sử dụng công nghệ học máy

để dự báo tình hình phạm pháp

Một số thẩm phán sử dụng điểm số rủi ro
do máy tạo ra để xác định

một cá nhân sẽ đi tù trong bao lâu.

Do vậy chúng ta phải nghĩ về những
quyết định này.

Chúng có công bằng?

Và chúng ta đã thấy rằng
sự thiên vị thuật toán

không nhất thiết luôn cho ra kết quả
công bằng

Vậy ta có thể làm gì với chúng?

Vâng, ta có thể bắt đầu nghĩ về cách
tạo ra mã lệnh bao hàm nhiều hơn

và sử dụng các hoạt động viết mã có
tính bao hàm.

Nó thực sự bắt đầu với con người.

Vậy ai viết các mã lệnh đó.

Có phải chúng ta đang tạo ra các nhóm
đầy đủ với các cá nhân đa dạng

những người có thể kiểm tra các điểm mù
lẫn nhau?

Về mặt kỹ thuật,
chúng ta viết các mã lệnh đó như thế nào

Chúng ta có đang tính đến yếu tố công bằng
khi xây dựng hệ thống/

Và cuối cùng, tại sao chúng ta viết những
mã lệnh đó.

Chúng ta đã sử dụng các công cụ sáng tạo
tính toán để mở khóa sự giàu có to lớn.

Giờ đây chúng ta có cơ hội mở khóa
sự bình đẳng to lớn hơn

nếu chúng ta tạo ra sự thay đổi xã hội
một sự ưu tiên

và không suy nghĩ lại

Và đây là 3 nguyên lý mà sẽ tạo nên
phong trào "incoding".

Ai viết mã lệnh đó,

chúng ta viết mã lệnh đó ra sao

và tại sao ta viết mã lệnh đó.

Do đó để hướng đến sự viết mã tận tâm,
ta có thể bắt đầu nghĩ về

xây dựng các nền tảng mà có thể
nhận diện sự thiên vị

bằng cách tập hợp trải nghiệm của
mọi người như tôi đã chia sẽ

nhưng cũng kiểm tra các phần mềm hiện tại.

Chúng ta cũng có thể bắt đầu tạo ra
những tập huấn luyện bao hàm hơn

Hãy tưởng tượng một chiến dịch
"Tự sướng để hòa nhập"

ở đó bạn và tôi có thể giúp các
nhà phát triển kiểm thử và tạo ra

các tập huấn luyện bao hàm hơn.

Và chúng ta cũng bắt đầu suy nghĩ
một cách tận tâm hơn

về sự ảnh hưởng xã hội của công nghệ
mà ta đang phát triển.

Để bắt đầu phong trào viết mã tận tâm

Tôi đã khởi xướng Liên minh công lý
thuật toán,

ở đó bất cứ ai quan tâm đến sự công bằng
đều có thể giúp chống lại the coded gaze.

trên codedgaze.com, nơi bạn có thể
báo cáo lại các thiên vị,

đề nghị sự kiểm tra, trở thành
người kiểm thử

và tham gia vào các cuộc nói chuyện

#codedgaze.

Tôi mời bạn tham gia với tôi

để tạo ra một thế giới ở đó công nghệ
phục vụ cho tất cả chúng ta,

không phải chỉ với một số người,

một thế giới ở đó chúng ta đề cao sự hòa
nhập và thay đổi xã hội làm trung tâm

Xin cảm ơn.

(Vỗ tay)

Nhưng tôi còn một câu hỏi:

Bạn có cùng tôi vào
cuộc chiến này không?

(Cười)

(Vỗ tay)