Xin chào, Tôi là Joy, một nhà thơ viết mã,
đang thực hiện nhiệm vụ ngăn chặn một một lực lượng vô hình đang gia tăng,
một lực lượng mà tôi gọi là "the coded gaze,"
là từ tôi nói về sự thiên vị thuật toán.
Thiên vị thuật toán, giống như thiên vị con người, sẽ đưa đến sự bất công.
Tuy nhiên, thuật toán, giống như virút, có thể phát tán sự thiên vị trên quy mô lớn
với tốc độ nhanh chóng.
Thiên vị thuật toán có thể dẫn đến nhiều trải nghiệm bị loại trừ ra
và các hành vi phân biệt đối xử.
Tôi sẽ cho các bạn thấy điều tôi muốn nói.
(Video) Joy: Chào camera. Tôi có một khuôn mặt.
Bạn có thấy mặt tôi không?
Khuôn mặt không đeo kính ấy?
Bạn có thể thấy mặt cô ấy.
Thế còn mặt của tôi?
Tôi có một mặt nạ. Bạn có thấy mặt nạ của tôi không?
Joy Buolamwini: Việc này là thế nào?
Tại sao tôi đang ngồi trước máy tính
đeo mặt nạ trắng,
cố dò khuôn mặt mình bằng một webcam rẽ tiền?
Vâng, tôi không chống lại the coded gaze
với vai trò một nhà thơ viết mã
Tôi là sinh viên tốt nghiệp tại MIT Media Lab,
và ở đó, tôi có cơ hội làm việc với mọi loại dự án kỳ quặc,
bao gồm dự án Aspire Mirror,
dự án này tôi đã thực hiện nên tôi có thể chiếu các mặt nạ số phản ánh tâm trạng tôi
vào buổi sáng, nếu tôi muốn cảm thấy mạnh mẽ
Tôi có thể đeo mặt nạ sư tử.
Nếu tôi muốn được lên tinh thần, tôi có thể có một viện dẫn.
Và tôi đã sử dụng một phần mềm nhận diện khuôn mặt thông dụng
để xây dựng hệ thống,
nhưng tôi nhận ra rằng rất khó để chạy thử nó trừ khi tôi đeo mặt nạ trắng
Thật không may, trước đây tôi cũng đã gặp sự cố này.
Khi tôi còn là sinh viên nghiên cứu khoa học máy tính ở Georgia Tech,
tôi đã từng làm các robot xã hội,
và một trong những công việc của tôi là cài đặt robot chơi trò "Ú òa",
một trò chơi luân phiên đơn giản
trong đó các người chơi che mặt lại và tháo mặt ra và nói "Ú òa!"
Vấn đề là, tôi sẽ không Ú Òa nếu không nhìn thấy bạn,
và robot của tôi đã không thấy tôi.
Nhưng khi tôi mượn khuôn mặt của bạn cùng phòng để thực hiện dự án,
nộp bài tập,
và tham gia, bạn biết không, ai sẽ giải quyết vấn đề này.
Không lâu sau đó,
Tôi đã đến Hong Kong để tham gia một cuộc thi làm doanh nhân.
Các nhà tổ chức đã quyết định đưa những người tham gia
đi tham quan các startup địa phương.
Một trong các startup đó có một robot xã hội,
và họ đã quyết định demo.
Việc demo thực hiện với mọi người và khi đến lược tôi
và bạn có lẽ cùng đoán được.
Nó không nhận diện được khuôn mặt tôi.
Tôi đã hỏi người phát triển nó chuyện gì xãy ra vậy,
và hóa ra chúng tôi đã sử dụng cùng một phần mềm nhận diện khuôn mặt đó.
Nữa vòng trái đất,
Tôi đã học được rằng sự thiên vị thuật toán có thể di chuyển nhanh như
việc tải một số file từ internet.
Vậy điều gì đang xãy ra? Tại sao khuôn mặt tôi không nhận ra được
Vâng, chúng ta phải xem lại cách chúng ta cho máy tính nhìn.
Thi giác máy tính sử dụng các công nghệ học máy để nhìn
để nhận diện khuôn mặt.
Và cách làm là, ta tạo ra một một tập huấn luyện với các ví dụ về khuôn mặt.
Đây là khuôn mặt. Đây là khuôn mặt. Còn đây thì không.
và qua thời gian, ta có thể dạy máy tính cách nhận ra các khuôn mặt khác.
Tuy nhiên, nếu tập huấn luyện không đa dạng,
bất kỳ khuôn mặt nào mà khác quá nhiều so với chuẩn đã thiết lập
sẽ khó dò tìm hơn,
đó chính là trường hợp xãy ra với tôi.
Nhưng đừng lo - có một vài tin tốt.
Các tập huấn luyện không tồn tại ở cõi hư vô.
Mà do chính chúng ta tạo ra.
Do vậy chúng ta có cơ hội tạo ra các tập huấn luyện phủ kín các trường hợp
và phản ánh một bức tranh đầy đủ hơn về con người.
Bây giờ bạn đã thấy trong các ví dụ của tôi
các robot xã hội nó ra sao
cách tôi đã tìm ra sự sai sót về thiên vị thuật toán.
Nhưng sự thiên vị thuật toán có thể dẫn đến các hành vi phân biệt đối xử.
Khắp nước Mỹ,
các sở cảnh sát đang bắt đầu đưa phần mềm nhận dạng khuôn mặt
vào kho vũ khí chống tội phạm của họ.
Trường luật Georgetown công bố một báo cáo
cho thấy 1/2 người lớn ở Mỹ -- có đến 117 triệu người --
có khuôn mặt trong các mạng lưới nhận dạng khuôn mặt.
Hiện tại các sở cảnh sát có thể nhìn vào các mạng lưới không được kiểm soát này
sử dụng các thuật toán không được kiểm tra để bảo đảm sự chính xác.
Nhưng chúng ta biết nhận dạng khuôn mặt không phải là không có sai sót
và đánh nhãn khuôn mặt một cách chắc chắn vẫn còn là một thách thức.
Bạn có thể thấy điều này trên Facebook
Tôi và các bạn tôi luôn cười khi thấy những người khác
bị đánh nhãn sai trong các bức hình của chúng tôi.
Nhưng nhận diện sai một nghi phạm không phải là một chuyện để cười,
cũng không phải là vi phạm quyền tự do dân sự.
Công nghệ học máy đang được sử dụng để nhận diện khuôn mặt,
nhưng nó cũng đang mở rộng vượt quá lĩnh vực thị giác máy tính.
Trong cuốn sách "Vũ khí hủy diệt toán học"
của cô Cathy O'Neil, một nhà khoa học dữ liệu, nói các loại WMD đang gia tăng --
các giải thuật hủy diệt, thần bí và phổ biến rộng rãi
đang ngày càng được sử dụng để đưa ra quyết định
mà ảnh hưởng đến nhiều lĩnh vực của cuộc sống.
Vậy ai được tuyển dụng hoặc sa thải?
Bạn có khoản vay đó? Bạn có bảo hiểm không?
Bạn có được tiếp nhận vào trường đại học mà bạn muốn?
Bạn và tôi có trả cùng giá cho cùng sản phẩm
được mua trên cùng một nền tảng?
Việc thực thi luật pháp cũng đang bắt đầu sử dụng công nghệ học máy
để dự báo tình hình phạm pháp
Một số thẩm phán sử dụng điểm số rủi ro do máy tạo ra để xác định
một cá nhân sẽ đi tù trong bao lâu.
Do vậy chúng ta phải nghĩ về những quyết định này.
Chúng có công bằng?
Và chúng ta đã thấy rằng sự thiên vị thuật toán
không nhất thiết luôn cho ra kết quả công bằng
Vậy ta có thể làm gì với chúng?
Vâng, ta có thể bắt đầu nghĩ về cách tạo ra mã lệnh bao hàm nhiều hơn
và sử dụng các hoạt động viết mã có tính bao hàm.
Nó thực sự bắt đầu với con người.
Vậy ai viết các mã lệnh đó.
Có phải chúng ta đang tạo ra các nhóm đầy đủ với các cá nhân đa dạng
những người có thể kiểm tra các điểm mù lẫn nhau?
Về mặt kỹ thuật, chúng ta viết các mã lệnh đó như thế nào
Chúng ta có đang tính đến yếu tố công bằng khi xây dựng hệ thống/
Và cuối cùng, tại sao chúng ta viết những mã lệnh đó.
Chúng ta đã sử dụng các công cụ sáng tạo tính toán để mở khóa sự giàu có to lớn.
Giờ đây chúng ta có cơ hội mở khóa sự bình đẳng to lớn hơn
nếu chúng ta tạo ra sự thay đổi xã hội một sự ưu tiên
và không suy nghĩ lại
Và đây là 3 nguyên lý mà sẽ tạo nên phong trào "incoding".
Ai viết mã lệnh đó,
chúng ta viết mã lệnh đó ra sao
và tại sao ta viết mã lệnh đó.
Do đó để hướng đến sự viết mã tận tâm, ta có thể bắt đầu nghĩ về
xây dựng các nền tảng mà có thể nhận diện sự thiên vị
bằng cách tập hợp trải nghiệm của mọi người như tôi đã chia sẽ
nhưng cũng kiểm tra các phần mềm hiện tại.
Chúng ta cũng có thể bắt đầu tạo ra những tập huấn luyện bao hàm hơn
Hãy tưởng tượng một chiến dịch "Tự sướng để hòa nhập"
ở đó bạn và tôi có thể giúp các nhà phát triển kiểm thử và tạo ra
các tập huấn luyện bao hàm hơn.
Và chúng ta cũng bắt đầu suy nghĩ một cách tận tâm hơn
về sự ảnh hưởng xã hội của công nghệ mà ta đang phát triển.
Để bắt đầu phong trào viết mã tận tâm
Tôi đã khởi xướng Liên minh công lý thuật toán,
ở đó bất cứ ai quan tâm đến sự công bằng đều có thể giúp chống lại the coded gaze.
trên codedgaze.com, nơi bạn có thể báo cáo lại các thiên vị,
đề nghị sự kiểm tra, trở thành người kiểm thử
và tham gia vào các cuộc nói chuyện
#codedgaze.
Tôi mời bạn tham gia với tôi
để tạo ra một thế giới ở đó công nghệ phục vụ cho tất cả chúng ta,
không phải chỉ với một số người,
một thế giới ở đó chúng ta đề cao sự hòa nhập và thay đổi xã hội làm trung tâm
Xin cảm ơn.
(Vỗ tay)
Nhưng tôi còn một câu hỏi:
Bạn có cùng tôi vào cuộc chiến này không?
(Cười)
(Vỗ tay)