Return to Video

Tôi đang đấu tranh với sự thiên vị trong thuật toán

  • 0:01 - 0:04
    Xin chào, Tôi là Joy, một nhà thơ viết mã,
  • 0:04 - 0:09
    đang thực hiện nhiệm vụ ngăn chặn một
    một lực lượng vô hình đang gia tăng,
  • 0:09 - 0:12
    một lực lượng mà tôi gọi là
    "the coded gaze,"
  • 0:12 - 0:15
    là từ tôi nói về
    sự thiên vị thuật toán.
  • 0:15 - 0:20
    Thiên vị thuật toán, giống như thiên vị
    con người, sẽ đưa đến sự bất công.
  • 0:20 - 0:26
    Tuy nhiên, thuật toán, giống như virút, có
    thể phát tán sự thiên vị trên quy mô lớn
  • 0:26 - 0:27
    với tốc độ nhanh chóng.
  • 0:28 - 0:32
    Thiên vị thuật toán có thể dẫn đến
    nhiều trải nghiệm bị loại trừ ra
  • 0:32 - 0:34
    và các hành vi phân biệt đối xử.
  • 0:35 - 0:37
    Tôi sẽ cho các bạn thấy điều tôi muốn nói.
  • 0:37 - 0:39
    (Video) Joy: Chào camera.
    Tôi có một khuôn mặt.
  • 0:40 - 0:42
    Bạn có thấy mặt tôi không?
  • 0:42 - 0:44
    Khuôn mặt không đeo kính ấy?
  • 0:44 - 0:46
    Bạn có thể thấy mặt cô ấy.
  • 0:46 - 0:48
    Thế còn mặt của tôi?
  • 0:52 - 0:56
    Tôi có một mặt nạ. Bạn có thấy mặt nạ
    của tôi không?
  • 0:56 - 0:59
    Joy Buolamwini: Việc này là thế nào?
  • 0:59 - 1:02
    Tại sao tôi đang ngồi trước máy tính
  • 1:02 - 1:03
    đeo mặt nạ trắng,
  • 1:03 - 1:07
    cố dò khuôn mặt mình bằng một
    webcam rẽ tiền?
  • 1:07 - 1:09
    Vâng, tôi không chống lại
    the coded gaze
  • 1:09 - 1:11
    với vai trò một nhà thơ viết mã
  • 1:11 - 1:14
    Tôi là sinh viên tốt nghiệp
    tại MIT Media Lab,
  • 1:14 - 1:19
    và ở đó, tôi có cơ hội làm việc với mọi
    loại dự án kỳ quặc,
  • 1:19 - 1:21
    bao gồm dự án Aspire Mirror,
  • 1:21 - 1:26
    dự án này tôi đã thực hiện nên tôi có thể
    chiếu các mặt nạ số phản ánh tâm trạng tôi
  • 1:26 - 1:29
    vào buổi sáng, nếu tôi muốn
    cảm thấy mạnh mẽ
  • 1:29 - 1:30
    Tôi có thể đeo mặt nạ sư tử.
  • 1:30 - 1:34
    Nếu tôi muốn được lên tinh thần,
    tôi có thể có một viện dẫn.
  • 1:34 - 1:37
    Và tôi đã sử dụng một phần mềm
    nhận diện khuôn mặt thông dụng
  • 1:37 - 1:38
    để xây dựng hệ thống,
  • 1:38 - 1:43
    nhưng tôi nhận ra rằng rất khó để
    chạy thử nó trừ khi tôi đeo mặt nạ trắng
  • 1:44 - 1:49
    Thật không may, trước đây tôi cũng đã
    gặp sự cố này.
  • 1:49 - 1:53
    Khi tôi còn là sinh viên nghiên cứu khoa
    học máy tính ở Georgia Tech,
  • 1:53 - 1:55
    tôi đã từng làm các robot xã hội,
  • 1:55 - 1:59
    và một trong những công việc của tôi là
    cài đặt robot chơi trò "Ú òa",
  • 1:59 - 2:01
    một trò chơi luân phiên đơn giản
  • 2:01 - 2:05
    trong đó các người chơi che mặt lại
    và tháo mặt ra và nói "Ú òa!"
  • 2:05 - 2:09
    Vấn đề là, tôi sẽ không Ú Òa nếu
    không nhìn thấy bạn,
  • 2:09 - 2:12
    và robot của tôi đã không thấy tôi.
  • 2:12 - 2:16
    Nhưng khi tôi mượn khuôn mặt của bạn
    cùng phòng để thực hiện dự án,
  • 2:16 - 2:17
    nộp bài tập,
  • 2:17 - 2:21
    và tham gia, bạn biết không, ai sẽ giải
    quyết vấn đề này.
  • 2:22 - 2:24
    Không lâu sau đó,
  • 2:24 - 2:28
    Tôi đã đến Hong Kong để tham gia một
    cuộc thi làm doanh nhân.
  • 2:28 - 2:31
    Các nhà tổ chức đã quyết định đưa những
    người tham gia
  • 2:31 - 2:33
    đi tham quan các startup địa phương.
  • 2:33 - 2:36
    Một trong các startup đó có một
    robot xã hội,
  • 2:36 - 2:38
    và họ đã quyết định demo.
  • 2:38 - 2:41
    Việc demo thực hiện với mọi người
    và khi đến lược tôi
  • 2:41 - 2:43
    và bạn có lẽ cùng đoán được.
  • 2:43 - 2:46
    Nó không nhận diện được khuôn mặt tôi.
  • 2:46 - 2:49
    Tôi đã hỏi người phát triển nó
    chuyện gì xãy ra vậy,
  • 2:49 - 2:54
    và hóa ra chúng tôi đã sử dụng cùng một
    phần mềm nhận diện khuôn mặt đó.
  • 2:54 - 2:56
    Nữa vòng trái đất,
  • 2:56 - 3:00
    Tôi đã học được rằng sự thiên vị
    thuật toán có thể di chuyển nhanh như
  • 3:00 - 3:03
    việc tải một số file từ internet.
  • 3:04 - 3:07
    Vậy điều gì đang xãy ra?
    Tại sao khuôn mặt tôi không nhận ra được
  • 3:07 - 3:10
    Vâng, chúng ta phải xem lại cách chúng ta
    cho máy tính nhìn.
  • 3:10 - 3:14
    Thi giác máy tính sử dụng các công nghệ
    học máy để nhìn
  • 3:14 - 3:16
    để nhận diện khuôn mặt.
  • 3:16 - 3:19
    Và cách làm là, ta tạo ra một một tập huấn
    luyện với các ví dụ về khuôn mặt.
  • 3:19 - 3:22
    Đây là khuôn mặt. Đây là khuôn mặt.
    Còn đây thì không.
  • 3:22 - 3:27
    và qua thời gian, ta có thể dạy máy tính
    cách nhận ra các khuôn mặt khác.
  • 3:27 - 3:31
    Tuy nhiên, nếu tập huấn luyện
    không đa dạng,
  • 3:31 - 3:34
    bất kỳ khuôn mặt nào mà khác quá nhiều
    so với chuẩn đã thiết lập
  • 3:34 - 3:36
    sẽ khó dò tìm hơn,
  • 3:36 - 3:38
    đó chính là trường hợp xãy ra với tôi.
  • 3:38 - 3:40
    Nhưng đừng lo - có một vài tin tốt.
  • 3:40 - 3:43
    Các tập huấn luyện không tồn tại ở
    cõi hư vô.
  • 3:43 - 3:45
    Mà do chính chúng ta tạo ra.
  • 3:45 - 3:49
    Do vậy chúng ta có cơ hội tạo ra các tập
    huấn luyện phủ kín các trường hợp
  • 3:49 - 3:53
    và phản ánh một bức tranh đầy đủ hơn
    về con người.
  • 3:53 - 3:55
    Bây giờ bạn đã thấy trong các ví dụ
    của tôi
  • 3:55 - 3:57
    các robot xã hội nó ra sao
  • 3:57 - 4:02
    cách tôi đã tìm ra sự sai sót về
    thiên vị thuật toán.
  • 4:02 - 4:06
    Nhưng sự thiên vị thuật toán có thể dẫn
    đến các hành vi phân biệt đối xử.
  • 4:07 - 4:09
    Khắp nước Mỹ,
  • 4:09 - 4:13
    các sở cảnh sát đang bắt đầu đưa
    phần mềm nhận dạng khuôn mặt
  • 4:13 - 4:16
    vào kho vũ khí chống tội phạm của họ.
  • 4:16 - 4:18
    Trường luật Georgetown công bố một
    báo cáo
  • 4:18 - 4:24
    cho thấy 1/2 người lớn ở Mỹ
    -- có đến 117 triệu người --
  • 4:24 - 4:28
    có khuôn mặt trong các mạng lưới
    nhận dạng khuôn mặt.
  • 4:28 - 4:33
    Hiện tại các sở cảnh sát có thể nhìn
    vào các mạng lưới không được kiểm soát này
  • 4:33 - 4:37
    sử dụng các thuật toán không được kiểm tra
    để bảo đảm sự chính xác.
  • 4:37 - 4:41
    Nhưng chúng ta biết nhận dạng khuôn mặt
    không phải là không có sai sót
  • 4:41 - 4:45
    và đánh nhãn khuôn mặt một cách chắc chắn
    vẫn còn là một thách thức.
  • 4:45 - 4:47
    Bạn có thể thấy điều này
    trên Facebook
  • 4:47 - 4:50
    Tôi và các bạn tôi luôn cười khi thấy
    những người khác
  • 4:50 - 4:52
    bị đánh nhãn sai trong các bức hình
    của chúng tôi.
  • 4:52 - 4:58
    Nhưng nhận diện sai một nghi phạm
    không phải là một chuyện để cười,
  • 4:58 - 5:01
    cũng không phải là vi phạm
    quyền tự do dân sự.
  • 5:01 - 5:04
    Công nghệ học máy đang được sử dụng
    để nhận diện khuôn mặt,
  • 5:04 - 5:08
    nhưng nó cũng đang mở rộng vượt quá lĩnh
    vực thị giác máy tính.
  • 5:09 - 5:13
    Trong cuốn sách "Vũ khí hủy diệt toán học"
  • 5:13 - 5:20
    của cô Cathy O'Neil, một nhà khoa học
    dữ liệu, nói các loại WMD đang gia tăng --
  • 5:20 - 5:24
    các giải thuật hủy diệt, thần bí và
    phổ biến rộng rãi
  • 5:24 - 5:27
    đang ngày càng được sử dụng để đưa
    ra quyết định
  • 5:27 - 5:31
    mà ảnh hưởng đến nhiều lĩnh vực của
    cuộc sống.
  • 5:31 - 5:32
    Vậy ai được tuyển dụng hoặc sa thải?
  • 5:32 - 5:35
    Bạn có khoản vay đó?
    Bạn có bảo hiểm không?
  • 5:35 - 5:38
    Bạn có được tiếp nhận vào trường đại học
    mà bạn muốn?
  • 5:38 - 5:42
    Bạn và tôi có trả cùng giá
    cho cùng sản phẩm
  • 5:42 - 5:44
    được mua trên cùng một nền tảng?
  • 5:44 - 5:48
    Việc thực thi luật pháp cũng đang bắt đầu
    sử dụng công nghệ học máy
  • 5:48 - 5:50
    để dự báo tình hình phạm pháp
  • 5:50 - 5:54
    Một số thẩm phán sử dụng điểm số rủi ro
    do máy tạo ra để xác định
  • 5:54 - 5:58
    một cá nhân sẽ đi tù trong bao lâu.
  • 5:58 - 6:01
    Do vậy chúng ta phải nghĩ về những
    quyết định này.
  • 6:01 - 6:02
    Chúng có công bằng?
  • 6:02 - 6:05
    Và chúng ta đã thấy rằng
    sự thiên vị thuật toán
  • 6:05 - 6:08
    không nhất thiết luôn cho ra kết quả
    công bằng
  • 6:08 - 6:10
    Vậy ta có thể làm gì với chúng?
  • 6:10 - 6:14
    Vâng, ta có thể bắt đầu nghĩ về cách
    tạo ra mã lệnh bao hàm nhiều hơn
  • 6:14 - 6:17
    và sử dụng các hoạt động viết mã có
    tính bao hàm.
  • 6:17 - 6:19
    Nó thực sự bắt đầu với con người.
  • 6:20 - 6:22
    Vậy ai viết các mã lệnh đó.
  • 6:22 - 6:26
    Có phải chúng ta đang tạo ra các nhóm
    đầy đủ với các cá nhân đa dạng
  • 6:26 - 6:28
    những người có thể kiểm tra các điểm mù
    lẫn nhau?
  • 6:28 - 6:32
    Về mặt kỹ thuật,
    chúng ta viết các mã lệnh đó như thế nào
  • 6:32 - 6:35
    Chúng ta có đang tính đến yếu tố công bằng
    khi xây dựng hệ thống/
  • 6:36 - 6:38
    Và cuối cùng, tại sao chúng ta viết những
    mã lệnh đó.
  • 6:39 - 6:44
    Chúng ta đã sử dụng các công cụ sáng tạo
    tính toán để mở khóa sự giàu có to lớn.
  • 6:44 - 6:48
    Giờ đây chúng ta có cơ hội mở khóa
    sự bình đẳng to lớn hơn
  • 6:48 - 6:51
    nếu chúng ta tạo ra sự thay đổi xã hội
    một sự ưu tiên
  • 6:51 - 6:53
    và không suy nghĩ lại
  • 6:54 - 6:59
    Và đây là 3 nguyên lý mà sẽ tạo nên
    phong trào "incoding".
  • 6:59 - 7:00
    Ai viết mã lệnh đó,
  • 7:00 - 7:02
    chúng ta viết mã lệnh đó ra sao
  • 7:02 - 7:04
    và tại sao ta viết mã lệnh đó.
  • 7:04 - 7:07
    Do đó để hướng đến sự viết mã tận tâm,
    ta có thể bắt đầu nghĩ về
  • 7:07 - 7:10
    xây dựng các nền tảng mà có thể
    nhận diện sự thiên vị
  • 7:10 - 7:13
    bằng cách tập hợp trải nghiệm của
    mọi người như tôi đã chia sẽ
  • 7:13 - 7:16
    nhưng cũng kiểm tra các phần mềm hiện tại.
  • 7:16 - 7:20
    Chúng ta cũng có thể bắt đầu tạo ra
    những tập huấn luyện bao hàm hơn
  • 7:20 - 7:23
    Hãy tưởng tượng một chiến dịch
    "Tự sướng để hòa nhập"
  • 7:23 - 7:27
    ở đó bạn và tôi có thể giúp các
    nhà phát triển kiểm thử và tạo ra
  • 7:27 - 7:29
    các tập huấn luyện bao hàm hơn.
  • 7:29 - 7:32
    Và chúng ta cũng bắt đầu suy nghĩ
    một cách tận tâm hơn
  • 7:32 - 7:38
    về sự ảnh hưởng xã hội của công nghệ
    mà ta đang phát triển.
  • 7:38 - 7:40
    Để bắt đầu phong trào viết mã tận tâm
  • 7:40 - 7:43
    Tôi đã khởi xướng Liên minh công lý
    thuật toán,
  • 7:43 - 7:49
    ở đó bất cứ ai quan tâm đến sự công bằng
    đều có thể giúp chống lại the coded gaze.
  • 7:49 - 7:52
    trên codedgaze.com, nơi bạn có thể
    báo cáo lại các thiên vị,
  • 7:52 - 7:55
    đề nghị sự kiểm tra, trở thành
    người kiểm thử
  • 7:55 - 7:57
    và tham gia vào các cuộc nói chuyện
  • 7:57 - 8:00
    #codedgaze.
  • 8:01 - 8:03
    Tôi mời bạn tham gia với tôi
  • 8:03 - 8:07
    để tạo ra một thế giới ở đó công nghệ
    phục vụ cho tất cả chúng ta,
  • 8:07 - 8:09
    không phải chỉ với một số người,
  • 8:09 - 8:14
    một thế giới ở đó chúng ta đề cao sự hòa
    nhập và thay đổi xã hội làm trung tâm
  • 8:14 - 8:15
    Xin cảm ơn.
  • 8:15 - 8:19
    (Vỗ tay)
  • 8:21 - 8:24
    Nhưng tôi còn một câu hỏi:
  • 8:24 - 8:26
    Bạn có cùng tôi vào
    cuộc chiến này không?
  • 8:26 - 8:27
    (Cười)
  • 8:27 - 8:31
    (Vỗ tay)
Title:
Tôi đang đấu tranh với sự thiên vị trong thuật toán
Speaker:
Joy Buolamwini
Description:

Joy Buolamwini, một sinh viên tốt nghiệp MIT, khi đang làm việc với phần mềm nhận dạng khuôn mặt thì cô phát hiện thấy một vấn đề: phần mềm không nhận ra được khuôn mặt của cô - bởi vì những người viết mã cho các thuật toán đã không dạy chúng nhận diện đầy đủ các loại tông màu da và cấu trúc khuôn mặt. Giờ đây cô đang thực hiện nhiệm vụ chiến đấu với sự thiên vị trong công nghệ học máy, một hiện tượng cô ấy gọi là "coded gaze". Đó là một cuộc nói chuyện cởi mở về yêu cầu giải trình trong viết mã... khi các thuật toán chiếm lĩnh ngày càng nhiều lĩnh vực trong cuộc sống.

more » « less
Video Language:
English
Team:
TED
Project:
TEDTalks
Duration:
08:46

Vietnamese subtitles

Revisions