Công việc của tôi tại Twitter
là đảm bảo sự bảo mật
người dùng,
bảo vệ các quyền lợi
và giữ an toàn cho họ,
khỏi những người dùng khác
và, đôi khi,
là từ chính bản thân họ.
Nói đến hệ thống Twitter.
Vào tháng 1 năm 2009,
chúng tôi thống kê được
hơn 2 triệu tweets mới mỗi ngày
Tháng 1 năm 2014,
có hơn 500 triệu.
2 triệu tweets
trong vòng chưa đầy 6 phút.
Tăng những 24,900%.
Ngày nay, hầu hết các
hoạt động trên Twitter
không gây tổn hại cho ai.
Không có những rủi ro liên quan.
Công việc của tôi là loại trừ
và ngăn chặn nguy cơ.
Nghe chừng rất đơn giản,
phải không?
Thậm chí cho là dễ,
rằng tôi chỉ nói đến phần lớn
các hoạt động vô hại trên Twitter.
Vậy tại sao lại dành
nhiều thời gian
tìm kiếm nguy cơ tiềm tàng
trong hoạt động vô hại này?
Với quy mô của Twitter,
xác suất chỉ là
một phần 1 triệu
tức 500 lần 1 ngày.
Con số này tương tự các công ty khác
cùng quy mô.
Với chúng tôi, các trường hợp,
các tình huống hiếm hoi
hầu như không diễn ra này
giống như những định mức.
Cứ cho là 99.999% tweets
không gây rủi ro
hay đe dọa nào.
Mọi người có thể đánh dấu
những điểm du lịch
như Rạn san hô trái tim ở Úc,
hay tweet về buổi hòa nhạc
mà họ tham dự,
hay chia sẻ những bức ảnh
về vật nuôi.
Ngoài 99.999%,
một phần trăm rất nhỏ
các tweets còn lại
vào khoảng 150,000 mỗi tháng.
Tỷ lệ tuyệt đối này trở thành
một thách thức.
Điều gì khác làm cho
vai trò của tôi trở nên khó khăn?
Con người ta hay làm
những điều kì quặc.
(Cười)
Còn tôi thì phải thống kê
điều họ làm,
nguyên nhân, và liệu rằng
nó có gây rủi ro,
vốn thường không chứa
trong hoàn cảnh
hay bối cảnh xung quanh.
Tôi sẽ đưa ra
vài ví dụ mà tôi từng gặp
trong thời gian
làm việc tại Twitter --
tất cả đều là
ví dụ thực tiễn --
về những tình huống
tưởng chừng không có gì ,
nhưng sự thực
lại hoàn toàn khác hẳn.
Chi tiết đã được thay đổi
để bảo vệ người vô tội
và đôi khi cả tội phạm.
Chúng ta bắt đầu
với những thứ đơn giản.
["Yo bitch"]
Khi thấy
1 tweet như trên,
bạn có thể nghĩ rằng,
"Nghe như lăng mạ vậy."
Sao bạn lại muốn
nhận tin nhắn này:
"Yo, bitch."
Khi cố gắng tiếp cận xu hướng
và cập nhật văn hóa,
tôi biết rằng "yo, bitch"
cũng là lời chào hỏi
giữa bạn bè với nhau,
cũng giống như trong
"Breaking Bad".
Thừa nhận rằng
tôi không trông mong
sẽ bắt gặp
trường hợp sử dụng thứ 4.
Thì ram nó cũng được
sử dụng trên Twitter
khi mà người ta
trong vai những con chó.
(Cười)
Trên thực tế,
trường hợp đó,
không những
không phải lăng mạ,
mà còn là
một lời chào hỏi kỹ cách.
(cười)
Do vậy, thật sự rất khó
để khẳng định
có hay không sự lăng mạ
ẩn giấu
trong nội dung.
Hãy nhìn vào các thư rác.
Dưới đây là ví dụ
của một tài khoản
gửi thư rác điển hình,
gửi cùng một tin nhắn
đến hàng nghìn người.
Cái này được giả lập bằng
tài khoản của tôi,
ta thấy các tài khoản
lúc nào cũng gửi đi tin nhắn.
Không rắc rối lắm.
Chúng ta tự động
đình chỉ tài khoản
thực hiện các hành vi
kiểu này.
Vẫn tồn tại
một vài ngoại lệ.
Các tin nhắn có thể là
một thông báo
đăng ký tham gia
Trạm vũ trụ quốc tế
bởi bạn muốn ra ngoài
và quan sát không gian.
Bạn sẽ không có cơ hội
nếu chúng tôi đình chỉ
nhầm tài khoản
vì nghĩ đó là thư rác.
Ổn thôi.
Liều hơn nữa nhé.
Trở lại với tài khoản của tôi,
và các hành vi điển hình này.
Bây giờ là gửi tin nhắn
và liên kết.
Đây thường là
dấu hiệu của lừa đảo,
ai đó cố ăn cắp thông tin
tài khoản của người khác
bằng cách hướng dẫn họ
vào một trang web.
Rõ ràng không phải là
điều tốt đẹp.
Chúng tôi muốn
đình chỉ tài khoản
thực hiện
các hành vi kiểu này.
Vậy tại sao lại liều hơn
cho khoản này?
Vâng, một người
đứng ngoài cuộc biểu tình
ghi lại cảnh
một cảnh sát đánh đập
một người biểu tình không bạo lực
cố gắng cho thế giới biết
điều đang xảy ra.
Chúng tôi không muốn mạo hiểm
giữ im lặng cho
bài phát biểu quan trọng này
bằng cách phân vào nhóm thư rác
và đình chỉ nó.
Chúng tôi phải
đánh giá hàng trăm thông số
về hành vi của tài khoản,
sau đó, thậm chí,
chúng tôi có thể sai
và phải đánh giá lại.
Bây giờ, những thách thức
mà tôi phải vượt qua
không hẳn là dự đoán
mà còn là bảo vệ thiết kế
trước những điều không ngờ.
Đây không chỉ là
vấn đề của riêng tôi,
của twitter;
mà là vấn đề cho bạn
cho bất kì ai tạo ra
thứ mà bạn nghĩ
sẽ bất ngờ
và khiến người khác làm
những điều bất ngờ.
Vậy, tôi sẽ làm gì?
Tôi dừng lại và suy nghĩ,
liệu những điều này
có thể trở thành sai lầm khủng khiếp?
Tôi hình dung ra bi kịch.
Thật là khó.
Hàng chuỗi mâu thuẫn
trong nhận thức vốn có
giống như khi
đọc lời thề đám cưới
hay thỏa thuận tiền hôn nhân.
(Cười)
Nhưng bạn sẽ vẫn phải làm
điều đó,
đặc biệt là khi bạn có
500 triệu tweets mỗi ngày.
Ý tôi là gì khi nói
"vẽ ra bi kịch"
Tôi cố gắng nghĩ
bằng mọi cách
một bức hình con mèo
hiền lành vô hại có thể
dẫn đến cái chết,
và cần làm gì để
ngăn cản điều này.
Trong ví dụ tiếp theo,
điều gì xảy ra đây.
Chú mèo của tôi, Eli
Chúng tôi muốn cho
người dùng khả năng
thêm hình ảnh
vào tweet của mình.
Trăm nghe không bằng mắt thấy.
Mà bạn chỉ có thể viết 140 kí tự.
Thêm 1 bức hình vào tweet,
nhìn xem có bao nhiêu là nội dung.
Nhiều điều tuyệt vời
có thể làm
bằng cách thêm hình vào tweet.
Công việc của tôi
không phải là nghĩ đến chúng
mà là nghĩ đến
những mối nguy.
Bằng cách nào bức hình này
có thể dẫn tới cái chết?
Đây là một khả năng.
Có nhiều thứ hơn
là bức hình con mèo.
Các dữ kiện địa lý.
Khi chụp hình bằng
điện thoại thông minh
hay camera kỹ thuật số,
có rất nhiều thông tin đi kèm
được lưu giữ cùng bức ảnh.
Những bức ảnh này
cũng hàm chứa
điều tương đương,
rất đặc trưng.
Gần như chắc chắn rằng,
không ai có thể
theo dõi
và làm hại tôi
chỉ dựa vào thông số
đi kèm
với bức hình con mèo
mà tôi tải lên,
nhưng tôi bắt đầu giả định
điều tồi tệ nhất.
Đó là lí do,
khi đưa ảnh lên Twitter,
chúng tôi quyết định
tách dữ liệu địa lý ra.
(Vỗ tay)
Nếu bắt đầu bằng
các giả định xấu nhất
và truy ngược lại,
tôi có thể chắc chắn rằng
sự bảo vệ là dành cho
tất cả các trường hợp.
Cho rằng tôi dành
ngày đêm
tưởng tượng ra
điều tệ nhất có thế xảy đến
Không ngạc nhiên nếu
thế giới quan của tôi ảm đạm.
(Cười)
Không.
Phần lớn các phản ứng
mà tôi thấy
và thấy rất nhiều,
tin tôi đi rất tích cực
mọi người cần sự giúp đỡ
hay liên kết hoặc
chia sẻ thông tin.
Chỉ một số trong chúng ta
làm việc với hệ thống,
bảo đảm sự an toàn
cho người dùng,
chúng ta phải giả định
những điều tệ nhất
bởi vì xác suất
một trong 1 triệu
thì không phải là nhỏ.
Xin cảm ơn.
(Vổ tay)