Công việc của tôi tại Twitter
là đảm bảo sự bảo mật người dùng,
bảo vệ các quyền lợi và giữ an toàn cho họ,
khỏi những người dùng khác
và, đôi khi, là từ chính bản thân họ.
Nói đến hệ thống Twitter.
Vào tháng 1 năm 2009,
chúng tôi thống kê được hơn 2 triệu tweets mới mỗi ngày
Tháng 1 năm 2014, có hơn 500 triệu.
2 triệu tweets trong vòng chưa đầy 6 phút.
Tăng những 24,900%.
Ngày nay, hầu hết các hoạt động trên Twitter
không gây tổn hại cho ai.
Không có những rủi ro liên quan.
Công việc của tôi là loại trừ và ngăn chặn nguy cơ.
Nghe chừng rất đơn giản, phải không?
Thậm chí cho là dễ,
rằng tôi chỉ nói đến phần lớn các hoạt động vô hại trên Twitter.
Vậy tại sao lại dành nhiều thời gian
tìm kiếm nguy cơ tiềm tàng
trong hoạt động vô hại này?
Với quy mô của Twitter,
xác suất chỉ là một phần 1 triệu
tức 500 lần 1 ngày.
Con số này tương tự các công ty khác cùng quy mô.
Với chúng tôi, các trường hợp,
các tình huống hiếm hoi hầu như không diễn ra này
giống như những định mức.
Cứ cho là 99.999% tweets
không gây rủi ro
hay đe dọa nào.
Mọi người có thể đánh dấu những điểm du lịch
như Rạn san hô trái tim ở Úc,
hay tweet về buổi hòa nhạc mà họ tham dự,
hay chia sẻ những bức ảnh về vật nuôi.
Ngoài 99.999%,
một phần trăm rất nhỏ các tweets còn lại
vào khoảng 150,000 mỗi tháng.
Tỷ lệ tuyệt đối này trở thành một thách thức.
Điều gì khác làm cho vai trò của tôi trở nên khó khăn?
Con người ta hay làm những điều kì quặc.
(Cười)
Còn tôi thì phải thống kê điều họ làm,
nguyên nhân, và liệu rằng nó có gây rủi ro,
vốn thường không chứa trong hoàn cảnh
hay bối cảnh xung quanh.
Tôi sẽ đưa ra vài ví dụ mà tôi từng gặp
trong thời gian làm việc tại Twitter --
tất cả đều là ví dụ thực tiễn --
về những tình huống tưởng chừng không có gì ,
nhưng sự thực lại hoàn toàn khác hẳn.
Chi tiết đã được thay đổi
để bảo vệ người vô tội
và đôi khi cả tội phạm.
Chúng ta bắt đầu với những thứ đơn giản.
["Yo bitch"]
Khi thấy 1 tweet như trên,
bạn có thể nghĩ rằng,
"Nghe như lăng mạ vậy."
Sao bạn lại muốn nhận tin nhắn này:
"Yo, bitch."
Khi cố gắng tiếp cận xu hướng và cập nhật văn hóa,
tôi biết rằng "yo, bitch"
cũng là lời chào hỏi giữa bạn bè với nhau,
cũng giống như trong "Breaking Bad".
Thừa nhận rằng tôi không trông mong
sẽ bắt gặp trường hợp sử dụng thứ 4.
Thì ram nó cũng được sử dụng trên Twitter
khi mà người ta trong vai những con chó.
(Cười)
Trên thực tế, trường hợp đó,
không những không phải lăng mạ,
mà còn là một lời chào hỏi kỹ cách.
(cười)
Do vậy, thật sự rất khó để khẳng định
có hay không sự lăng mạ
ẩn giấu trong nội dung.
Hãy nhìn vào các thư rác.
Dưới đây là ví dụ của một tài khoản
gửi thư rác điển hình,
gửi cùng một tin nhắn đến hàng nghìn người.
Cái này được giả lập bằng tài khoản của tôi,
ta thấy các tài khoản lúc nào cũng gửi đi tin nhắn.
Không rắc rối lắm.
Chúng ta tự động đình chỉ tài khoản
thực hiện các hành vi kiểu này.
Vẫn tồn tại một vài ngoại lệ.
Các tin nhắn có thể là một thông báo
đăng ký tham gia Trạm vũ trụ quốc tế
bởi bạn muốn ra ngoài
và quan sát không gian.
Bạn sẽ không có cơ hội
nếu chúng tôi đình chỉ nhầm tài khoản
vì nghĩ đó là thư rác.
Ổn thôi. Liều hơn nữa nhé.
Trở lại với tài khoản của tôi,
và các hành vi điển hình này.
Bây giờ là gửi tin nhắn và liên kết.
Đây thường là dấu hiệu của lừa đảo,
ai đó cố ăn cắp thông tin tài khoản của người khác
bằng cách hướng dẫn họ vào một trang web.
Rõ ràng không phải là điều tốt đẹp.
Chúng tôi muốn đình chỉ tài khoản
thực hiện các hành vi kiểu này.
Vậy tại sao lại liều hơn cho khoản này?
Vâng, một người đứng ngoài cuộc biểu tình
ghi lại cảnh
một cảnh sát đánh đập một người biểu tình không bạo lực
cố gắng cho thế giới biết điều đang xảy ra.
Chúng tôi không muốn mạo hiểm
giữ im lặng cho bài phát biểu quan trọng này
bằng cách phân vào nhóm thư rác và đình chỉ nó.
Chúng tôi phải đánh giá hàng trăm thông số
về hành vi của tài khoản,
sau đó, thậm chí, chúng tôi có thể sai
và phải đánh giá lại.
Bây giờ, những thách thức mà tôi phải vượt qua
không hẳn là dự đoán mà còn là bảo vệ thiết kế
trước những điều không ngờ.
Đây không chỉ là vấn đề của riêng tôi,
của twitter; mà là vấn đề cho bạn
cho bất kì ai tạo ra
thứ mà bạn nghĩ sẽ bất ngờ
và khiến người khác làm những điều bất ngờ.
Vậy, tôi sẽ làm gì?
Tôi dừng lại và suy nghĩ,
liệu những điều này có thể trở thành sai lầm khủng khiếp?
Tôi hình dung ra bi kịch.
Thật là khó.
Hàng chuỗi mâu thuẫn trong nhận thức vốn có
giống như khi đọc lời thề đám cưới
hay thỏa thuận tiền hôn nhân.
(Cười)
Nhưng bạn sẽ vẫn phải làm điều đó,
đặc biệt là khi bạn có 500 triệu tweets mỗi ngày.
Ý tôi là gì khi nói "vẽ ra bi kịch"
Tôi cố gắng nghĩ bằng mọi cách
một bức hình con mèo hiền lành vô hại có thể
dẫn đến cái chết,
và cần làm gì để ngăn cản điều này.
Trong ví dụ tiếp theo, điều gì xảy ra đây.
Chú mèo của tôi, Eli
Chúng tôi muốn cho người dùng khả năng
thêm hình ảnh vào tweet của mình.
Trăm nghe không bằng mắt thấy.
Mà bạn chỉ có thể viết 140 kí tự.
Thêm 1 bức hình vào tweet, nhìn xem có bao nhiêu là nội dung.
Nhiều điều tuyệt vời có thể làm
bằng cách thêm hình vào tweet.
Công việc của tôi không phải là nghĩ đến chúng
mà là nghĩ đến những mối nguy.
Bằng cách nào bức hình này có thể dẫn tới cái chết?
Đây là một khả năng.
Có nhiều thứ hơn là bức hình con mèo.
Các dữ kiện địa lý.
Khi chụp hình bằng điện thoại thông minh
hay camera kỹ thuật số,
có rất nhiều thông tin đi kèm
được lưu giữ cùng bức ảnh.
Những bức ảnh này cũng hàm chứa
điều tương đương,
rất đặc trưng.
Gần như chắc chắn rằng, không ai có thể
theo dõi và làm hại tôi
chỉ dựa vào thông số đi kèm
với bức hình con mèo mà tôi tải lên,
nhưng tôi bắt đầu giả định điều tồi tệ nhất.
Đó là lí do, khi đưa ảnh lên Twitter,
chúng tôi quyết định tách dữ liệu địa lý ra.
(Vỗ tay)
Nếu bắt đầu bằng các giả định xấu nhất
và truy ngược lại,
tôi có thể chắc chắn rằng sự bảo vệ là dành cho
tất cả các trường hợp.
Cho rằng tôi dành ngày đêm
tưởng tượng ra điều tệ nhất có thế xảy đến
Không ngạc nhiên nếu thế giới quan của tôi ảm đạm.
(Cười)
Không.
Phần lớn các phản ứng mà tôi thấy
và thấy rất nhiều, tin tôi đi rất tích cực
mọi người cần sự giúp đỡ
hay liên kết hoặc chia sẻ thông tin.
Chỉ một số trong chúng ta làm việc với hệ thống,
bảo đảm sự an toàn cho người dùng,
chúng ta phải giả định những điều tệ nhất
bởi vì xác suất một trong 1 triệu
thì không phải là nhỏ.
Xin cảm ơn.
(Vổ tay)