Video gây ác mộng cho trẻ em trên YouTube - có gì sai với Internet ngày nay

Nhà văn và nghệ sĩ James Bridle hé lộ góc tối của Internet, nơi những người hoặc nhóm người vô danh trên YouTube tác động lên trí não của trẻ nhỏ để đổi lấy doanh thu quảng cáo. Từ những màn "đập hộp" "trứng bất ngờ" đến "Bài hát Gia đình Ngón tay" tới thuật toán nhào trộn nhân vật hoạt hình quen thuộc với tình huống bạo lực, những video này khai thác và làm những đầu óc non trẻ kinh sợ - và cho thấy thế giới ngày càng bị dữ liệu chi phối của chúng ta sẽ đi về đâu. James phát biểu: "Đã đến lúc ngừng cho rằng công nghệ sẽ giải quyết được mọi vấn đề. Thay vào đó, hãy dùng nó như một hướng dẫn cho các vấn đề thực sự, để có thể xem xét thấu đáo và tìm cách giải quyết."

Tôi là James.

Nhà văn và nghệ sĩ,

và tôi sáng tác phẩm về công nghệ.

Tôi vẽ viền máy bay do thám quân sự
theo kích thước thật

lên đường phố khắp thế giới,

để mọi người bắt đầu suy nghĩ
và quan tâm

đến những công nghệ
khó nhìn thấy và khó hiểu này.

Tôi tạo ra những tác phẩm như
mạng dự đoán kết quả bỏ phiếu

dựa trên báo cáo thời tiết,

vì tôi quan tâm đến

tiềm năng thực sự của
những công nghệ mới lạ này.

Năm ngoái, tôi tự chế tạo
xe tự lái.

Vì không thật sự
tin tưởng vào công nghệ,

tôi tự thiết kế luôn đường chạy.

(Tiếng cười)

Tôi làm những việc này
không chỉ vì thấy nó cực kỳ thú vị,

mà còn vì tôi nghĩ
công nghệ là cách

ta nói về bản thân mình

cũng như nhìn nhận của ta
về thế giới.

Và đây là một câu chuyện
về công nghệ.

Đây là một video
"trứng bất ngờ".

Đó cơ bản là video ai đó
ngồi mở thật nhiều trứng sô-cô-la

để người xem thấy được
đồ chơi bên trong.

Chỉ vậy thôi. Đó là toàn bộ
nội dung trong bảy phút.

Và tôi muốn các bạn chú ý
đến hai điều.

Thứ nhất, video này
đạt 30 triệu lượt xem.

(Tiếng cười)

Điều còn lại là,

nó thuộc một kênh
có 6.3 triệu người theo dõi,

với tổng số tám tỷ lượt xem,

chỉ toàn video như thế.

30 triệu người xem ai đó
mở những quả trứng này.

Nghe kỳ cục, nhưng nếu bạn
gõ "trứng bất ngờ" trên YouTube,

kết quả cho thấy
có 10 triệu video như thế,

và tôi nghĩ thực tế
còn nhiều, nhiều hơn.

Nếu tiếp tục tìm,
bạn sẽ thấy vô số.

Có hàng triệu, hàng triệu
video thế này

dưới đủ mọi hình thức kết hợp
giữa nhãn hàng và nội dung,

và mỗi ngày, càng nhiều
video như vậy được tải lên.

Một thế giới kỳ lạ phải không?

Nhưng vấn đề là, những video này
không dành cho người lớn,

mà là cho trẻ nhỏ.

Những video này giống như
ma túy với chúng.

Sự lặp đi lặp lại,

những tiết lộ nho nhỏ

gây kích thích và cuốn hút chúng.

Trẻ nhỏ xem những video này
hết lần này đến lần khác,

trong hàng giờ, hàng giờ liền.

Và nếu bạn cố tách chúng
ra khỏi màn hình,

chúng sẽ la hét dữ dội.

Nếu bạn không tin tôi --

tôi đã thấy vài khán giả gật đầu --

nếu bạn không tin tôi,
hãy hỏi người có con nhỏ,

và họ sẽ biết về những video
"trứng bất ngờ" này.

Đây là nơi ta bắt đầu.

Đây là năm 2018, ai đó,
hoặc rất nhiều người,

đang sử dụng cùng một cơ chế mà
Facebook và Instagram đang dùng

để khiến bạn liên tục
mở chúng ra xem.

Và họ dùng nó trên YouTube để
tác động lên não bộ của trẻ nhỏ

để đổi lấy lợi nhuận quảng cáo.

Ít ra thì tôi hy vọng
đó là điều họ đang làm.

Tôi hy vọng đó là mục đích của họ,

bởi có những cách dễ hơn để
thu lợi từ quảng cáo trên YouTube.

Bạn có thể bịa chuyện hoặc
ăn cắp nội dung.

Tìm những phim hoạt hình
thật sự phổ biến với trẻ em

như "Pepper Pig" hoặc "Paw Patrol,"

bạn sẽ thấy có hàng triệu
đoạn phim này trên mạng.

Tất nhiên, phần lớn không phải do
tác giả gốc tải lên.

Chúng đến từ nhiều tài khoản
bất kỳ khác nhau,

và không thể biết
người tải là ai

hay động cơ của họ là gì.

Điều này nghe có quen không?

Bởi vì đó chính là cơ chế

đang hoạt động trên hầu hết
các dịch vụ kỹ thuật số,

khi ta không thể biết
thông tin này đến từ ai.

Nó cơ bản là tin giả
với trẻ em,

và chúng ta huấn luyện chúng từ bé

để bấm vào đường dẫn nào
xuất hiện đầu tiên

bất kể nguồn tin là gì.

Có vẻ không phải là
một ý tưởng hay.

Còn đây là một thứ khác rất
phổ biến với trẻ trên YouTube,

gọi là "Bài hát Gia đình Ngón tay".

Tôi vừa nghe ai đó "ồ" lên.

Đây là "Bài hát Gia đình Ngón tay",
bài xưa nhất mà tôi tìm được.

Từ năm 2007, và chỉ có
200,000 lượt xem.

Chẳng là gì trong cuộc chơi này cả.

Nhưng nó có một giai điệu
bắt tai khủng khiếp,

mà tôi sẽ không phát
cho các bạn nghe,

vì nó sẽ in vào não bạn

như cách mà
nó đã in vào não tôi,

và tôi sẽ không làm điều đó
với các bạn đâu.

Nhưng cũng như trứng bất ngờ,
nó len lỏi vào não trẻ

và làm chúng bị nghiện.

Chỉ trong vài năm,
những video "Gia đình Ngón tay" này

xuất hiện khắp nơi,
với nhiều phiên bản ngôn ngữ.

Những đoạn phim hoạt hình
minh hoạ bằng thức ăn

hay bất kỳ yếu tố hoạt hình nào có sẵn.

Có hàng triệu, hàng triệu video
thế này trên mạng

với đa dạng
những sự kết hợp điên rồ.

Và càng dành nhiều
thời gian để xem,

bạn càng cảm thấy mình
trở nên điên khùng.

Đó là khi tôi bắt đầu nhận thấy

một cảm giác kỳ lạ
và không thể hiểu nổi

về cách những thứ này được tạo ra
và hiện diện quanh mình.

Không thể biết được
chúng đến từ đâu.

Ai tạo ra chúng?

Một số có vẻ là từ các nhóm
làm phim hoạt hình chuyên nghiệp.

Một số khác chỉ là do phần mềm
sắp xếp ngẫu nhiên.

Một số trông có vẻ là
những sản phẩm giải trí chỉn chu cho trẻ,

và một số được tạo ra
bởi những người

rõ ràng là không nên
ở gần con nít.

(Tiếng cười)

Một lần nữa, việc không thể lần ra
ai tạo ra những thứ này -

liệu có phải
là một phần mềm tự động?

Hay người thật?
Hay là một trò đùa?

Ý nghĩa của việc
không thể phân biệt

những nguồn này nữa là gì?

Và cảm giác không chắc chắn này
quen thuộc phải không?

Thủ thuật chính để thu hút
người xem video,

hãy nhớ rằng, lượt xem tạo ra tiền,

là chèn các cụm từ phổ biến
vào tiêu đề video.

Chẳng hạn như
với "trứng bất ngờ",

bạn thêm vào tiêu đề
"Paw Patrol," "trứng Phục sinh"

hay bất kỳ từ khoá tương tự
từ các video nổi tiếng khác

cho tới khi có một hỗn hợp
từ ngữ vô nghĩa

mà người thường
chẳng thể nào hiểu được.

Tất nhiên chỉ có trẻ nhỏ
mới xem những video này,

và chúng thì biết gì cơ chứ?

Khán giả thực sự của những video này
là phần mềm, là những thuật toán.

Đó là phần mềm YouTube dùng

để chọn những video giống nhau,

phổ biến chúng,
gợi ý chúng.

Đó là lý do, cuối cùng,
bạn có thứ hỗn tạp vô nghĩa này,

cả trong tiêu đề lẫn nội dung.

Những vấn đề là,
bạn cần phải nhớ,

vẫn còn có con người
trong hệ thống tối ưu bằng thuật toán này,

những người bị buộc phải
ngày càng tăng cường

mức độ kết hợp
những từ khóa kỳ dị này,

như một nghệ sĩ ứng biến
tuyệt vọng đáp lại tiếng la hét

của hàng triệu trẻ sơ sinh.

Có những con người thực
bị kẹt trong hệ thống này,

một điều kỳ lạ khác trong
nền văn hóa bị thuật toán chi phối.

Vì ngay cả khi là người thật,

bạn, cuối cùng, cũng phải hành xử
như máy để tồn tại.

Ở phía bên kia màn hình cũng vậy,

trẻ nhỏ xem những thứ này,

chúng bị mắc kẹt, hoàn toàn
bị cơ chế này cuốn hút.

Phần lớn những đứa trẻ này
quá nhỏ để biết cách truy cập trang web.

Chúng đơn giản chỉ là
đập bàn tay nhỏ xíu lên màn hình.

Rồi lại có chức năng
tự động phát,

những video này liên tục

trong một vòng lặp vô tận
hàng giờ liền.

Hệ thống này giờ đã quá kỳ dị

đến nỗi chức năng tự động phát này
sẽ đưa bạn đến những nội dung kỳ lạ.

Đó là cách mà,
trong hơn chục cái nhấp chuột,

bạn có thể từ đang xem một video
dễ thương về đếm số xe lửa

đến video chuột Mickey thủ dâm.

Đúng vậy. Rất tiếc là như thế.

Chuyện này ngày càng trở nên tồi tệ.

Đây là điều sẽ xảy ra

khi tất cả những từ khóa
khác nhau này,

tất cả những nội dung thu hút này,

cả một thế hệ thèm khát nội dung này,

đều tập trung về một chỗ.

Dây là nơi mà tất cả những từ khóa
kỳ dị này phản tác dụng.

Bạn ghép các video về
Gia đình Ngón tay

với những đoạn phim hành động
siêu anh hùng,

thêm vào trò chơi khăm
kỳ cục hay gì đó

và bạn có được
một video hết sức kỳ dị như thế này.

Thứ thường làm phụ huynh lo lắng

là những nội dung có tính bạo lực
hoặc tình dục, đúng không?

Phim hoạt hình cho trẻ bị tấn công,

bị tiêu diệt,

những trò chơi khăm làm cho trẻ
bị khủng hoảng.

Cái bạn có là phần mềm dùng tất cả
các luồng ảnh hưởng này

để tự động tạo ra cơn ác mộng
tồi tệ nhất cho lũ trẻ.

Và nó thật sự tác động lên trẻ nhỏ.

Phụ huynh cho biết con họ
bị khủng hoảng,

sợ bóng tối,

sợ các nhân vật hoạt hình
yêu thích của chúng.

Nếu rút ra được điều gì từ việc này,
thì đó là nếu bạn có con nhỏ,

giữ chúng tránh xa YouTube.

(Vỗ tay)

Những còn một điều khác thật sự
làm tôi quan tâm,

đó là tôi không chắc ta hiểu được
vì sao đi đến nước này.

Ta lấy tất cả những tác nhân,
tất cả mọi thứ,

nhào nặn theo một cách
không ai tính trước.

Nhưng đây cũng là cách
ta xây dựng thế giới này.

Ta lấy mọi dữ liệu,
phần lớn là dữ liệu xấu,

nhiều dữ liệu lịch sử
mang đầy định kiến,

và những thôi thúc tồi tệ nhất.

Ta dựng nên
những bộ dữ liệu lớn

rồi tự động hóa chúng,

Ta lồng ghép chúng
vào những thứ như báo cáo tín dụng,

phí bảo hiểm,

hệ thống cảnh sát ngăn ngừa,

nguyên tắc tuyên án.

Đây là cách chúng ta xây dựng nên
thế giới ngày nay

từ dữ liệu.

Và tôi không biết điều gì tồi tệ hơn,

tạo ra một hệ thống
hoàn toàn tối ưu

cho các khía cạnh tệ hại nhất
trong hành vi con người,

hay vô tình làm thế
mà không hề hay biết,

vì ta không thật sự hiểu
hệ thống mà ta dựng nên,

và không biết làm cách nào
làm khác đi.

Có một vài thứ, tôi nghĩ,

là nguyên nhân chính
thúc đẩy chuyện này trên YouTube,

đầu tiên là quảng cáo,

tức là kiếm tiền từ sự chú ý

mà không thật sự tính đến
các yếu tố khác,

không quan tâm đến những người
thật sự tạo ra các nội dung này,

sự tập trung quyền lực,
và sự tách biệt khỏi những thứ khác.

Dù góc nhìn của bạn
về quảng cáo là gì

có thể là ủng hộ,

thì cảnh những người trưởng thành
mặc tã lăn lộn trên cát

với hy vọng sẽ nhận được tiền
từ một thuật toán khó hiểu

cho thấy
đây chắc chắn không phải là

nền tảng mà ta mong muốn
tạo dựng xã hội và văn hóa,

và không phải cách
mà ta nên ủng hộ.

Còn một nhân tố chính thúc đẩy
quá trình tự động hóa này

là sự triển khai tất cả
các công nghệ

ngay khi vừa phát triển xong mà
không có bất kỳ sự giám sát.

Để rồi khi phát sinh vấn đề,

ta bực bội phát biểu: "Không phải
do chúng tôi, mà là do công nghệ."

Như thể: "Chúng tôi vô can."
Không đủ thuyết phục,

bởi thuật toán không chỉ
điều khiển thứ này,

mà còn kiểm soát nó.

Khi YouTube bắt đầu quan tâm
đến vấn đề này,

giải pháp đầu tiên của họ

là cải tiến thuật toán máy học
(machine learning)

để giám sát nội dung.

Về máy học, bất kỳ chuyên gia nào
cũng sẽ nói

cơ bản đó là tên gọi phần mềm

khi ta bắt đầu không hiểu
cách thức nó hoạt động.

Tôi nghĩ, thế đã là quá đủ.

Chúng ta không nên
để trí tuệ nhân tạo quyết định

những gì là phù hợp,
bởi ta biết điều gì sẽ xảy ra.

Nó sẽ bắt đầu kiểm duyệt
những nội dung khác.

Nội dung liên quan đến đồng tính,
Những phát biểu hợp pháp trước công chúng.

Những gì được tự do ngôn luận

thì không nên bị loại bỏ
bởi các hệ thống khó hiểu này.

Bởi đó là một phần thảo luận
mà tất cả chúng ta nên tham gia.

Nhưng tôi xin nhắc một điều

là giải pháp thay thế
cũng không hề dễ chịu.

YouTube vừa thông báo

họ sẽ đưa ra phiên bản ứng dụng
dành cho trẻ em

hoàn toàn do con người giám sát.

Zuckerberg của Facebook
cũng nói tương tự trước Quốc hội,

khi bị hỏi dồn sẽ giám sát
sản phẩm của họ ra sao.

Anh ta nói họ có người
để làm điều đó.

Ý nghĩa thật của nó là

thay vì trẻ nhỏ là người
đầu tiên thấy những thứ này,

ta sẽ có những nhân công
hợp đồng bấp bênh, lương thấp,

không được hỗ trợ sức khỏe
tinh thần đúng cách, xem qua nó trước.

(Tiếng cười)

Tôi nghĩ chúng ta
có thể làm tốt hơn thế.

(Vỗ tay)

Theo tôi, việc đưa hai điều đó
lại với nhau là sự đại diện.

Sự đại diện, ý tôi là,
chúng ta hiểu biết đến đâu,

chúng ta biết phải làm gì
để đạt lợi ích tốt nhất.

Điều này gần như là không thể

với những hệ thống
mà chúng ta không hiểu hết.

Bất bình đẳng về quyền lực
luôn dẫn đến bạo lực.

Và có thể thấy
trong những hệ thống này,

bất bình đẳng tri thức
cũng dẫn đến điều tương tự.

Nếu có thể làm gì để
cải thiện hệ thống này

đó là làm cho chúng dễ hiểu hơn
với người dùng,

để tất cả chúng ta
đều có đủ hiểu biết

về những gì
thực sự đang diễn ra.

Tuy nhiên, tôi nghĩ
những vấn đề hệ thống này

không chỉ là của YouTube,
như đã giải thích.

Mà là tất cả.

Những vấn đề về trách nhiệm
và đại diện,

về sự thiếu minh bạch
và sự phức tạp,

về bạo lực và khai thác bạo lực

do sự tập trung quyền lực
vào một số ít người,

đó là những vấn đề
to lớn hơn nhiều.

Đây không chỉ là vấn đề
của YouTube, hay của giới công nghệ,

và nó, thậm chí, cũng không mới.

Đây là vấn đề của chúng ta
từ rất lâu.

Nhưng khi ta xây dựng hệ thống
toàn cầu này, Internet,

các vấn đề này nổi lên theo
những cách thức dị thường,

không thể chối bỏ được.

Công nghệ có khả năng phi thường

để vừa đại diện vừa chắp cánh

những khao khát và định kiến
bất thường nhất mà ta hằng chôn giấu

rồi mã hóa và đưa chúng ra thế giới,

nhưng nó cũng ghi lại
để chúng ta thấy,

để chúng ta không còn có thể vờ như
chúng không hiện hữu.

Ta cần ngưng cho rằng công nghệ
là giải pháp cho mọi vấn đề,

mà xem chúng như
một hướng dẫn cho các vấn đề thật sự,

để ta có thể suy nghĩ thấu đáo

và tìm cách giải quyết.

Xin cám ơn.

(Vỗ tay)

Xin cám ơn.

(Vỗ tay)

Helen Walters: Cảm ơn James
đã đến và nói về vấn đề này,

Thật thú vị khi nhớ lại các bộ phim,

trong đó, người máy nắm quyền thống trị,

hơi hào nhoáng hơn
so với những gì anh mô tả.

Những tôi thắc mắc, trong phim,
ta nhận thấy sự phản kháng tăng dần.

Vậy trong thực tế, có sự phản kháng nào
với những thứ này không?

Anh có thấy những dấu hiệu
tích cực nào của sự phản kháng?

JB: Tôi không biết có
sự phản kháng trực tiếp không,

vì tôi nghĩ vấn đề này
cực kỳ lâu dài.

Nó ăn sâu vào
nền văn hóa theo nhiều cách.

Bạn tôi, Eleanor Saitta, luôn nói

tất cả những vấn đề công nghệ
có quy mô và phạm vi đủ lớn

trước tiên, đều là vấn đề chính trị.

Vì thế, tất cả những vấn đề
mà ta nhắm đến

không thể được giải quyết
chỉ bằng việc tạo ra công nghệ tốt hơn,

mà là thay đổi cách xã hội
tạo ra những công nghệ này.

Vậy nên, không, tôi nghĩ ta còn
một chặng đường rất dài.

Nhưng như tôi nói,
bằng cách chia nhỏ vấn đè,

giải thích và nói về chúng
một cách trung thực,

ta thật sự có thể bắt đầu
quá trình phản kháng đó.

HW: Khi anh nói về am hiểu
công nghệ kỹ thuật số,

tôi thấy khó mà tưởng tượng

việc đặt gánh nặng
tìm hiểu kỹ thuật lên người dùng.

Nhưng ai chịu trách nhiệm
về giáo dục trong thế giới mới này?

JB: Tôi nghĩ trách nhiệm này
thuộc về tất cả chúng ta,

tất cả những gì ta làm,
dựng nên, tạo ra,

phải được thực hiện với
sự thảo luận và đồng ý

với tất cả những người
đang tránh né chúng;

chúng ta không tạo ra hệ thống

để lừa người khác
làm điều đúng đắn,

mà thực sự từng bước giáo dục họ,

bởi mỗi hệ thống này
đều có tính giáo dục.

Đó là điều tôi hy vọng,
là ngay cả trong thực tế ảm đạm,

nếu xem xét nó
một cách đúng đắn,

bạn sẽ thấy nó thật sự là giáo dục

cho phép bạn nhìn thấy

cách hệ thống phức tạp này
kết hợp và hoạt động

và có thể áp dụng kiến thức này
ở nơi khác trên thế giới.

HW: James, đây là một
cuộc thảo luận quan trọng,

mà tôi biết nhiều người
đã rất cởi mở và sẵn lòng lắng nghe.

Cảm ơn vì đã chia sẻ
với chúng tôi sáng hôm nay.

JB: Cám ơn rất nhiều.

(Vỗ tay)