Facebook, YouTube vẫn sẽ phát tán tội ác nếu duy trì hậu kiểm

10/03/2019 20:44
Facebook, YouTube vẫn sẽ phát tán tội ác nếu duy trì hậu kiểm

Giết người và livestream, kẻ khủng bố tại New Zealand mong muốn gieo rắc nỗi sợ hãi cho càng nhiều người càng tốt. Các mạng xã hội đang tiếp tay cho những hành vi như vậy.

Ngày 15/3, một vụ xả súng xảy ra tại hai thánh đường Hồi giáo ở trung tâm và ngoại ô Christchurch, New Zealand đã cướp đi sinh mạng của 49 người, làm bị thương 20 người. Vụ khủng bố gây bàng hoàng toàn thế giới không chỉ vì số thương vong mà còn bởi cách nó được thực hiện.

Tên khủng bố lan truyền bản kế hoạch dài 87 trang trên mạng xã hội Twitter. Trước lúc hành động, hắn kêu gọi mọi người đăng ký kênh YouTube của Pewdiepie - có lẽ là game thủ hắn thần tượng. Lúc thực hiện vụ khủng bố, hắn phát đoạn video dài 17 phút trực tiếp trên Facebook. Tất cả được giúp sức bởi mạng xã hội.

Yếu kém trong kiểm duyệt, mạng xã hội đang tiếp tay cho khủng bố gây ảnh hưởng

Từ câu nói kêu gọi đăng ký kênh Pewdiepie của tên sát nhân, có thể thấy ngoài việc cố gắng lan truyền tư tưởng diệt chủng, hắn còn bị ám ảnh bởi những chỉ số như lượt đăng ký, lượt xem và lượt thích. Bằng cách cướp đi sinh mạng của đồng loại, tên sát nhân đang cố chứng minh tầm ảnh hưởng của mình.

Facebook, YouTube van se phat tan toi ac neu duy tri hau kiem hinh anh 1
Lên kế hoạch trên Twitter, livestream trên Facebook, kêu gọi đăng ký kênh YouTube, kẻ giết người trong vụ khủng bố tại New Zealand tận dụng triệt để mạng xã hội để lan truyền tội ác của mình.

Vụ xả súng kinh hoàng ngay từ đầu đã được thiết kế để gây chú ý cho dư luận. Nó tận dụng mọi phương tiện truyền thông xã hội để đảm bảo càng nhiều người biết càng tốt, biết đến cả những người tử vong lẫn thông điệp đầy thù hằn ẩn trong hành động độc ác.

"Việc phát trực tiếp cảnh xả súng tại New Zealand chắc chắn sẽ đặt ra nhiều câu hỏi về quy định và việc kiểm soát của Facebook. Họ đã cung cấp nền tảng cho cuộc tấn công khủng khiếp hôm nay và sẽ bị đặt câu hỏi về việc tạo điều kiện lan truyền sự cố này", Clement Thibault, chuyên gia phân tích của Investing đánh giá.

Đây không phải lần đầu tiên một vụ giết người bị phát trực tiếp lên mạng. Vào năm 2015, một kẻ nổ súng ở Bridgewater, Virginia, khi sát hại nạn nhân của mình đã phát sóng trên truyền hình trực tiếp và tải video lên Twitter và Facebook.

Bộ trưởng Nội vụ Anh Sajid Javid nói rằng các công ty truyền thông xã hội phải hành động để ngăn chặn chủ nghĩa cực đoan. "YouTube, Google, Facebook, Twitter phải làm việc nhiều hơn để ngăn chặn chủ nghĩa cực đoan đang được quảng bá trên nền tảng của các bạn", Javid viết trên Twitter.

Tuy vậy, Facebook, YouTube và nhiều mạng xã hội khác dường như không thể ngăn chặn nổi những video có nội dung bẩn với phương pháp hậu kiểm như hiện tại. Những video giết người, khủng bố, khiêu dâm khi bị phát hiện đều đã lan truyền mạnh mẽ tới hàng trăm nghìn người dùng.

Cụ thể, video thảm sát tại New Zealand vẫn tồn tại trên Facebook nhiều giờ sau khi vụ thảm sát kết thúc. Bên cạnh đó, các phiên bản reup (đăng tải lại) xuất hiện dày đặc trên các nền tảng YouTube, Facebook trước khi bộ phận kiểm duyệt bắt đầu ra tay.

AI khó có thể thay thế con người

Năm 2017, giám đốc kinh doanh của Google - Philipp Schindler - cho biết ông đã yêu cầu nhiều nhân lực hơn để giám sát các vấn đề về nội dung, nhưng nhấn mạnh rằng chỉ có trí thông minh nhân tạo mới có thể đáp ứng nổi quy mô của YouTube. "Vấn đề không thể giải quyết được bởi con người và không nên được giải quyết bởi con người", Schindler nhận định.

Sau hai năm đặt lòng tin vào AI, YouTube vẫn chưa hoàn toàn khắc phục những yếu kém trong khâu kiểm duyệt.

Theo CNN, với một lượng lớn bài đăng xuất hiện trên các trang này mỗi ngày, sự kết hợp giữa con người và máy móc khó có thể đáp ứng nổi nhu cầu kiểm duyệt.

Facebook, YouTube van se phat tan toi ac neu duy tri hau kiem hinh anh 2
AI khó có thể thay thế con người trong việc phát hiện những video có nội dung bạo lực và ngôn ngữ thù địch.

"AI vẫn còn phải phát triển thêm rất lâu mới có thể hiểu được ngôn ngữ thù hằn, bạo lực, khiêu dâm", CNN viết.

Trí tuệ nhân tạo có thể nhận ra những nội dung bẩn dựa vào những gì chúng được học trong các bối cảnh cụ thể. Nếu cho AI học hình ảnh súng ống và các nội dung tôn giáo, nó chỉ có thể áp dụng cho những trường hợp tương tự. Tuy nhiên, không phải vụ thảm sát nào cũng giống nhau.

"Muốn phát hiện được ngôn ngữ kích động bạo lực thì bối cảnh là yếu tố quan trọng nhất", Daniel Lowd, Phó giáo sư tại Đại học Oregon, người nghiên cứu về trí tuệ nhân tạo và học máy.

Một số trường hợp, các phát ngôn bạo lực lại dùng để châm biếm, phản đối. Ngược lại, một số lời lẽ nghe có vẻ hòa nhã lại gây thù hắn tùy theo văn hóa từng vùng.

"Từ ngữ sẽ gây tác động rất lớn nếu đặt trong bối cảnh văn hóa phù hợp", Lowd nói.

Cũng theo phó giáo sư Lowd, ngay cả con người cũng khó nhận ra đâu là bạo lực trong các video chứ đừng nói những cỗ máy được đào tạo.

"Hàng trăm nghìn giờ video là những gì các công ty này kinh doanh. Đó thực sự là những gì họ chào mời và những gì họ muốn". Roberts, Giáo sư tại UCLA, người nghiên cứu kiểm duyệt nội dung và phương tiện truyền thông xã hội cho biết.

Bất lực với video phát trực tiếp

Cuối năm 2017 là lần gần nhất YouTube thông báo tuyển thêm 10.000 nhân sự kiểm duyệt nội dung. Dù YouTube cam kết có 10.000 nhân sự kiểm duyệt video nhưng con số này thật sự không thấm với 500 giờ video tải lên mỗi phút.

Đó là chưa kể đến những đoạn livestream - định dạng video phát trực tiếp khó kiểm soát được những gì đang diễn ra. Theo The Verge, bắt kịp các video livestream khi chúng diễn ra là rào cản lớn nhất trong việc kiểm duyệt nội dung của YouTube.

Theo Rasty Turek - CEO của nền tảng phân tích video Pex, điều này gần như không thể bởi nội dung trong các luồng phát trực tiếp liên tục thay đổi. Đó là lý do livestream là lĩnh vực rủi ro cao đối với YouTube và cả Faceboook.

Facebook, YouTube van se phat tan toi ac neu duy tri hau kiem hinh anh 3
Video khiêu dâm với 18 triệu lượt xem tồn tại gần một ngày trên Facebook.

“Bạn có thể đổ lỗi cho YouTube về nhiều thứ nhưng không ai trên hành tinh này có thể khắc phục vấn đề livestream ngay lúc này”, Turek nói thêm.

Còn với Facebook, con số nhân lực kiểm duyệt còn tồi tệ hơn. Năm 2017, Facebook có 4.500 nhân viên kiểm duyệt nội dung gồm video và bài đăng. Tháng 5/2017, Facebook tuyên bố tuyển thêm 3.000 người. Mỗi ngày, một nhân viên kiểm duyệt phải xem 8.000 bài đăng được máy tính nhận diện có nội dung xấu.

Facebook đã đầu tư nhân lực để loại bỏ nội dung giả mạo khỏi nền tảng của mình bằng cách thuê hàng ngàn nhân viên để kiểm duyệt nội dung và đóng hàng trăm tài khoản đáng ngờ ở các quốc gia khác nhau. Tuy nhiên, nỗ lực đó như muối bỏ bể.

Cả YouTube và Facebook đều đang lệ thuộc vào thuật toán vốn chưa hoàn hảo và ý thức báo cáo nội dung của người dùng.

Kể cả có báo cáo cũng chưa chắc được giải quyết

Ngoài video thảm sát dài 17 phút tồn tại trong nhiều giờ liền, Facebook còn có nhiều bê bối liên quan khác. Ngày 21/11/2018, Zing.vn ghi nhận video khiêu dâm được đăng trên Facebook.

Video này tồn tại gần 20 giờ với 18 triệu lượt xem. Dù đã cố gắng báo cáo nội dung khiêu dâm với Facebook từ lúc video mới đăng nhưng mạng xã hội này vẫn không giải quyết. Điều này cho thấy, công cụ báo cáo của Facebook không phản ứng kịp thời trước những nội dung bẩn.

Facebook, YouTube van se phat tan toi ac neu duy tri hau kiem hinh anh 4
Dù người dùng đã cố báo cáo, công cụ kiểm duyệt của mạng xã hội vẫn không thể đáp ứng kịp.

Đặc biệt, với những mẫu quảng cáo cờ bạc, súng ống, hàng cấm, Facebook nhận báo cáo nhiều tháng liền nhưng vẫn không giải quyết được. Các trường hợp báo cáo đều đang ở dạng mở (chờ giải quyết).

Tình trạng này không khá hơn với nền tảng video YouTube. Video có nội dung núp bóng hoạt hình dành cho trẻ em với nội dung bạo lực tồn tại và nhận quảng cáo từ YouTube.

Nội dung video mô tả một nhân vật trong bộ phim hoạt hình Cars đến nhà bạn gái của mình và phát hiện cô đang ngoại tình. Nhân vật này sự dụng chất kích thích và quay lại giết hai người kia.

Video trên hoàn toàn không được giới hạn độ tuổi. Trong phần bình luận xuất hiện rất nhiều tài khoản trẻ em.

Sau hơn một tháng miệt mài báo cáo video với YouTube, mạng xã hội này vẫn để đoạn phim trên tồn tại, thậm chí là thu tiền từ quảng cáo.

Facebook, YouTube van se phat tan toi ac neu duy tri hau kiem hinh anh 5
Video hoạt hình bạo lực, không giới hạn độ tuổi vẫn ngang nhiên hiển thị quảng cáo dù người dùng liên tục báo cáo.

Trước đó, Free Hess, một bác sĩ nhi khoa ở Florida, Mỹ cho biết khi đang cùng con xem video về game Splatoon của Nintendo trên YouTube Kids, cô phát hiện một đoạn có hình ảnh một người đàn ông đeo kính râm, cầm con dao tưởng tượng và hướng dẫn trẻ cách cắt tay.

“Nhớ nhé mấy nhóc, cắt ngang để có được sự chú ý, cắt dọc nếu muốn ‘đạt kết quả’”, gã vừa nói, vừa mô phỏng hành động dùng dao rạch cổ tay. “Hãy kết liễu cuộc đời mình đi”.

Trong trường hợp của Free Hess, dù đã báo cáo, video trên vẫn tồn tại nhiều tuần liền. Đến khi những video này được báo cáo và gỡ bỏ, nó đã tiếp cận bao nhiêu trẻ em?

Mặc dù thông cảm với Google (chủ sở hữu YouTube) vì quản lý những video trên nền tảng là rất khó, nhưng Free Hess muốn YouTube phải phản ứng nhanh hơn khi người dùng báo cáo video vi phạm. “Chỉ gỡ những video đó thôi là chưa đủ. Tôi muốn nội dung độc hại phải bị xóa ngay lập tức khi bị báo cáo”.

Nếu không tiền kiểm, những nội dung bạo lực, khiêu dâm, khủng bố sẽ vẫn xuất hiện trên mạng xã hội bởi các phản ứng chậm trễ từ bộ phận kiểm duyệt và tiếp nhận báo cáo.








Theo news.zing.vn

0 Bình luận
Game online - Phong Vũ - 13/10/2019 05:30
(infogame.vn) - Đây là một câu hỏi có thể sẽ gây khá nhiều tranh cãi nhưng cũng không hề kém phần thú vị. Tuy nhiên có một điều chắn chắn là bạn sẽ không thất vọng khi đọc hết bài viết này đâu bởi cả một bầu trời tuổi thơ sẽ ùa về đấy.
Game online - Phong Vũ - 10/10/2019 05:00
(infogame.vn) - Khác với hầu hết các tựa game battle royale thường thấy, tựa game này sử dụng góc nhìn từ trên xuống với thiết kế tổng thể theo phong cách anime. 
Game online - Theo Trí Thức Trẻ - 10/10/2019 03:00
Black Survival: Eternal Return là tựa game battle royale vô cùng ấn tượng.
Game online - T.X - 10/10/2019 11:00
(infogame.vn) - Ngày 10/10, đội tuyển Việt Nam sẽ tiếp Malaysia trên sân nhà Mỹ Đình ở lượt trận thứ 2 bảng G vòng loại thứ 2 World Cup 2022 khu vực châu Á.
Game online - Theo Trí Thức Trẻ - 09/10/2019 10:30
The Red Solstice 2: Survivors hiện đã cho phép game thủ đăng ký bản Alpha Test.
Game online - Theo Download.com.vn - 08/10/2019 04:14
Payload là chế độ chơi mới sẽ có mặt trong game bắn súng PUBG Mobile 0.15 (phiên bản mới nhất). Vậy chế độ chơi này là gì? Và có gì thú vị ở chế độ chơi Payload của PUBG Mobile 0.15?
GAME MOBILE - Phong Vũ - 14/10/2019 16:00
(infogame.vn) - Sau 2 ngày ra mắt cộng đồng game thủ Việt. Với hệ thống gameplay đa dạng thiên về cày cuốc, Lan Lăng Vương Mobile đang gây được ấn tượng mạnh và thực sự là tựa game cho phép bạn tận hưởng những gì đặc sắc nhất dòng game tiên hiệp.
CỘNG ĐỒNG 360 - T.X - 14/10/2019 16:00
(infogame.vn) - Game thủ kỳ cựu từng thi đấu cho nhiều giải Dota 2 chuyên nghiệp của Việt Nam đã bất ngờ chuyển sang thi đấu cho SKT T1.
ESPORTS - Hữu Phong - 14/10/2019 15:38
(infogame.vn) - Lần đầu tiên trong lịch, máy chủ FIFA Online 4 Việt Nam đón chào thẻ mới chưa từng có ở bất kỳ máy chủ nào trên thế giới.
TIN TỨC - Phong Vũ - 14/10/2019 15:00
(infogame.vn) - Với sự hợp tác này của GTV và Revolution, đội tuyển CS:GO số 1 Việt Nam sẽ có được sự đầu tư bài bản và chuyên nghiệp nhất, tất cả phục vụ cho mục tiêu vươn xa hơn ra quốc tế của nền CS:GO Việt Nam. Bên cạnh đó, hệ thống giải đấu eSports của GTV công bố cũng rất đáng chú ý.
ESPORTS - - 14/10/2019 09:00
Với Ngọc Trinh, sắm đồ hiệu triền miên là chuyện bình thường bởi lúc trẻ không mua, không diện, về già muốn diện đẹp cũng khó.
ESPORTS - - 14/10/2019 08:47
G2 chứng tỏ sức mạnh!!!
ESPORTS - T.X - 14/10/2019 08:30
(infogame.vn) - Việt Nam sẽ tham dự đầy đủ cả 6 bộ môn Esports được đem ra tranh tài tại Đại hội thể thao Đông Nam Á 2019.
ESPORTS - Hữu Phong - 13/10/2019 20:56
(infogame.vn) - Pha kêu gọi 'đánh nhà cho anh' đầy nhạy cảm của Faker đã giúp SKT có chiến thắng thứ hai ở Chung Kết Thế Giới năm nay.
GAME ONLINE - Phong Vũ - 13/10/2019 17:30
(infogame.vn) - Đây là một câu hỏi có thể sẽ gây khá nhiều tranh cãi nhưng cũng không hề kém phần thú vị. Tuy nhiên có một điều chắn chắn là bạn sẽ không thất vọng khi đọc hết bài viết này đâu bởi cả một bầu trời tuổi thơ sẽ ùa về đấy.
CÔNG NGHỆ - - 13/10/2019 17:29
Không phải tất cả xu hướng công nghệ phổ biến trong 10 năm qua đều tốt đẹp, có những thứ khiến cho cuộc sống trở nên tồi tệ hơn.
ESPORTS - - 13/10/2019 17:00
Anna Kim - nữ người mẫu mang 3 dòng máu Việt, Trung, Pháp gây xôn xao cộng đồng mạng khi công khai tuyển chồng.
ẢNH - - 13/10/2019 16:30
Khó ai có thể cầm lòng trước cơ thể căng tràn nhựa sống như của hot girl Manuela đâu.
CỘNG ĐỒNG 360 - T.X - 13/10/2019 15:05
(infogame.vn) - Trong trận ra quân ở CKTG 2019, GAM Esports đã phải chịu thất bại đáng tiếc trước Splyce.
CÔNG NGHỆ - Theo Zing.vn - 13/10/2019 13:18
Dù đã ra mắt 3 năm nhưng iPhone 7 Plus bản 32 GB vẫn bán chạy và thống lĩnh nhiều bảng xếp hạng doanh số smartphone tại Việt Nam.
GAME MOBILE - Phong Vũ - 13/10/2019 13:00
(infogame.vn) - Theo lộ trình, dự án game nhập vai đáng mong đợi từ SohaGame sẽ khởi động giai đoạn thử nghiệm kể từ ngày 22/10 tới đây.
Xem thêm