Facebook, YouTube vẫn sẽ phát tán tội ác nếu duy trì hậu kiểm

10/03/2019 20:44
Facebook, YouTube vẫn sẽ phát tán tội ác nếu duy trì hậu kiểm

Giết người và livestream, kẻ khủng bố tại New Zealand mong muốn gieo rắc nỗi sợ hãi cho càng nhiều người càng tốt. Các mạng xã hội đang tiếp tay cho những hành vi như vậy.

Ngày 15/3, một vụ xả súng xảy ra tại hai thánh đường Hồi giáo ở trung tâm và ngoại ô Christchurch, New Zealand đã cướp đi sinh mạng của 49 người, làm bị thương 20 người. Vụ khủng bố gây bàng hoàng toàn thế giới không chỉ vì số thương vong mà còn bởi cách nó được thực hiện.

Tên khủng bố lan truyền bản kế hoạch dài 87 trang trên mạng xã hội Twitter. Trước lúc hành động, hắn kêu gọi mọi người đăng ký kênh YouTube của Pewdiepie - có lẽ là game thủ hắn thần tượng. Lúc thực hiện vụ khủng bố, hắn phát đoạn video dài 17 phút trực tiếp trên Facebook. Tất cả được giúp sức bởi mạng xã hội.

Yếu kém trong kiểm duyệt, mạng xã hội đang tiếp tay cho khủng bố gây ảnh hưởng

Từ câu nói kêu gọi đăng ký kênh Pewdiepie của tên sát nhân, có thể thấy ngoài việc cố gắng lan truyền tư tưởng diệt chủng, hắn còn bị ám ảnh bởi những chỉ số như lượt đăng ký, lượt xem và lượt thích. Bằng cách cướp đi sinh mạng của đồng loại, tên sát nhân đang cố chứng minh tầm ảnh hưởng của mình.

Facebook, YouTube van se phat tan toi ac neu duy tri hau kiem hinh anh 1
Lên kế hoạch trên Twitter, livestream trên Facebook, kêu gọi đăng ký kênh YouTube, kẻ giết người trong vụ khủng bố tại New Zealand tận dụng triệt để mạng xã hội để lan truyền tội ác của mình.

Vụ xả súng kinh hoàng ngay từ đầu đã được thiết kế để gây chú ý cho dư luận. Nó tận dụng mọi phương tiện truyền thông xã hội để đảm bảo càng nhiều người biết càng tốt, biết đến cả những người tử vong lẫn thông điệp đầy thù hằn ẩn trong hành động độc ác.

"Việc phát trực tiếp cảnh xả súng tại New Zealand chắc chắn sẽ đặt ra nhiều câu hỏi về quy định và việc kiểm soát của Facebook. Họ đã cung cấp nền tảng cho cuộc tấn công khủng khiếp hôm nay và sẽ bị đặt câu hỏi về việc tạo điều kiện lan truyền sự cố này", Clement Thibault, chuyên gia phân tích của Investing đánh giá.

Đây không phải lần đầu tiên một vụ giết người bị phát trực tiếp lên mạng. Vào năm 2015, một kẻ nổ súng ở Bridgewater, Virginia, khi sát hại nạn nhân của mình đã phát sóng trên truyền hình trực tiếp và tải video lên Twitter và Facebook.

Bộ trưởng Nội vụ Anh Sajid Javid nói rằng các công ty truyền thông xã hội phải hành động để ngăn chặn chủ nghĩa cực đoan. "YouTube, Google, Facebook, Twitter phải làm việc nhiều hơn để ngăn chặn chủ nghĩa cực đoan đang được quảng bá trên nền tảng của các bạn", Javid viết trên Twitter.

Tuy vậy, Facebook, YouTube và nhiều mạng xã hội khác dường như không thể ngăn chặn nổi những video có nội dung bẩn với phương pháp hậu kiểm như hiện tại. Những video giết người, khủng bố, khiêu dâm khi bị phát hiện đều đã lan truyền mạnh mẽ tới hàng trăm nghìn người dùng.

Cụ thể, video thảm sát tại New Zealand vẫn tồn tại trên Facebook nhiều giờ sau khi vụ thảm sát kết thúc. Bên cạnh đó, các phiên bản reup (đăng tải lại) xuất hiện dày đặc trên các nền tảng YouTube, Facebook trước khi bộ phận kiểm duyệt bắt đầu ra tay.

AI khó có thể thay thế con người

Năm 2017, giám đốc kinh doanh của Google - Philipp Schindler - cho biết ông đã yêu cầu nhiều nhân lực hơn để giám sát các vấn đề về nội dung, nhưng nhấn mạnh rằng chỉ có trí thông minh nhân tạo mới có thể đáp ứng nổi quy mô của YouTube. "Vấn đề không thể giải quyết được bởi con người và không nên được giải quyết bởi con người", Schindler nhận định.

Sau hai năm đặt lòng tin vào AI, YouTube vẫn chưa hoàn toàn khắc phục những yếu kém trong khâu kiểm duyệt.

Theo CNN, với một lượng lớn bài đăng xuất hiện trên các trang này mỗi ngày, sự kết hợp giữa con người và máy móc khó có thể đáp ứng nổi nhu cầu kiểm duyệt.

Facebook, YouTube van se phat tan toi ac neu duy tri hau kiem hinh anh 2
AI khó có thể thay thế con người trong việc phát hiện những video có nội dung bạo lực và ngôn ngữ thù địch.

"AI vẫn còn phải phát triển thêm rất lâu mới có thể hiểu được ngôn ngữ thù hằn, bạo lực, khiêu dâm", CNN viết.

Trí tuệ nhân tạo có thể nhận ra những nội dung bẩn dựa vào những gì chúng được học trong các bối cảnh cụ thể. Nếu cho AI học hình ảnh súng ống và các nội dung tôn giáo, nó chỉ có thể áp dụng cho những trường hợp tương tự. Tuy nhiên, không phải vụ thảm sát nào cũng giống nhau.

"Muốn phát hiện được ngôn ngữ kích động bạo lực thì bối cảnh là yếu tố quan trọng nhất", Daniel Lowd, Phó giáo sư tại Đại học Oregon, người nghiên cứu về trí tuệ nhân tạo và học máy.

Một số trường hợp, các phát ngôn bạo lực lại dùng để châm biếm, phản đối. Ngược lại, một số lời lẽ nghe có vẻ hòa nhã lại gây thù hắn tùy theo văn hóa từng vùng.

"Từ ngữ sẽ gây tác động rất lớn nếu đặt trong bối cảnh văn hóa phù hợp", Lowd nói.

Cũng theo phó giáo sư Lowd, ngay cả con người cũng khó nhận ra đâu là bạo lực trong các video chứ đừng nói những cỗ máy được đào tạo.

"Hàng trăm nghìn giờ video là những gì các công ty này kinh doanh. Đó thực sự là những gì họ chào mời và những gì họ muốn". Roberts, Giáo sư tại UCLA, người nghiên cứu kiểm duyệt nội dung và phương tiện truyền thông xã hội cho biết.

Bất lực với video phát trực tiếp

Cuối năm 2017 là lần gần nhất YouTube thông báo tuyển thêm 10.000 nhân sự kiểm duyệt nội dung. Dù YouTube cam kết có 10.000 nhân sự kiểm duyệt video nhưng con số này thật sự không thấm với 500 giờ video tải lên mỗi phút.

Đó là chưa kể đến những đoạn livestream - định dạng video phát trực tiếp khó kiểm soát được những gì đang diễn ra. Theo The Verge, bắt kịp các video livestream khi chúng diễn ra là rào cản lớn nhất trong việc kiểm duyệt nội dung của YouTube.

Theo Rasty Turek - CEO của nền tảng phân tích video Pex, điều này gần như không thể bởi nội dung trong các luồng phát trực tiếp liên tục thay đổi. Đó là lý do livestream là lĩnh vực rủi ro cao đối với YouTube và cả Faceboook.

Facebook, YouTube van se phat tan toi ac neu duy tri hau kiem hinh anh 3
Video khiêu dâm với 18 triệu lượt xem tồn tại gần một ngày trên Facebook.

“Bạn có thể đổ lỗi cho YouTube về nhiều thứ nhưng không ai trên hành tinh này có thể khắc phục vấn đề livestream ngay lúc này”, Turek nói thêm.

Còn với Facebook, con số nhân lực kiểm duyệt còn tồi tệ hơn. Năm 2017, Facebook có 4.500 nhân viên kiểm duyệt nội dung gồm video và bài đăng. Tháng 5/2017, Facebook tuyên bố tuyển thêm 3.000 người. Mỗi ngày, một nhân viên kiểm duyệt phải xem 8.000 bài đăng được máy tính nhận diện có nội dung xấu.

Facebook đã đầu tư nhân lực để loại bỏ nội dung giả mạo khỏi nền tảng của mình bằng cách thuê hàng ngàn nhân viên để kiểm duyệt nội dung và đóng hàng trăm tài khoản đáng ngờ ở các quốc gia khác nhau. Tuy nhiên, nỗ lực đó như muối bỏ bể.

Cả YouTube và Facebook đều đang lệ thuộc vào thuật toán vốn chưa hoàn hảo và ý thức báo cáo nội dung của người dùng.

Kể cả có báo cáo cũng chưa chắc được giải quyết

Ngoài video thảm sát dài 17 phút tồn tại trong nhiều giờ liền, Facebook còn có nhiều bê bối liên quan khác. Ngày 21/11/2018, Zing.vn ghi nhận video khiêu dâm được đăng trên Facebook.

Video này tồn tại gần 20 giờ với 18 triệu lượt xem. Dù đã cố gắng báo cáo nội dung khiêu dâm với Facebook từ lúc video mới đăng nhưng mạng xã hội này vẫn không giải quyết. Điều này cho thấy, công cụ báo cáo của Facebook không phản ứng kịp thời trước những nội dung bẩn.

Facebook, YouTube van se phat tan toi ac neu duy tri hau kiem hinh anh 4
Dù người dùng đã cố báo cáo, công cụ kiểm duyệt của mạng xã hội vẫn không thể đáp ứng kịp.

Đặc biệt, với những mẫu quảng cáo cờ bạc, súng ống, hàng cấm, Facebook nhận báo cáo nhiều tháng liền nhưng vẫn không giải quyết được. Các trường hợp báo cáo đều đang ở dạng mở (chờ giải quyết).

Tình trạng này không khá hơn với nền tảng video YouTube. Video có nội dung núp bóng hoạt hình dành cho trẻ em với nội dung bạo lực tồn tại và nhận quảng cáo từ YouTube.

Nội dung video mô tả một nhân vật trong bộ phim hoạt hình Cars đến nhà bạn gái của mình và phát hiện cô đang ngoại tình. Nhân vật này sự dụng chất kích thích và quay lại giết hai người kia.

Video trên hoàn toàn không được giới hạn độ tuổi. Trong phần bình luận xuất hiện rất nhiều tài khoản trẻ em.

Sau hơn một tháng miệt mài báo cáo video với YouTube, mạng xã hội này vẫn để đoạn phim trên tồn tại, thậm chí là thu tiền từ quảng cáo.

Facebook, YouTube van se phat tan toi ac neu duy tri hau kiem hinh anh 5
Video hoạt hình bạo lực, không giới hạn độ tuổi vẫn ngang nhiên hiển thị quảng cáo dù người dùng liên tục báo cáo.

Trước đó, Free Hess, một bác sĩ nhi khoa ở Florida, Mỹ cho biết khi đang cùng con xem video về game Splatoon của Nintendo trên YouTube Kids, cô phát hiện một đoạn có hình ảnh một người đàn ông đeo kính râm, cầm con dao tưởng tượng và hướng dẫn trẻ cách cắt tay.

“Nhớ nhé mấy nhóc, cắt ngang để có được sự chú ý, cắt dọc nếu muốn ‘đạt kết quả’”, gã vừa nói, vừa mô phỏng hành động dùng dao rạch cổ tay. “Hãy kết liễu cuộc đời mình đi”.

Trong trường hợp của Free Hess, dù đã báo cáo, video trên vẫn tồn tại nhiều tuần liền. Đến khi những video này được báo cáo và gỡ bỏ, nó đã tiếp cận bao nhiêu trẻ em?

Mặc dù thông cảm với Google (chủ sở hữu YouTube) vì quản lý những video trên nền tảng là rất khó, nhưng Free Hess muốn YouTube phải phản ứng nhanh hơn khi người dùng báo cáo video vi phạm. “Chỉ gỡ những video đó thôi là chưa đủ. Tôi muốn nội dung độc hại phải bị xóa ngay lập tức khi bị báo cáo”.

Nếu không tiền kiểm, những nội dung bạo lực, khiêu dâm, khủng bố sẽ vẫn xuất hiện trên mạng xã hội bởi các phản ứng chậm trễ từ bộ phận kiểm duyệt và tiếp nhận báo cáo.








Theo news.zing.vn

0 Bình luận
Game online - T.X - 19/07/2019 01:30
(infogame.vn) - Dưới đây là những tựa game đi liền với năm tháng tuổi thơ của các game thủ thời 8x, 9x.
GAME MOBILE - Phong Vũ - 22/07/2019 19:00
(infogame.vn) - Đấu Trường Danh Vọng là hệ thống giải đấu chuyên nghiệp cao cấp và danh giá nhất của Garena Liên Quân Mobile, là bệ phóng tuyển chọn các đội tuyển hàng đầu Việt Nam tham dự giải đấu thế giới. Đặc biệt, mùa giải mùa Đông 2019 sẽ trở thành Vòng loại chọn đội tuyển Liên Quân Việt Nam tại SEA Games 30 sau lượt đi. 
CỘNG ĐỒNG 360 - Phạm Lê - 22/07/2019 18:00
(infogame.vn) - Belle Delphine đang là cái tên gây nhiều tranh cãi thời gian gần đây vì rao bán lọ nước tắm của mình.
ESPORTS - HQ - 22/07/2019 17:30
Bên cạnh đó, Team Flash và EVOS đã có một tuần thi đấu rất ấn tượng với 2 chiến thắng
CỘNG ĐỒNG 360 - T.X - 22/07/2019 17:00
(infogame.vn) - Là một streamer khá nổi danh trong làng PUBG Việt, Ốc Vô Địch được nhiều người biết đến trên mỗi giải đấu và trên màn hình livestream, tuy nhiên những điều thú vị xoay quanh cuộc sống của anh chàng này thì không phải ai cũng biết.
CỘNG ĐỒNG 360 - T.X - 22/07/2019 16:00
(infogame.vn) - Không hổ danh là cặp vợ chồng lầy lội, Cris Phan và Mai Quỳnh Anh liên tục có màn troll nhau hài hước.
GAME MOBILE - Phong Vũ - 22/07/2019 16:00
(infogame.vn) - Hơn nửa năm xuất hiện tại Việt Nam, Mobile Legends: Bang Bang VNG đã tổ chức thành công nhiều giải đấu cộng đồng và chuyên nghiệp. Có được những thành quả này chính là do sức hút đặc biệt của sản phẩm và cả nền móng vững chắc từ hệ thống giải đấu mà VNG gầy dựng suốt nhiều năm qua.
DOANH NGHIỆP - Phong Vũ - 22/07/2019 15:30
(infogame.vn) - Sau sự ra đi của cựu chủ tịch, người đồng sáng lập công ty Mike Morhaime vào tháng 4, Frank Pearce cũng đã tuyên bố rời đi để truyền lửa lại cho người kế nhiệm.
CỘNG ĐỒNG 360 - T.X - 22/07/2019 15:00
(infogame.vn) - Câu nói của Ánh Dương trong tập 66 'Về nhà đi con': 'Thanh xuân như một ly trà, ăn thêm miếng bánh… hết bà thanh xuân' đang trở thành trào lưu hot nhất mạng xã hội.
GAME MOBILE - Phong Vũ - 22/07/2019 15:00
(infogame.vn) - Lâu Lan Song Kích là vũ khí cận chiến thế hệ mới dưới hình thức của 1 cây thương đặc biệt có thể tháo ra làm 2 hoặc nhập lại làm 1, điều này cũng sẽ tạo ra 2 cách thức tấn công khác nhau, sử dụng tùy sở thích của người chơi.
PHIM MANGA - Phạm Lê - 22/07/2019 13:00
(infogame.vn) - Bom tấn của Marvel Studios đã vượt qua kỷ lục được nắm giữ suốt 10 năm qua của Avatar.
PHIM MANGA - Phạm Lê - 22/07/2019 11:00
(infogame.vn) - Phase 4 của Vũ trụ điện ảnh Marvel (MCU) đã được tiết lộ tại San Diego Comic-Con hôm qua.
ESPORTS - Hữu Phong - 22/07/2019 10:15
(infogame.vn) - Đội hình GAM Esports đang có sự hoàn thiện khá tốt ở từng vị trí và đã có màn trả thù ngọt ngào Lowkey ở giai đoạn lượt về này.
ESPORTS - - 22/07/2019 10:15
(infogame.vn) - Với thay đổi về chất tướng và item ở bản 9.14, meta đã có ít nhiều sự thay đổi trong Đấu Trường Chân Lý.
CỘNG ĐỒNG 360 - T.X - 22/07/2019 09:30
(infogame.vn) - Sau khi công bố thông tin về việc Trâu Cày Thuê lấy vợ thì mới đây, hôn lễ của anh cùng cô vợ Hồng Quế đã chính thức diễn ra trước sự chúc phúc của tất cả mọi người.
ESPORTS - HQ - 21/07/2019 15:00
Hai cuộc đối đầu không thể bỏ lỡ giữa GAM với LK và CES gặp FL
Xem thêm