Facebook, YouTube vẫn sẽ phát tán tội ác nếu duy trì hậu kiểm

10/03/2019 20:44
Facebook, YouTube vẫn sẽ phát tán tội ác nếu duy trì hậu kiểm

Giết người và livestream, kẻ khủng bố tại New Zealand mong muốn gieo rắc nỗi sợ hãi cho càng nhiều người càng tốt. Các mạng xã hội đang tiếp tay cho những hành vi như vậy.

Ngày 15/3, một vụ xả súng xảy ra tại hai thánh đường Hồi giáo ở trung tâm và ngoại ô Christchurch, New Zealand đã cướp đi sinh mạng của 49 người, làm bị thương 20 người. Vụ khủng bố gây bàng hoàng toàn thế giới không chỉ vì số thương vong mà còn bởi cách nó được thực hiện.

Tên khủng bố lan truyền bản kế hoạch dài 87 trang trên mạng xã hội Twitter. Trước lúc hành động, hắn kêu gọi mọi người đăng ký kênh YouTube của Pewdiepie - có lẽ là game thủ hắn thần tượng. Lúc thực hiện vụ khủng bố, hắn phát đoạn video dài 17 phút trực tiếp trên Facebook. Tất cả được giúp sức bởi mạng xã hội.

Yếu kém trong kiểm duyệt, mạng xã hội đang tiếp tay cho khủng bố gây ảnh hưởng

Từ câu nói kêu gọi đăng ký kênh Pewdiepie của tên sát nhân, có thể thấy ngoài việc cố gắng lan truyền tư tưởng diệt chủng, hắn còn bị ám ảnh bởi những chỉ số như lượt đăng ký, lượt xem và lượt thích. Bằng cách cướp đi sinh mạng của đồng loại, tên sát nhân đang cố chứng minh tầm ảnh hưởng của mình.

Facebook, YouTube van se phat tan toi ac neu duy tri hau kiem hinh anh 1
Lên kế hoạch trên Twitter, livestream trên Facebook, kêu gọi đăng ký kênh YouTube, kẻ giết người trong vụ khủng bố tại New Zealand tận dụng triệt để mạng xã hội để lan truyền tội ác của mình.

Vụ xả súng kinh hoàng ngay từ đầu đã được thiết kế để gây chú ý cho dư luận. Nó tận dụng mọi phương tiện truyền thông xã hội để đảm bảo càng nhiều người biết càng tốt, biết đến cả những người tử vong lẫn thông điệp đầy thù hằn ẩn trong hành động độc ác.

"Việc phát trực tiếp cảnh xả súng tại New Zealand chắc chắn sẽ đặt ra nhiều câu hỏi về quy định và việc kiểm soát của Facebook. Họ đã cung cấp nền tảng cho cuộc tấn công khủng khiếp hôm nay và sẽ bị đặt câu hỏi về việc tạo điều kiện lan truyền sự cố này", Clement Thibault, chuyên gia phân tích của Investing đánh giá.

Đây không phải lần đầu tiên một vụ giết người bị phát trực tiếp lên mạng. Vào năm 2015, một kẻ nổ súng ở Bridgewater, Virginia, khi sát hại nạn nhân của mình đã phát sóng trên truyền hình trực tiếp và tải video lên Twitter và Facebook.

Bộ trưởng Nội vụ Anh Sajid Javid nói rằng các công ty truyền thông xã hội phải hành động để ngăn chặn chủ nghĩa cực đoan. "YouTube, Google, Facebook, Twitter phải làm việc nhiều hơn để ngăn chặn chủ nghĩa cực đoan đang được quảng bá trên nền tảng của các bạn", Javid viết trên Twitter.

Tuy vậy, Facebook, YouTube và nhiều mạng xã hội khác dường như không thể ngăn chặn nổi những video có nội dung bẩn với phương pháp hậu kiểm như hiện tại. Những video giết người, khủng bố, khiêu dâm khi bị phát hiện đều đã lan truyền mạnh mẽ tới hàng trăm nghìn người dùng.

Cụ thể, video thảm sát tại New Zealand vẫn tồn tại trên Facebook nhiều giờ sau khi vụ thảm sát kết thúc. Bên cạnh đó, các phiên bản reup (đăng tải lại) xuất hiện dày đặc trên các nền tảng YouTube, Facebook trước khi bộ phận kiểm duyệt bắt đầu ra tay.

AI khó có thể thay thế con người

Năm 2017, giám đốc kinh doanh của Google - Philipp Schindler - cho biết ông đã yêu cầu nhiều nhân lực hơn để giám sát các vấn đề về nội dung, nhưng nhấn mạnh rằng chỉ có trí thông minh nhân tạo mới có thể đáp ứng nổi quy mô của YouTube. "Vấn đề không thể giải quyết được bởi con người và không nên được giải quyết bởi con người", Schindler nhận định.

Sau hai năm đặt lòng tin vào AI, YouTube vẫn chưa hoàn toàn khắc phục những yếu kém trong khâu kiểm duyệt.

Theo CNN, với một lượng lớn bài đăng xuất hiện trên các trang này mỗi ngày, sự kết hợp giữa con người và máy móc khó có thể đáp ứng nổi nhu cầu kiểm duyệt.

Facebook, YouTube van se phat tan toi ac neu duy tri hau kiem hinh anh 2
AI khó có thể thay thế con người trong việc phát hiện những video có nội dung bạo lực và ngôn ngữ thù địch.

"AI vẫn còn phải phát triển thêm rất lâu mới có thể hiểu được ngôn ngữ thù hằn, bạo lực, khiêu dâm", CNN viết.

Trí tuệ nhân tạo có thể nhận ra những nội dung bẩn dựa vào những gì chúng được học trong các bối cảnh cụ thể. Nếu cho AI học hình ảnh súng ống và các nội dung tôn giáo, nó chỉ có thể áp dụng cho những trường hợp tương tự. Tuy nhiên, không phải vụ thảm sát nào cũng giống nhau.

"Muốn phát hiện được ngôn ngữ kích động bạo lực thì bối cảnh là yếu tố quan trọng nhất", Daniel Lowd, Phó giáo sư tại Đại học Oregon, người nghiên cứu về trí tuệ nhân tạo và học máy.

Một số trường hợp, các phát ngôn bạo lực lại dùng để châm biếm, phản đối. Ngược lại, một số lời lẽ nghe có vẻ hòa nhã lại gây thù hắn tùy theo văn hóa từng vùng.

"Từ ngữ sẽ gây tác động rất lớn nếu đặt trong bối cảnh văn hóa phù hợp", Lowd nói.

Cũng theo phó giáo sư Lowd, ngay cả con người cũng khó nhận ra đâu là bạo lực trong các video chứ đừng nói những cỗ máy được đào tạo.

"Hàng trăm nghìn giờ video là những gì các công ty này kinh doanh. Đó thực sự là những gì họ chào mời và những gì họ muốn". Roberts, Giáo sư tại UCLA, người nghiên cứu kiểm duyệt nội dung và phương tiện truyền thông xã hội cho biết.

Bất lực với video phát trực tiếp

Cuối năm 2017 là lần gần nhất YouTube thông báo tuyển thêm 10.000 nhân sự kiểm duyệt nội dung. Dù YouTube cam kết có 10.000 nhân sự kiểm duyệt video nhưng con số này thật sự không thấm với 500 giờ video tải lên mỗi phút.

Đó là chưa kể đến những đoạn livestream - định dạng video phát trực tiếp khó kiểm soát được những gì đang diễn ra. Theo The Verge, bắt kịp các video livestream khi chúng diễn ra là rào cản lớn nhất trong việc kiểm duyệt nội dung của YouTube.

Theo Rasty Turek - CEO của nền tảng phân tích video Pex, điều này gần như không thể bởi nội dung trong các luồng phát trực tiếp liên tục thay đổi. Đó là lý do livestream là lĩnh vực rủi ro cao đối với YouTube và cả Faceboook.

Facebook, YouTube van se phat tan toi ac neu duy tri hau kiem hinh anh 3
Video khiêu dâm với 18 triệu lượt xem tồn tại gần một ngày trên Facebook.

“Bạn có thể đổ lỗi cho YouTube về nhiều thứ nhưng không ai trên hành tinh này có thể khắc phục vấn đề livestream ngay lúc này”, Turek nói thêm.

Còn với Facebook, con số nhân lực kiểm duyệt còn tồi tệ hơn. Năm 2017, Facebook có 4.500 nhân viên kiểm duyệt nội dung gồm video và bài đăng. Tháng 5/2017, Facebook tuyên bố tuyển thêm 3.000 người. Mỗi ngày, một nhân viên kiểm duyệt phải xem 8.000 bài đăng được máy tính nhận diện có nội dung xấu.

Facebook đã đầu tư nhân lực để loại bỏ nội dung giả mạo khỏi nền tảng của mình bằng cách thuê hàng ngàn nhân viên để kiểm duyệt nội dung và đóng hàng trăm tài khoản đáng ngờ ở các quốc gia khác nhau. Tuy nhiên, nỗ lực đó như muối bỏ bể.

Cả YouTube và Facebook đều đang lệ thuộc vào thuật toán vốn chưa hoàn hảo và ý thức báo cáo nội dung của người dùng.

Kể cả có báo cáo cũng chưa chắc được giải quyết

Ngoài video thảm sát dài 17 phút tồn tại trong nhiều giờ liền, Facebook còn có nhiều bê bối liên quan khác. Ngày 21/11/2018, Zing.vn ghi nhận video khiêu dâm được đăng trên Facebook.

Video này tồn tại gần 20 giờ với 18 triệu lượt xem. Dù đã cố gắng báo cáo nội dung khiêu dâm với Facebook từ lúc video mới đăng nhưng mạng xã hội này vẫn không giải quyết. Điều này cho thấy, công cụ báo cáo của Facebook không phản ứng kịp thời trước những nội dung bẩn.

Facebook, YouTube van se phat tan toi ac neu duy tri hau kiem hinh anh 4
Dù người dùng đã cố báo cáo, công cụ kiểm duyệt của mạng xã hội vẫn không thể đáp ứng kịp.

Đặc biệt, với những mẫu quảng cáo cờ bạc, súng ống, hàng cấm, Facebook nhận báo cáo nhiều tháng liền nhưng vẫn không giải quyết được. Các trường hợp báo cáo đều đang ở dạng mở (chờ giải quyết).

Tình trạng này không khá hơn với nền tảng video YouTube. Video có nội dung núp bóng hoạt hình dành cho trẻ em với nội dung bạo lực tồn tại và nhận quảng cáo từ YouTube.

Nội dung video mô tả một nhân vật trong bộ phim hoạt hình Cars đến nhà bạn gái của mình và phát hiện cô đang ngoại tình. Nhân vật này sự dụng chất kích thích và quay lại giết hai người kia.

Video trên hoàn toàn không được giới hạn độ tuổi. Trong phần bình luận xuất hiện rất nhiều tài khoản trẻ em.

Sau hơn một tháng miệt mài báo cáo video với YouTube, mạng xã hội này vẫn để đoạn phim trên tồn tại, thậm chí là thu tiền từ quảng cáo.

Facebook, YouTube van se phat tan toi ac neu duy tri hau kiem hinh anh 5
Video hoạt hình bạo lực, không giới hạn độ tuổi vẫn ngang nhiên hiển thị quảng cáo dù người dùng liên tục báo cáo.

Trước đó, Free Hess, một bác sĩ nhi khoa ở Florida, Mỹ cho biết khi đang cùng con xem video về game Splatoon của Nintendo trên YouTube Kids, cô phát hiện một đoạn có hình ảnh một người đàn ông đeo kính râm, cầm con dao tưởng tượng và hướng dẫn trẻ cách cắt tay.

“Nhớ nhé mấy nhóc, cắt ngang để có được sự chú ý, cắt dọc nếu muốn ‘đạt kết quả’”, gã vừa nói, vừa mô phỏng hành động dùng dao rạch cổ tay. “Hãy kết liễu cuộc đời mình đi”.

Trong trường hợp của Free Hess, dù đã báo cáo, video trên vẫn tồn tại nhiều tuần liền. Đến khi những video này được báo cáo và gỡ bỏ, nó đã tiếp cận bao nhiêu trẻ em?

Mặc dù thông cảm với Google (chủ sở hữu YouTube) vì quản lý những video trên nền tảng là rất khó, nhưng Free Hess muốn YouTube phải phản ứng nhanh hơn khi người dùng báo cáo video vi phạm. “Chỉ gỡ những video đó thôi là chưa đủ. Tôi muốn nội dung độc hại phải bị xóa ngay lập tức khi bị báo cáo”.

Nếu không tiền kiểm, những nội dung bạo lực, khiêu dâm, khủng bố sẽ vẫn xuất hiện trên mạng xã hội bởi các phản ứng chậm trễ từ bộ phận kiểm duyệt và tiếp nhận báo cáo.








Theo news.zing.vn

0 Bình luận
Game online - Hữu Phong - 22/03/2019 10:00
(infogame.vn) - Phiên bản mới Lạc Hưởng Kỳ Thành của Thế Giới Hoàn Mỹ sẽ giới thiệu nhiều khu chức năng đem đến cho người chơi sự tự do tận hưởng thoải mái.
Game online - T.X - 20/03/2019 01:00
(infogame.vn) - Đột Kích – Tượng đài bất tử, tựa game gắn liền với tuổi thơ của hàng triệu triệu game thủ Việt đang bước sang tuổi 11 với nhiều mong đợi và trên hết, tựa game này đã và đang khẳng định mình bằng những dấu mốc đặc biệt.
Game online - Hữu Phong - 20/03/2019 10:00
(infogame.vn) - Bang hội trong phiên bản mới Lạc Hưởng Kỳ Thành của Thế Giới Hoàn Mỹ sẽ lột xác thay đổi ra sao?
Game online - Phong Vũ - 18/03/2019 10:00
(infogame.vn) - Chính thức bước sang tuổi mới, Thế Giới Hoàn Mỹ vẫn là sản phẩm trọng điểm mà DECO dồn tâm huyết, với mong muốn duy trì một sân chơi bền vững cho cộng đồng và những người chơi đang gắn bó với tựa game 13 tuổi đời hiếm hoi của làng game Việt...
Game online - - 17/03/2019 03:00
Xấu hổ vì liên tục gian lận, game thủ Trung Quốc tự phát triển tool phát hiện và chống hack/cheat nhằm lấy lại thể diện với cộng đồng game thủ thế giới.
Game online - - 16/03/2019 10:13
Clippy vừa bị khai tử lần nữa, sau khi được hồi sinh từ lần khai tử đầu tiên năm 2001.
Game online - - 16/03/2019 10:06
Ở Trung Quốc, mọi người có thể bỏ tiền ra để được cấp quyền truy cập vào các "nhóm chửi bới" trên mạng xã hội WeChat và QQ.
Game online - Phong Vũ - 16/03/2019 10:00
(infogame.vn) - Nói về Thế Giới Hoàn Mỹ, chắc chắn sẽ có rất nhiều câu chuyện để kể, bởi 13 năm không phải là quãng thời gian ngắn khi đã đủ để ghi lại biết bao hồi ức khó có thể phai nhòa theo thời gian...
ESPORTS - - 23/03/2019 10:00
GAM bây giờ cũng chỉ là một cái tên.
GAME MOBILE - Phong Vũ - 23/03/2019 10:00
(infogame.vn) - Vừa ra mắt fanpage cách đây ít ngày, Đại Kiếm Vương Mobile đã tiếp tục gây xôn xao cộng đồng game thủ khi xuất hiện những hình ảnh nam thần Dương Dương trong trang phục cosplay một tựa game cổ trang tương tự.
GAME MOBILE - Tiểu Vũ - 23/03/2019 10:00
(infogame.vn) - Vào lúc 10h30 sáng ngày 21.3.2019, Đại Chiến Samurai đã chính thức đưa tính năng PvP liên server đầu tiên – Tiến Kinh vào game để phục vụ đông đảo quý game thủ.
CỘNG ĐỒNG - Phong Vũ - 23/03/2019 09:00
(infogame.vn) - Là một nền tảng dẫn đầu trong lĩnh vực live stream game online, NimoTV đang tỏ ra vượt trội hơn so với các đối thủ khác với việc tổ chức các giải đấu eSport. Qui mô từ trong nước cho tới quốc tế, đối tượng tham gia từ hot streamer cho đến viewers.
CÔNG NGHỆ - - 23/03/2019 09:00
Phân khúc smartphone tầm trung ở Việt Nam dần trở nên sôi động với hàng loạt smartphone mới vừa được ra mắt, đáng chú ý như Galaxy A50, Vivo V15…
CỘNG ĐỒNG 360 - Phong Vũ - 23/03/2019 08:00
(infogame.vn) - Chính thức ra mắt MV mới mang tên “Dizzneyland 2”, rapper Suzie thẳng thừng tuyên chiến giành ngôi vị “đồ tể” với Độ Mixi và Vanh Leg.
GAME MOBILE - Tiểu Vũ - 22/03/2019 19:00
(infogame.vn) - Đan Trường quả không hổ danh là nam ca sĩ có nhan sắc “không tuổi” của làng giải trí Việt.
CỘNG ĐỒNG 360 - T.X - 22/03/2019 16:00
(infogame.vn) - Ở ngay thời điểm hiện tại, ông hoàng Youtube PewDiePie đã chính thức phải chấp nhận thua cuộc trước kênh đối thủ là T-Series.
ESPORTS - - 22/03/2019 15:00
Với 5 thành viên toàn nữ, Vaevictis Esports là đội tuyển đã gây ra nhiều vấn đề rắc rối tại giải đấu League of Legends Continental League (LCL) tại Nga.
CÔNG NGHỆ - - 22/03/2019 15:00
Ngày “khai tử” Windows 7 đang đến gần hơn, khi chính Microsoft cũng thúc giục khách hàng nâng cấp.
ESPORTS - - 22/03/2019 15:00
Thêm lượt cấm, cân bằng lại, và rất nhiều nội dung mới đang chuẩn bị đổ bộ Vực Gió Hú.
PHIM MANGA - Hữu Phong - 22/03/2019 15:00
(infogame.vn) - Cùng soi những chi tiết đặc biệt trong chap 937 mới nhất của One Piece nhé.
GAME MOBILE - Tiểu Vũ - 22/03/2019 13:00
(infogame.vn) - Nhiều người thường nói, việc thành công của một tựa game phần lớn phụ thuộc vào chất lượng của tựa game đó là “bom tấn” hay “bình dân”? Nhưng thực tế, cách thức vận hành và chăm sóc cộng đồng mới là yếu tố quyết định để đánh giá tựa game đó có thực sự chất lượng hay không?
CÔNG NGHỆ - - 22/03/2019 10:00
Tại sự kiện ngày 21/3, Xiaomi giới thiệu tới người dùng Việt 2 mẫu điện thoại phân khúc tầm trung và giá rẻ Redmi Note 7 và Redmi 7 với giá bán từ 3-5,7 triệu đồng.
Xem thêm