Là người điều hành nội dung tại Inke, một trong những công ty nền tảng livestream lớn nhất của Trung Quốc với 25 triệu người dùng, Zhi Heng và đội ngũ gồm 1.200 sinh viên tốt nghiệp đại học của ông chỉ có vài giây để quyết định xem hình một người mặc đồ bơi hai mảnh hiện lên trên màn hình của mình có vi phạm quy tắc sử dụng nền tảng ở Trung Quốc hay không, báo South China Morning Post đưa tin.
Dùng AI để kiểm duyệt
Trung Quốc hiện nay đang trong cuộc chiến an ninh mạng, điều khiến các cảnh sát Internet ở đều phải kiểm duyệt tất cả thông tin được xuất bản mỗi ngày từ lượng người dùng trực tuyến lớn nhất thế giới.
Tính đến cuối năm ngoái, gần 400 triệu người ở Trung Quốc đã tham gia phát sóng trực tiếp (Livestream) các hoạt động của họ trên internet. Hầu hết trong số đó là vô hại như trực tiếp cảnh đẹp khi đi du lịch, hay dịp ăn uống, nói chuyện với người thân và bạn bè... Tuy nhiên, có những người coi đây là công việc để kiếm sống, giống như những YouTube. Một số người khác thì sử dụng mạng internet để bán hàng hóa hay hát hò, trò chuyện, tư vấn... để đổi lại những phần thưởng ảo.
Trung Quốc đang tăng cường loại bỏ các nội dung độc hại lên mạng Internet. Ảnh: SCMP
Nếu chỉ tính các đoạn video ngắn, các ứng dụng nhắn tin, các diễn đàn trực tuyến và các định dạng khác... lượng nội dung được sản xuất mỗi ngày sẽ không thể nào kiểm duyệt xuể nếu không có sự trợ giúp của công nghệ.
"Các bạn cần tập trung cao độ vào công việc của mình. Bạn không thể bỏ qua bất cứ điều gì trái pháp luật, chống lại giá trị truyền thống hay quy định riêng của công ty" - Zhi Heng, người đứng đầu nhóm an toàn nội dung của Inke nói với nhân viên.
Có trụ sở tại Bắc Kinh với một chi nhánh ở thành phố Trường Sa, tỉnh Hồ Nam, Trung Quốc, Inke sử dụng các thuật toán trí tuệ nhân tạo và phần mềm nhận dạng giúp người điều hành thực hiện công việc kiểm duyệt nội dung trước khi đưa lên mạng xã hội.
Trong đó, AI được sử dụng để xử lý công việc nặng như ghi nhãn, xếp hạng và sắp xếp nội dung thành các loại rủi ro khác nhau. Hệ thống phân loại này sau đó cho phép công ty phân bổ nguồn lực theo thứ tự rủi ro tăng dần. Một người đánh giá có thể theo dõi cùng lúc nhiều nội dung có rủi ro thấp. Còn các nội dung bị xếp hạng rủi ro cao được gắn cờ để xem xét kỹ lưỡng hơn.
Điều này đưa chúng ta trở lại với câu hỏi làm sao để kiểm soát một bộ bikini xuất hiện trên internet. Điều này là một thách thức với AI, nó không thể nào hiểu được mỗi sự việc được hiểu theo từng bối cảnh riêng.
Đối với một thuật toán, một bộ bikini đơn giản chỉ là một bộ bikini. Nhưng với con người, một bộ bikini được cấp xuất hiện hay không tùy thuộc vào từng hoàn cảnh khác nhau. Ví dụ, một bộ bikini xuất hiện tại bể bơi với những đứa trẻ chạy quanh, nội dung hoàn toàn lành mạnh. Nhưng một bộ đồ hai mảnh trong phòng ngủ với nhạc nền nhẹ nhàng và lãng mạn thì không.
Theo Inke, hoạt động được kiểm duyệt nhiều nhất trên nền tảng phát trực tiếp của họ là hút thuốc. Điều này hiển nhiên không được phép vì chính quyền coi đó là việc khuyến khích lối sống không lành mạnh. Việc hiển thị hình xăm quá mức cũng tương tự.
Ông Zhi Heng, điều hành nội dung tại Inke. Ảnh: SCMP
Theo chia sẻ của ông Zhi Heng, nội dung có nguy cơ cao nhất bao gồm các thông điệp, lời nói nhạy cảm về chính trị, hành vi tình dục, bạo lực, khủng bố và tự làm hại bản thân. Tùy thuộc vào mức độ nghiêm trọng của vi phạm, người kiểm duyệt nội dung có thể đưa ra cảnh báo, chặn hoặc cho tài khoản vào danh sách đen.
Ông Kyle Langvardt, phó giáo sư luật tại Đại học Detroit Mercy, người từng có nhiều nghiên cứu về Hiến pháp Mỹ và các vấn đề liên quan, đánh giá chính sách kiểm duyệt của Trung Quốc có hai mặt.
"Về tổng thể, tôi thấy các chính sách kiểm duyệt của Trung Quốc đáng lo ngại khi chính phủ nổi lực ngăn chặn các vấn đề nhạy cảm chính trị. Tuy nhiên, nó cũng có những mặt tích cực. Như việc nó giúp ngăn chặn bạo lực trong thế giới thực, do nội dung lan truyền gây ra như một số nước khác trên thế giới".
Chính phủ cần có vai trò tích cực trong công tác kiểm duyệt
Trên toàn cầu, các chính phủ đang ngày càng kiểm soát truyền thông xã hội để nhận định những điều gì có thể chấp nhận được và điều gì không để hạn chế khả năng chống phá của các nhóm thù địch. Các nhóm này thường lợi dụng cộng đồng mạng để tuyên truyền, chống phá kích động bạo lực.
Facebook đã thừa nhận vào tháng 11 năm ngoái rằng họ đã không làm đủ cách để ngăn chặn sự kích động bạo lực sắc tộc, bạo lực và chia rẽ ở Myanmar. Sau đó, nó tiếp tục bị chỉ trích nặng nề sau khi vụ tấn công ở nhà thờ hồi giáo Christchurch, ở New Zealand khiến 50 người thiệt mạng. Mặc dù nhiều tài khoản facebook của kẻ khủng bố nhanh chóng được xóa nhưng đoạn video về vụ xả súng nhanh chóng bị lan rộng trên mạng xã hội.
Australia sau đó đã thông qua luật phạt tiền và thậm chí phạt tù với CEO của các công ty truyền thông xã hội nếu chậm trễ trong việc loại bỏ những bài viết bạo lực.
Singapore đang tranh luận về các điều luật nhằm giải quyết nạn tin tức giả mạo tràn lan trên Internet. Nước Anh cũng mới đề xuất bộ quy tắc riêng để bắt giam quản lý của các công ty công nghệ, nếu để ra các tác hại trực tuyến.
Vào ngày 31-3, người sáng lập Facebook Mark Zuckerberg đã gửi một bức thư ngỏ mời các chính phủ và cơ quan quản lý đóng vai trò tích cực hơn trong việc quyết định nội dung có hại, để giúp đảm bảo tính toàn vẹn của các cuộc bầu cử, quyền riêng tư và tính di động của dữ liệu.
