Tuyệt chiêu Facebook sử dụng để chặn đứng nội dung nhạy cảm

Theo VTC, Facebook vừa giới thiệu công cụ AI có thể chủ động phát hiện và gắn cảnh báo những hình ảnh và video "nhạy cảm" của ai đó được đăng mà không có sự đồng ý của nạn nhân. Công cụ mới này sẽ hoạt động trên Facebook và Instagram.

Không giống như các bộ lọc hiện tại, công cụ mới này có thể phát hiện các nội dung nhạy cảm. Ví dụ như bức ảnh chụp với nội y, kết hợp với văn bản mang tính xúc phạm hoặc làm nhục, gây xấu hổ cho ai đó nếu nó được đăng tải lên mạng.

Hiện tại người dùng Facebook và Instagram phải tự báo cáo những nội dung như trên. Điều này đồng nghĩa với việc họ chỉ có thể phản hồi khi mọi thứ "đã rồi".

Báo Lao Động cho biết, trả lời báo chí, Trưởng phòng an toàn toàn cầu Antigone Davis của Facebook cho biết: “Việc phát hiện những hình ảnh này vượt ra ngoài việc phát hiện ảnh khỏa thân trên nền tảng của chúng tôi. Bằng cách sử dụng máy học và trí tuệ nhân tạo, chúng tôi có thể chủ động nhận biết hình ảnh hay video nhạy cảm được chia sẻ mà không được phép trên Facebook, Instagram”.

Thời gian gần đây, Facebook cũng như các mạng xã hội lớn thường xuyên chịu áp lực trước công chúng vì khả năng kiểm duyệt bài đăng.

Tháng 2/2018, Youtube vấp phải sự chỉ trích dữ dội từ dư luận vì buông lỏng quản lý nội dung. Ngay sau đó, mạng xã hội này đã thẳng tay gỡ bỏ hàng loạt nội dung ấu dâm bằng cách thanh trừng hàng chục triệu bình luận.

Điều này khiến cho một số thương hiệu lớn như Disney, Nestlé tạm dừng quảng cáo trên YouTube. Lí do là vì lo ngại quảng cáo của họ được phát cùng với các video có bình luận lạm dụng hoặc khiêu dâm trẻ em. Và đây cũng không phải lần đầu tiên, mạng xã hội này bị các thương hiệu lớn tẩy chay.

Đào Vũ (Tổng hợp)