“Dạy” AI lọc nội dung thù hận

SGGP
Facebook vừa công bố một sáng kiến tận dụng trí tuệ nhân tạo (AI) để sàng lọc những nội dung mang tính hận thù trên nền tảng của mạng xã hội này.

“Dạy” AI lọc nội dung thù hận

Theo đó, Facebook đã tạo ra một cơ sở dữ liệu gồm 10.000 memes - những bức ảnh chèn nội dung bằng chữ viết để truyền tải thông điệp cụ thể. Công ty cũng đã mời các nhà nghiên cứu tham gia dự án “thách thức những memes đáng ghét”, trong đó phát triển các thuật toán cải tiến nhằm phát hiện những thông điệp trực quan mang tính hận thù, với giải thưởng trị giá 100.000 USD. 

Sáng kiến trên của Facebook được đưa ra trong bối cảnh công ty này ngày càng dựa vào AI để sàng lọc những nội dung phản cảm. Báo cáo quý của Facebook cho thấy trong 3 tháng đầu năm nay, Facebook đã gỡ khoảng 9,6 triệu bài đăng do vi phạm chính sách ngôn từ kích động thù hận, trong đó 4,7 triệu nội dung liên quan sự thù ghét có tổ chức. Facebook cho biết AI ngày càng trở thành công cụ lọc thông tin tốt hơn, trong bối cảnh đại dịch Covid-19 khiến con người phụ thuộc nhiều hơn vào công nghệ và máy móc. Ông Guy Rosen, Phó Chủ tịch phụ trách tính toàn vẹn của Facebook, nhấn mạnh, với AI, công ty này có thể phát hiện nhiều nội dung phản cảm hơn và hiện có thể phát hiện gần 90% số nội dung cần gỡ bỏ, trước khi có ai đó báo cáo về điều này. 

Facebook đã cam kết “xóa sổ” các tư tưởng thù hận trên nền tảng mạng xã hội này từ cách đây 1 năm, sau khi xảy ra những vụ tấn công đẫm máu nhằm vào nhà thờ Hồi giáo ở New Zealand. Theo Facebook, các hệ thống tự động và AI rất hữu ích trong việc phát hiện các nội dung cực đoan trong nhiều ngôn ngữ khác nhau, cũng như phân tích nội dung văn bản được chèn trong hình ảnh và video để hiểu toàn bộ bối cảnh của những thông điệp này.

MINH CHÂU

Các tin, bài viết khác

Đọc nhiều nhất

Sản phẩm công nghệ

ThinkPad X1 Titanium Yoga laptop mỏng nhất của dòng ThinkPad

Là một trong những sản phẩm được đội ngũ công nghệ Lenovo đầu tư nhiều công sức, chắc chắn ThinkPad X1 Titanium Yoga sẽ mang lại nhiều giá trị cốt lõi cho người dùng doanh nghiệp nhờ loạt tính năng độc đáo, khác biệt, và ở một đẳng cấp hoàn toàn khác. 

Câu chuyện công nghệ

Thị trường - chính sách