“Dạy” AI lọc nội dung thù hận

SGGP
Facebook vừa công bố một sáng kiến tận dụng trí tuệ nhân tạo (AI) để sàng lọc những nội dung mang tính hận thù trên nền tảng của mạng xã hội này.

“Dạy” AI lọc nội dung thù hận

Theo đó, Facebook đã tạo ra một cơ sở dữ liệu gồm 10.000 memes - những bức ảnh chèn nội dung bằng chữ viết để truyền tải thông điệp cụ thể. Công ty cũng đã mời các nhà nghiên cứu tham gia dự án “thách thức những memes đáng ghét”, trong đó phát triển các thuật toán cải tiến nhằm phát hiện những thông điệp trực quan mang tính hận thù, với giải thưởng trị giá 100.000 USD. 

Sáng kiến trên của Facebook được đưa ra trong bối cảnh công ty này ngày càng dựa vào AI để sàng lọc những nội dung phản cảm. Báo cáo quý của Facebook cho thấy trong 3 tháng đầu năm nay, Facebook đã gỡ khoảng 9,6 triệu bài đăng do vi phạm chính sách ngôn từ kích động thù hận, trong đó 4,7 triệu nội dung liên quan sự thù ghét có tổ chức. Facebook cho biết AI ngày càng trở thành công cụ lọc thông tin tốt hơn, trong bối cảnh đại dịch Covid-19 khiến con người phụ thuộc nhiều hơn vào công nghệ và máy móc. Ông Guy Rosen, Phó Chủ tịch phụ trách tính toàn vẹn của Facebook, nhấn mạnh, với AI, công ty này có thể phát hiện nhiều nội dung phản cảm hơn và hiện có thể phát hiện gần 90% số nội dung cần gỡ bỏ, trước khi có ai đó báo cáo về điều này. 

Facebook đã cam kết “xóa sổ” các tư tưởng thù hận trên nền tảng mạng xã hội này từ cách đây 1 năm, sau khi xảy ra những vụ tấn công đẫm máu nhằm vào nhà thờ Hồi giáo ở New Zealand. Theo Facebook, các hệ thống tự động và AI rất hữu ích trong việc phát hiện các nội dung cực đoan trong nhiều ngôn ngữ khác nhau, cũng như phân tích nội dung văn bản được chèn trong hình ảnh và video để hiểu toàn bộ bối cảnh của những thông điệp này.

MINH CHÂU

Các tin, bài viết khác

Đọc nhiều nhất

Sản phẩm công nghệ

Câu chuyện công nghệ

Thị trường - chính sách

ASUS Việt Nam ra mắt loạt sản phẩm mới “Kỷ nguyên của Thế hệ Kiến tạo”

Với chủ đề “Kỷ nguyên của Thế hệ Kiến tạo” – Tech talkshow online do ASUS và Intel đồng tổ chức mở ra cuộc thảo luận thú vị về những nhà sáng tạo nội dung và doanh nhân hiện đại, với sự góp mặt của VJ Thùy Minh và KTS Nguyễn Hữu Vinh, qua đó giới thiệu 2 series sản phẩm hoàn toàn mới