Các thông điệp thù hằn, tư tưởng cực đoan lan tràn trên mạng đang là một thách thức trong cuộc chiến chống khủng bố ở nhiều quốc gia. Nhằm ngăn chặn các phần tử khủng bố cực đoan phát tán các thông điệp kích động bạo lực, Facebook đang tích cực đẩy mạnh việc sử dụng trí tuệ nhân tạo (AI) nhằm biến mạng xã hội có 1,94 tỷ người sử dụng mỗi tháng này thành nơi ngăn chặn các phần tử khủng bố cực đoan.
Trong bối cảnh xảy ra các cuộc tấn công khủng bố gần đây, dư luận đã đặt câu hỏi về vai trò của các công ty công nghệ trong cuộc chiến chống khủng bố trên mạng. Giám đốc chính sách toàn cầu Monika Bickert và Giám đốc phụ trách chính sách chống khủng bố Brian Fishman của Facebook khẳng định, công nghệ và Facebook có thể là một phần của giải pháp này. Đồng thời, mô tả cách thức mạng xã hội này tự động nhận diện và gỡ bỏ các thông tin cực đoan liên quan đến tổ chức Nhà nước Hồi giáo (IS) tự xưng, al-Qaeda và các tổ chức khác.
Theo Facebook, trang mạng xã hội này đang sử dụng AI để nhận dạng khi có hình ảnh hoặc đoạn băng video được đăng tải trên tải từng được xóa bỏ khỏi mạng xã hội này. Facebook cũng đang thử nghiệm AI để hiểu được ngôn ngữ cũng như các từ và cụm từ cổ súy hoặc ủng hộ chủ nghĩa khủng bố. Bên cạnh đó, mạng xã hội này còn sử dụng phần mềm nhận dạng các bài viết, các trang hoặc thông tin cá nhân có liên quan đến chủ nghĩa khủng bố. Kết quả thử nghiệm bước đầu cho thấy các tín hiệu tích cực khi Facebook đã có thể phát hiện tốt hơn các tài khoản giả mạo của các đối tượng phạm tội liên tục từng bị mạng xã hội này xóa bỏ do có nội dung cực đoan. Nỗ lực này cũng được mở rộng tới các ứng dụng khác của Facebook trong đó có WhatsApp và Instagram.
Do AI không thể nắm bắt mọi thứ và vẫn còn có xác suất sai sót, Facebook cũng đang đẩy mạnh việc sử dụng nguồn nhân lực. Cụ thể, trang mạng này sẽ thuê thêm 3.000 nhân viên vào năm 2018, làm việc 24 giờ/ngày với hàng chục ngôn ngữ nhằm theo dõi và dỡ bỏ các nội dung băng hình có liên quan đến bạo lực. Trước đó, công ty của Mỹ đã thuê hơn 150 chuyên gia chống khủng bố để xây dựng chương trình chống khủng bố trên mạng xã hội.
Tháng 12-2016, Facebook, Twitter, Microsoft và YouTube của Google thông báo sẽ ngừng việc phát tán các đoạn băng hình và thông điệp mang tính cực đoan quay cảnh chặt đầu, hành hình và các nội dung bạo lực. Tuy nhiên, những gã khổng lồ này vẫn bị cáo buộc là có quá ít động thái cũng như chậm trễ trong việc dỡ bỏ các nội dung mang tính hằn thù cũng như thông tin tuyển dụng của các nhóm Hồi giáo cực đoan. Tháng trước, lãnh đạo Nhóm các nước công nghiệp phát triển (G7) đã ra tuyên bố chung kêu gọi các nhà cung cấp dịch vụ Internet và các trang mạng xã hội đẩy mạnh cuộc chiến chống nội dung cực đoan trên mạng.
Bà Monika Bickert cho biết, Facebook nhận thức rõ về các mối nguy từ những thông điệp thù hằn, mang tư tưởng cực đoan và kích động trên mạng xã hội và xác định “mạng xã hội không thể là nơi để khủng bố có tiếng nói”. Việc Facebook đẩy mạnh sử dụng AI chính là sự thể hiện rõ ràng nhất cam kết giữ cho môi trường mạng xã hội lành mạnh, góp phần trong cuộc chiến chống khủng bố toàn cầu.
Trong bối cảnh xảy ra các cuộc tấn công khủng bố gần đây, dư luận đã đặt câu hỏi về vai trò của các công ty công nghệ trong cuộc chiến chống khủng bố trên mạng. Giám đốc chính sách toàn cầu Monika Bickert và Giám đốc phụ trách chính sách chống khủng bố Brian Fishman của Facebook khẳng định, công nghệ và Facebook có thể là một phần của giải pháp này. Đồng thời, mô tả cách thức mạng xã hội này tự động nhận diện và gỡ bỏ các thông tin cực đoan liên quan đến tổ chức Nhà nước Hồi giáo (IS) tự xưng, al-Qaeda và các tổ chức khác.
Theo Facebook, trang mạng xã hội này đang sử dụng AI để nhận dạng khi có hình ảnh hoặc đoạn băng video được đăng tải trên tải từng được xóa bỏ khỏi mạng xã hội này. Facebook cũng đang thử nghiệm AI để hiểu được ngôn ngữ cũng như các từ và cụm từ cổ súy hoặc ủng hộ chủ nghĩa khủng bố. Bên cạnh đó, mạng xã hội này còn sử dụng phần mềm nhận dạng các bài viết, các trang hoặc thông tin cá nhân có liên quan đến chủ nghĩa khủng bố. Kết quả thử nghiệm bước đầu cho thấy các tín hiệu tích cực khi Facebook đã có thể phát hiện tốt hơn các tài khoản giả mạo của các đối tượng phạm tội liên tục từng bị mạng xã hội này xóa bỏ do có nội dung cực đoan. Nỗ lực này cũng được mở rộng tới các ứng dụng khác của Facebook trong đó có WhatsApp và Instagram.
Do AI không thể nắm bắt mọi thứ và vẫn còn có xác suất sai sót, Facebook cũng đang đẩy mạnh việc sử dụng nguồn nhân lực. Cụ thể, trang mạng này sẽ thuê thêm 3.000 nhân viên vào năm 2018, làm việc 24 giờ/ngày với hàng chục ngôn ngữ nhằm theo dõi và dỡ bỏ các nội dung băng hình có liên quan đến bạo lực. Trước đó, công ty của Mỹ đã thuê hơn 150 chuyên gia chống khủng bố để xây dựng chương trình chống khủng bố trên mạng xã hội.
Tháng 12-2016, Facebook, Twitter, Microsoft và YouTube của Google thông báo sẽ ngừng việc phát tán các đoạn băng hình và thông điệp mang tính cực đoan quay cảnh chặt đầu, hành hình và các nội dung bạo lực. Tuy nhiên, những gã khổng lồ này vẫn bị cáo buộc là có quá ít động thái cũng như chậm trễ trong việc dỡ bỏ các nội dung mang tính hằn thù cũng như thông tin tuyển dụng của các nhóm Hồi giáo cực đoan. Tháng trước, lãnh đạo Nhóm các nước công nghiệp phát triển (G7) đã ra tuyên bố chung kêu gọi các nhà cung cấp dịch vụ Internet và các trang mạng xã hội đẩy mạnh cuộc chiến chống nội dung cực đoan trên mạng.
Bà Monika Bickert cho biết, Facebook nhận thức rõ về các mối nguy từ những thông điệp thù hằn, mang tư tưởng cực đoan và kích động trên mạng xã hội và xác định “mạng xã hội không thể là nơi để khủng bố có tiếng nói”. Việc Facebook đẩy mạnh sử dụng AI chính là sự thể hiện rõ ràng nhất cam kết giữ cho môi trường mạng xã hội lành mạnh, góp phần trong cuộc chiến chống khủng bố toàn cầu.
