Đây là khuyến cáo vừa được các quan chức Liên minh châu Âu (EU) đưa ra khi đề xuất gói quy định đầy tham vọng nhằm kiểm soát công nghệ đang phát triển với tốc độ chóng mặt này.
Ủy ban châu Âu (EC) đã chia các ứng dụng AI thành 4 loại dựa trên mức độ nguy cơ gồm tối thiểu, hạn chế, cao và không thể chấp nhận được. Bà Margrethe Vestager, Phó Chủ tịch điều hành EC phụ trách vấn đề cạnh tranh, nêu rõ mức độ nguy cơ càng cao, quy định càng chặt chẽ. Các hệ thống AI có nguy cơ cao là những hệ thống có thể can thiệp đáng kể vào đời sống của con người, đang được sử dụng trong các cơ sở hạ tầng quan trọng sẽ phải chịu một loạt quy định chặt chẽ, trong đó có hệ thống đánh giá và giảm thiểu nguy cơ tương xứng. Tất cả hệ thống AI được coi là mối đe dọa rõ ràng đối với sự an toàn, sinh kế và quyền của con người đều không thể chấp nhận được. Bà Vestager khẳng định với những quy định mang tính bước ngoặt trên, EU đang dẫn đầu việc đưa ra các tiêu chuẩn toàn cầu mới để đảm bảo AI có thể được tin cậy.
Theo các nhà khoa học, khi AI ngày càng được tích hợp nhiều hơn vào cuộc sống con người, chúng ta phải đảm bảo rằng công nghệ này được sử dụng một cách có đạo đức. Trong cuộc bầu cử tổng thống Mỹ năm 2016, theo Ủy ban Truyền thông liên bang, 90% trong số các bình luận của công chúng trên các mạng xã hội là rác kỹ thuật số do AI tạo ra. Vụ việc chứng tỏ rằng các quy trình dân chủ hợp pháp, chẳng hạn như tiếp nhận ý kiến của công chúng, có thể bị xâm phạm.
Ủy ban An ninh quốc gia Mỹ về AI gần đây cảnh báo rằng Mỹ phải đối mặt với một cuộc khủng hoảng an ninh quốc gia do đầu tư không đủ vào AI và các công nghệ mới nổi khác. Đáng chú ý là mối lo ngại về nguy cơ chiến tranh và các khía cạnh đạo đức của vũ khí hạt nhân, vũ khí hóa học và sinh học.
Cuốn sách về AI mang tên Turning Point (Bước ngoặt) của 2 tác giả Darrell West và John Allen (xuất bản tháng 7-2020) mô tả hàng loạt máy bay không người lái áp đảo tàu sân bay, tấn công vào các cơ sở hạ tầng quan trọng hay vũ khí hạt nhân dẫn đường bằng AI và tên lửa siêu thanh tự động phóng khi cảm biến vệ tinh phát hiện hành động đáng ngại của đối phương… Trong thời đại rủi ro cao này, theo các nhà phân tích, đã đến lúc đàm phán các thỏa thuận toàn cầu liên quan đến AI và các công nghệ mới nổi khác trước khi quá muộn.
