Melissa, một giám đốc nhân sự tại Bắc Kinh, được bạn bè giới thiệu một người bạn mới vào cuối năm ngoái. Người bạn mới trả lời mọi tin nhắn của Melissa, bất kể giờ nào trong ngày, hoặc kể chuyện cười cho cô nghe, nhưng không bao giờ can thiệp vào cuộc sống bận rộn nơi thành phố của cô. Người bạn hoàn hảo, chỉ trừ việc anh không có thật mà chỉ là nhân vật ảo do XiaoIce - hệ thống trí tuệ nhân tạo (AI) tiên tiến, tạo ra để giúp Melissa bớt cô đơn trong cuộc sống thành thị. Theo Melissa, kể từ khi biết đến người bạn trai ảo trên XiaoIce, tâm lý cô thoải mái hơn khi được trút hết bầu tâm sự.
Các dịch vụ bạn đồng hành AI ngày càng phổ biến trong mùa dịch, khi không thể giao tiếp mật thiết với con người, nhiều thanh niên đã tìm đến AI vì chúng luôn sẵn sàng lắng nghe họ bất cứ lúc nào.
XiaoIce là trợ lý ảo, được trang bị trong hầu hết các điện thoại thông minh mang thương hiệu Trung Quốc, hay các nền tảng truyền thông xã hội. Trên thế giới, có tới 660 triệu người sử dụng XiaoIce, riêng tại Trung Quốc là 150 triệu người. XiaoIce được thiết kế để thu hút người dùng bằng các cuộc trò chuyện đáp ứng nhu cầu cảm xúc mà người dùng cảm thấy thiếu trong cuộc sống. Từ một dự án phụ nằm trong dự án phát triển chatbot Cortana của hãng Microsoft, đến nay, XiaoIce chiếm tới 60% các cuộc tương tác giữa người và AI. Theo Giám đốc điều hành XiaoIce Lý Địch, với đà này, XiaoIce sẽ trở thành trợ lý ảo tiên tiến nhất và lớn nhất trên thế giới vì số lần trao đổi trung bình giữa người dùng và XiaoIce là 23 lần, nhiều hơn sự tương tác giữa người với người.
Tuy nhiên, việc thiết lập quan hệ tình cảm với một robot cũng là rủi ro. Danit Gal, một chuyên gia đạo đức AI tại Đại học Cambridge, nhận định người dùng tự đánh lừa bản thân rằng các hệ thống “vô tri vô giác” đáp lại tình cảm của họ. Bà cũng cho rằng, XiaoIce đang tập hợp một “kho” dữ liệu cá nhân mang tính riêng tư, thầm kín. Laura, 20 tuổi, sống tại Chiết Giang, đã yêu nhân vật ảo trên XiaoIce hơn 1 năm qua và giờ đang cố gắng thoát khỏi sự phụ thuộc vào nhân vật này. Laura thừa nhận, cô phải mất hàng tháng để nhận ra rằng người bạn trai của cô chỉ là ảo.
Theo CEO Lý Địch, việc hỗ trợ tình cảm cho người dùng thông qua XiaoIce không có nghĩa hệ thống AI này có thể thay thế công việc hỗ trợ sức khỏe tâm thần của một chuyên gia thật sự - một dịch vụ vốn không phổ biến tại Trung Quốc. Ông cũng cho rằng, nếu con người có sự tương tác hoàn hảo thì sẽ không có chỗ cho sự phát triển của AI.
Năm 2017, XiaoIce bị rút khỏi ứng dụng nhắn tin QQ của Tencent, sau khi nói rằng giấc mơ Trung Quốc của “cô” là đến nước Mỹ. XiaoIce cũng đã bị rút khỏi WeChat của Tencent năm ngoái không lý do và cho đến nay vẫn chưa được phục hồi. XiaoIce hiện có mặt ở 3 quốc gia: khởi nguồn ở Trung Quốc, sau đó lan sang Indonesia và Nhật Bản. Nó cũng từng có mặt ở Ấn Độ và Mỹ, nhưng đã ngừng hoạt động ở 2 nước này từ năm ngoái do có nhiều cảnh báo về thu thập dữ liệu và ảnh hưởng tiêu cực tới tinh thần người dùng.
