Mặt trái của công nghệ ‘hồi sinh’ bằng AI

Bà của Yang ốm yếu nên không ai muốn báo tin rằng chú đã mất, sợ bà sốc. Với kinh nghiệm của một chuyên gia trong ngành Internet, Yang, 30 tuổi ở Nam Kinh đã chi 10.000 tệ để AI tạo ra người chú ảo.

Trong cuộc gọi, mẹ anh và người thân đã lánh mặt vì sợ không kìm nén được cảm xúc. Yang đề nghị bên dịch vụ nói chuyện ngắn gọn để tránh bị lộ.

Bà của Yang không nhận ra bất thường. “Vì tôi có hiểu biết nhất định về công nghệ AI nên có thể phát hiện. Nhưng nếu ai đó không biết gì về công nghệ đó họ dễ dàng chấp nhận”, anh nói.

Nhưng điều này đặt ra nhiều câu hỏi đạo đức về việc sử dụng AI để “hồi sinh” người đã khuất. Yang cho biết không có câu trả lời thỏa đáng. Là người trong ngành anh dễ dàng chấp nhận việc này, nhưng người ngoài cuộc và người già khó chấp nhận hơn.

Giáo sư báo chí và truyền thông Shen Yang, Đại học Thanh Hoa cho biết, sự đồng hành của AI có thể giúp duy trì sự ổn định cho cuộc sống của gia đình. “Nếu tạo ra một phiên bản AI của người đã chết, người thân của họ có thể vẫn nghĩ họ còn sống và cảm thấy vẫn có người đồng hành trong đời”, Shen nói.

Nhưng giáo sư cũng cảnh báo về các vấn đề đạo đức tiềm ẩn, ví dụ những người trước khi chết có sẵn sàng chấp nhận một phiên bản AI về họ được tồn tại không. “Mọi người nên nói rõ mong muốn của mình trước khi chết. Trong tương lai, chúng ta có thể cần phải làm rõ những vấn đề này trong luật dân sự”, giáo sư Shen nói.

Người bạn Yang thuê là Zhang Zewei, nhà sáng lập của Super Brain, một công ty sáng tạo nội dung AI. Zhang cho biết đã đi từ việc dạy các khóa học về AI đến bắt đầu kinh doanh “hồi sinh” AI.

Theo Zhang, ban đầu không có ý định kiếm lợi từ việc này, anh làm miễn phí cho cả chục người đầu tiên tìm đến mình. nhưng không ngờ chỉ sau gần một năm nó thành công rực rỡ. Hiện anh tính phí từ vài nghìn đến hàng chục nghìn tệ mỗi trường hợp. Tỷ suất lợi nhuận khoảng 50-60%.

Zhang sàng lọc các yêu cầu của khách hàng để đánh giá tính xác thực về nhu cầu của họ và chỉ chấp nhận chưa đến một nửa số đơn đặt hàng. Tính đến giữa tháng 3/2024, studio của Zhang đã nhận được gần một nghìn yêu cầu, doanh thu hàng triệu tệ.

Studio của Zhang là nơi đầu tiên thành lập doanh nghiệp “hồi sinh” những người đã chết bằng AI ở Trung Quốc và vẫn là doanh nghiệp lớn nhất cho đến nay. Trong số các khách hàng của Zhang, những trường hợp như của Yang là điển hình, tức những tình huống mà một người nào đó trong gia đình đã chết hoặc bị cầm tù, và cần phải che giấu điều đó với các thành viên già và trẻ trong nhà.

Ngoài dịch vụ cuộc gọi video AI, Zhang còn cung cấp trò chơi nhập vai với người đã khuất nhằm chữa lành những tổn thương tâm lý. Năm ngoái, Zhang nhận được yêu cầu từ một người phụ nữ muốn nói lời từ biệt cuối cùng với bạn trai, người đã đột ngột qua đời hai năm trước đó.

“Chúng tôi đã ăn tối cùng nhau chỉ hai ngày trước khi anh ấy đột ngột qua đời. Đã hai năm trôi qua nhưng tôi vẫn không thể bước tiếp”, cô gái nói. “Tôi đã thử trị liệu và thậm chí còn làm một số việc cực đoan. Cuộc sống mà chúng tôi cùng nhau lên kế hoạch đột ngột và hoàn toàn tan vỡ. Tôi muốn có một cuộc đối thoại với anh ấy để nói lời tạm biệt một cách đúng đắn. Có lẽ sau đó tôi có thể bắt đầu lại cuộc sống của mình”.

Khi cuộc gọi video bắt đầu, người phụ nữ nhìn thấy khuôn mặt của bạn trai mình đã không cầm được nước mắt.

Hiện tại, câu lạc bộ người hâm mộ ca sĩ quá cố Hong Kong Leslie Cheung và Coco Lee đang thảo luận với Zhang để tạo hình đại diện kỹ thuật số cho thần tượng của họ và anh đang trong quá trình xin phép.

Đối với những dịch vụ liên quan đến tương tác tâm lý sâu sắc, ngoài việc sử dụng công nghệ AI để bắt chước ngoại hình và giọng nói của mọi người, Zhang còn thuê các nhà tâm lý học đóng vai người đã khuất. Không giống như bà của Yang, khách hàng sử dụng dịch vụ này hiểu rằng người trên màn hình không có thật. Về cơ bản, nó trở thành một trò chơi nhập vai có tác dụng trị liệu.

Nhận thức được những lo ngại tiềm ẩn về mặt đạo đức từ dịch vụ của mình, Zhang ký thỏa thuận trước với khách hàng để bảo vệ quyền riêng tư của họ và quy định rằng hình đại diện AI kỹ thuật số không được phép sử dụng cho bất kỳ mục đích bất hợp pháp hoặc không phù hợp nào. Nếu khách hàng muốn “hồi sinh” một người đã chết, họ phải cung cấp bằng chứng về mối quan hệ này.

Ban đầu Zhang có cảm giác phức tạp khi cung cấp các dịch vụ như vậy. Anh nói bản thân hầu như không trải qua nhiều đau khổ, nhưng đột nhiên phải trải qua đau đớn của hàng trăm khách hàng. “Nó có tác động lớn đến tôi. Tôi thường ám ảnh hoàn cảnh của họ mỗi đêm nằm xuống”, anh kể. Qua thời gian, giờ cảm xúc của anh “trở nên tê liệt”.

Giáo sư Shen cũng cảnh báo rằng ý định tốt không phải lúc nào cũng dẫn đến kết quả tốt. Mặc dù việc sử dụng AI như vậy nhằm mục đích hỗ trợ tâm lý, việc mô phỏng AI về những người thân yêu không thể hoàn toàn thay thế cho người thật. Dịch vụ này có thể khiến một số khách hàng ảo tưởng và nghĩ rằng họ có thể thực sự giao tiếp với những người thân yêu đã khuất của mình, điều này có thể dẫn đến chấn thương và sự phụ thuộc hoặc cản trở quá trình hồi phục tự nhiên.

“Những tác động lâu dài của những dịch vụ như vậy phải được xem xét, bao gồm cả khả năng phát triển những gắn bó không lành mạnh với người đã khuất”, giáo sư Shen nói.

Bảo Nhiên (Theo Sixthtone)