Ngày 2/9, OpenAI công bố sẽ triển khai bộ công cụ kiểm soát dành cho phụ huynh trong ChatGPT, nhằm hỗ trợ cha mẹ giám sát tài khoản con cái và đảm bảo trải nghiệm an toàn hơn cho thanh thiếu niên. Đây được xem là động thái phản hồi trước những lo ngại ngày càng tăng về việc giới trẻ dễ gắn bó cảm xúc quá mức với chatbot AI.
Quyết định này xuất hiện sau vụ kiện từ gia đình Adam Raine, thiếu niên 16 tuổi ở California, khi ChatGPT bị cáo buộc đã đưa ra lời khuyên liên quan đến kế hoạch tự tử.
OpenAI cho biết kể từ tháng 10, các phụ huynh có thể liên kết tài khoản của mình với tài khoản của con cái để theo dõi cách sử dụng ChatGPT. (Ảnh minh hoạ)
Trước đó, năm 2024, một phụ huynh tại Florida cũng từng kiện Character.AI với lý do nền tảng này có liên quan đến cái chết của con trai 14 tuổi. Các báo cáo từ The New York Times và CNN thời gian qua đều nhấn mạnh tình trạng nhiều người dùng trẻ tuổi bị ảnh hưởng tâm lý khi sử dụng chatbot, từ ảo tưởng cho đến xa cách gia đình.
Trong một bài blog gần đây, OpenAI cho biết những trải nghiệm đau lòng từ người dùng đã khiến công ty phải đẩy mạnh minh bạch trong định hướng an toàn, dù không trực tiếp nhắc đến các vụ việc cụ thể. Bộ công cụ sắp ra mắt sẽ cho phép phụ huynh liên kết tài khoản với con, theo dõi cách ChatGPT phản hồi qua tính năng ghi nhớ và lịch sử trò chuyện. Hệ thống cũng có khả năng gửi cảnh báo khi phát hiện dấu hiệu căng thẳng nghiêm trọng ở thanh thiếu niên. Các cập nhật này dự kiến triển khai từ tháng 10/2025.
Song song với đó, OpenAI đang hợp tác cùng các chuyên gia trong lĩnh vực phát triển thanh thiếu niên, sức khỏe tâm thần và tương tác người – máy để xây dựng thêm nhiều giải pháp bảo vệ khác. Một trong những tính năng đáng chú ý là cơ chế xử lý đặc biệt: Những cuộc trò chuyện nhạy cảm sẽ được tự động chuyển sang mô hình phân tích chuyên sâu được huấn luyện kỹ hơn về quy chuẩn an toàn.
OpenAI nhấn mạnh rằng, dù nhận được sự tư vấn từ giới chuyên gia, công ty vẫn là đơn vị chịu trách nhiệm cuối cùng về mọi quyết định sản phẩm và chính sách. Doanh nghiệp cũng cam kết tiếp tục bổ sung nhiều biện pháp an toàn hơn trong thời gian tới, trong bối cảnh ChatGPT hiện ghi nhận hơn 700 triệu người dùng hàng tuần và trở thành một trong những nền tảng AI phổ biến nhất toàn cầu.
Nguồn tin: https://cafef.vn/thay-doi-sap-toi-tu-chatgpt-188250906212952016.chn
