OpenAI 10 tháng 30 đã công bố tăng cường các biện pháp phòng ngừa bạo lực cho ChatGPT: hạn chế thêm thông tin thực tế về vũ khí và hệ thống an ninh đối với người dùng chưa thành niên, ngay cả khi câu hỏi có vẻ vô hại; siết chặt việc nhắc lại chi tiết các vụ tấn công hàng loạt trong quá khứ (loại vũ khí sử dụng, cách thức có được, so sánh quy mô thương vong) đối với tất cả người dùng; khi cuộc hội thoại cho thấy ai đó ám ảnh với bạo lực hoặc gây hại cho người khác, ChatGPT sẽ có thể tự động kết thúc cuộc hội thoại, các tài khoản bị kết thúc nhiều lần có thể bị tạm ngưng. OpenAI cũng cam kết công bố “Báo cáo An toàn Cộng đồng” được cập nhật mỗi sáu tháng một lần.
Độ tin cậy: Cao (85) · Thời điểm sự kiện 2026-10-30
Lý do
- Theo tường thuật của Unite.AI: Báo cáo đầu tiên dự kiến được công bố vào đầu năm 2027, bao quát nửa cuối năm 2026, nội dung gồm cách các mô hình phát hiện và xử lý các rủi ro liên quan đến bạo lực, các trường hợp ẩn danh, các biện pháp bảo vệ mới và dữ liệu; OpenAI cho biết đã chuyển 200 vụ việc cho các cơ quan thực thi pháp luật trong quý ba.
- Việc xác định độ tuổi cũng được tăng cường: hệ thống sẽ liên tục đánh giá các tín hiệu hành vi trong quá trình sử dụng, nếu xác định người dùng dưới 18 tuổi sẽ chuyển sang chế độ thanh thiếu niên, người trưởng thành bị xác định nhầm có thể xác minh độ tuổi thông qua đối tác Persona để gỡ bỏ hạn chế; kiểm soát của phụ huynh sẽ bổ sung thông báo “tài khoản thanh thiếu niên bị tạm ngưng do liên tục thảo luận về bạo lực”.
- OpenAI cho biết các biện pháp mới sẽ được triển khai dần trong vài tuần tới.
Cách sử dụng
- Phụ huynh có thể liên kết tài khoản của con trong ChatGPT để nhận các cảnh báo an toàn; người dùng trưởng thành bị xác định nhầm là chưa thành niên có thể thực hiện xác minh độ tuổi qua Persona. Người dùng thông thường không cần thao tác gì.
Rủi ro
- Yêu cầu truy cập bài gốc của OpenAI bị từ chối (403), chỉ đọc được tóm tắt từ RSS; các chi tiết và số liệu đến từ tường thuật của Unite.AI, bài viết này được ghi là do AI tạo ra, đã qua biên tập và kiểm duyệt, nhưng không đối chiếu với bài gốc.
- Tiêu chí kích hoạt “tự động kết thúc hội thoại” và “tạm ngưng tài khoản” không được công khai, có thể ảnh hưởng nhầm đến những người dùng bình thường đang thảo luận về tin tức, lịch sử hoặc viết lách.