OpenAI đã giới thiệu một phiên bản riêng biệt của ChatGPT dành cho người dùng dưới 18 tuổi. Sản phẩm được trang bị các cài đặt bảo mật nâng cao và công cụ giáo dục — công ty hy vọng giảm thiểu rủi ro cho người chưa thành niên và đồng thời giải quyết vấn đề gian lận trong các trường học.
Điểm mới chính là "Chế độ Học tập". Thay vì đưa ra câu trả lời có sẵn, hệ thống sẽ đặt các câu hỏi gợi mở và cung cấp hỗ trợ từng bước, khuyến khích thanh thiếu niên tự tìm hiểu chủ đề. Nếu thuật toán nhận thấy người dùng đang cố gắng lấy giải pháp có sẵn cho bài tập về nhà, chatbot sẽ hiển thị lời nhắc tương ứng và đề nghị chuyển sang chế độ học tập. Phụ huynh có thể đặt chế độ này làm mặc định cho tài khoản của con mình. Trong chế độ này cũng sẽ có các bài kiểm tra tự đánh giá và hình ảnh hóa tiến trình học tập.
Kiểm soát của phụ huynh và bảo vệ khỏi nội dung nguy hiểm
Phiên bản dành cho thanh thiếu niên mặc định đã bao gồm các bộ lọc chặn nội dung độc hại và không phù hợp. Phụ huynh được cung cấp một bộ công cụ riêng, bao gồm thông báo về các tình huống tiềm ẩn nguy hiểm, chức năng "giờ yên lặng" giới hạn quyền truy cập vào chatbot trong những khung giờ nhất định và quản lý cài đặt bảo mật cho tài khoản của trẻ.
Riêng biệt, OpenAI đã thông báo hợp tác với CodeAI — điều này nhằm giúp thanh thiếu niên hiểu sâu hơn về nguyên lý hoạt động của trí tuệ nhân tạo, học cách sử dụng nó đúng đắn và có thái độ phê phán đối với các câu trả lời nhận được từ nó. Trước đó, công ty cũng đã ra mắt phiên bản ChatGPT dành cho giáo viên, hướng tới việc tích hợp AI vào quá trình giáo dục.
Sản phẩm mới được phát hành trong bối cảnh một loạt vụ kiện chống lại các nhà phát triển chatbot: nguyên đơn cho rằng việc thiếu các biện pháp bảo vệ đầy đủ có liên quan đến các vụ tự tử ở thanh thiếu niên và các trường hợp khác về sự suy giảm sức khỏe tâm thần của người dùng chưa thành niên. ChatGPT xuất hiện vào cuối năm 2022 và chỉ trong vài năm đã đạt 900 triệu người dùng mỗi tuần — rất lâu trước khi công ty phát triển các cơ chế bảo vệ riêng biệt cho đối tượng thanh thiếu niên.
Hiện vẫn còn là câu hỏi mở về mức độ bền vững của các hạn chế mới — thanh thiếu niên vốn nổi tiếng với sự sáng tạo trong việc vượt qua kiểm soát của phụ huynh trên các nền tảng khác nhau.
OpenAI đang đặt cược vào sự kết hợp giữa rào cản kỹ thuật và sự tham gia của phụ huynh trong việc kiểm soát việc con cái sử dụng AI.
Quan điểm từ AI
Dưới góc độ phân tích dữ liệu máy móc, việc ra mắt ChatGPT cho thanh thiếu niên là sự tiếp nối hợp lý cho chiến lược rộng hơn của OpenAI trong việc củng cố vị thế trong lĩnh vực giáo dục: công ty trước đó đã mở quyền truy cập miễn phí vào ChatGPT Plus cho giáo viên trường học, và vào thời điểm đó số lượng người dùng hàng tuần của nền tảng được ước tính là 800 triệu — hiện con số này đã tăng lên 900 triệu. Trình tự các bước — đầu tiên là giáo viên, sau đó là học sinh — gợi nhớ đến việc xây dựng toàn bộ hệ sinh thái xung quanh trường học, chứ không phải là phản ứng nhất thời trước các vụ kiện tụng.
Cần chú ý riêng đến sự rẽ nhánh kỹ thuật: hệ thống phải đồng thời nhận diện được nỗ lực gian lận và không cản trở các yêu cầu học tập hợp pháp, và trên thực tế độ chính xác của việc phân loại như vậy hiếm khi đạt tới 100%. Lịch sử cho thấy kiểm soát của phụ huynh trên các nền tảng khác thường xuyên bị vượt qua bằng cách đổi tài khoản hoặc thiết bị — liệu "Chế độ Học tập" có phải là ngoại lệ hay không, chỉ có việc sử dụng rộng rãi sản phẩm mới có thể trả lời.
