# Bài viết Liên quan Khái quát hóa

Trung tâm Tin tức HTX cung cấp những bài viết mới nhất và phân tích chuyên sâu về "Khái quát hóa", bao gồm xu hướng thị trường, cập nhật dự án, phát triển công nghệ và chính sách quản lý trong ngành tiền kỹ thuật số.

Mô hình lớn quét sạch mọi kỳ thi, nhưng lại càng xa rời AGI hơn: Bài báo này đã vạch trần điều gì?

Nếu ai đó nói rằng AGI (Trí tuệ nhân tạo phổ quát) đã đạt được, làm sao để phân biệt thật hư? Ngành công nghiệp AI đang chạy đua hướng tới một mục tiêu không có đường kết thúc rõ ràng. Một bài báo gần đây của nhà nghiên cứu Michael Timothy Bennett đã đề xuất một thước đo mới cho AGI: không phải là khả năng bắt chước con người, mà là khả năng thích ứng và khám phá tri thức mới như một "nhà khoa học nhân tạo". Bài báo chỉ ra rằng các bài kiểm tra chuẩn cũ như bài kiểm tra Turing đã bị các mô hình lớn (large models) vượt qua, nhưng chúng ta lại càng xa rời trí thông minh phổ quát thực sự. Các mô hình hiện tại chủ yếu dựa vào "Scale-maxing" - tối đa hóa quy mô dữ liệu và tham số, lưu trữ các câu trả lời gần đúng trong trọng số mạng. Chúng thiếu khả năng chủ động thử nghiệm, hiểu biết nhân quả và cân bằng giữa khám phá (exploration) và khai thác (exploitation) trong điều kiện tài nguyên hạn chế (như năng lượng). Một AGI thực sự, theo định nghĩa mới này, cần có ba đặc điểm cốt lõi: (1) Chủ động thử nghiệm để thu thập thông tin, thay vì thụ động học từ dữ liệu có sẵn. (2) Hiểu được quan hệ nhân quả, không chỉ là tương quan. (3) Biết cách phân bổ tài nguyên tính toán một cách khôn ngoan để cân bằng giữa việc tìm kiếm thông tin mới và sử dụng kiến thức đã biết. Điều này đòi hỏi một sự chuyển dịch mô hình trong ngành AI. Tiêu chí đánh giá sẽ chuyển từ bảng xếp hạng điểm số sang các "điểm chuẩn thích ứng", nơi AI được đặt vào môi trường hoàn toàn mới để kiểm tra khả năng khám phá quy luật. Lộ trình kỹ thuật cũng cần kết hợp nhiều phương pháp (Scale-maxing, Simp-maxing, W-maxing) thay vì chỉ phụ thuộc vào một luật duy nhất. Tóm lại, bài báo nhấn mạnh rằng con đường đến AGI không phải là sự lặp lại tuyến tính của các mô hình lớn, mà là một sự thiết lập lại lộ trình, hướng tới việc xây dựng những hệ thống có tinh thần của một nhà khoa học: biết đặt câu hỏi "tại sao" và chủ động tìm kiếm câu trả lời.

marsbit05/28 00:26

Mô hình lớn quét sạch mọi kỳ thi, nhưng lại càng xa rời AGI hơn: Bài báo này đã vạch trần điều gì?

marsbit05/28 00:26

Anthropic dạy mô hình hiểu đạo đức, đồng thời mở ra con đường chưng cất mới của bạn

Anthropic đã công bố nghiên cứu "Teaching Claude Why" vào ngày 8/5, giới thiệu một phương pháp huấn luyện mới hiệu quả cho việc căn chỉnh đạo đức AI, khác biệt so với các phương pháp RLHF truyền thống. Thay vì sử dụng hình phạt hoặc dữ liệu khổng lồ, nghiên cứu chỉ cần 3 triệu token dữ liệu SFT (Supervised Fine-Tuning) chứa các cuộc thảo luận đạo đức, lý lẽ chi tiết và tranh luận sâu sắc. Phương pháp này dựa trên "Hiến pháp AI" của Anthropic, bao gồm các nguyên tắc cấp cao (ưu tiên an toàn), các nguyên tắc hướng dẫn thực tế (như bài kiểm tra 1000 người dùng), và một khuôn khổ xem xét 8 yếu tố để đánh giá tác động. Mô hình được huấn luyện với các chuỗi suy nghĩ dạng "tư duy phản biện" (CoT), trong đó nó mô phỏng quá trình cân nhắc, đánh giá đa chiều trước khi đưa ra quyết định, thay vì chỉ đưa ra câu trả lời cuối cùng. Kết quả cho thấy phương pháp này không chỉ giảm đáng kể tỷ lệ sai lệch hành vi (từ 22% xuống 3%) mà còn có khả năng tổng quát hóa mạnh mẽ sang các tình huống chưa từng gặp. Điều này chứng minh rằng, khi dữ liệu huấn luyện SFT có đủ tính đa dạng về ngữ cảnh và chứa các bước lập luận trung gian (CoT), nó có thể giúp mô hình học được các nguyên tắc cơ bản chứ không chỉ ghi nhớ câu trả lời mẫu. Bài viết cho rằng phương pháp này có thể mở ra một hướng đi mới để "chưng cất" tri thức chuyên gia vào AI cho các lĩnh vực không có đáp án rõ ràng (phi RLVR), như tư vấn tâm lý, phân tích chiến lược hay biên tập văn học, bằng cách cung cấp cho mô hình một khuôn khổ nguyên tắc vững chắc và các ví dụ đa dạng về quá trình ra quyết định phức tạp.

marsbit05/15 11:01

Anthropic dạy mô hình hiểu đạo đức, đồng thời mở ra con đường chưng cất mới của bạn

marsbit05/15 11:01

活动图片

Danh mục Phổ biếnright-arrow

Thẻ Nổi bậtright-arrow

Cập nhật Dự án

Chính sách Quản lý