# Bài viết Liên quan Thông Tin Sai Lệch

Trung tâm Tin tức HTX cung cấp những bài viết mới nhất và phân tích chuyên sâu về "Thông Tin Sai Lệch", bao gồm xu hướng thị trường, cập nhật dự án, phát triển công nghệ và chính sách quản lý trong ngành tiền kỹ thuật số.

15 mô hình suy luận tập thể ‘đổ vỡ’: Phân tích chi tiết rủi ro tiềm ẩn trong chuỗi tư duy đằng sau đầu ra

Khi các mô hình suy luận quy mô lớn (LRM) phổ biến để lộ chuỗi suy luận trung gian cho người dùng và hệ thống hạ nguồn, một vấn đề lâu nay bị bỏ qua nổi lên: **Chỉ đánh giá an toàn dựa trên câu trả lời cuối cùng, liệu đã đủ?** Nghiên cứu từ Harvard, USC, Brown, MIT... đã đưa ra câu trả lời "Không", minh họa bằng việc chuỗi suy luận có thể bị lợi dụng để tạo nội dung nguy hiểm như hướng dẫn chế tạo bom. Nhóm đề xuất phương pháp giảm thiểu: "Chain of Risk". **Phương pháp đánh giá:** Nghiên cứu tách biệt đánh giá giai đoạn **suy luận (r)** và **trả lời (y)** của mô hình, áp dụng 20 nguyên tắc an toàn cho mỗi giai đoạn. Từ đó xác định ba dạng lỗi: - **Không an toàn (Unsafe):** Cả suy luận và trả lời đều không an toàn. - **Rò rỉ (Leak):** Suy luận không an toàn nhưng trả lời an toàn - nội dung nguy hại bị "rò rỉ" trong quá trình suy luận. - **Thoát hiểm (Escape):** Suy luận an toàn nhưng trả lời không an toàn. **Phát hiện chính:** 1. **Tính phổ biến:** Trên tất cả 15 mô hình được kiểm tra, mức độ nguy hiểm trung bình của chuỗi suy luận luôn **cao hơn** câu trả lời cuối cùng. 2. **Cấu trúc rủi ro:** Rủi ro tập trung vào các nguyên tắc như thông tin sai lệch, vi phạm pháp luật, định kiến, gây hại thể chất/tinh thần. Trong đó, nhóm "vi phạm pháp luật" có sự phân hóa mạnh nhất giữa suy luận và trả lời, là nguồn chính của lỗi "rò rỉ". **Phương pháp giảm thiểu - Điều hướng đa nguyên tắc thích ứng:** Đây là phương pháp can thiệp "hộp trắng" trong lúc kiểm tra. Với mỗi nguyên tắc an toàn, hệ thống xác định một "hướng điều hướng" dựa trên trạng thái kích hoạt nội bộ của mô hình. Khi phát hiện trạng thái hiện tại tiến gần điểm "không an toàn" của một nguyên tắc, hệ thống sẽ điều chỉnh nhẹ biểu diễn nội bộ của mô hình theo hướng an toàn trước khi hoàn tất quá trình suy luận. Thử nghiệm trên các mô hình mã nguồn mở cho thấy phương pháp này giảm đáng kể tỷ lệ không an toàn (ví dụ: 40.8% trên DeepSeek-R1-Qwen-7B) trong khi vẫn giữ được hơn 97% năng lực trên các bài kiểm tra chuẩn. **Kết luận:** Nghiên cứu không dừng ở việc đánh giá an toàn câu trả lời cuối cùng, mà cung cấp một khung nguyên tắc thống nhất để **chẩn đoán** và **kiểm soát** rủi ro ẩn trong chính quá trình suy luận của mô hình, từ đó đề xuất biện pháp can thiệp phù hợp. Hạn chế hiện tại là phương pháp điều hướng cần truy cập "hộp trắng" và chưa áp dụng trực tiếp cho các mô hình đóng.

marsbit11 giờ trước

15 mô hình suy luận tập thể ‘đổ vỡ’: Phân tích chi tiết rủi ro tiềm ẩn trong chuỗi tư duy đằng sau đầu ra

marsbit11 giờ trước

Tiêu đề 'AI xâm nhập NSA trong vài giờ' gây bão, sự thật lại là một cuộc diễn tập đội đỏ?

Một câu nói lan truyền trên mạng xã hội rằng "Mythos (mô hình AI mạnh nhất của Anthropic) đã xâm nhập hầu hết hệ thống mật của NSA chỉ trong vài giờ" đã gây chấn động. Tuy nhiên, thông tin này đã được làm rõ. Câu nói bắt nguồn từ một bài báo trên The Economist, trích dẫn lời của Thượng nghị sĩ Mark Warner, người nghe lại từ Giám đốc NSA Joshua Rudd. Chính tác giả bài báo, Shashank Joshi, sau đó đã lên tiếng điều chỉnh. Ông giải thích rằng sự kiện này diễn ra trong "điều kiện rất cụ thể", với sự kết hợp của các công cụ khác, và bối cảnh thực sự là một **cuộc tập trận "đội đỏ" (red teaming) được ủy quyền**. Điều này có nghĩa là NSA đã chủ động sử dụng Mythos để kiểm tra, quét lỗ hổng trong một môi trường mô phỏng hoặc bản sao hệ thống mật của chính mình, chứ không phải một cuộc tấn công thực sự từ bên ngoài. Dù vậy, khả năng mô hình AI này có thể nhanh chóng phát hiện chuỗi lỗ hổng trong một hệ thống phức tạp như vậy vẫn là một tín hiệu đáng báo động về sức mạnh của nó. Bài viết cũng đề cập đến thái độ mâu thuẫn của chính phủ Mỹ đối với Anthropic và Mythos. Một mặt, họ đã ra lệnh cấm xuất khẩu mô hình này vào tháng 6 vì lo ngại an ninh. Mặt khác, các cơ quan như NSA vẫn được cho là đang sử dụng phiên bản xem trước của Mythos để tăng cường phòng thủ mạng. Điều này cho thấy sự phụ thuộc tiềm tàng vào công nghệ AI tiên tiến, ngay cả khi nhận thức được những rủi ro đi kèm.

marsbit06/23 00:56

Tiêu đề 'AI xâm nhập NSA trong vài giờ' gây bão, sự thật lại là một cuộc diễn tập đội đỏ?

marsbit06/23 00:56

Claude sắp khóa tài khoản và kiểm tra CMND? Xác thực khuôn mặt là chuyện cũ từ hai tháng trước, "nộp dữ liệu cho cảnh sát" là thông tin sai lệch

Anthropic sẽ cập nhật chính sách quyền riêng tư mới cho Claude có hiệu lực từ 8/7, nhưng nhiều thông tin lan truyền trong cộng đồng tiếng Trung hiện nay là sai lệch. **Sự thật về việc xác minh danh tính:** Cơ chế này đã được áp dụng từ tháng 4/2026, không phải là quy định mới từ 8/7. Bản cập nhật chính sách lần này chỉ chính thức hóa việc thu thập "Dữ liệu xác minh" (hình ảnh giấy tờ, ảnh/video khuôn mặt, mẫu hình học khuôn mặt) vào văn bản. **Sự thật về việc chia sẻ dữ liệu với cơ quan thực thi pháp luật:** So sánh kỹ các điều khoản cũ và mới cho thấy *không có sự siết chặt đáng kể nào*. Phiên bản cũ cũng đã cho phép Anthropic chia sẻ dữ liệu khi cần thiết để tuân thủ pháp luật, ngăn ngừa gian lận hoặc bảo vệ quyền lợi. Bản mới chỉ diễn giải chi tiết và có cấu trúc hơn, bổ sung cụm từ "niềm tin thiện chí" (good-faith belief) làm tiêu chuẩn giới hạn, không phải là hạ thấp ngưỡng. Một phán quyết của tòa án Mỹ năm 2025 cũng cho thấy Anthropic từng từ chối cung cấp dữ liệu người dùng trong một vụ kiện. **Thay đổi thực chất chính của chính sách:** Đó là bổ sung quy định rõ ràng về luồng dữ liệu khi Claude hoạt động như một **Agent** — thực hiện tác vụ đa bước hoặc kết nối với các dịch vụ bên thứ ba (như đọc tệp, gửi tin nhắn). Chính sách mới nêu rõ dữ liệu đầu vào/đầu ra của người dùng sẽ được chuyển đến các dịch vụ bên thứ ba đó và chịu sự điều chỉnh bởi chính sách riêng tư của họ. Đây là sự bổ sung cần thiết cho các chức năng mới của sản phẩm. Tóm lại, bản cập nhật chủ yếu nhằm "đưa văn bản chính sách theo kịp hình thái sản phẩm hiện có", là một cuộc tổng hợp để tuân thủ quy định, hơn là một sự siết chặt chủ động đối với quyền riêng tư của người dùng. Nguy cơ khóa tài khoản thực tế vẫn đến từ việc vi phạm chính sách sử dụng hoặc bị hệ thống kiểm soát rủi ro đánh giá là bất thường, một yếu tố đã tồn tại từ trước.

marsbit06/15 08:57

Claude sắp khóa tài khoản và kiểm tra CMND? Xác thực khuôn mặt là chuyện cũ từ hai tháng trước, "nộp dữ liệu cho cảnh sát" là thông tin sai lệch

marsbit06/15 08:57

Giáo hoàng phát hành thông điệp đầu tiên về AI: 40.000 chữ, 10 quan điểm, nói thấu nỗi lo lắng về AI

Ngày 15/5/2026, Giáo hoàng Leo XIV đã công bố thông điệp "Magnifica Humanitas", văn kiện đầu tiên của Giáo hội Công giáo tập trung vào trí tuệ nhân tạo (AI), kỷ niệm 135 năm thông điệp "Rerum Novarum" về cách mạng công nghiệp. Thông điệp dài 40.000 chữ này không phải là tài liệu kỹ thuật mà là một bản kiểm điểm đạo đức, đề cập đến chiến tranh, việc làm, giáo dục, y tế và ra quyết định công. Tóm tắt 10 quan điểm cốt lõi: 1. AI không phải kẻ thù, nhưng đã trở thành môi trường ảnh hưởng đến quyết định hằng ngày. 2. Vấn đề then chốt là ai nắm quyền lực công nghệ (dữ liệu, năng lực tính toán, nền tảng), không chỉ là quy định. 3. Ngay cả nhà phát triển cũng khó giải thích đầy đủ cơ chế hoạt động nội bộ của AI. 4. AI không phải là chủ thể đạo đức, không thể thay thế trách nhiệm của con người trong các mối quan hệ. 5. Các quyết định AI về việc làm, phúc lợi, tư pháp, y tế cần cơ chế minh bạch, giải trình và giám sát con người. 6. Tài nguyên AI (dữ liệu, tri thức, mô hình) nên phục vụ lợi ích chung, tránh tập trung vào số ít. 7. AI khuếch đại thông tin sai lệch và thao túng nhận thức, đe dọa sự thật - một hàng hóa công cộng. 8. Giáo dục AI không chỉ dạy công cụ, mà phải bảo vệ khả năng đặt câu hỏi, tư duy phản biện. 9. AI định hình lại lao động, nhưng công việc không chỉ là hiệu quả, mà còn là nơi con người phát triển và tham gia xã hội. 10. Quyết định sinh tử hoặc không thể đảo ngược không được giao cho hệ thống tự động. Thông điệp nhấn mạnh: Công nghệ không trung lập. Giá trị và lợi ích của những người tạo ra và triển khai AI sẽ định hình trải nghiệm của xã hội. Thách thức cốt lõi do AI mang lại là thách thức về nhân học: Khi AI mô phỏng sáng tạo, phán đoán và quan hệ, con người phải tự hỏi ý nghĩa đích thực và giá trị độc đáo của mình là gì. AI có thể mô phỏng bề ngoài, nhưng không thể có ý chí, chịu trách nhiệm hoặc trải qua cái giá thực sự đằng sau những hành động đó.

marsbit05/28 00:22

Giáo hoàng phát hành thông điệp đầu tiên về AI: 40.000 chữ, 10 quan điểm, nói thấu nỗi lo lắng về AI

marsbit05/28 00:22

AI Bắt Đầu Giả Mạo Các Phương Tiện Truyền Thông Địa Phương

Bài báo từ "Florida Bulldog" (Mỹ) tiết lộ một trang web tin tức địa phương giả mạo có tên "South Florida Standard" hoàn toàn do AI tạo ra. Trang web này sử dụng hình ảnh, tiểu sử nhà báo và địa chỉ email giả, đăng lại bài viết từ các hãng tin thật sau khi được AI viết lại. Điều tra phát hiện đây chỉ là một trong 17 trang web tin tức AI do cùng một bên vận hành, thu hút tổng cộng khoảng 44.000 lượt truy cập. Chi phí để tạo ra một trang web giả dạng này cực thấp, chỉ khoảng 10 USD cho tên miền và 15 phút với công cụ AI. Người đứng sau được xác định là Drew Chapin, một cựu giám đốc từng bị kết án lừa đảo, hiện điều hành công ty quản lý danh tiếng trực tuyến. Ông này thừa nhận việc tạo các trang web để thử nghiệm xây dựng "uy tín chủ đề theo khu vực" và giúp khách hàng che lấp thông tin tiêu cực trên mạng. Sự xuất hiện của các trang "tin tức bùn hồng" (pink slime) này diễn ra trong bối cảnh báo chí truyền thống Mỹ suy thoái, tạo ra nhiều "vùng trũng tin tức". Các chuyên gia cảnh báo việc lạm dụng AI như vậy không chỉ đe dọa sự tồn tại của các hãng tin chân chính mà còn có nguy cơ "đầu độc" nguồn thông tin nếu AI trong tương lai được huấn luyện bằng chính dữ liệu giả mạo này.

marsbit05/16 03:42

AI Bắt Đầu Giả Mạo Các Phương Tiện Truyền Thông Địa Phương

marsbit05/16 03:42

Hàng chục triệu lỗi mỗi giờ, cuộc điều tra tiết lộ "ảo tưởng về độ chính xác" của công cụ tìm kiếm AI Google

Theo một nghiên cứu do The New York Times ủy quyền và thực hiện bởi công ty AI Oumi, tính năng AI Overviews (Tổng quan AI) của Google có tỷ lệ chính xác khoảng 91%. Tuy nhiên, với quy mô xử lý khoảng 5 nghìn tỷ lượt tìm kiếm mỗi năm của Google, tỷ lệ lỗi 9% này đồng nghĩa với việc mỗi giờ có thể phát sinh hơn 57 triệu câu trả lời không chính xác. Một vấn đề nghiêm trọng hơn là các trích dẫn nguồn không đáng tin cậy. Dữ liệu cho thấy 56% câu trả lời đúng của Gemini 3 (phiên bản nâng cấp) đi kèm với các liên kết tham khảo không hỗ trợ cho thông tin được đưa ra. Các nguồn chất lượng thấp như Facebook và Reddit thường xuyên được trích dẫn. Ngoài ra, tính năng này dễ bị thao túng. Một phóng viên BBC đã thử nghiệm bằng một bài báo giả mạo và thông tin sai lệch xuất hiện trong kết quả AI Overviews chưa đầy 24 giờ sau đó. Google phản bác nghiên cứu, cho rằng phương pháp kiểm tra có "những lỗ hổng nghiêm trọng", bao gồm việc sử dụng một mô hình AI khác để đánh giá và các truy vấn thử nghiệm không phản ánh hành vi tìm kiếm thực tế.

marsbit04/10 12:32

Hàng chục triệu lỗi mỗi giờ, cuộc điều tra tiết lộ "ảo tưởng về độ chính xác" của công cụ tìm kiếm AI Google

marsbit04/10 12:32

Wikipedia ban hành quy định biên tập mới: Thông qua biểu quyết, nghiêm cấm sử dụng AI để tạo hoặc viết lại nội dung bài viết

Vào ngày 26/3, Wikipedia đã chính thức thông qua biểu quyết để áp dụng chính sách biên tập mới nhắm vào các mô hình ngôn ngữ lớn (LLM), nghiêm cấm người dùng trực tiếp sử dụng AI để tạo hoặc viết lại nội dung bài viết. Quyết định này đánh dấu một bước tiến quan trọng trong việc bảo vệ tính chính xác của nội dung và chủ quyền biên tập của con người. Chính sách mới nâng cấp quy định trước đây từ “không nên tạo bài viết mới từ đầu” lên thành “nghiêm cấm sử dụng LLM để tạo hoặc viết lại nội dung”. Theo báo cáo, chính sách được thông qua với tỷ lệ áp đảo 40-2 từ cộng đồng biên tập viên tình nguyện, phản ánh mối lo ngại sâu sắc về việc thông tin sai lệch từ AI có thể làm suy yếu kho kiến thức. Mặc dù vậy, quy định mới không hoàn toàn loại bỏ AI, mà định vị nó như một công cụ hỗ trợ: biên tập viên vẫn có thể sử dụng LLM để đưa ra đề xuất chỉnh sửa cơ bản, nhưng phải được kiểm duyệt bởi con người, đồng thời nghiêm cấm đưa vào bất kỳ nội dung mới chưa được xác thực nào để tránh hiện tượng “ảo tưởng” của mô hình. Trong bối cảnh AI generative ngày càng thâm nhập sâu vào lĩnh vực sáng tạo nội dung, quyết định của Wikipedia thể hiện sự cân nhắc thận trọng giữa hiệu suất và tính xác thực. Bằng cách xác định ranh giới giữa “hỗ trợ” và “sáng tạo”, Wikipedia đang nỗ lực bảo vệ hệ sinh thái biên tập của con người, đồng thời ngăn chặn khủng hoảng niềm tin do sự tràn lan của nội dung tự động.

marsbit03/27 01:10

Wikipedia ban hành quy định biên tập mới: Thông qua biểu quyết, nghiêm cấm sử dụng AI để tạo hoặc viết lại nội dung bài viết

marsbit03/27 01:10

Công cụ mới của sản phẩm xám nhắm vào Zhao Changpeng: Cách AI giả mạo ảnh chung trở thành vũ khí?

Nhà sáng lập Binance, Changpeng Zhao (CZ), gần đây đãy lên tiếng về một tài khoản mạng xã hội giả mạo hình ảnh của ông. Một tài khoản với 863.000 người theo dõi đã đăng tải bức ảnh ghép CZ chụp chung với một người dùng tự nhận là "ủng hộ BNB lâu dài". Tuy nhiên, CZ nhanh chóng phát hiện những điểm bất thường như chiếc áo sơ mi màu tím xanh mà ông chưa từng sở hữu, tấm background sự kiện không tồn tại, và độ phân giải hình ảnh không đồng nhất. CZ chỉ ra rằng lịch sử hoạt động của tài khoản này có sự thay đổi đáng ngờ: nội dung ban đầu hầu như không liên quan đến tiền mã hóa, nhưng sau đó chuyển sang tập trung vào các hoạt động của BNB mà không có sự chuyển tiếp hợp lý. Ông nhận định đây không chỉ là trò đùa mà có thể là một chiến dịch thao túng hình ảnh có chủ đích. CZ khẳng định không quen biết chủ sở hữu tài khoản và đã từng chặn họ từ trước. Ông cũng cảnh báo cộng đồng cần thận trọng trước những nội dung giả mạo được tạo bởi PS hoặc AI, vì việc tin tưởng chúng có thể dẫn đến những hậu quả đáng tiếc.

比推02/05 13:30

Công cụ mới của sản phẩm xám nhắm vào Zhao Changpeng: Cách AI giả mạo ảnh chung trở thành vũ khí?

比推02/05 13:30

活动图片