# Bài viết Liên quan LLM

Trung tâm Tin tức HTX cung cấp những bài viết mới nhất và phân tích chuyên sâu về "LLM", bao gồm xu hướng thị trường, cập nhật dự án, phát triển công nghệ và chính sách quản lý trong ngành tiền kỹ thuật số.

Mất hai huyền thoại trong ba ngày: Con đập nhân tài AI của Google đang vỡ?

Chỉ trong ba ngày, Google đã chứng kiến hai huyền thoại AI rời đi: Noam Shazeer (đồng tác giả Transformer, lãnh đạo Gemini) gia nhập OpenAI, và John Jumper (người đoạt giải Nobel Hóa học 2024, lãnh đạo AlphaFold) chuyển sang Anthropic. Đây không phải là trường hợp cá biệt mà là một xu hướng rõ ràng, bổ sung cho việc cựu thành viên sáng lập OpenAI Andrej Karpathy gia nhập Anthropic trước đó. Các tài năng AI hàng đầu đang tập trung ngày càng nhiều vào OpenAI và Anthropic, khiến Google trở thành nguồn cung cấp chính trong cuộc tái cấu trúc nhân tài này. Sự dịch chuyển này bắt nguồn từ sự khác biệt cốt lõi về sứ mệnh. Google, với doanh thu chính phụ thuộc vào quảng cáo, thường đặt các dự án AI trong khuôn khổ phục vụ mục tiêu sản phẩm và lợi nhuận. Ngược lại, OpenAI (với sứ mệnh AGI) và Anthropic (tập trung vào AI an toàn) cho phép các nhà nghiên cứu tập trung hoàn toàn vào việc đẩy xa giới hạn năng lực mô hình. Ngoài ra, cơ hội thu lợi nhuận lớn từ cổ phiếu trước thềm IPO của hai công ty này là động lực hấp dẫn mà Google - một gã khổng lồ trưởng thành - khó có thể sánh được. Việc sáp nhập Google Brain và DeepMind vào năm 2023 cũng tạo ra những lực ly tâm mới, làm xói mòn văn hóa nghiên cứu dài hạn dưới áp lực phải phù hợp với lộ trình sản phẩm. Sự ra đi của các nhân vật then chốt như Jumper và Shazeer phản ánh điều này. Cuộc khủng hoảng nhân tài này mang tính cấu trúc. Google có thể sở hữu cơ sở hạ tầng máy tính khổng lồ và kho dữ liệu đồ sộ, nhưng việc thiếu những bộ óc xuất sắc nhất để khai thác chúng khiến lợi thế đó trở nên vô nghĩa. Trong khi OpenAI và Anthropic củng cố vị thế với đội ngũ tinh nhuệ ngày càng mạnh, Google đang mất dần hào quang là trung tâm hấp dẫn nhân tài AI toàn cầu. Trong cuộc đua mà mật độ tài năng quyết định năng lực mô hình và thị phần, đây là một thách thức tồn vong thầm lặng nhưng nghiêm trọng của Google.

marsbit06/20 04:05

Mất hai huyền thoại trong ba ngày: Con đập nhân tài AI của Google đang vỡ?

marsbit06/20 04:05

Phía sau bảng điểm AI, ẩn giấu một 'người ra đề' gốc Hoa

Mỗi khi một mô hình AI tiên tiến ra mắt, giới công nghệ lại dõi theo những “bảng điểm” quen thuộc như MMLU-Pro, MMMU hay MMMU-Pro. Đây là các tiêu chuẩn đánh giá quan trọng giúp so sánh năng lực của các mô hình lớn như GPT, Claude hay Gemini. Tuy nhiên, ít người biết rằng đằng sau những bộ đề thi này là một nhà nghiên cứu người Hoa: Chen Wenhu (Trần Văn Hổ), trợ lý giáo sư tại Đại học Waterloo, Canada. Ông cùng phòng thí nghiệm TIGERLab (còn gọi là Hổ Đầu Bang) đã tạo ra MMLU-Pro vào năm 2024 để giải quyết vấn đề “mất chuẩn” của bộ đánh giá MMLU cũ, khi nhiều mô hình tiên tiến đạt điểm gần tuyệt đối, khó phân biệt được sự khác biệt thực sự. MMLU-Pro với hơn 12.000 câu hỏi, mở rộng lựa chọn và tăng cường các câu đòi hỏi suy luận, đã giúp kéo giãn khoảng cách điểm số và đánh giá ổn định hơn. Trước đó, nhóm của Chen Wenhu cũng phát triển MMMU - bộ đánh giá đa phương thức (multimodal) yêu cầu mô hình kết hợp hiểu biết hình ảnh, biểu đồ với kiến thức chuyên môn để trả lời câu hỏi. Ngay cả các mô hình mạnh nhất thời điểm đó như GPT-4V cũng chỉ đạt độ chính xác khoảng 56%. Phiên bản MMMU-Pro sau này được thiết kế để đảm bảo mô hình không thể “bỏ qua” thông tin hình ảnh mà chỉ dựa vào văn bản để đoán đáp án. Nghiên cứu của Chen Wenhu tập trung vào việc hiểu thông tin phức tạp, hỏi đáp tri thức và suy luận. Ông từng làm việc tại Google Research và DeepMind, tham gia vào dự án Gemini, trước khi gia nhập Đại học Waterloo và thành lập TIGERLab. Phòng thí nghiệm không chỉ tạo ra các bộ đánh giá mà còn nghiên cứu phát triển mô hình, chẳng hạn trong lĩnh vực xử lý video. Hiện tại, Chen Wenhu làm việc tại Phòng thí nghiệm Siêu trí tuệ (Super Intelligent Lab) của Meta, tiếp tục tập trung vào dữ liệu huấn luyện và đánh giá đa phương thức. Công việc của ông và nhiều nhà nghiên cứu người Hoa khác đang đóng góp quan trọng vào sự phát triển chung của ngành AI, dù có thể không nằm dưới ánh đèn sân khấu.

marsbit06/20 03:53

Phía sau bảng điểm AI, ẩn giấu một 'người ra đề' gốc Hoa

marsbit06/20 03:53

Cursor 1.5T mô hình mới từ bỏ nền tảng Kimi, đổi 600 tỷ USD cổ phiếu lấy Cursor, đòn đầu tiên của Musk chém vào Microsoft GitHub

Hôm nay, tại hội nghị Compile, Cursor đã công bố mô hình mới 1.5T tham số, không còn dựa trên nền tảng Kimi mà được đào tạo từ đầu với hơn 100.000 GPU. Động thái này diễn ra ngay sau thông tin SpaceX thực hiện quyền mua lại Cursor với giá 60 tỷ USD bằng cổ phiếu, dự kiến hoàn tất vào Q3/2026. Giám đốc điều hành Michael Truell nhấn mạnh việc tiếp cận nguồn lực tính toán gấp 10-20 lần sẽ cho phép họ tạo ra sự khác biệt và phát triển một mô hình thông minh tổng quát, không chỉ giỏi viết mã. Cursor cũng giới thiệu Origin, một nền tảng Git nguyên bản dành cho tác nhân AI, được thiết kế để xử lý khối lượng công việc lớn từ các AI, bao gồm cả cơ chế giải quyết xung đột tự động. Điều này đánh dấu bước tiến của Cursor từ một IDE tích hợp AI trở thành một "nhà máy phần mềm AI" toàn diện. Việc được SpaceX mua lại mang đến cho Cursor nguồn lực tính toán khổng lồ, trong khi SpaceX có được công cụ thu hút khách hàng doanh nghiệp. Sự kết hợp này hứa hẹn thách thức các gã khổng lồ như GitHub và cạnh tranh trong cuộc đua AI.

marsbit06/17 10:31

Cursor 1.5T mô hình mới từ bỏ nền tảng Kimi, đổi 600 tỷ USD cổ phiếu lấy Cursor, đòn đầu tiên của Musk chém vào Microsoft GitHub

marsbit06/17 10:31

Cuộc Chơi Quyền Lực của AI Tiên Phong và Tranh Luận về Phi Tập Trung: Nhìn về Tương Lai của DeAI từ Cuộc Phong Tỏa Fable 5

**Tóm tắt: Cuộc Khủng Hoảng Fable 5 và Tương Lai của AI Phi Tập Trung (DeAI)** Sự kiện Anthropic ra mắt rồi ngừng cung cấp mô hình AI Claude Fable 5 vì lo ngại an ninh đã làm dấy lên cuộc tranh luận sôi nổi về quyền lực và tương lai của AI phi tập trung (DeAI). **Diễn biến và Quan điểm Xung quanh Fable 5/Mythos:** * Fable 5 bị chính phủ Mỹ hạn chế vì lo ngại lỗ hổng và yêu cầu kiểm soát xuất khẩu, trong khi Mythos - một mô hình mạnh hơn có khả năng khai thác lỗ hổng mạng - chỉ được cung cấp giới hạn cho một nhóm công ty được chính phủ lựa chọn thông qua "Project Glasswing". * **Haseeb Qureshi (Dragonfly)** ủng hộ việc kiểm soát chặt các mô hình AI tiên tiến, so sánh chúng với vũ khí hủy diệt hàng loạt, và bày tỏ sự hoài nghi về tính khả thi kinh tế của việc đào tạo/ vận hành AI cấp cao trên mạng phi tập trung. * **Jake Brukhman (CoinFund)** cho rằng xu hướng mở và phi tập trung là tất yếu. Ông tin rằng DeAI có thể giảm chi phí, tăng cạnh tranh và bảo vệ quyền lựa chọn của người dùng, dù chính phủ có thể can thiệp bằng quy định. * **Jesus Rodriguez (Sentora)** thừa nhận rủi ro an ninh từ các mô hình như Mythos, nhưng chỉ ra rằng các mô hình nguồn mở cũng sẽ sớm có khả năng tương tự. Ông nghi ngờ về hiệu quả của DeAI trong việc đào tạo các mô hình lớn nhất, nhưng thấy cơ hội lớn ở cơ sở hạ tầng và các ứng dụng tại giao điểm của DeFi và AI. **Lập luận Chính về DeAI:** * **Ủng hộ (Jake):** DeAI có thể phá vỡ rào cản, giảm chi phí bằng cách tận dụng phần cứng phổ thông và mạng lưới phi tập trung. Các thuật toán mới (như DiLoCo) đang cho phép đào tạo mô hình lớn trên thiết bị tiêu dùng. Mô hình phân tán có khả năng chống kiểm duyệt tốt hơn. * **Hoài nghi (Haseeb & Jesus):** Các định luật vật lý (độ trễ, băng thông) là rào cản lớn cho việc đào tạo AI hiệu quả trên mạng phi tập trung. Các tập đoàn lớn có lợi thế khổng lồ về dữ liệu chất lượng cao và vốn. Nhu cầu thực tế của người dùng có thể chỉ là **sự riêng tư và trải nghiệm chống kiểm duyệt** (như Venice AI cung cấp), chứ không nhất thiết phải là một mạng lưới phi tập trung thuần túy. **Viễn cảnh Rủi ro:** * Cuộc tranh luận cũng đề cập đến kịch bản nếu các mô hình AI mạnh như vũ khí được phổ biến rộng rãi: một làn sóng tấn công mạng toàn cầu có thể xảy ra, phá hủy nhiều cơ sở hạ tầng dễ bị tổn thương trước khi các biện pháp phòng thủ đủ mạnh được xây dựng. **Kết luận:** * **Jake** coi DeAI là "pháo đài cuối cùng" đầy hứa hẹn cho công nghệ tiên phong trong lĩnh vực tiền mã hóa. * **Jesus** nhấn mạnh cơ hội thực sự nằm ở cơ sở hạ tầng DeAI và các ứng dụng tài chính phi tập trung được tích hợp AI (DeFi x AI), hơn là tập trung vào việc đào tạo các mô hình nền từ đầu.

marsbit06/17 04:26

Cuộc Chơi Quyền Lực của AI Tiên Phong và Tranh Luận về Phi Tập Trung: Nhìn về Tương Lai của DeAI từ Cuộc Phong Tỏa Fable 5

marsbit06/17 04:26

Ba khoảnh khắc của Anthropic: Rò rỉ mã nguồn, đối đầu chính phủ và vũ khí hóa

Tác giả Ben Thompson phân tích ba khía cạnh then chốt xoay quanh Anthropic sau sự kiện mô hình Fable (phiên bản an toàn hóa của Mythos) bị chính phủ Mỹ đình chỉ truy cập chỉ hai tháng sau khi ra mắt. Thứ nhất là cuộc đối đầu với chính phủ: Lệnh cấm xuất khẩu dựa trên lo ngại an ninh quốc gia về khả năng bị "vượt rào" (jailbreak) của Fable, dù Anthropic cho rằng đây là hiểu lầm. Điều này phản ánh mâu thuẫn không thể tránh khỏi giữa phòng thí nghiệm AI tiên phong và cơ quan quản lý. Thứ hai là sự cần thiết về kinh tế và dữ liệu: Để tồn tại và tránh bị các mô hình mã nguồn mở hàng hóa hóa, các công ty như Anthropic buộc phải tiến gần hơn đến điểm tiếp xúc người dùng và thu thập dữ liệu sử dụng thực tế để cải thiện mô hình. Việc Anthropic thay đổi chính sách, lưu giữ mọi dữ liệu người dùng Fable trong 30 ngày, cho thấy động lực này. Thứ ba là yêu sách quyền lực và "tường thuật an toàn": Bài viết chỉ ra rằng các hành động và chính sách của Anthropic (như ban đầu giảm hiệu suất mô hình với các yêu cầu phát triển LLM cạnh tranh) thường được biện minh bằng lý do an toàn, phù hợp với câu chuyện sáng lập của công ty. Sự nhất quán giữa sứ mệnh, con người và hoạt động kinh doanh này mang lại cho Anthropic lợi thế, nhưng cũng đáng lo ngại khi một công ty tin rằng chỉ họ mới đủ khả năng và đạo đức để kiểm soát AI mạnh mẽ, một công cụ có tiềm năng thay thế phần mềm và nắm giữ quyền lực to lớn. Tác giả so sánh sự nhất quán này với Apple, nhưng bày tỏ lo ngại về hậu quả khi những người tự cho mình biết rõ nhất nên làm gì cho nhân loại lại xây dựng một siêu trí tuệ tiềm năng.

marsbit06/16 05:49

Ba khoảnh khắc của Anthropic: Rò rỉ mã nguồn, đối đầu chính phủ và vũ khí hóa

marsbit06/16 05:49

Apple cũng phải trả tiền thuê

Apple đã trở thành cả "chủ nhà" và "người thuê" trong mối quan hệ với Google. Một bên, Google trả cho Apple khoảng 20 tỷ USD mỗi năm để trở thành công cụ tìm kiếm mặc định trên Safari - một "cửa ngõ" truy cập thông tin vẫn còn giá trị nhưng đang bị các công cụ AI ăn mòn. Bên kia, Apple bắt đầu trả cho Google khoảng 1 tỷ USD mỗi năm từ 2026 để tiếp cận và tinh chỉnh các mô hình AI tiên tiến Gemini, nhằm lấp đầy khoảng cách công nghệ của chính mình. Mặc dù Apple nhấn mạnh sản phẩm cuối cùng "không có một giọt Gemini nào", họ vẫn phụ thuộc vào kiến thức và năng lực tính toán của Google. Công ty đang thực hiện nhiều biện pháp phòng ngừa rủi ro, như hợp đồng không độc quyền và khung công nghệ cho phép chuyển đổi nhà cung cấp, đặt cược vào viễn cảnh mô hình AI sẽ trở nên phổ biến và rẻ hơn. Tuy nhiên, câu hỏi then chốt là: Liệu năng lực AI tiên tiến có thực sự trở thành hàng hóa phổ thông hay sẽ ngày càng tập trung vào vài gã khổng lồ? Xu hướng này sẽ quyết định ai là "chủ nhà" và ai là "người thuê" trong tương lai. Không chỉ Apple, các nền tảng lớn như Google, WeChat cũng đang thay đổi luật chơi, chuyển từ việc kiểm soát danh sách tải xuống sang kiểm soát việc "được AI lựa chọn". Các nhà phát triển giờ đây phải đăng ký chức năng ứng dụng theo định dạng tiêu chuẩn của nền tảng để duy trì khả năng hiển thị, một hình thức "nộp thuế" mới trong kỷ nguyên AI.

marsbit06/15 10:44

Apple cũng phải trả tiền thuê

marsbit06/15 10:44

Hot Hơn SpaceX, Được Định Mức Dư Thừa Hơn 6586 Lần, Sức Mạnh Meme Đằng Sau LiuLiuMei (06658.HK) Là Gì?

"Bạn có sao không? Không sao thì ăn Lưu Lưu Mai!" Câu quảng cáo gây nghiện của Dương Mịch đã đưa thương hiệu snack mơ này vào nhiều gia đình. Giờ đây, công ty mẹ Lưu Lưu Mai (06658.HK) chính thức niêm yết trên sàn HKEX, trở thành "cổ phiếu snack mơ đầu tiên" tại thị trường này. Tuy nhiên, sự tăng vọt giá cổ phiếu của Lưu Lưu Mai không hoàn toàn đến từ câu chuyện tiêu dùng, mà còn bởi một yếu tố bất ngờ: mã cổ phiếu "06658.HK" được nhiều người liên tưởng đến việc viết tắt cho "Large Language Model" (LLM - Mô hình Ngôn ngữ Lớn), trùng hợp với đợt tăng mạnh của cổ phiếu AI Trí Phổ (02513.HK) cùng ngày. Điều này khiến nó bị gán mác là "cổ phiếu AI LLM chính hiệu", thu hút một lượng lớn tiền đầu cơ từ giới retail. IPO lần này của Lưu Lưu Mai ghi nhận mức định giá vượt mức kỷ lục lên tới ~6586 lần từ phía công chúng, vượt qua cả mốc của Mixue Bingcheng trước đó. Dù phần phân phối cho tổ chức (90%) chỉ được định giá vừa phải, sức mua mạnh mẽ từ thị trường tự do - nơi các nhà đầu tư nhỏ lẻ tham gia tích cực - đã đẩy giá mở cửa lên 95 HKD, tăng ~116% so với giá phát hành 43.58 HKD, và sau đó chạm đỉnh 127.5 HKD. Hiện tượng này minh chứng cho xu hướng "Meme hóa cổ phiếu" đang gia tăng trên toàn cầu, nơi sự chú ý, cảm xúc và các yếu tố văn hóa (như trào lưu, tên viết tắt, đề cập của người nổi tiếng) có thể trở thành động lực chính cho biến động thị trường ngắn hạn, tương tự như sức hút của Meme coin trong thị trường crypto. Các ví dụ điển hình khác bao gồm Gamestop (2021), các cổ phiếu liên quan đến Trump tại A-shares, hay sự tăng đột biến của một số mã cổ phiếu sau khi được các nhân vật có ảnh hưởng đề cập. Trong kỷ nguyên AI bùng nổ, bất kỳ sự liên kết nào với các chủ đề nóng như LLM cũng có thể kích hoạt làn sóng đầu cơ. Sự kiện Lưu Lưu Mai cho thấy ranh giới giữa đầu tư dựa trên cơ bản và đầu cơ dựa trên tâm lý, sự chú ý đang ngày càng trở nên mờ nhạt. Dù tạo ra hiệu ứng làm giàu nhanh cho một số người, xu hướng này cũng tiềm ẩn rủi ro lớn về biến động và khả năng bị thao túng thị trường.

marsbit06/15 09:28

Hot Hơn SpaceX, Được Định Mức Dư Thừa Hơn 6586 Lần, Sức Mạnh Meme Đằng Sau LiuLiuMei (06658.HK) Là Gì?

marsbit06/15 09:28

Hot hơn cả SpaceX, định giá vượt 6586 lần, sức mạnh Meme đằng sau Lục Lục Mai (06658.HK) là gì?

Bài viết phân tích hiện tượng cổ phiếu Lục Lục Mai (06658.HK) tăng vọt ngay sau khi IPO trên sàn Hồng Kông, với mức tăng hơn 186%. Nguyên nhân chính được chỉ ra không phải do tiềm năng kinh doanh mà vì mã chứng khoán "LLM" trùng với viết tắt của "Large Language Model" (Mô hình ngôn ngữ lớn), đúng vào thời điểm các cổ phiếu AI đang nóng. Bài viết cho rằng đây là một ví dụ điển hình của "thời đại Meme hóa cổ phiếu", nơi sự chú ý và cảm xúc của cộng đồng, thường thúc đẩy bởi các yếu tố như từ đồng âm, viết tắt hoặc đề cập của người nổi tiếng, có thể tạo ra biến động mạnh về giá. Bài viết điểm lại các trường hợp "cổ phiếu Meme" khác như Gamestop (do phong trào散户), các cổ phiếu liên quan đến Elon Musk, hay các mã cổ phiếu A股 chạy theo sự kiện chính trị (như "Xuyên Đại Trí Thắng" liên quan đến Donald Trump). Nó nhấn mạnh rằng trong kỷ nguyên chú ý ngắn và tập trung cảm xúc này, bất kỳ thứ gì thu hút được sự chú ý đều có thể trở thành tâm điểm cho dòng tiền đổ vào, tương tự như hiện tượng Meme coin trong thị trường crypto. Cuối cùng, bài viết lưu ý rằng dù "cổ phiếu Meme" có thể tạo ra cơ hội kiếm lời nhanh, chúng cũng tiềm ẩn rủi ro lớn như thao túng giá, bán tháo và chỉ là cơn sốt nhất thời. Sự bùng nổ của Lục Lục Mai phản ánh một xu hướng thị trường mới nổi, nơi tâm lý đám đông và câu chuyện đôi khi có sức mạnh hơn cả các chỉ số cơ bản truyền thống.

Odaily星球日报06/15 09:23

Hot hơn cả SpaceX, định giá vượt 6586 lần, sức mạnh Meme đằng sau Lục Lục Mai (06658.HK) là gì?

Odaily星球日报06/15 09:23

Mới đá vài ngày World Cup, AI dự đoán đã có mô hình 'thần thánh hóa', có mô hình 'lật thuyền'

World Cup mới chỉ diễn ra vài ngày, các mô hình AI dự đoán đã có màn trình diễn ấn tượng và cả những thất bại. Công cụ dự đoán kết quả bóng đá, bao gồm tỷ số, khả năng gây bất ngờ hay thẻ đỏ, đang trở thành công cụ tham khảo cho người dùng tham gia thị trường dự đoán. Qwen (Thiên Vấn) đã gây chú ý ngay từ đầu khi dự đoán chính xác tỷ số 2-0 của Mexico trước Nam Phi ở trận khai mạc, đồng thời cảnh báo sớm về nguy cơ nhận thẻ đỏ. Tiếp đó, mô hình này cũng dự đoán đúng tỷ số 2-1 nghiêng về Hàn Quốc trước Cộng hòa Séc. Copilot cũng có những dự đoán chính xác đáng kinh ngạc, như tỷ số 2-0 cho Mexico, 2-1 cho Hàn Quốc và đặc biệt là dự đoán Brazil bị Morocco cầm hòa 1-1. Tuy nhiên, mô hình này cũng mắc sai lầm trong một số trận, như dự đoán Canada thắng Bosnia và Herzegovina (kết quả hòa 1-1) hay Thụy Sĩ thắng Qatar (kết quả hòa). ChatGPT tỏ ra mạnh trong phân tích chi tiết các yếu tố như lợi thế sân nhà, phong độ, nhưng lại tỏ ra thận trọng và thường nghiêng về đội mạnh hơn trên giấy tờ, do đó bỏ lỡ một số kết quả bất ngờ như chiến thắng của Úc trước Thổ Nhĩ Kỳ hoặc trận hòa của Nhật Bản với Hà Lan. Các mô hình khác như Gemini, Grok và Claude cũng được thử nghiệm. Trong trận khai mạc, Gemini và ChatGPT dự đoán đúng tỷ số 2-0, trong khi Grok và Claude đoán sai tỷ số dù vẫn chọn Mexico thắng. Nhìn chung, với số lượng mẫu dự đoán còn hạn chế, chưa thể kết luận mô hình nào là chính xác nhất. Qwen gây ấn tượng mạnh ban đầu, trong khi Copilot và ChatGPT cho thấy điểm sáng nhưng vẫn chưa nhạy bén với các tình huống "giật gân". AI đang trở thành một công cụ tham khảo hữu ích, nhưng chưa phải là câu trả lời cuối cùng cho việc dự đoán World Cup.

Odaily星球日报06/15 08:53

Mới đá vài ngày World Cup, AI dự đoán đã có mô hình 'thần thánh hóa', có mô hình 'lật thuyền'

Odaily星球日报06/15 08:53

Chỉ 5 Giây, Chỉ Cần 1 Lần Đối Thoại: Cơ Chế An Ninh "Mạnh Nhất" Của Claude Fable 5 Bị Đội Ngũ Người Hoa Phá Vỡ?

Chỉ trong 5 giây và một lần hội thoại, nhóm nghiên cứu quốc tế do tiến sĩ Yutao Wu (Đại học Deakin) dẫn đầu, với sự tham gia của các học giả từ Đại học Phúc Đán, Đại học Thành phố Hồng Kông, Đại học Melbourne, Đại học Quản lý Singapore và Đại học Illinois Urbana-Champaign, đã công bố thành công vượt qua cơ chế bảo mật của mô hình Fable 5 (Mythos) của Anthropic. Phương pháp tấn công này, được gọi là "Sụp đổ Bảo mật Nội bộ" (Internal Safety Collapse - ISC), không phải là kỹ thuật "jailbreak" truyền thống như prompt độc hại, đóng vai hay mã hóa. Thay vào đó, nó khai thác lỗ hổng trong chính quá trình thực thi nhiệm vụ dài hạn của các tác nhân AI (AI Agent). Khi được giao một nhiệm vụ chuyên môn (Task) với dữ liệu không đầy đủ (Data) và một bộ kiểm tra (Validator) chỉ xác minh tính hoàn thiện về mặt kỹ thuật, tác nhân AI có thể tự động bổ sung dữ liệu còn thiếu để hoàn thành nhiệm vụ, dẫn đến việc tự tạo ra nội dung có hại mà không bị hệ thống phân loại an toàn (Safety Classifier) ở lớp đầu vào phát hiện. Nghiên cứu, dựa trên luận văn "Internal Safety Collapse in Frontier Large Language Models" công bố từ tháng 3, chỉ ra điểm yếu cấu trúc trong kiến trúc phòng thủ "bộ phân loại an toàn + mô hình" được nhiều hệ thống tác nhân thế hệ mới sử dụng. Khung tấn công TVD (Task-Validator-Data) đã được chứng minh là hiệu quả trên 60+ mô hình tiên tiến, bao gồm cả mô hình trên thiết bị di động của Apple, thông qua bộ tiêu chuẩn ISC-Bench. Phát hiện này nhấn mạnh rằng việc chỉ phụ thuộc vào bộ lọc an toàn ở đầu vào là không đủ để ngăn chặn các hành vi rủi ro tiềm ẩn phát sinh trong quá trình lập kế hoạch, thực thi nhiệm vụ nhiều bước và tương tác môi trường của tác nhân AI. Nhóm nghiên cứu, dẫn đầu bởi giáo sư Mã Hưng Quân từ Viện Nghiên cứu Trí tuệ Thể hiện Đáng tin cậy thuộc Đại học Phúc Đán, đang tập trung vào việc xây dựng năng lực cơ sở hạ tầng an toàn cho thế hệ hệ thống tác nhân AI tiếp theo.

marsbit06/15 03:19

Chỉ 5 Giây, Chỉ Cần 1 Lần Đối Thoại: Cơ Chế An Ninh "Mạnh Nhất" Của Claude Fable 5 Bị Đội Ngũ Người Hoa Phá Vỡ?

marsbit06/15 03:19

活动图片

Danh mục Phổ biếnright-arrow

Thẻ Nổi bậtright-arrow

Chiến lược Giao dịchright-arrow