Sau 315, bộ lọc đề xuất AI cần được gỡ bỏ
Sau sự kiện 315, vấn đề "đầu độc AI" bằng kỹ thuật Tối ưu hóa Công cụ Tạo sinh (GEO) đã được phơi bày. Một công ty ở Bắc Kinh đã bán phần mềm "Lực Kình GEO" trên Taobao, cho phép tạo bài viết quảng cáo giả mạo để thao túng kết quả đề xuất của AI, thậm chí với sản phẩm không tồn tại. Điều này cho thấy AI dễ bị lợi dụng nếu thông tin đầu vào bị làm nhiễu.
GEO thực chất là phiên bản kế thừa của SEO (Tối ưu hóa Công cụ Tìm kiếm), vốn gây bê bối từ thời Baidu với các bệnh viện Phú Điền. Dù được dán nhãn "quảng cáo", người dùng vẫn tin tưởng kết quả xếp hạng cao.
Thị trường GEO cũng thu hút đầu tư, như BlueFocus chi hàng triệu USD cho PureblueAI, khiến cổ phiếu tăng 132%. Tuy nhiên, các công ty thừa nhận doanh thu từ GEO không đáng kể, và chủ tịch BlueFocus đã bán cổ phần kiếm lời.
OpenAI cũng công bố kế hoạch hiển thị quảng cáo trong ChatGPT cho người dùng miễn phí, dự kiến tăng doanh thu lên 17 tỷ USD. Sự khác biệt giữa "đầu độc" và "thương mại hóa" chỉ nằm ở việc có hợp tác với nền tảng hay không.
Bài học từ SEO cho thấy người dùng cần tỉnh táo: câu trả lời từ AI có thể được mua, và tư duy phản biện không nên được "thuê ngoài".
比推03/17 04:13
