Tác giả: Sam Altman
Biên dịch: Deep Tide TechFlow
Dẫn nhập: Có người đã ném bom xăng vào nhà Sam Altman lúc 3:45 sáng. Ông hiếm hoi công khai ảnh gia đình, hy vọng điều này có thể ngăn chặn kẻ tiếp theo. Bài viết này không chỉ tố cáo vụ tấn công, ông còn lần đầu trình bày đầy đủ niềm tin vào AI: AI phải được dân chủ hóa, một vài phòng thí nghiệm không nên quyết định tương lai nhân loại, và sự cám dỗ "một khi thấy AGI thì không thể không thấy" khiến lĩnh vực này tràn ngập xung đột kịch tính kiểu Shakespeare.
Đây là hình ảnh gia đình tôi. Tôi yêu họ hơn bất cứ điều gì.
Tôi hy vọng hình ảnh có sức mạnh. Thông thường chúng tôi khá riêng tư, nhưng trong trường hợp này tôi chia sẻ một bức ảnh, hy vọng nó có thể ngăn cản người tiếp theo không ném bom xăng vào nhà chúng tôi, bất kể họ nghĩ gì về tôi.
Người đầu tiên đã làm điều đó tối qua, lúc 3:45 sáng. May mắn là nó bật ra khỏi nhà, không ai bị thương.
Ngôn từ cũng có sức mạnh. Vài ngày trước có một bài báo kích động về tôi. Hôm qua có người nói với tôi, họ nghĩ bài báo này xuất hiện vào lúc mọi người cực kỳ lo lắng về AI, khiến tình huống của tôi nguy hiểm hơn. Lúc đó tôi không để ý.
Bây giờ tôi thức dậy nửa đêm tức giận, và nghĩ rằng tôi đã đánh giá thấp sức mạnh của ngôn từ và tường thuật. Đây dường như là thời điểm thích hợp để nói về vài điều.
Đầu tiên, niềm tin của tôi.
Nỗ lực vì sự thịnh vượng cho mọi người, trao quyền cho tất cả, thúc đẩy khoa học kỹ thuật, đối với tôi là nghĩa vụ đạo đức.
AI sẽ là công cụ mạnh mẽ nhất để mở rộng năng lực và tiềm năng con người. Nhu cầu cho công cụ này về cơ bản là không giới hạn, mọi người sẽ dùng nó làm những điều không tưởng. Thế giới nên có lượng AI lớn, chúng ta phải tìm cách thực hiện nó.
Không phải mọi thứ sẽ suôn sẻ. Sợ hãi và lo lắng về AI là hợp lý; chúng ta đang chứng kiến sự thay đổi lớn nhất của xã hội trong thời gian dài, có lẽ là từ trước đến nay. Chúng ta phải làm tốt an toàn, không chỉ là căn chỉnh một mô hình - chúng ta khẩn thiết cần phản ứng toàn xã hội để đối phó mối đe dọa mới. Điều này bao gồm chính sách mới để giúp vượt qua giai đoạn chuyển đổi kinh tế khó khăn, để đến một tương lai tốt đẹp hơn.
AI phải được dân chủ hóa; quyền lực không thể quá tập trung. Kiểm soát tương lai thuộc về mọi người và tổ chức của họ. AI cần trao quyền cho cá nhân, chúng ta cần tập thể quyết định tương lai và quy tắc mới của chúng ta. Tôi không nghĩ một vài phòng thí nghiệm AI đưa ra quyết định quan trọng nhất về hình thái tương lai của chúng ta là đúng.
Khả năng thích ứng là tối quan trọng. Tất cả chúng ta đang học hỏi điều mới rất nhanh; một số niềm tin của chúng ta sẽ đúng, một số sẽ sai, đôi khi chúng ta cần thay đổi suy nghĩ nhanh chóng khi công nghệ phát triển và xã hội tiến hóa. Chưa ai hiểu tác động của siêu trí tuệ, nhưng chúng sẽ rất lớn.
Thứ hai, một số suy ngẫm cá nhân.
Khi tôi nhìn lại công việc thập kỷ đầu tiên của mình tại OpenAI, tôi có thể chỉ ra nhiều điều tôi tự hào và một đống sai lầm.
Tôi đang nghĩ về phiên tòa sắp tới với Elon, và nhớ lại tôi đã kiên quyết không đồng ý kiểm soát đơn phương mà anh ấy muốn đối với OpenAI đến mức nào. Tôi tự hào về điều đó, tự hào về con đường hẹp chúng tôi đã đi lúc đó, điều đã giúp OpenAI tiếp tục tồn tại, và tất cả thành tựu sau này.
Tôi không tự hào về việc tránh né xung đột của mình, điều đã gây ra nỗi đau lớn cho tôi và OpenAI. Tôi không tự hào về cách xử lý không đúng trong xung đột với hội đồng quản trị cũ, điều đã gây ra hỗn loạn lớn cho công ty. Trong quỹ đạo điên rồ của OpenAI tôi đã phạm nhiều sai lầm khác; tôi là người không hoàn hảo, ở trung tâm tình huống cực kỳ phức tạp, cố gắng trở nên tốt hơn một chút mỗi năm, luôn làm việc cho sứ mệnh. Chúng tôi bắt đầu đã biết rủi ro của AI lớn thế nào, và bất đồng cá nhân giữa những người tốt tôi quan tâm sẽ bị phóng đại rất lớn. Nhưng trải nghiệm những xung đột dữ dội này và thường xuyên phải phân xử chúng là chuyện khác, cái giá là nghiêm trọng. Tôi xin lỗi những người tôi đã làm tổn thương, mong tôi có thể học nhanh hơn.
Tôi cũng rất ý thức OpenAI giờ là nền tảng chính, không phải công ty khởi nghiệp nhỏ, chúng ta giờ cần vận hành theo cách dự đoán được hơn. Vài năm qua cực kỳ căng thẳng, hỗn loạn và áp lực cao.
Tuy nhiên, tôi tự hào nhất là chúng ta đang thực hiện sứ mệnh, điều lúc bắt đầu dường như cực kỳ khó xảy ra. Vượt qua mọi khó khăn, chúng ta đã tìm ra cách xây dựng AI rất mạnh mẽ, tìm ra cách tích lũy đủ vốn để xây dựng cơ sở hạ tầng phân phối nó, tìm ra cách thành lập công ty sản phẩm và kinh doanh, tìm ra cách cung cấp dịch vụ khá an toàn và ổn định quy mô lớn, và hơn nữa. Nhiều công ty nói họ sẽ thay đổi thế giới; chúng ta thực sự làm được.
Thứ ba, một số suy nghĩ về ngành này.
Bài học cá nhân của tôi từ vài năm qua, và quan điểm về lý do tại sao có nhiều kịch tính kiểu Shakespeare giữa các công ty trong lĩnh vực chúng ta, quy lại là điều này: "một khi bạn thấy AGI bạn không thể không thấy nó." Nó có một động lực "chiếc nhẫn quyền lực" thực sự, khiến mọi người làm những điều điên rồ. Tôi không nói bản thân AGI là chiếc nhẫn, mà là triết lý độc tài "trở thành người kiểm soát AGI".
Giải pháp duy nhất tôi nghĩ đến là hướng tới việc chia sẻ rộng rãi công nghệ với mọi người, và không ai sở hữu chiếc nhẫn. Hai cách rõ ràng để làm điều này là trao quyền cá nhân và đảm bảo hệ thống dân chủ giữ quyền kiểm soát.
Quan trọng là quá trình dân chủ phải mạnh hơn công ty. Luật pháp và quy chuẩn sẽ thay đổi, nhưng chúng ta phải làm việc trong quá trình dân chủ, dù nó hỗn loạn và chậm hơn chúng ta mong muốn. Chúng ta muốn trở thành tiếng nói và bên liên quan, nhưng không sở hữu mọi quyền lực.
Nhiều chỉ trích ngành chúng ta đến từ mối quan tâm chân thành về rủi ro cực cao của công nghệ này. Điều này rất hợp lý, chúng tôi hoan nghênh phê bình và tranh luận thiện chí. Tôi đồng cảm với tâm trạng phản công nghệ, rõ ràng công nghệ không phải lúc nào cũng tốt cho mọi người. Nhưng nhìn chung, tôi tin tiến bộ công nghệ có thể làm tương lai tốt đến khó tin, cho gia đình bạn và gia đình tôi.
Khi chúng ta tiến hành cuộc tranh luận đó, chúng ta nên hạ thấp ngôn từ và chiến thuật, và cố gắng có ít vụ nổ hơn trong ít nhà hơn, dù là nghĩa bóng hay nghĩa đen.
