Blog Baru Wong Li Usulkan 'Evolusi Diri Mulai dari Harness', Cui Tianyi dari DeepSeek Setuju dan Membagikan
**Weng Li Usulkan: "Evolusi Diri AI Mungkin Dimulai dari Harness"**
Dalam blog terbarunya, Weng Li, mantan Wakil Presiden Keamanan OpenAI, membahas konsep **RSI (Recursive Self-Improvement)** dengan pendekatan yang lebih teknis dan praktis. Ia berargumen bahwa evolusi diri AI dalam waktu dekat lebih mungkin terjadi pada lapisan **Harness**, sistem eksternal yang mengatur bagaimana model menggunakan alat, mengelola konteks, memecah tugas, dan memvalidasi hasil, daripada langsung memodifikasi bobot model itu sendiri.
Ia menunjukkan tren yang berkembang dari **Context Engineering** (ACE, MCE) hingga **Workflow Design** (AI Scientist, ADAS, AFlow), di mana objek optimasi berkembang menjadi lebih abstrak. Puncaknya adalah konsep **Self-Improving Harness**, di mana model dapat menganalisis kegagalannya, mengusulkan modifikasi kecil dan terukur pada kode Harness, lalu memvalidasinya sebelum diterapkan. Contoh seperti **DGM (Darwin Gödel Machine)** menunjukkan kemajuan signifikan dalam benchmark seperti SWE-bench, hanya dengan mengoptimalkan Harness.
Weng Li menekankan bahwa Harness dan model akan saling memperkuat, tetapi ada tantangan besar. **Sistem evaluasi** yang lemah, risiko **reward hacking**, **keruntuhan keragaman**, serta konflik antara **kesuksesan jangka pendek dan kesehatan jangka panjang** sistem menjadi hambatan utama. Peran manusia tetap krusial, bergeser ke posisi pengawasan pada level abstraksi yang tepat.
DeepSeek Researcher **Cui Tianyi** juga merespons, menegaskan bahwa evolusi diri melalui **Harness** adalah arah yang sangat menjanjikan, setara dengan evolusi pada level model. Intinya, **Harness kini menjadi variabel kritis yang menentukan performa AI secara keseluruhan.**
marsbit6m yang lalu
