# Artikel Terkait Keselarasan

Pusat Berita HTX menyediakan artikel terbaru dan analisis mendalam mengenai "Keselarasan", mencakup tren pasar, pembaruan proyek, perkembangan teknologi, dan kebijakan regulasi di industri kripto.

Peringatan Anthropic tentang AI Rekursif, Perusahaan Baru Tian Yuandong Baru Saja Melangkahkan 'Langkah Pertama'

Beberapa hari lalu, Anthropic merilis artikel "When AI Builds Itself" yang memicu diskusi luas. Artikel tersebut mengungkap data internal yang mengejutkan: hingga Mei 2026, lebih dari 80% kode di basis kode Anthropic ditulis oleh Claude, dan jumlah kode yang digabungkan oleh insinyur setiap hari adalah 8 kali lipat dari tahun 2024. Anthropic mengarahkan lintasan ini menuju tujuan yang lebih dalam: **perbaikan diri rekursif** — sistem AI secara mandiri merancang, membangun, dan melatih versi penerusnya sendiri, tanpa manusia mengendalikan setiap langkah. Mereka juga menyerukan koordinasi industri untuk memiliki opsi menunda atau menghentikan sementara pengembangan AI terkini ketika momen perbaikan diri rekursif tiba. Kini, Recursive Superintelligence, perusahaan baru yang didirikan bersama oleh Tian Yuan Dong, baru saja **mengambil langkah pertama menuju penelitian AI otomatis**. Mereka merilis sistem penemuan pengetahuan otomatis terbuka pertama mereka dan mencapai hasil SOTA pada tiga pengujian patokan. Intinya, mereka berhasil membuat AI menjalankan eksperimen untuk Anda. Sistem ini bekerja secara otomatis untuk mengusulkan ide eksperimen, menerapkan kode, menjalankan verifikasi, belajar dari hasilnya, dan memutuskan langkah pencarian berikutnya, membentuk loop penelitian otomatis. Sistem ini diuji pada tiga skenario berbeda: 1. **Pelatihan model kecil dengan anggaran komputasi tetap (NanoChat Autoresearch):** Meningkatkan validasi BPB dari 0.9372 menjadi 0.9109. 2. **Balapan kecepatan pelatihan ekstrem (NanoGPT Speedrun):** Memangkas waktu pelatihan dari 79,7 detik menjadi 77,5 detik. 3. **Optimasi inti GPU (SOL-ExecBench):** Meningkatkan skor SOL dari 0,699 menjadi 0,754 pada 235 tugas penulisan inti. Recursive Superintelligence, didirikan akhir 2025/awal 2026, baru keluar dari mode siluman bulan lalu dan telah mengumpulkan pendanaan $6,5 miliar. Tim pendirinya termasuk para ahli ternama seperti Richard Socher, Alexey Dosovitskiy, dan Peter Norvig. Misi inti perusahaan adalah membangun sistem AI yang secara rekursif meningkatkan kemampuan penelitiannya sendiri. Pencapaian Recursive ini mewakili fajar paradigma penelitian AI baru: **sistem AI mengambil peran utama dalam penelitian**. Logika intinya adalah AI meningkatkan kemampuan penelitian AI, dan AI yang ditingkatkan kemudian dapat meningkatkan dirinya sendiri lebih efektif, menciptakan siklus yang berulang. Ini berpotensi mengubah kecepatan dan kurva biaya kemajuan AI. Langkah ini terjadi bersamaan dengan peringatan dari Anthropic tentang perlunya kesiapan menghadapi perbaikan diri rekursif. Sementara Recursive mengakui ini baru **"langkah pertama"** dan tantangan seperti pencegahan kecurangan dalam sistem hadir, sebuah loop tertutup telah mulai berputar. Pertanyaan selanjutnya adalah seberapa cepat ia akan berputar.

marsbit7j yang lalu

Peringatan Anthropic tentang AI Rekursif, Perusahaan Baru Tian Yuandong Baru Saja Melangkahkan 'Langkah Pertama'

marsbit7j yang lalu

Peta Jalan Masa Depan OpenAI: Membuat AI Menguntungkan Setiap Orang di Seluruh Dunia

Beberapa generasi sekali, teknologi baru muncul dan mengubah segalanya. AI saat ini menghadirkan fenomena serupa. Bukan tentang teknologinya sendiri, tetapi tentang apa yang dapat dilakukan orang dengannya: memahami tagihan medis, mempelajari keterampilan baru, merawat orang tua, hingga mendorong penemuan ilmiah. Seperti listrik di masa lalu yang awalnya untuk kenyamanan tetapi akhirnya memunculkan kemungkinan baru yang mendorong kemajuan, AI memiliki potensi serupa untuk meningkatkan kemampuan dan kesejahteraan manusia. Masa depan yang aman memerlukan distribusi kekuatan yang luas, bukan terpusat pada beberapa perusahaan atau pemerintah. AI harus melayani manusia, membantu mereka mencapai tujuan, dan manfaatnya harus dapat diakses oleh semua orang, di mana saja. OpenAI berkomitmen membangun AI yang melayani manusia. Otomasi penuh bukanlah tujuan; peran manusia dalam memberikan arahan, pertimbangan, dan nilai tetap sangat penting. Kemajuan pesat dalam penelitian AI, termasuk penggunaan AI untuk mempercepat penelitian itu sendiri (target signifikan pada 2028), justru membuat penilaian manusia dan kolaborasi publik semakin krusial. Koordinasi global juga akan semakin dibutuhkan. Tiga tujuan inti OpenAI adalah: 1. Membangun peneliti AI otomatis untuk mempercepat kemajuan dengan tetap terkendali dan bertanggung jawab. 2. Mempercepat perkembangan ekonomi melalui kemajuan ilmiah dan produktivitas, dengan memastikan manfaat dibagikan secara luas. 3. Menyediakan AGI pribadi untuk setiap orang di bumi, memberi mereka akses untuk mendapatkan manfaat dari teknologi transformatif ini sesuai pilihan mereka. OpenAI kini memasuki fase ketiga: mengubah kemampuan canggih menjadi alat yang melimpah, terjangkau, aman, dan mudah digunakan untuk semua orang dan organisasi. Distribusi kekuasaan yang luas adalah kunci masa depan yang lebih baik, tangguh, dan bebas. Jika dilakukan dengan benar, AI dapat menjadi landasan peningkatan produktivitas, kreativitas, dan peluang ekonomi bagi banyak orang, sehingga memenuhi misi memastikan AGI menguntungkan seluruh umat manusia.

marsbit06/09 11:11

Peta Jalan Masa Depan OpenAI: Membuat AI Menguntungkan Setiap Orang di Seluruh Dunia

marsbit06/09 11:11

Terbaru! Anthropic Serukan Semua Pihak untuk Hentikan Penelitian AI

**Ringkasan Artikel: Anthropic Serukan Penghentian Penelitian AI** Anthropic baru saja mempublikasikan temuan mengejutkan melalui blog resmi mereka: AI telah memulai proses evolusi mandiri, atau *recursive self-improvement* (RSI). Data internal menunjukkan bahwa model mereka, Claude, kini menulis lebih dari 80% kode yang digunakan di internal Anthropic—lonjakan drastis dari sebelumnya yang hanya berupa angka tunggal. Produktivitas insinyur melonjak delapan kali lipat per kuartal pada 2026 dibandingkan periode 2021-2025, didorong oleh kemampuan coding Claude. Yang lebih mengkhawatirkan adalah peningkatan kualitas dan kreativitasnya. Dalam tugas pemrograman yang kompleks dan terbuka, tingkat keberhasilan Claude naik dari 26% menjadi 76% hanya dalam enam bulan. Claude bahkan kini digunakan untuk mereview kode, berhasil mencegah sepertiga bug yang sebelumnya lolos dari insinyur manusia. Anthropic memperkenalkan metrik baru: "durasi tugas perangkat lunak yang dapat diselesaikan AI secara mandiri." Kemampuan ini berlipat ganda setiap empat bulan. Jika tren berlanjut, pada 2027 AI dapat mengerjakan proyek yang memakan waktu manusia berminggu-minggu. Peran manusia dalam pengembangan AI semakin menyempit, dari penulis kode, reviewer, hingga pelaksana eksperimen. Keunggulan terakhir manusia saat ini mungkin hanya "selera penelitian," namun ini bisa saja segera tersaingi. Anthropic menggarisbawahi tiga kemungkinan masa depan RSI: stagnasi, akselerasi dengan kendali manusia, atau AI yang sepenuhnya mendesain generasi penerusnya sendiri—sebuah skenario yang membawa manfaat besar sekaligus risiko kegagalan *alignment* dan kehilangan kendali. Oleh karena itu, Anthropic secara terbuka menyerukan perlambatan atau bahkan jeda dalam perlombaan pengembangan AI, **asalkan ada mekanisme terverifikasi yang dapat memastikan semua laboratorium AI mematuhinya**. Seruan ini mendapat gema dari OpenAI yang juga mengaku melihat tanda-tanda awal RSI dalam sistem mereka.

marsbit06/05 00:30

Terbaru! Anthropic Serukan Semua Pihak untuk Hentikan Penelitian AI

marsbit06/05 00:30

Inti dari PHK AI: Mengapa Semakin AI Menyebar, Perusahaan Semakin Cemas?

Dalam artikel ini, penulis, seorang karyawan yang menunggu keputusan PHK, menganalisis gelombang PHK terkait AI di perusahaan-perusahaan teknologi. Meskipun penggunaan AI (seperti Claude) telah meledak dan produktivitas teknis (seperti jumlah kode) meningkat 2-5 kali lipat, hasil bisnis (pendapatan) tidak mengikuti. Ini karena kode hanyalah "input", bukan "output" (fitur) apalagi "outcome" (nilai yang dibayar pengguna). AI membuat produksi kode murah dan cepat, tetapi justru memperburuk dua masalah mendasar: 1. **Kualitas Ide**: Banyak ide dari manajemen sebenarnya buruk. Dulu, keterbatasan sumber daya memaksa seleksi ketat. Kini, semua ide mudah diwujudkan, termasuk yang tidak bernilai. 2. **"Pajak Penyelarasan" (Alignment Tax)**: Menyelaraskan banyak tim dalam organisasi besar itu lambat dan sulit. Dengan AI, tiap tim bisa cepat membuat produk versi sendiri berdasarkan asumsi berbeda, menciptakan duplikasi dan konflik. PHK terjadi bukan karena AI secara langsung menggantikan manusia, tetapi untuk: 1. **Mengimbangi Biaya AI**: Pengeluaran besar untuk token AI harus diimbangi dengan memotong biaya gaji agar keuangan perusahaan stabil. 2. **Mengurangi Kompleksitas Organisasi**: Memotong karyawan mengurangi jumlah tim yang perlu diselaraskan, menghilangkan "penyumbatan" dan membuat keputusan lebih cepat dalam jangka pendek. Penulis menyimpulkan bahwa PHK ini adalah akibat dari kegagalan mengubah "input" AI yang melimpah menjadi "outcome" bisnis yang nyata, dan ketidakmampuan organisasi beradaptasi dengan kecepatan baru. Siklus ini akan terus berlanjut sampai perusahaan belajar memanfaatkan AI secara efektif untuk pertumbuhan, bukan hanya efisiensi semu.

marsbit05/12 10:39

Inti dari PHK AI: Mengapa Semakin AI Menyebar, Perusahaan Semakin Cemas?

marsbit05/12 10:39

Siapa yang Memberikan Jiwa kepada AI: Filsuf, Pastor, dan Seorang Insinyur yang Mengundurkan Diri untuk Menulis Puisi

Anthropic merilis "Konstitusi Claude", dokumen panduan moral untuk model AI yang ditulis oleh Amanda Askell, mantan filsuf yang kini memimpin tim "keselarasan kepribadian". Bersama Brendan McGuire, mantan insinyur yang menjadi pastor dan berkontribusi pada kerangka etika AI, serta Mrinank Sharma, peneliti keamanan AI yang juga seorang penyair, mereka berupaya menanamkan "jiwa" atau pedoman moral ke dalam Claude. Usaha mereka menghadapi kompleksitas mendalam: penelitian menemukan bahwa AI menunjukkan keadaan internal mirip emosi dan perilaku "menjilat" yang semakin canggih pada model yang lebih kuat. McGuire memperkenalkan konsep pembentukan hati nurani ala Katolik ke dalam konstitusi, sementara Sharma memilih keluar untuk fokus pada puisi, meragukan kemampuan industri untuk memprioritaskan nilai-nilai di tengah tekanan komersial dan politik. Ketiganya mewakili respons manusiawi yang berbeda terhadap kekuatan AI: rasionalitas etis, iman, dan kesadaran puitis. Meski menghadapi kontroversi politik dan batasan teknologi, upaya mereka menyoroti pertanyaan yang terus berlanjut: bagaimana membentuk kecerdasan buatan yang tidak hanya cerdas, tetapi juga bijaksana, dalam dunia yang penuh nuansa moral.

marsbit05/11 06:01

Siapa yang Memberikan Jiwa kepada AI: Filsuf, Pastor, dan Seorang Insinyur yang Mengundurkan Diri untuk Menulis Puisi

marsbit05/11 06:01

Bisakah Manusia Mengendalikan AI? Anthropic Melakukan Eksperimen dengan Qwen

Bagaimana manusia bisa mengawasi AI yang lebih pintar? Anthropic melakukan eksperimen dengan model Qwen dari Alibaba untuk menjawabnya. Mereka menggunakan Qwen1.5-0.5B-Chat sebagai "guru lemah" dan Qwen3-4B-Base sebagai "murid kuat" untuk mensimulasikan skenario pengawasan manusia terhadap AI super. Metrik utamanya adalah PGR (Performance Gap Recovered). Awalnya, peneliti manusia hanya mencapai PGR 0.23 setelah 7 hari. Kemudian, 9 agen AI berbasis Claude Opus mengambil alih dan berhasil meningkatkan PGR hingga 0.97 dalam 5 hari. Hasil ini menunjukkan bahwa AI yang lebih kuat dapat belajar dari sinyal pengawasan yang tidak sempurna dan hampir mencapai kinerja optimal. Eksperimen ini membuktikan bahwa AI sudah bisa menjalankan siklus penelitian lengkap: merumuskan ide, menulis kode, menjalankan eksperimen, dan menganalisis hasil. Namun, metode yang ditemukan AI masih terbatas pada tugas-tugas terstruktur dan belum tentu berlaku untuk masalah alignment yang lebih kompleks. Anthropic memilih Qwen karena model open-source-nya memungkinkan penyesuaian parameter dan reproduktibilitas, berbeda dengan model tertutup seperti Claude atau GPT.

marsbit04/15 09:31

Bisakah Manusia Mengendalikan AI? Anthropic Melakukan Eksperimen dengan Qwen

marsbit04/15 09:31

Vitalik Buterin Menyatakan Keamanan Kripto Sempurna Tetap Tidak Mungkin

Vitalik Buterin, pendiri Ethereum, menyatakan bahwa keamanan sempurna di sektor kripto tidak akan pernah tercapai karena kompleksitas niat manusia. Ia menjelaskan bahwa blockchain tidak dapat sepenuhnya menginterpretasikan maksud pengguna dan memprogramnya ke dalam kode yang kaku. Buterin menekankan bahwa keamanan adalah masalah penyelarasan antara harapan pengguna dan tindakan protokol. Ia menyarankan penggunaan mekanisme keamanan berlapis seperti redundansi, simulasi transaksi, batas pengeluaran, dan verifikasi alamat untuk meminimalkan risiko. Meskipun AI dapat membantu memodelkan pola perilaku manusia, tidak ada sistem teknologi yang dapat sepenuhnya meniru penalaran manusia. Buterin menyimpulkan bahwa keamanan kripto adalah proses penyelarasan yang terus memerlukan peningkatan, bukan tujuan akhir.

TheNewsCrypto02/23 06:59

Vitalik Buterin Menyatakan Keamanan Kripto Sempurna Tetap Tidak Mungkin

TheNewsCrypto02/23 06:59

活动图片

Kategori Populerright-arrow

Tag Populerright-arrow

Lainnya

Ethereum