# Artikel Terkait Pembelajaran Mendalam

Pusat Berita HTX menyediakan artikel terbaru dan analisis mendalam mengenai "Pembelajaran Mendalam", mencakup tren pasar, pembaruan proyek, perkembangan teknologi, dan kebijakan regulasi di industri kripto.

Richard Sutton, Bapak Pembelajaran Penguatan Berusia 69 Tahun, Membuka Startup: Membangun Agen Kecerdasan Setara Otak Manusia 20 Watt

Pada usia 69 tahun, perintis pembelajaran penguatan (reinforcement learning) dan penerima Turing Award 2024, Richard Sutton, mengumumkan pendirian Oak Lab bersama mantan muridnya, Khurram Javed. Mereka meninggalkan Keen Technologies milik John Carmack karena perbedaan visi. Sutton mengkritik metode deep learning saat ini yang dianggapnya tidak efisien dan memerlukan pembaruan fundamental. Oak Lab bertujuan menciptakan agen cerdas dengan satu triliun parameter yang dapat belajar dan merencanakan secara real-time, dengan konsumsi daya hanya 20 watt—setara dengan otak manusia. Inti dari pendekatan Oak Lab adalah bahwa kecerdasan berasal dari pengalaman yang dihasilkan secara terus-menerus selama runtime. Berbeda dengan model AI arus utama yang dilatih secara offline, agen mereka akan belajar secara langsung dari interaksi dengan lingkungan, mengubah pengalaman baru menjadi keterampilan yang dapat digunakan kembali melalui arsitektur "OaK" (Options and Knowledge). Arsitektur ini memungkinkan abstraksi temporal, di mana serangkaian tindakan dikelompokkan menjadi keterampilan tingkat tinggi. Visi ini selaras dengan esai Sutton tahun 2019, "The Bitter Lesson", yang menyatakan bahwa metode pembelajaran umum yang dapat diskalakan akan mengalahkan sistem yang mengandalkan pengetahuan buatan manusia. Kini, Sutton melangkah lebih jauh dengan menekankan transisi dari ketergantungan pada data manusia menuju era di mana agen belajar dari pengalaman mereka sendiri. Oak Lab masih dalam tahap konsep, tetapi mewakili upaya radikal untuk mendefinisikan ulang kecerdasan buatan. Sutton dijadwalkan membagikan pemikirannya lebih lanjut pada forum WAIC di Shanghai.

marsbit07/14 12:34

Richard Sutton, Bapak Pembelajaran Penguatan Berusia 69 Tahun, Membuka Startup: Membangun Agen Kecerdasan Setara Otak Manusia 20 Watt

marsbit07/14 12:34

Mengubah Bentuk Transformer, LLM Bisa Jadi Lebih Pintar

Penelitian terbaru dari Mila, Universitas Cornell, dan Universitas Montreal mengajukan pertanyaan mendasar: "Bagaimana jika, tanpa menambahkan satu parameter pun, kita hanya menggeser posisi parameter yang sudah ada dalam model?" Ini menyoroti asumsi implisit pada hampir semua model bahasa berbasis Transformer sejak 2017: semua lapisan mendapatkan alokasi parameter yang sama rata. Eksperimen dengan model 440M parameter membuktikan bahwa mengalokasikan lebih banyak kapasitas (lebar jaringan feed-forward) ke lapisan awal dan mengurangi di lapisan akhir—tanpa mengubah total parameter atau FLOPs—secara signifikan meningkatkan kinerja. Pendekatan ini, yang disebut **Tapered Language Models (TLMs)**, mengubah distribusi parameter dari persegi panjang menjadi berbentuk baji dengan pola menurun. Dari tiga pola penurunan yang diuji (linier, cosinus, sigmoid), pola **penurunan cosinus** terbukti paling optimal. Pada model 440M parameter, metode ini menurunkan nilai perplexity dari 16.28 menjadi 14.44—peningkatan 1.84 poin yang "gratis". Keunggulan ini konsisten diuji pada empat arsitektur model berbeda (termasuk yang menggunakan mekanisme gating dan memori) pada skala 760M dan 1.3B parameter. Analisis mendalam menunjukkan alasan di balik efektivitasnya: lapisan awal lebih banyak melakukan pemrosesan dan penciptaan informasi baru, sementara lapisan dalam cenderung hanya mengulang atau memperkuat sinyal yang sudah ada. Dengan demikian, menggeser kapasitas ke depan adalah alokasi sumber daya yang lebih cerdas. Implikasi penelitian ini luas dan efisien. Daripada hanya bersaing menambah parameter atau membuat arsitektur lebih jarang, industri AI memiliki "tuas gratis" tersembunyi dengan hanya mengoptimalkan **bentuk** distribusi parameter internal model, tanpa biaya komputasi tambahan. Konsep ini berpotensi diterapkan tidak hanya pada LLM, tetapi juga pada model vision Transformer, difusi, dan multimodal.

marsbit06/29 12:56

Mengubah Bentuk Transformer, LLM Bisa Jadi Lebih Pintar

marsbit06/29 12:56

Konsep Model Dunia untuk Pemula: Sebuah Kisah dari Psikologi hingga Medan Utama AI

**Ringkasan Konsep Model Dunia: Dari Psikologi ke Medan Utama AI** Model Dunia adalah konsep yang sangat hangat di dunia AI namun sering membingungkan banyak orang. Pada dasarnya, model dunia bertujuan memberi mesin "papan pasir mental" untuk mensimulasikan dan memprediksi kejadian di dunia nyata sebelum bertindak. Kemampuan ini, yang dalam psikologi disebut "model mental", memungkinkan AI berlatih dan bereksperimen secara virtual, mengurangi ketergantungan pada data dunia nyata yang mahal dan terbatas. Konsep ini berakar dari ide psikolog Kenneth Craik (1943) tentang bagaimana otak membangun model internal untuk memprediksi peristiwa. Di AI, pionir seperti Marvin Minsky dengan "Teori Kerangka" dan peneliti seperti David Ha serta Jürgen Schmidhuber (2018) menghidupkan kembali konsep ini dalam pembelajaran mendalam. Para ahli memiliki pandangan berbeda: * **Yann LeCun** (Meta) mengkritik LLM dan mengadvokasi model prediktif seperti JEPA yang memahami struktur fisika dunia, bukan hanya menghasilkan konten. * **Fei-Fei Li** (Stanford/World Labs) mengklasifikasikan model dunia menjadi tiga jenis berdasarkan siklus "aksi-observasi": **Perender** (menghasilkan piksel/visual), **Simulator** (menghasilkan status dunia dengan akurasi struktural/fisik), dan **Perencana** (menghasilkan aksi). * **Tim FIB-Lab Tsinghua** membaginya menjadi dua fungsi inti: **Memahami Dunia** (mendukung pengambilan keputusan) dan **Memprediksi Masa Depan** (menghasilkan status/video masa depan). Perusahaan teknologi besar juga mendefinisikannya sesuai kebutuhan: * **OpenAI** menyebut **Sora** sebagai "simulator dunia" berbasis video. * **Google DeepMind** membangun **Genie 3** sebagai model dunia 3D interaktif waktu-nyata. * **NVIDIA** mengembangkan **Cosmos** sebagai platform "model fondasi dunia" untuk AI fisik. * **Perusahaan China** seperti Alibaba, Tencent, Huawei, dan pembuat mobil (NIO, XPeng, Li Auto) mengembangkan solusi serupa untuk simulasi mengemudi, robotika, dan dunia virtual, meski sering menggunakan nama berbeda. Secara teknis, ada tiga jalur pendekatan utama: 1. **"Melukis" (Generatif)**: Model pembuat video seperti Sora. Keunggulan visual, tetapi konsistensi fisika lemah. 2. **"Kalkulasi Mental" (Prediktif Abstrak)**: Seperti JEPA LeCun. Memprediksi representasi abstrak, efisien dan lebih stabil mempelajari fisika, tetapi kurang terinterpretasi. 3. **"Menyusun Balok" (Simulasi 3D Eksplisit)**: Seperti NVIDIA Omniverse. Menghasilkan lingkungan 3D dengan properti geometri dan fisika. Tepat dan dapat dikontrol, tetapi memerlukan data khusus dan mahal. Perkembangan terkini bergerak menuju **Model Aksi Dunia (WAM)** yang menggabungkan prediksi keadaan masa depan dan pembuatan aksi dalam satu model, mencapai "pengetahuan dan tindakan yang selaras" untuk robotika. Industri model dunia mulai terbentuk dalam tiga lapisan: * **Lapisan Dasar**: Data, daya komputasi (didominasi GPU NVIDIA), dan sensor. * **Lapisan Platform Teknis**: Platform serbaguna (Omniverse, Pangu) dan platform vertikal (untuk mobil otonom, konstruksi). * **Lapisan Aplikasi**: Mobil otonom (paling matang), robotika, game, konstruksi cerdas, layanan spasial, simulasi medis. Kekacauan dalam penamaan dan definisi sebenarnya adalah tanda awal revolusi teknologi, mirip dengan fase awal komputasi awan atau AI. Semua pendekatan, meski berbeda, mengarah pada tujuan yang sama: memberdayakan mesin dengan model internal dunia yang dapat disimulasikan untuk bertindak lebih aman, efisien, dan cerdas di dunia nyata. Konsep akan menyatu ketika teknologinya matang. Saat ini, ketidakseragaman justru menandakan bahwa model dunia telah memasuki medan pertempuran utama pengembangan AI.

marsbit06/29 05:13

Konsep Model Dunia untuk Pemula: Sebuah Kisah dari Psikologi hingga Medan Utama AI

marsbit06/29 05:13

Bagaimana Melakukan Riset Mendalam dengan Dynamic Workflows Claude

## Ringkasan: Bagaimana Melakukan Penelitian Mendalam dengan Dynamic Workflows Claude Melakukan riset teknologi penuh dengan jebakan, baik bagi manusia maupun AI, karena sering kali informasi yang berlimpah justru mengaburkan kesimpulan. AI cenderung terjebak dalam volume informasi dan lemah dalam asosiasi lintas bidang yang bernilai, meskipun unggul dalam eksekusi dan penelusuran detail secara berlapis. Penulis mengandalkan sistem *deep-research* sendiri namun ingin membandingkannya dengan kemampuan **Dynamic Workflows** pada Claude Code. Fitur ini memungkinkan AI merancang alur kerja yang optimal secara otomatis sebelum menjalankan tugas, berbeda dengan mode "rencana" biasa. Dinamakan dengan perintah `/deep-research`, ia mengkonsumsi token puluhan kali lebih banyak. Inti Dynamic Workflows adalah enam mode penjadwalan inti yang mengatur bagaimana tugas dipecah dan hasil digabung: 1. **Classify-And-Act (Routing):** Tugas diklasifikasi dan dialihkan ke *agent* spesialis yang paling tepat. Efisien dan cepat, tetapi kurang baik untuk tugas dengan batasan kabur. 2. **Fan-out & Merge (Pecah dan Gabung):** Tugas dipecah menjadi sub-tugas independen yang dijalankan paralel, lalu hasilnya digabung. Cepat dan terisolasi, tetapi boros token dan tantangannya ada pada penggabungan. 3. **Adversarial Verification (Verifikasi Adu Argumen):** Satu *agent* menghasilkan kesimpulan, beberapa *agent* lain menantangnya. Hasil diterima jika lolos verifikasi. Mengurangi bias konfirmasi, tetapi perlu batasan yang jelas. 4. **Generate & Filter (Hasilkan dan Saring):** Beberapa *agent* menghasilkan banyak kandidat jawaban untuk tugas yang sama, lalu disaring berdasarkan kriteria (rubrik) ketat. Bagus untuk diversitas, tetapi sangat bergantung pada kualitas rubrik. 5. **Tournament (Turnamen):** Beberapa *agent* bersaing menyelesaikan tugas yang sama, dinilai secara berpasangan (pairwise) hingga ditemukan pemenang terbaik. Stabil untuk penilaian relatif. 6. **Loop (Berulang):** *Agent* mencoba tugas berulang kali, belajar dari kesalahan, hingga kondisi berhenti terpenuhi. Satu-satunya mode untuk tugas dengan batasan tidak pasti, tetapi berisiko loop tak terbatas. **Pertarungan: Skill Penulis vs. Dynamic Workflows Bawaan** Skill penelitian penulis sebelumnya melibatkan pencarian, kompresi, analisis oleh multi-*agent*, dan deduplikasi. Namun, ia memiliki kelemahan mendasar: **kurang konvergensi berorientasi tujuan**, sering menghasilkan laporan panjang tanpa rekomendasi tindakan yang jelas. Dynamic Workflows Claude menambahkan lapisan krusial: * **Dekomposisi Masalah:** Memecah pertanyaan awal menjadi sub-pertanyaan yang tepat sebelum bertindak. * **Penilaian Kredibilitas:** Mengevaluasi keandalan setiap informasi berdasarkan sumbernya. * **Penghapusan Silang (Cross-Deletion):** Menghapus kesimpulan yang tidak mendapat suara cukup dari multi-*agent*, bukan sekadar menggabungkan rata-rata. * **Keluaran Berorientasi Target:** Laporan akhir dirancang untuk memberikan penilaian dan saran yang relevan dengan tujuan awal pengguna. Mekanisme ini mengatasi masalah umum AI: *goal drift* (pergeseran tujuan), *early stopping* (berhenti prematur), polusi konteks, dan bias output. **Kesimpulan** Dynamic Workflows merupakan terobosan dengan menstandarkan **proses penelitian itu sendiri**. Ia mengotomatiskan penjadwalan *agent*, validasi silang, dan deduplikasi, sehingga mengompresi riset yang biasanya butuh belasan percakapan menjadi hanya 3-4 kali interaksi (meski dengan konsumsi token jauh lebih tinggi). Namun, masih diperlukan beberapa iterasi karena tantangan seperti: 1) Kebutuhan verifikasi faktual yang sangat ketat (melebihi ketergantungan pada dokumen resmi), 2) Pemikiran mendalam lintas disiplin yang sangat baru, 3) Desain dan validasi solusi yang mempertimbangkan biaya dan implementasi, serta 4) Kemampuan kondensasi informasi ekstrem yang disesuaikan dengan audiens.

marsbit06/09 03:11

Bagaimana Melakukan Riset Mendalam dengan Dynamic Workflows Claude

marsbit06/09 03:11

Penerima Turing Award Sutton Karya Baru: Selesaikan Kelemahan Besar Pembelajaran Penguatan Streaming dengan Formula 1967

Sebuah makalah baru oleh Arsalan Sharifnassab dkk. (termasuk pemenang Turing Award Richard Sutton) mengatasi "rintangan aliran" (*stream barrier*) dalam pembelajaran penguatan (*reinforcement learning*) secara mendalam. Masalahnya adalah ketidakmampuan belajar "langkah demi langkah" (*online/streaming*) dengan ukuran *batch*=1 dan tanpa *buffer replay*. Alasannya adalah langkah pembelajaran (*step-size*) tradisional hanya mengontrol seberapa besar parameter bergerak, bukan perubahan pada keluaran fungsi, sehingga menyebabkan pembaruan yang tidak stabil. Solusinya disebut **"Intentional Updates" (Pembaruan Berdasarkan Niat)**, sebuah ide yang meluas dari algoritma NLMS tahun 1967. Alih-alih menetapkan ukuran langkah untuk parameter, metode ini menetapkan **"niat"** untuk mengubah *output* fungsi—seperti memperkecil kesalahan prediksi nilai sebesar 5%—lalu menghitung mundur ukuran langkah yang diperlukan. Ini menghasilkan algoritma seperti Intentional TD, Intentional Q, dan Intentional Policy Gradient. Dalam eksperimen, metode ini mencocokkan kinerja algoritma canggih seperti SAC (dalam kontrol berkelanjutan) dan DQN (pada permainan Atari) dalam pengaturan *streaming*, dengan komputasi yang jauh lebih ringan (1/140 FLOP SAC) dan tanpa banyak penyesuaian hiperparameter. Kerangka kerja ini lebih tangguh dan mengurangi ketergantungan pada trik stabilisasi, meskipun ada masalah bias yang perlu ditangani dalam pembelajaran kebijakan. Pendekatan ini membuka jalan untuk sistem AI yang dapat belajar terus-menerus dan beradaptasi secara *online* seperti manusia, cocok untuk robotika dan perangkat *edge* dengan sumber daya terbatas.

marsbit05/10 06:38

Penerima Turing Award Sutton Karya Baru: Selesaikan Kelemahan Besar Pembelajaran Penguatan Streaming dengan Formula 1967

marsbit05/10 06:38

Berpamitan dengan Kekuatan Brute Komputasi: Melihat Logika Penilaian Ulang AI for Science dari 'GrainBot' HKUST

Tim ilmuwan dari Hong Kong University of Science and Technology (HKUST) yang dipimpin oleh Prof. Guo Yike meluncurkan GrainBot, alat AI revolusioner untuk menganalisis struktur mikro material seperti yang digunakan dalam semikonduktor dan baterai. Alat ini menggunakan computer vision dan deep learning untuk secara otomatis mengidentifikasi butiran material dalam gambar mikroskop, menghitung parameter kompleks, dan menghubungkannya dengan performa material. GrainBot menandai pergeseran fokus AI dari model umum ke sains terapan (AI for Science/AI4S). Nilainya tidak diukur dari jumlah pengguna, tetapi dari kemampuannya mempersingkat siklus riset dan menemukan material baru. Misalnya, alat ini dapat mempercepat pengembangan baterai surya perovskite dari 3 tahun menjadi 6 bulan. Hong Kong, dengan keahlian ilmiahnya yang kuat, berpotensi menjadi pusat "laboratorium otonom" yang mengombinasikan AI dan robotik untuk riset material 24/7. Model bisnisnya adalah menciptakan "IP industri" yang dapat dilisensikan ke manufaktur di Greater Bay Area. Tantangan utama adalah kelangkaan data ilmiah berkualitas tinggi dan isolasi data antar laboratorium. Solusi seperti komputasi privasi mungkin diperlukan untuk berbagi data secara aman. GrainBot merepresentasikan masa depan di mana AI mengatasi tantangan dunia fisik, membuka pasar material berbasis AI yang bernilai triliunan.

marsbit03/05 09:45

Berpamitan dengan Kekuatan Brute Komputasi: Melihat Logika Penilaian Ulang AI for Science dari 'GrainBot' HKUST

marsbit03/05 09:45

活动图片

Kategori Populerright-arrow

Tag Populerright-arrow