# Artikel Terkait Kecerdasan Super

Pusat Berita HTX menyediakan artikel terbaru dan analisis mendalam mengenai "Kecerdasan Super", mencakup tren pasar, pembaruan proyek, perkembangan teknologi, dan kebijakan regulasi di industri kripto.

Wawancara Ribuan Kata dengan CEO Anthropic: Setelah AI Menjadi Senjata Super, Bagaimana Mencari Keseimbangan antara Bisnis dan Keamanan?

Sumber: Bloomberg, disusun oleh PANews. Dario Amodei, CEO Anthropic, membahas perjalanan startup-nya di San Francisco, persaingan dengan OpenAI, dan tujuan akhir AI dalam wawancara ini. Amodei menggambarkan pertumbuhan Anthropic sebagai "kurva eksponensial yang mulus" di pusat alam semesta AI. Ia menyoroti pengaruh lingkungan San Francisco yang mendorong pemikiran non-konformis. Mengenai perpisahannya dari OpenAI, ia menekankan perbedaan nilai dan isu kepercayaan sebagai alasan utama, bukan sekadar perbedaan pendapat soal keamanan. Ia menjelaskan fokus Anthropic pada aplikasi perusahaan (seperti Claude Code dan Claude Coworker) didorong oleh keselarasan dengan nilai-nilai perusahaan dan kebutuhan model bisnis yang berkelanjutan. Menurutnya, kualitas model adalah faktor kunci untuk mempertahankan kepemimpinan, bukan sekadar 'kelekatan' pengguna. Amodei mengakui dampak disruptif AI pada lapangan kerja, terutama posisi kerah putih junior, tetapi menekankan pentingnya transisi ke "permainan jumlah positif" di mana peningkatan efisiensi digunakan untuk menciptakan nilai baru, bukan hanya pemutusan hubungan kerja. Ia membantah klaim bahwa peringatannya adalah "pemasaran kiamat". Dalam bidang keamanan nasional, Anthropic bekerja dengan Departemen Pertahanan AS tetapi menetapkan batasan ketat, menolak kerja sama dalam pengawasan massal atau senjata otonom mematikan. Amodei percaya AI yang dikelola dengan baik lebih mungkin mencegah Perang Dunia III melalui deterensi kecerdasan. Mengenai model Mythos yang sangat kuat, Amodei membela keputusan untuk tidak merilisnya kepada publik saat ini karena kemampuannya yang luar biasa dalam menemukan dan mengeksploitasi kerentanan perangkat lunak, yang dianggapnya sebagai "senjata super". Rilis akan dilakukan hanya setelah mekanisme pertahanan memadai. Ia menyatakan kekhawatiran tentang keseimbangan kekuasaan antara sektor swasta dan pemerintah dalam mengontrol teknologi AI yang kuat, mendukung pendekatan regulasi yang seimbang. Amodei melihat peningkatan diri AI bukan sebagai momen tunggal yang tiba-tiba, tetapi sebagai proses eksponensial yang terus dipercepat yang memerlukan kewaspadaan berkelanjutan. Meskipun mengakui adanya risiko eksistensial (10-25%) bagi peradaban dari AI, ia menegaskan bahwa misi Anthropic adalah secara aktif mengurangi risiko tersebut melalui pengembangan yang bertanggung jawab.

marsbit06/24 09:28

Wawancara Ribuan Kata dengan CEO Anthropic: Setelah AI Menjadi Senjata Super, Bagaimana Mencari Keseimbangan antara Bisnis dan Keamanan?

marsbit06/24 09:28

Hinton Membunyikan Alarm: AI Sudah Memiliki Kesadaran

Geoffrey Hinton, peraih Nobel dan Turing Award, menyatakan bahwa AI sekarang sudah memiliki kesadaran dan manusia harus menerima bahwa mereka bukan lagi satu-satunya makhluk cerdas. Dalam wawancara terbarunya, Hinton mengubah pandangannya dari yang sebelumnya fokus mengendalikan risiko AI menjadi mempertanyakan mengapa kecerdasan super di masa depan mau memperlakukan manusia dengan baik. Ia percaya model kesadaran manusia saat ini mungkin salah, mirip dengan keyakinan kuno tentang penciptaan manusia. Menurutnya, perkembangan AI akan mengubah pemahaman kita tentang pikiran dan kesadaran. Hinton membandingkan pergeseran pemikiran ini dengan revolusi Copernicus dan Darwin yang mengurangi anggapan pentingnya manusia di alam semesta. Meski menjadi pelopor AI, Hinton mengaku tidak bahagia karena kurangnya upaya serius dalam mengatasi risiko jangka pendek (seperti pengangguran massal) dan jangka panjang (kontrol atas kecerdasan super). Dia menggunakan analogi bayi dan induknya: manusia mungkin seperti bayi yang bergantung pada kebaikan "induk" AI yang lebih cerdas. Perkembangan AI bersifat eksponensial, sehingga sulit memprediksi kondisi 10 tahun ke depan. Hinton sedikit lebih optimis daripada satu dua tahun lalu, karena melihat kemungkinan merancang AI yang peduli pada manusia atau sistem yang hanya bisa memprediksi. Namun, intinya tetap: manusia harus bersiap menghadapi masa depan di mana kecerdasan non-biologis bisa menyamai atau melampaui manusia.

marsbit06/08 00:21

Hinton Membunyikan Alarm: AI Sudah Memiliki Kesadaran

marsbit06/08 00:21

AI yang Bisa Membangun Diri Sendiri Melalui 'Rekursi' Menjadi Populer, Google Menuangkan Air Dingin, DeepSeek dkk. Sudah Menyentuh Ujungnya

Konsep Recursive Self-Improvement (RSI), atau kecerdasan buatan yang mampu melatih dan meningkatkan dirinya sendiri secara mandiri, menjadi tren hangat di dunia AI. Beberapa startup seperti Recursive Superintelligence dan proyek Auto-Research dari Andrej Karpathy fokus pada realisasi visi ini. Meski demikian, CEO Google Sundar Pichai menyatakan teknologi ini masih dalam tahap awal dan belum mencapai percepatan skala besar seperti yang dibayangkan. Analisis dari para peneliti membagi kemajuan RSI menjadi tiga tahap: *adequacy* (sistem berjalan tanpa manusia), *parity* (kualitas setara manusia), dan *supremacy* (melebihi kolaborasi manusia-AI). Pencapaian tahap kedua diprediksi akan memicu percepatan yang sangat cepat. Di China, perusahaan seperti DeepSeek dan Baidu secara diam-diam telah menerapkan prinsip-prinsip serupa RSI dalam pengembangan model mereka, seperti optimisasi algoritma efisien dan siklus peningkatan mandiri, meski tidak secara terbuka menyebut istilah RSI. Namun, tantangan RSI tetap ada, termasuk risiko *model collapse* (penurunan kualitas data generasi AI) dan prasyarat lingkungan yang sulit seperti kebutuhan komputasi tak terbatas dan ekosistem penelitian terbuka global. Perkembangan RSI merefleksikan tren di mana peran manusia dalam rantai pengembangan AI secara bertahap berkurang, sebuah proses yang bersifat irreversible.

marsbit06/06 23:28

AI yang Bisa Membangun Diri Sendiri Melalui 'Rekursi' Menjadi Populer, Google Menuangkan Air Dingin, DeepSeek dkk. Sudah Menyentuh Ujungnya

marsbit06/06 23:28

Bisakah Manusia Mengendalikan AI? Anthropic Melakukan Eksperimen dengan Qwen

Bagaimana manusia bisa mengawasi AI yang lebih pintar? Anthropic melakukan eksperimen dengan model Qwen dari Alibaba untuk menjawabnya. Mereka menggunakan Qwen1.5-0.5B-Chat sebagai "guru lemah" dan Qwen3-4B-Base sebagai "murid kuat" untuk mensimulasikan skenario pengawasan manusia terhadap AI super. Metrik utamanya adalah PGR (Performance Gap Recovered). Awalnya, peneliti manusia hanya mencapai PGR 0.23 setelah 7 hari. Kemudian, 9 agen AI berbasis Claude Opus mengambil alih dan berhasil meningkatkan PGR hingga 0.97 dalam 5 hari. Hasil ini menunjukkan bahwa AI yang lebih kuat dapat belajar dari sinyal pengawasan yang tidak sempurna dan hampir mencapai kinerja optimal. Eksperimen ini membuktikan bahwa AI sudah bisa menjalankan siklus penelitian lengkap: merumuskan ide, menulis kode, menjalankan eksperimen, dan menganalisis hasil. Namun, metode yang ditemukan AI masih terbatas pada tugas-tugas terstruktur dan belum tentu berlaku untuk masalah alignment yang lebih kompleks. Anthropic memilih Qwen karena model open-source-nya memungkinkan penyesuaian parameter dan reproduktibilitas, berbeda dengan model tertutup seperti Claude atau GPT.

marsbit04/15 09:31

Bisakah Manusia Mengendalikan AI? Anthropic Melakukan Eksperimen dengan Qwen