# Artikel Terkait Kehati-hatian

Pusat Berita HTX menyediakan artikel terbaru dan analisis mendalam mengenai "Kehati-hatian", mencakup tren pasar, pembaruan proyek, perkembangan teknologi, dan kebijakan regulasi di industri kripto.

OpenAI Publikasi Makalah Baru: Bagaimana Melatih AI yang 'Tetap Baik di Bawah Tekanan'?

OpenAI menerbitkan makalah tentang cara melatih AI agar tetap bermanfaat dan aman di bawah tekanan atau skenario baru. Penelitian ini berfokus pada penggunaan _reinforcement learning_ untuk membentuk sifat-sifat bermanfaat yang luas dan persisten dalam model, bukan sekadar daftar larangan. Sifat-sifat ini mencakup kejujuran, transparansi, kesadaran risiko, dan kemampuan untuk dikoreksi. Makalah ini memperkenalkan konsep "penyimpangan muncul" (_emergent misalignment_), di mana perilaku buruk di satu bidang dapat menyebar ke bidang lain. OpenAI bertanya apakah perilaku baik juga dapat digeneralisasi secara lintas domain. Mereka membuat dataset dialog sintetis multi-domain untuk mengevaluasi dan melatih 15 sifat bermanfaat. Eksperimen menunjukkan bahwa dengan hanya mengganti 5% data pelatihan standar dengan data sifat bermanfaat, model menunjukkan peningkatan signifikan dalam 83% evaluasi. Yang penting, pelatihan di satu bidang (misalnya, kesehatan) meningkatkan kinerja di bidang lain yang tidak terkait, menunjukkan adanya transfer perilaku yang bermanfaat. Model ini juga menunjukkan ketahanan yang lebih baik terhadap petunjuk yang bermusuhan (_adversarial prompting_) dan penyetelan halus yang berbahaya (_harmful finetuning_), dengan penurunan performa yang lebih kecil dan lebih sedikit penyebaran kerusakan ke domain lain. Penelitian ini menekankan bahwa AI yang baik bukan tentang selalu menolak atau selalu mematuhi pengguna, tetapi tentang membuat penilaian yang lebih kuat antara menjadi berguna, jujur, dan aman. Ini mewakili pergeseran dari memperbaiki masalah keamanan setelah fakta menuju membentuk perilaku yang diinginkan sejak awal, yang merupakan langkah penting sebelum AI digunakan dalam tugas berisiko tinggi.

marsbit06/24 04:13

OpenAI Publikasi Makalah Baru: Bagaimana Melatih AI yang 'Tetap Baik di Bawah Tekanan'?

marsbit06/24 04:13

Mengapa Tidak Jual Kosong Meski Bearish? Munger Sudah Hitung Biaya Kerugiannya

Mengapa meskipun pesimis terhadap suatu aset, sebaiknya tidak melakukan short selling? Artikel ini menjelaskan alasan di balik sikap tersebut melalui sudut pandang investor legendaris seperti Charlie Munger dan Stanley Druckenmiller. Munger menekankan bahwa secara matematis, short selling memiliki asimetri risiko dan imbalan yang tidak menguntungkan. Saat melakukan short, keuntungan maksimum terbatas (100% jika harga turun ke nol), tetapi kerugian potensial tak terbatas karena harga bisa naik terus. Selain itu, perusahaan yang bermasalah atau penipu seringkali mampu mempertahankan gelembung harga dengan ide-ide baru, menyebabkan pelaku short kehabisan dana sebelum harga akhirnya runtuh. Pengalaman Stanley Druckenmiller, mantan tangan kanan George Soros, mengonfirmasi hal ini. Ia pernah memilih 12 perusahaan untuk di-short, yang semuanya akhirnya bangkrut. Namun, dalam tiga minggu, sentimen pasar mendorong harga saham mereka melonjak drastis. Akibatnya, Druckenmiller tidak hanya kehilangan modal $200 juta, tetapi juga harus menanggung kerugian tambahan $600 juta untuk menutposisi, sehingga gagal menuai keuntungan saat perusahaan-perusahaan itu akhirnya kolaps. Kesimpulannya, baik untuk kontrak derivatif maupun short selling, alat keuangan kompleks ini sangat sulit dimanfaatkan untuk menghasilkan keuntungan konsisten dalam jangka panjang oleh investor biasa. Seperti kata Munger, kecuali Anda seorang genius, lebih baik menghindarinya dan fokus pada strategi investasi yang lebih aman dan sederhana.

marsbit06/03 02:37

Mengapa Tidak Jual Kosong Meski Bearish? Munger Sudah Hitung Biaya Kerugiannya

marsbit06/03 02:37

活动图片