Era keemasan penulisan AI, sedang runtuh!
Masuk, model yang satu lebih kuat dari yang lain, tetapi artikelnya semakin buruk.
AI tahu kapan harus membuat daftar saran, di mana harus menyisipkan subjudul, dan tidak lupa menambahkan kesimpulan di akhir.
Tetapi setelah membaca seluruhnya, tidak ada satu kalimat pun yang tersisa di benak.
Model Semakin Kuat, Artikel Semakin Tidak Mirip Ucapan Manusia
Baru-baru ini, peneliti pascadoktoral Universitas Cambridge, Adam Hunt, juga menyadari fenomena ini. Bidang penelitiannya adalah psikiatri evolusi dan evolusi manusia.
Dulu Hunt selalu optimis dengan AI. Namun, pada 28 Juli, dia mengakui dalam sebuah postingan panjang: dirinya sekarang semakin pesimis.
Sebelumnya ada analogi populer yang menggambarkan kemampuan model seperti lingkaran dengan puncak runcing.
Pertama, kode dan matematika melampaui manusia, kemudian seiring peningkatan skalanya, setiap aspek perlahan-lahan tumbuh, akhirnya mencapai AGI.
Tetapi kenyataannya, kemampuan kode dan matematika memang semakin panjang, sedangkan ekspresi bahasa dan penalaran sederhana tidak meningkat secara bersamaan.
Dari sudut pandang pembelajaran penguatan, hal ini hampir pasti terjadi.
Generasi LLM sebelumnya terlihat "secara keseluruhan lebih pintar" karena data pelatihannya sendiri berasal dari semua bidang, mulai dari puisi hingga makalah, seluruh internet ada di dalamnya.
Namun, itu adalah produk sampingan dari data, bukan "pemahaman" sejati dari model.
Rantai pemikiran dan pencarian web kemudian muncul, memperpanjang umur model untuk sementara. Hanya saja, jalan ini akhirnya mentok di tembok.
Selanjutnya, perusahaan AI yang ingin cepat balik modal fokus pada kode.
Alasannya sederhana, ada data pelatihan yang terus mengalir.
Commit, review, PR di GitHub semuanya sudah tersedia. Dan mirip dengan matematika, kode memiliki sinyal umpan balik yang jelas: bisa berjalan ya bisa berjalan.
Menulis artikel? Dengan apa Anda memberi nilai otomatis untuk "bagus tidaknya sebuah prosa"? Tanpa hadiah, RL tidak akan mengoptimalkan ke arah itu.
Jadi, semua usaha pelatihan dialihkan ke kode, sedangkan ekspresi bahasa hanya bisa mengandalkan modal dari tahap pra-pelatihan.
Modal lama hanya bisa semakin menipis, bahkan untuk mendukung peningkatan di bidang lain, bisa terjadi kemunduran.
Inilah tempat di mana Hukum Goodhart mudah terlihat.
Ketika suatu indikator menjadi target pelatihan, ia tidak lagi secara akurat mencerminkan kemampuan sebenarnya. Lab mengoptimalkan model dengan pengujian patokan, lalu membuktikannya lebih kuat dengan pengujian serupa.
Akurasi dalam daftar peringkat akan terus naik. Pengalaman penggunaan aktual mungkin stagnan, bahkan menurun.
Kali Ini, Peniruan Juga Dibatasi
Sementara kemampuan menurun, hal lain juga terjadi.
Seorang pengguna Reddit mengeluh dalam postingan, dia telah menggunakan ChatGPT untuk menulis buku selama beberapa bulan, berlangganan model tingkat lanjut. Di tengah, dia istirahat sebentar.
Saat dia kembali, prompt yang selalu bisa digunakan itu tiba-tiba menolak.
Prompt itu sendiri tidak rumit: tentukan seorang penulis, minta untuk menambah dialog, memperkaya detail, hindari kalimat pendek yang terpotong-potong.
Dulu, cukup sebutkan nama penulis, model dapat menghasilkan konten yang mendekati gaya tulisannya, tanpa perlu menjelaskan panjang kalimat, ritme, sudut pandang tambahan.
Sekarang, prompt semacam ini tidak bisa digunakan lagi.
Ars Technica menguji Stephen King, J.K. Rowling, Amy Tan, Dickens, Hemingway, Engadget menguji Agatha Christie, ChatGPT menolak untuk meniru semuanya.
Jika Anda tidak menyebut nama, hanya meminta fitur abstrak seperti "intensitas ketegangan", "ritme naratif", "kepadatan dialog", maka bisa menghasilkan output. Tetapi rasanya, bukan rasa yang dulu lagi.
Era Keemasan Penulisan AI, Telah Runtuh
Sekarang, kontroversi ini telah menggoyahkan ekspektasi dasar pengguna terhadap penulisan AI.
Model belum tentu semakin baik menulis, prompt juga tidak lagi efektif dalam jangka panjang.
Platform mengubah aturan, seluruh alur kerja penulisan yang dibangun di sekitar model tertentu, bisa runtuh kapan saja.
Namun, penulisan AI tidak akan hilang, ia hanya mundur ke posisi yang seharusnya: alat.
Ia dapat mencari data, menyusun struktur, mengedit kalimat, tetapi tidak dapat menggantikan penulis untuk memutuskan apa yang harus ditulis dan mengapa harus menulis.
Dengan kata lain, pengalaman, penilaian, dan keinginan berekspresi manusia, semakin bernilai.
Referensi: https://arstechnica.com/ai/2026/07/chatgpt-stops-cloning-famous-writers-voices-but-may-capture-a-similar-feeling/
Artikel ini dari akun WeChat publik "新智元", penulis: ASI启示录
