Baru-baru ini, serial animasi AI "Pu nky D uck" yang dikembangkan oleh Amazon menghadapi kontroversi etika yang sengit dan boikot daring. Akhirnya, sutradara Jorge Gutierrez mengumumkan penghentian produksi animasi ini. Proyek ini pernah dianggap sebagai "terobosan kreatif" oleh Amazon MGM Studios, dan akhirnya menjadi cerminan dari situasi canggung konten AI saat ini.
Bagi perkembangan industri film dan televisi, tahun 2026 adalah tonggak sejarah yang signifikan: AI berkembang dari menghasilkan segmen video yang memukau hingga langsung menghasilkan cerita visual lengkap; dari meningkatkan efisiensi bagian-bagian produksi hingga melahirkan jalur produksi drama pendek yang sama sekali baru; dari sedikit menggantikan penampilan manusia hingga mendorong ledakan konten manusia virtual yang terkonsentrasi. Semua perubahan pesat ini membuat industri film dan televisi global mengalami "pergulatan internal" yang belum pernah terjadi sebelumnya:
Di satu sisi, langkah AI mendalami produksi film dan televisi tampaknya tak terhindarkan lagi, dengan film panjang kelas bioskop yang dibuat AI semakin cepat direalisasikan. Selama Festival Film Cannes ke-79 yang baru berakhir, film AI Korea "RAPHAEL" melakukan pemutaran cuplikan di Pasar Film Cannes (Cannes Marché du Film). Film fiksi ilmiah panjang yang direncanakan tayang di bioskop pada 2026 ini hanya dibuat oleh tim 7 orang dengan bantuan AI. 1 Film AI berdurasi 75 menit lainnya, "Dreams of Violets", diselesaikan hanya dengan biaya $2000 dan waktu 3 bulan, telah menjadi film panjang pertama di dunia yang sepenuhnya dihasilkan AI dan lolos seleksi festival film mainstream. 2 Sementara itu, film asli AI pertama China yang tayang di bioskop, "Sanxingdui: Masa Lalu Masa Depan", secara resmi telah memperoleh "Lencana Naga" dari Administrasi Film Nasional, 3 menandai era baru legalitas penerapan AI di film China.
Di sisi lain, kritik dan kontroversi seputar film AI jauh dari berakhir. "Menggantikan penampilan aktor/aktris manusia" bahkan dianggap sebagai benteng terakhir serangan AI di bidang film dan televisi, menjadi topik paling kontroversial. Pada Mei, Screen Actors Guild-American Federation of Television and Radio Artists (SAG-AFTRA) mencapai kesepakatan sementara baru selama empat tahun dengan studio film besar Hollywood, yang mewajibkan pembatasan penggunaan "aktor sintetis" yang dihasilkan AI, kecuali dapat dibuktikan membawa "nilai tambah yang signifikan". 4 Di dalam negeri, topik "Pustaka Artis AI" bagaikan batu yang dilemparkan ke kolam, memicu kekhawatiran luas tentang legalitas lisensi citra digital, kualitas akting AI, hingga bentuk masa depan industri film dan televisi. 5
AI tampaknya sedang "menari dengan belenggu" di industri film dan televisi. Di antara suara-suara yang saling bertentangan ini, fokus juga menjadi jelas: ketika teknologi telah secara tak terelakkan mendorong restrukturisasi industri, masalah inti tentang AI telah bergeser dari "seharusnya digunakan atau tidak" menjadi "bagaimana menggunakannya".
Saatnya membahas batas-batas AI di bidang konten budaya. Dan ini, mungkin, adalah titik awal sesungguhnya untuk menghadapi dampak AI ini.
Mengapa Kehadiran AI di Film/Televisi Sangat Membuat Gelisah?
Berbeda dengan banyak industri, setelah AI memasuki bidang konten budaya, sorak-sorai tentang pengurangan biaya dan peningkatan efisiensi tidak bertahan lama, dengan cepat berubah menjadi keraguan, kekhawatiran, dan perbedaan pendapat, ini tampaknya merupakan fenomena yang agak paradoks.
Dibandingkan dengan para pelaku industri yang terdampak langsung, publik menunjukkan psikologi konsumsi yang lebih kompleks: di satu sisi kecanduan video hewan peliharaan AI dan "drama pendek buah" di platform video pendek, di sisi lain menolak film panjang AI dan artis AI di media sosial. Pada 2025, skala pasar drama komik AI China telah mencapai 18,98 miliar yuan, 6 yang pada tingkat tertentu memenuhi kebutuhan penonton akan konten fantasi, supranatural, dan penuh imajinasi. Di luar negeri, "drama pendek buah AI" dengan alur yang melodramatis dan absurd menyapu platform sosial, akun terkait meraih lebih dari 3,1 juta pengikut hanya dalam 9 hari setelah diluncurkan. Tren ini juga cepat menyebar ke dalam negeri, video terkait mendapatkan miliaran kali tayang di platform sosial.
Ini cukup membuktikan bahwa konten video yang dihasilkan AI telah memperoleh basis pasar yang luas. Namun ketika AI muncul dalam produksi film/televisi tradisional, sering kali memicu keraguan, bahkan beberapa kreator AI diserang sebagai "pengkhianat seni".
Satu masalah inti di baliknya adalah bahwa orang memiliki struktur berpikir dan kebutuhan psikologis yang berbeda dalam konteks media yang berbeda, sehingga tingkat kesesuaian AI dengan konten media yang berbeda juga menjadi tidak sama.
Kita Secara Alami Membutuhkan Makanan Mental pada Tingkat Berbeda
Dari struktur psikologi sosial, manusia memiliki dua cara berpikir yang berbeda. Psikolog kognitif Daniel Kahneman menyatakan bahwa otak manusia secara alami memiliki "sistem ganda": Sistem 1 berjalan otomatis dan cepat, tidak memerlukan konsentrasi, lebih mengandalkan intuisi dan penilaian cepat. Pengoperasian Sistem 2 memerlukan konsentrasi, melibatkan pemikiran yang lebih hati-hati dan pemrosesan makna. Dalam proses konsumsi budaya, kedua sistem ini sesuai dengan tingkat keterlibatan kognitif yang berbeda, dan selanjutnya membentuk kebutuhan konsumsi yang berbeda: yang pertama biasanya terkait dengan kegiatan hiburan yang mengejar kesenangan dangkal, sedangkan yang kedua lebih terkait dengan kegiatan budaya spiritual yang mengejar pemikiran mendalam dan konstruksi makna.
Dalam perkembangan media modern, media yang berbeda mulai memikul fungsi yang berbeda, memenuhi kebutuhan yang berbeda: misalnya, membaca serius, film/televisi menjadi pembawa konten yang relatif mendalam, pada tingkat tertentu menjadi saluran "penyediaan makna" sosial, berperan menginspirasi pemikiran, membangkitkan emosi, membentuk konsensus, dan sebagainya. Sedangkan mode konsumsi seperti video pendek, drama pendek, permainan seluler, sesuai dengan kenyataan bahwa manusia modern memiliki banyak waktu senggang yang terpecah-pecah, memikul fungsi hiburan instan dan pengisi waktu luang yang singkat. Sifat fisik media menyesuaikan diri dengan pembagian kerja fungsi ini, dan sebaliknya, semakin membentuk kondisi perhatian manusia yang berbeda.
Kita bisa menggunakan istilah "makanan utama budaya" dan "makanan cepat saji budaya" untuk membedakan fungsi dan karakteristik kedua jenis konten ini. Meskipun perbedaan ini tidak sepenuhnya ketat, misalnya film panjang mungkin juga menyediakan makanan cepat saji budaya, dan video pendek juga dapat memuat makanan utama budaya. Namun secara keseluruhan, bentuk media yang berbeda cenderung membentuk karakteristik konten yang berbeda, untuk menyesuaikan dengan psikologi konsumsi yang berbeda.
Untuk produk konten video, mungkin bisa dipahami perbedaan ini dari bentuk medianya: Semakin besar layar yang dihadapi penonton, semakin jauh gambar, semakin panjang durasinya, konten yang dikonsumsi lebih mendekati "makanan utama budaya", orang semakin perlu memasuki keadaan relatif terlibat; sebaliknya, semakin kecil layar, semakin dekat gambar, semakin pendek durasinya, konten lebih banyak tampil sebagai "makanan cepat saji budaya", orang semakin mudah memasuki keadaan berpikir dangkal dan keterlibatan rendah yang relatif.
AI Lebih Sesuai dengan Logika Produksi "Makanan Cepat Saji Budaya"
Kemampuan produksi konten AI saat ini sangat sesuai dengan "makanan cepat saji budaya".
Sesuai dengan narasi yang terfragmentasi dan berirama cepat. Karakteristik media video pendek dan drama mikro memberikan skenario untuk AI "mengembangkan kelebihan dan menghindari kekurangan". Pertama, konten jenis ini memiliki karakteristik "kreativitas modular", yaitu irama narasi cepat, paragraf alur pendek, penokohan dan latar yang sangat templat. Mode kreatif ini secara alami cocok untuk dipelajari dan ditiru oleh AI, karena yang dibutuhkan bukanlah alur yang kompleks dan pembentukan karakter yang mendetail, melainkan rekombinasi cepat dari mode yang sudah matang. Pada saat yang sama, pada layar kecil dan narasi berirama cepat, penonton jarang lama memperhatikan detail bidikan atau akting tertentu, cacat kecil pada konten yang dihasilkan AI, ketidakwajaran akting sintetis, seringkali tidak menjadi kekurangan yang menentukan. "Perasaan tidak nyata" yang dibuat AI, kadang-kadang tidak hanya tidak merusak pengalaman menonton, malah dapat membentuk keindahan estetika absurd yang unik dalam gaya visual.
Memenuhi kebutuhan konsumsi emosi dangkal. Keunggulan AI dalam menciptakan tontonan visual yang menakjubkan dan akting yang berlebihan sangat sesuai dengan sifat konsumsi konten seperti video pendek dan drama mikro. Pada dasarnya, konten jenis ini adalah produk konsumsi emosi, konsumsi pengguna terhadapnya mengikuti logika "cepat saji": sebagian besar waktu, pengguna hanya menggulir cepat, mengejar umpan balik emosi dalam waktu singkat, bukan perendaman emosi jangka panjang. Sedangkan AI mampu menyediakan pengaturan yang lebih baru, efek visual yang lebih "menggelegar" untuk konten jenis ini, semakin memperkuat sensasi kenikmatan, memenuhi kebutuhan emosi dangkal konsumen.
Sesuai dengan logika bisnis gratis. Platform video pendek dan sebagian besar drama mikro sebagian besar mengadopsi model gratis, strategi bisnis platform adalah memperpanjang waktu tinggal pengguna sebanyak mungkin, dan menyelesaikan konversi bisnis melalui iklan dan distribusi lalu lintas. Oleh karena itu, aliran informasi yang pasokan besar dan pembaruan terus-menerus adalah dasar bagi platform untuk mencapai pendapatan bisnis, apakah konten dapat diproduksi dengan cepat lebih penting daripada apakah konten memiliki ekspresi inti yang lengkap dan kompleks. Efisiensi produksi yang tinggi dari AI menyediakan pasokan konten yang besar bagi platform, kebutuhan bisnis platform selanjutnya mendorong perkembangan pesat konten AI.
AI Masuk Film/Televisi, Berarti Tantangan yang Lebih Dalam terhadap "Manusia"
AI telah menemukan skenario konten video yang sesuai dengannya dalam hal bentuk media, kebutuhan konsumsi, model bisnis, dan sebagainya, tetapi ini tidak berarti AI telah memiliki kemampuan untuk mendalami inti kreasi film/televisi. Hal ini tidak hanya karena industri film/televisi dalam perkembangan sejarah bertahun-tahun telah menyediakan harapan artistik dan janji kualitas yang lebih tinggi bagi penonton, lebih penting lagi, industri film/televisi menuntut partisipasi "manusia" yang lebih tinggi.
Dari sisi penawaran, AI mengguncang rantai industri yang lebih matang, kaya, dan berakar kokoh, dan mungkin membentuk tekanan pada banyak mata rantai produksi dan posisi, yang menyebabkan rasa sakit transformasi jauh lebih besar daripada ekosistem video yang baru muncul. Pada saat yang sama, AI akan memadatkan proses "dari belajar hingga memproduksi" kreator manusia, dengan efisiensi yang tak terjangkau manusia, menyerap hasil karya sutradara, penulis skenario, dan aktor/aktris terbaik dalam sejarah manusia, dan melalui perakitan, menghasilkan berbagai cerita dan gaya sesuai permintaan.
Di sisi konsumsi, AI yang secara langsung menghasilkan karya film/televisi berarti AI tidak lagi terbatas pada menyediakan rangsangan indera dangkal bagi penonton, tetapi mencoba menyediakan "makanan utama budaya" manusia: dalam hal ekspresi emosi, AI tidak lagi terbatas pada menghasilkan cerita terfragmentasi dan akting berlebihan, tetapi mulai mencoba membentuk "kenyataan", mengekspresikan "emosi", membangkitkan "rasa empati", berusaha membuat penonton percaya dan terhanyut.
Kedua hal ini berarti, AI akan lebih lanjut menantang keunikan manusia—kreativitas, pemikiran, emosi—berusaha lebih lanjut melintasi batas antara manusia dan AI. Inilah yang benar-benar membuat orang merasa gelisah terhadap karya AI.
Di Industri Konten, Nilai Manusia adalah Unik
Lalu, apakah kreasi AI benar-benar akan menggantikan nilai kreasi manusia?
Perbedaannya dengan industri lain terletak pada salah satu nilai inti industri konten budaya adalah "komunikasi antar manusia", nilai produk konten tidak terpisahkan dari pengalaman, emosi, dan subjektivitas manusia, kekhususan ini membuat diskusi tentang nilai kreasi AI menjadi kompleks.
Pertama, AI pasti akan mendefinisikan ulang "nilai konten", atau mengubah bobot nilai yang berbeda, membuat beberapa konten manusia menjadi tidak penting lagi, dan konten manusia lainnya menjadi lebih langka. Oleh karena itu, konten yang dihasilkan AI akan memenuhi harapan orang dan menggantikan kreasi manusia dalam beberapa jenis.
Hal ini karena AI membentuk ulang sumber daya produksi industri konten, ketika nilai produk konten sangat bergantung pada sumber daya kreasi yang terstandarisasi dan dapat direplikasi, maka akan lebih mudah menghadapi risiko penyusutan nilai dan penggantian.
Sebuah kasus khas adalah, hambatan teknis efek visual dalam karya film/televisi menurun drastis, memberikan dampak pada jenis film yang sangat bergantung pada teknologi audio-visual. Di bawah sistem industri film/televisi modern, nilai karya film/televisi sebagian besar berasal dari dimensi teknologi, seperti kualitas gambar, gaya visual, efek visual, dan sebagainya. Sejarah perkembangan industri film sendiri adalah sejarah peningkatan teknologi terus-menerus. Sejak 2025, AI dapat dengan cepat meniru gaya pengambilan gambar, menghasilkan tontonan visual dalam jumlah besar, memecahkan kelangkaan teknologi pencitraan, dan terus meningkatkan ambang batas rangsangan visual, tontonan audio-visual belaka semakin sulit menyentuh penonton. Di masa depan, karya film/televisi yang mengandalkan teknologi pencitraan sebagai "daya tarik" memiliki kemungkinan besar akan sepenuhnya digantikan oleh kreasi otomatisasi AI.
Kedua, AI tidak mungkin sepenuhnya menggantikan nilai kreasi manusia. Setidaknya ada tiga dimensi nilai manusia dalam kreasi konten budaya yang sulit digantikan: kemampuan inovasi, pengorbanan tenaga, interaksi emosional.
Kemampuan Inovasi Manusia
Tidak dapat disangkal, AI dengan menurunkan hambatan produksi, sangat membebaskan kreativitas massa, mengandung kemungkinan tak terbatas dalam narasi dan estetika. Namun faktanya, apakah AI benar-benar meningkatkan daya inovasi industri konten?
Kembali ke data realitas, setelah AI mencapai aplikasi skala besar di bidang video, novel web, musik, dan sebagainya, membawa sedikit inovasi yang benar-benar berarti, melahirkan sedikit karya yang bersifat memimpin dalam hal gaya estetika, tema konten, paradigma narasi, dan sebagainya, tetapi pada saat yang sama, membawa kreasi homogenisasi dan templatis dalam skala besar. Pada kuartal pertama 2026, industri merilis sekitar 128 ribu drama mikro, di antaranya sekitar 122 ribu adalah drama mikro AI, mencapai lebih dari 95%, 7 tetapi temanya sangat terkonsentrasi pada jenis-jenis homogen seperti fantasi, supranatural, reinkarnasi, dan sebagainya. Inovasi narasi drama pendek yang paling menarik perhatian pada paruh pertama tahun ini masih berasal dari kreasi manusia, misalnya "ENEMY" yang menggabungkan "aliran tak terbatas" dengan opera tradisional dan sentimen kebangsaan.
Alasannya sederhana, AI hanya dapat merekombinasi dalam lingkup data karya yang diketahui, tidak dapat menghasilkan "hal baru" di luar set pelatihan. Secara keseluruhan, AI dengan meniru karya-karya manusia yang bagus, dapat meningkatkan "rata-rata kualitas" karya konten, tetapi sulit menciptakan karya yang bersifat perintis, memimpin, dan terobosan.
Hasil Pengorbanan Tenaga Manusia
Pengorbanan tenaga kreator, pada dasarnya adalah sumber penting kelangkaan dan keistimewaan karya budaya. Proses pemolesan jangka panjang dan keterlibatan mendalam dalam proses kreasi, tidak hanya menjadi jaminan kualitas karya, tetapi juga sebagai simbol nilai yang tertanam dalam karya, membuat penonton merasakan "diperlakukan dengan sungguh-sungguh".
Ambil contoh serial televisi, pembuatan lambat oleh kreator dan penerimaan lambat oleh konsumen, membentuk suatu penciptaan nilai bersama yang berbasis pada investasi waktu. Serial TV "Blossoms Shanghai" mempersiapkan selama 6 tahun, syuting 3 tahun, "The Leading Actor" dipoles selama 8 tahun, adegan klasik "Operasi Gitar" selama hampir 25 menit dalam "The Three-Body Problem" menghabiskan 4 bulan persiapan, 27 hari syuting. Dan ketika orang menghabiskan waktu beberapa minggu menonton serial, mereka juga merasakan bagaimana kreator secara perlahan membangun karakter dan makna. Investasi waktu timbal balik antara kreator dan konsumen ini, menjadi bagian dari nilai unik karya.
AI sangat mengurangi pengorbanan tenaga manusia di balik karya, juga mengurangi perasaan nilai yang dibawa oleh "investasi kehidupan" ini. Dulu, kreasi konten bergantung pada kreativitas, waktu, energi manusia; sekarang, kreasi AI mengonsumsi daya komputasi, listrik, dan biaya pemanggilan model, penonton dalam logika perhitungan biaya teknologi, akan semakin sulit merasakan kelangkaan dan bahkan tidak dapat diperbarui yang dibawa oleh "investasi kehidupan".
Pengalaman Hidup dan Interaksi Emosional Manusia
Karya budaya klasik sulit direplikasi, banyak kasus tidak hanya karena teknik kreasi yang tinggi, tetapi karena memadatkan pengalaman hidup yang unik dan ekspresi pribadi sang kreator. Di satu sisi, pengalaman nyata dan emosi tulus yang disampaikan kreator dalam produk konten, membuat penonton membangun koneksi spiritual dengan jiwa di ujung lain karya, membentuk makna penting dari konten budaya. Di sisi lain, pilihan dan kepribadian unik kreator juga merupakan bagian yang tidak terpisahkan dari karya. Perubahan emosi seorang aktor/aktris yang membawa akting improvisasi, seorang pelukis yang menggambarkan mimpinya sendiri yang unik, sering kali dapat menciptakan makna khusus bagi penonton. Nilai karya budaya, sebagian besar berasal dari proses yang tidak dapat sepenuhnya diprediksi dan distandardisasi.
Kreasi AI membawa logika solusi optimal, kata kunci yang menghasilkan teks, melodi, dan gambar sering kali akurat, tetapi juga konvensional, sedangkan seni budaya selalu mengandung bagian yang melampaui rasionalitas instrumental. Seiring kemajuan teknologi, suatu hari nanti AI mungkin dapat menghasilkan lukisan setara master, akting karakter yang halus, nyanyian penuh emosi, tetapi tidak dapat menggerakkan "pemahaman" dan "pengalaman" uniknya sendiri, apalagi mewujudkan ekspresi yang personal. Pada tingkat produksi industri, ini berarti peningkatan efisiensi dan pengurangan risiko; tetapi pada tingkat seni, juga dapat membuat kreasi secara bertahap meluncur ke mode yang membosankan. Ketika penilaian, pilihan, dan kesalahan yang penuh ketidakpastian itu semuanya dihilangkan, warna unik kemanusiaan juga akan terhapus, hal ini justru akan membuat orang semakin menghargai ekspresi manusia yang tidak sempurna namun nyata.
Perkembangan Konten AI Menghadapi Risiko "Melampaui Batas"
Meskipun kreasi AI sulit menggantikan seluruh nilai kreasi manusia, namun dengan keunggulan biaya, kapasitas, dan efisiensi yang signifikan telah mencapai pertumbuhan eksplosif, dan berkembang dengan kecepatan yang jauh melampaui konten manusia. AI membawa vitalitas besar bagi perkembangan industri, tetapi juga menantang ekosistem kreasi manusia, bahkan mungkin melampaui batas perkembangan "berpusat pada manusia". Risiko "melampaui batas" ini terutama terwujud dalam tiga aspek.
Keunggulan Biaya: Mungkin Memeras dan Mencuri Kreasi Manusia
Teknologi seperti mesin cetak, film, televisi, internet saat menggeser posisi konten tradisional, semuanya menciptakan banyak lapangan kerja baru, menyediakan peluang baru untuk bersaing secara setara. Dan AI jelas berbeda dengan perubahan media sebelumnya, keunggulan biaya produksi konten AI terutama dibangun di atas dua premis: pertama, pembelajaran dan peniruan terhadap hasil karya manusia yang sudah ada; kedua, penggantian terhadap sebagian mata rantai tenaga manusia.
Secara keseluruhan industri, penyusutan posisi yang dibawa transformasi AI di industri konten sering kali lebih besar daripada penambahan, mendorong sebagian pelaku industri ke pinggiran industri. Misalnya, AI dapat membuat banyak mata rantai produksi di industri film/televisi dan drama mikro menjadi "de-skilling", sehingga mempersempit posisi seperti desain storyboard, editing tingkat dasar, dan sebagainya, sedangkan posisi baru yang dilahirkan seperti "penarik kartu" banyak menunjukkan karakteristik pendapatan rendah, jaminan rendah, penggantian tinggi. 8 Pada saat yang sama, "variabel cepat" seperti penerapan teknologi, aturan platform, dan "variabel lambat" seperti pelatihan ulang pekerjaan, transformasi bisnis, membentuk ketidakselarasan, membuat banyak perusahaan dan pelaku industri tidak sempat mencapai transformasi, menghadapi krisis operasional dan pengangguran.
Di antara kreator yang berbeda, penggunaan AI yang tidak sesuai aturan dapat membuat hasil kreasi sebagian orang dicuri oleh sebagian lainnya, menjadi sumber nutrisi untuk kreasi cepat dan monetisasi, membentuk hubungan persaingan tidak adil yang baru. Kemampuan model AI berasal dari pembelajaran skala besar terhadap karya manusia yang sudah ada, sementara beberapa materi pelatihan model besar yang digunakan tidak mendapatkan otorisasi dari pencipta asli, pencipta asli juga tidak berpartisipasi dalam distribusi keuntungan, membentuk perkembangan "merampas" yang mengorbankan hasil kreasi orang lain. Dari tuduhan pada Februari oleh Asosiasi Film Amerika, Disney, dan lainnya terhadap model besar China yang menggunakan hak kekayaan intelektual "Star Wars", seri Marvel tanpa izin 9·10, hingga ribuan penulis novel web ternama yang bergabung menentang "cuci naskah" AI pada Juni, kekacauan pelanggaran hak cipta AI terus memicu gejolak di industri konten. 11
Ledakan Kapasitas: Memicu Tantangan Rendahnya Kualitas Konten
AI membawa manusia memasuki era kelimpahan konten, juga membawa pemikiran yang belum pernah ada sebelumnya: ketika produk konten dapat dipasok tanpa batas, apakah benar-benar semakin banyak semakin baik?
Dalam batas tertentu, peningkatan pasokan konten budaya berarti persaingan pasar yang memadai, pelepasan kreativitas niche, pilihan yang beragam bagi pengguna, adalah tanda kemakmuran pasar. Namun, ketika pasokan konten melampaui batas daya dukung perhatian massa, menimbulkan perbedaan gunting yang besar antara permintaan dan penawaran, konten yang lebih banyak tidak lagi membawa lebih banyak karya bagus dan kesejahteraan, malah dapat mengarah pada siklus negatif ekosistem konten.
Ahli hukum keturunan Tionghoa Amerika Tim Wu dalam "The Attention Merchants" menyatakan bahwa di era informasi yang tak terbatas, untuk memperebutkan sumber daya langka yaitu perhatian, pedagang perhatian terus terjerumus dalam perlombaan tanpa dasar. Ini berarti, dengan total perhatian massa yang pada dasarnya tetap dan sangat langka, produsen konten untuk memperebutkan sumber daya perhatian akan terus bergerak ke produk konten yang lebih merangsang, lebih mudah dikonsumsi, lebih bersifat menuruti; konten berkualitas tidak dapat mendapatkan insentif imbalan pasar, akan semakin menyempitkan ruang hidup; kemampuan penerimaan konsumen terhadap konten mendalam secara terbalik dilatih dan dilemahkan, semakin menguatkan tren perkembangan negatif ini.
Mekanisme "uang buruk mengusir uang baik" ini sedang terlihat di beberapa bidang konten AI. Ketika drama komik AI diproduksi puluhan ribu per bulan, novel web AI diproduksi ratusan ribu kata per hari, sisi penawaran mengalami ledakan besar, sisi permintaan masih dibatasi oleh total perhatian manusia 24 jam sehari. Industri drama komik AI menunjukkan tanda-tanda peningkatan produksi yang tajam, penurunan tingkat karya populer, pada 2025 merilis 60 ribu drama komik AI sepanjang tahun, tingkat karya populer hanya 0,16%; pada Februari 2026, jumlah drama komik AI melonjak menjadi lebih dari 120 ribu, tingkat karya populer turun menjadi kurang dari 0,12%. 12 Industri novel web menghadapi dampak serius dari novel web AI yang berisi, beberapa platform harus menangani buku berkualitas rendah lebih dari 150 ribu per bulan, terutama terkait konten yang dihasilkan AI dan konten berisi yang disengaja, menyoroti konten AI sedang memberikan tantangan berat bagi kemampuan otonomi platform.
Kamus Merriam-Webster dan majalah mingguan The Economist memilih "slop" (sampah kecerdasan buatan) sebagai Kata Tahun Ini 2025, secara kolektif mencerminkan kelelahan umum orang terhadap meluasnya konten AI berkualitas rendah. 13 Tren ini menunjukkan bahwa peningkatan kapasitas produksi konten tidak otomatis menambah kesejahteraan industri dan pengguna, malah tanpa panduan dapat memperkuat penyebaran konten berkualitas rendah, menginvasi ruang hidup konten berkualitas, membuat industri terjerumus dalam siklus negatif.
Peningkatan Efisiensi: Mempra-persiapkan dan Memperbesar Risiko Keamanan
Baik era media cetak, televisi, maupun internet, audit, pengawasan, dan pertanggungjawaban konten terutama terkonsentrasi pada mata rantai penyebaran. Pengawasan konten tradisional dapat mengambil jalur audit setelah kejadian, pada dasarnya bergantung pada dua syarat: pertama, kecepatan produksi lebih rendah dari kecepatan audit; kedua, risiko pada mata rantai produksi dapat dikontrol secara efektif di mata rantai penyebaran. Kompresi ekstrem AI terhadap proses produksi konten, memecahkan kedua prasyarat ini, membuat kesulitan membangun garis pertahanan keamanan konten sangat meningkat.
Pertama, risiko konten telah dipra-persiapkan. Titik risiko konten AI meluas ke mata rantai pelatihan model yang lebih tersembunyi. Setelah data pelatihan model besar muncul masalah pelanggaran hak cipta, kekerasan, pornografi, penyimpangan nilai, akan menyebabkan risiko yang dihasilkan pada saat tak terhitung pengguna memanggil data dan menghasilkan konten. Untuk mengontrol terjadinya masalah ini, harus dilacak ke sumber materi, aturan pembersihan, keselarasan nilai, dan mata rantai lainnya, jika tidak sulit mencapai pengawasan yang tepat di setiap mata rantai penyebaran produk. Ini berarti tata kelola konten perlu diperluas dari "kepatuhan karya" hingga seluruh "kepatuhan proses dan sistem pembangkitan".
Kedua, kesulitan identifikasi dan audit risiko juga meningkat secara signifikan. Di era AI, konten yang dihasilkan pengguna dengan cepat dan dalam jumlah besar, memberi tantangan yang belum pernah terjadi sebelumnya terhadap mekanisme audit. Pada saat yang sama, pelanggaran hak cipta AI terus berevolusi dalam bentuk dan sarana baru, dalam praktiknya penentuan dan tata kelola pelanggaran AI menghadapi banyak kesulitan. Pembentukan ulang mekanisme produksi konten oleh AI, sedang menantang sistem tata kelola konten yang ada, memanggil mekanisme perlindungan hak yang lebih jelas dan ketat.
Bagaimana Menetapkan Batas Perkembangan Konten AI?
Justru karena kreasi manusia memiliki nilai yang tidak dapat digantikan, dan AI berbeda dengan setiap perubahan teknologi ekosistem konten sebelumnya, AI mungkin memeras ruang kreasi manusia secara keseluruhan, menimbulkan risiko konten yang belum pernah ada sebelumnya, oleh karena itu AI mendorong manusia ke tahap yang harus memperjelas kembali batas dan membangun aturan.
Akhir Mei, Administrasi Hak Cipta Nasional dan tiga departemen lainnya meluncurkan kampanye "Pedang 2026", untuk pertama kalinya menjadikan penertiban hak cipta di bidang kecerdasan buatan sebagai salah satu dari empat fokus utama. 24 Juni, Administrasi Radio dan Televisi Nasional mengajukan "Metode Pengelolaan Pengembangan Drama Mikro (Draft untuk Dikomentari)" untuk mengumpulkan pendapat publik. 25 Juni, Departemen Audio-Visual Jaringan Administrasi Radio dan Televisi Nasional secara terpisah merilis standar klasifikasi dan stratifikasi untuk drama mikro AI, menurunkan ambang batas audit mandiri platform drama mikro AI menjadi 300 ribu yuan. Tata kelola konten AI China memasuki tahap yang lebih sistematis dan tepat.
Hari ini kita membutuhkan konten AI, juga membutuhkan pandangan konten AI. Ini berarti perlu mengakui nilai AI dalam kreasi, tetapi juga perlu mengakui risiko AI "melampaui batas", menetapkan batas yang jelas: di era konten koeksistensi AI dan manusia, kemajuan sejati bukanlah penurunan biaya yang drastis, ekspansi kapasitas, terobosan efisiensi, melainkan dengan AI memperbesar ruang kreasi manusia, melindungi hasil kreasi manusia, meningkatkan kualitas kreasi manusia, menjaga batas bawah kreasi manusia.
Pandangan konten di era AI harus mengikuti empat prinsip dasar:
Memastikan Ruang Kreasi Manusia Diperbesar, Bukan Dipersempit
Kecenderungan rendahnya kualitas yang dibawa ledakan kapasitas konten AI, mungkin akan menjadi pemetaan mekanisme "uang buruk mengusir uang baik" di bidang budaya. Untuk mencegah tren ini, berarti produsen dan platform tidak hanya melihat "data kapasitas" konten AI, tetapi lebih memperhatikan hak ekspresi kreasi manusia, keberlanjutan ekosistem industri. Proporsi sumber daya, kemiringan lalu lintas, pembagian pendapatan antara konten manusia dan konten AI dalam produksi dan distribusi, harus dimasukkan dalam lingkup pemantauan dan pengungkapan berkala. Pada saat yang sama, mendorong karya film/televisi campuran manusia dan AI, sambil memanfaatkan AI untuk meningkatkan kualitas dan efisiensi, melindungi ruang perkembangan kreasi manusia.
Dalam lima prinsip kreasi AI yang diumumkan Netflix, salah satunya adalah "tidak dapat menggunakan AI generatif untuk menggantikan penampilan aktor/aktris atau pekerjaan lain yang dicakup serikat pekerja tanpa persetujuan". SAG-AFTRA mengusulkan gagasan mengenakan "Pajak Tilly" (Tilly Tax) 14 pada studio film yang menggunakan AI untuk menggantikan aktor/aktris manusia, memberikan ide baru untuk menyeimbangkan AI dan kreasi manusia dari sudut tuas ekonomi.
Memastikan Hasil Kreasi Manusia Dihormati, Bukan Dirampas
Ketika proses kreasi AI dapat disederhanakan menjadi "satu orang ditambah alat model besar", proses produksi tersembunyi ini harus dimasukkan dalam kerangka tata kelola, untuk mempertahankan hubungan simetris antara "kontributor—penerima manfaat", mempertahankan batas bawah ekosistem pasar yang sehat. Kreator harus diminta mengungkapkan proses produksinya, data pelatihan pihak alat model perlu mendapatkan otorisasi legal, konten yang dihasilkan kreator perlu memikul kewajiban dapat dilacak, pencipta asli harus mendapatkan peluang atribusi dan pembagian keuntungan yang terlembagakan.
Praktik industri sedang mengeksplorasi jalur-jalur ini. Akademi Seni dan Ilmu Gambar Bergerak Amerika yang menyelenggarakan Oscar menetapkan, komite peninjau dapat meminta kru film menjelaskan cara penggunaan AI yang spesifik. Netflix menetapkan, jika tidak mencapai kesepakatan, tidak dapat memasukkan gambar, foto, suara, dan informasi pribadi aktor/aktris ke dalam alat AI untuk digunakan dalam pelatihan data; materi kreasi seperti skenario tidak dapat disimpan atau digunakan sebagai data pelatihan oleh alat AI. 15
Memastikan Posisi Dominan dan Tanggung Jawab Manusia dalam Kreasi
Kekhususan industri konten budaya menentukan "penulis" tidak hanya identitas hukum, tetapi juga titik tumpu makna budaya. Penilaian nilai manusia perlu mendominasi dalam proses kreasi, AI dapat berpartisipasi sebagai alat bantu dalam produksi, tetapi orientasi estetika, ekspresi nilai, dan keputusan kreatif karya, masih perlu diselesaikan akhirnya oleh manusia.
Lembaga konten papan atas global telah merespons prinsip ini. Aturan kreasi AI Netflix secara jelas menetapkan: konten yang dihasilkan AI hanya dapat digunakan sebagai bahan sementara, tidak dapat diserahkan sebagai hasil akhir. Artinya, proses kreasi harus melalui partisipasi dan pengawasan substantif manusia. Festival Film Cannes mengumumkan, karya yang sepenuhnya dihasilkan AI dilarang berpartisipasi dalam seleksi Palem Emas. Akademi Seni dan Ilmu Gambar Bergerak Amerika juga secara jelas menyatakan, hanya akting dan penulisan skenario yang melibatkan manusia yang berhak mendapatkan penghargaan Oscar; di luar akting dan penulisan skenario, para juri akan menilai pencapaian film ini berdasarkan "peran yang dimainkan manusia di inti karya". 16 Penghargaan Golden Globe untuk kategori akting, mengizinkan penggunaan AI untuk meningkatkan atau membantu akting dengan persetujuan pengetahuan aktor/aktris; untuk kategori non-akting, menuntut "panduan kreatif, penilaian artistik, dan kreasi manusia mendominasi sepanjang proses produksi". 17
Memastikan Keterbukaan, Transparansi, dan Kesadaran tentang Kreasi AI
Era AI, teori "Gatekeeper" yang dikemukakan psikolog sosial Kurt Lewin perlu diperluas. Ketika risiko konten AI telah bergeser dari titik penyebaran ke titik pembangkitan bahkan pelatihan, konten AI harus mencapai "platform dapat dilacak, regulator dapat dimintai pertanggungjawaban, pengguna dapat mengenali": industri perlu beralih dari tata kelola hasil ke tata kelola seluruh proses, membangun mekanisme tata kelola kolaboratif multi-subjek industri; pengguna berhak mengetahui apakah konten yang mereka konsumsi melibatkan kreasi AI, dan memutuskan apakah menerima konten yang dihasilkan AI. Selain menerapkan sistem identifikasi konten yang dihasilkan AI, juga perlu mengeksplorasi pembatasan rekomendasi konten AI, misalnya melindungi anak di bawah umur yang belum membentuk kemampuan penilaian dari pengaruh konten AI.
Penutup: Manusia Harus Menjadi "Pengemudi" Teknologi
Dampak yang dibawa AI, sedang memaksa orang untuk memikirkan kembali nilai esensial konten budaya, platform konten global dan lembaga industri secara berturut-turut merumuskan norma penerapan AI, konsensus "AI Berpusat pada Manusia" mulai muncul. Yang kita butuhkan bukan hanya aturan dan sistem, tetapi lebih pada nilai-nilai baru, konsensus kolektif sosial baru di era AI.
Wakil Presiden Grup Tencent, Dekan Tencent Research Institute, Si Xiao, menekankan, era konten AI, manusia harus menjadi "pengemudi" teknologi. "Pengemudi" tidak hanya merujuk pada suatu platform atau lembaga tertentu, tetapi mencakup "manusia" yang berada di setiap mata rantai budaya: daya penilaian, daya pengawasan, daya apresiasi estetika manusia dalam setiap mata rantai seperti produksi, penyebaran, konsumsi, menjadi lebih penting dari sebelumnya.
Masa depan konten AI, seharusnya bukan gelombang teknis yang menggelegar, melainkan perjalanan mulus yang dikemudikan manusia, dijaga bersama oleh kemanusiaan dan teknologi. Hal ini tidak hanya terkait nasib industri konten budaya, tetapi lebih terkait pada titik sejarah AI membentuk ulang masyarakat manusia, bagaimana kita mempertahankan subjektivitas kreator, mempertahankan nilai inti budaya sebagai pembawa komunikasi spiritual manusia. Semua ini dimulai dari setiap orang, setiap kolaborasi manusia-komputer. Hanya dengan menjadi "pengemudi" teknologi yang baik, kita dapat bersama-sama mendorong AI menuju kebaikan, budaya menuju keindahan.
Artikel ini berasal dari akun WeChat "Tencent Research Institute" (ID:cyberlawrc), penulis: Chen Meng, Wang Minhang
