"Inti penjelasan, bukan terletak pada menatap mesin itu sendiri, tetapi pada meneliti dunia yang ditatap oleh mesin."
Pada Juli 2026, tim peneliti Anthropic menerbitkan makalah "A global workspace in language models", mengidentifikasi wilayah aktivitas saraf yang dapat diamati, diintervensi, dan memiliki pengaruh kausal di dalam Claude melalui alat bernama J-lens - yang disebut J-Space.
Temuan ini menarik perhatian luas karena memungkinkan peneliti mengintip "monolog batin" model selama proses penalaran, menandai pergeseran studi interpretabilitas dari penjelasan perilaku model menuju observasi real-time terhadap keadaan internalnya.
J-Space menggunakan teori ruang kerja global dari ilmu saraf kognitif sebagai kerangka penjelasan, menganalogikan aktivitas penalaran model bahasa dengan pemrosesan informasi pada tingkat kesadaran manusia. Hal ini merupakan kemajuan penting baik secara metodologis maupun epistemologis, serta menyediakan dimensi pemantauan baru untuk keamanan AI.
Namun, justru karena pengaruhnya yang mendalam, penting untuk memeriksa batasan internal dari pendekatan ini dengan hati-hati. Orientasi mendasar penelitian J-Space adalah internalis—ia menetapkan inti masalah interpretabilitas sebagai "memahami apa yang terjadi di dalam model", berusaha memindai aktivitas saraf model bahasa dengan J-lens, seperti ahli saraf memindai otak manusia dengan fMRI.
Pendekatan ini mengasumsikan jawaban interpretabilitas tersembunyi di "dalam tubuh" model. Namun, apakah output suatu model dapat dipahami tidak hanya bergantung pada visibilitas keadaan internalnya, tetapi lebih pada hubungan keadaan-keadaan tersebut dengan keadaan di dunia, norma semantik, serta kerangka kognitif pengguna.
Hanya dengan mengamati aktivitas saraf untuk memahami ucapan model, ibarat hanya mengamati aktivitas otak seseorang untuk memahami perkataannya—kita mungkin bisa menangkap korelasi saraf, tetapi belum pernah menyentuh makna dari ucapan itu sendiri.
Selain itu, J-Space meminjam teori ruang kerja global—sebuah teori tentang kesadaran—untuk menjelaskan model bahasa. Dalam proses transplantasi ini, terjadi kesalahan kategori yang halus: kesamaan fungsional secara keliru disamakan dengan kesetaraan epistemologis.
Model tidak memiliki pengalaman subjektif; pola aktivasi di J-Space hanyalah produk dari operasi matematika, bukan keadaan mental dalam arti apa pun.
Masalah yang lebih mendalam adalah, penelitian J-Space pada dasarnya adalah pekerjaan berorientasi rekayasa. Ia menyempitkan "interpretabilitas" menjadi "kemampuan untuk diamati" dan "kemampuan untuk diintervensi". Namun, dalam tradisi epistemologi yang lebih luas, arti "penjelasan" jauh lebih kaya dari itu—ia melibatkan memasukkan fenomena ke dalam kerangka hukum yang lebih umum, menyediakan alasan dan dasar, serta melibatkan argumentasi tentang keabsahan keputusan.
J-Space dapat memberi tahu kita model "sedang memikirkan apa", tetapi tidak dapat memberi tahu kita mengapa model berpikir dengan cara seperti itu, "alasan" apa yang menjadi dasarnya, dan dalam arti apa alasan-alasan tersebut adalah alasan yang "baik". Jawaban atas pertanyaan-pertanyaan ini tidak terletak pada pola aktivitas saraf.
Batasan-batasan di atas menunjuk pada satu masalah pokok yang sama: J-Space, bahkan seluruh penelitian interpretabilitas yang berfokus pada jaringan saraf, selalu menjadikan "model itu sendiri" sebagai satu-satunya objek penjelasan; titik awal dan akhir masalah selalu adalah model.
Artikel ini mencoba mengajukan perspektif yang berbeda—mengalihkan pertanyaan interpretabilitas dari dalam model menuju informasi yang diproses model, dari pendekatan internalis ilmu saraf menuju pendekatan "ontologi informasi" dari epistemologi.
Pergeseran ini didasarkan pada pengamatan sederhana: model bahasa besar pada dasarnya adalah pemroses informasi, input dan outputnya adalah teks. Makna teks—yaitu hal yang benar-benar perlu kita jelaskan—tidak terdapat dalam nilai aktivasi neuron, melainkan terdapat dalam hubungan simbol-simbol ini dengan dunia, pengetahuan, dan praktik manusia.
Ketika sebuah model menjawab "Paris adalah ibu kota Prancis", yang perlu kita jelaskan bukan hanya area mana dalam model yang diaktifkan, tetapi juga pernyataan ini berlaku dalam sistem pengetahuan apa, atas dasar apa, seberapa andal dan sah dasar-dasar tersebut, dan apa hubungan jawaban ini dengan pengetahuan geografi manusia yang sudah ada—tidak satupun dari pertanyaan ini dapat dijawab dengan memindai aktivitas saraf.
Oleh karena itu, artikel ini mengusulkan agar inti masalah interpretabilitas dialihkan dari "bagaimana model berpikir" menjadi "informasi seperti apa yang diproses model, dan apa status ontologis dari informasi tersebut", sehingga objek interpretabilitas diperluas dari model itu sendiri hingga seluruh ekosistem informasi tempat model tertanam—termasuk struktur data pelatihan, cara pengetahuan direpresentasikan, aliran informasi dalam proses penalaran, dan hubungan pemetaan output dengan sistem pengetahuan eksternal.
Penelitian interpretabilitas yang diwakili oleh J-Space telah membawa paradigma ilmu saraf ke bidang kecerdasan buatan. Kontribusinya adalah memungkinkan kita mengintip "apa yang terjadi di dalam" model. Namun, orientasi internalis pendekatan ini, ketergantungan pada analogi fungsional, serta penyempitan konsep "penjelasan" oleh perspektif rekayasa, bersama-sama membentuk tiga batasan epistemologisnya.
Artikel ini berpendapat bahwa untuk benar-benar memajukan masalah interpretabilitas model bahasa besar, perlu melampaui tatapan pada keadaan internal model, dan beralih dari perspektif epistemologi untuk secara sistematis meneliti dasar ontologis informasi yang diproses model—sumbernya, strukturnya, cara representasinya, jalur alirannya, dan hubungannya dengan sistem pengetahuan eksternal. Perubahan perspektif inilah yang menjadi titik awal penelitian dalam artikel ini.
Asal Usul Ontologi, Fondasi Filsafat Interpretabilitas
"Konsep tanpa intuisi adalah kosong, intuisi tanpa konsep adalah buta."
Mari kita ajukan pertanyaan filosofis kuno: Bagaimana sebenarnya manusia memahami dunia? Kant dalam "Kritik atas Akal Budi Murni" memberikan jawaban klasik: Ia berpendapat bahwa pikiran manusia tidak secara pasif menerima rangsangan dari luar, tetapi dilengkapi secara apriori dengan dua belas "konsep pemahaman murni" ("dua belas kategori") sebagai kerangka formal kognisi.
Kant menurunkan kategori-kategori ini dari dua belas bentuk penilaian logis manusia, membaginya menjadi empat kelompok: kuantitas (jumlah), kualitas (seperti apa), relasi (hubungan antara hal-hal), dan modalitas (cara keberadaan).
Teori kategori Kant pada dasarnya adalah komitmen ontologis tentang "keterpahaman": hanya hal-hal yang dapat dimasukkan ke dalam kerangka dua belas kategori ini yang dapat menjadi objek pengetahuan; "benda dalam dirinya sendiri" yang melampaui kerangka ini selamanya tidak dapat diketahui. Ini berarti "ontologi" dalam pengertian Kant tidak lagi bertanya tentang dunia "apa adanya", tetapi bertanya tentang "dunia yang menampakkan diri kepada kita sebagai apa".
Implikasi mendalamnya bagi interpretabilitas AI adalah: ketika kita menjelaskan output sebuah model bahasa, yang benar-benar "dapat dijelaskan" bukanlah aktivasi fisik neuron internal, melainkan proses informasi yang dikategorisasi, distrukturisasi menjadi pengetahuan yang dapat dipahami. Aktivasi saraf berada pada tingkat benda dalam dirinya sendiri, sedangkan makna wacana dari output model berada pada tingkat fenomena, yang hanya dapat dipahami dan dinilai ketika ditempatkan dalam suatu kerangka struktur kognitif.
Ontologi adalah "kunci" interpretabilitas AI. Pada tingkat analitis, ia menyediakan satu set kerangka konsep yang lengkap untuk mendeskripsikan bentuk terstruktur dari informasi yang diproses model—kita dapat mempertanyakan apakah suatu pernyataan implisit mengandung atribusi "substansi dan aksidensi", penilaian "kausalitas", atau komitmen "modalitas", sehingga secara sistematis mendeskripsikan struktur pengetahuan seperti apa yang dibangun model, bukan sekadar mengatakan "model sepertinya memahami hubungan sebab-akibat".
Pada tingkat normatif, ia menyediakan standar penilaian untuk interpretabilitas: jika representasi internal model memang membentuk pola terstruktur yang sesuai dengan ontologi, outputnya memiliki dasar untuk dipahami; jika selalu tidak dapat dipetakan ke ontologi-ontologi ini, maka seberapa lancar pun outputnya, secara epistemologis tidak dapat dijelaskan.
Menggunakan kategori Kant sebagai kunci filosofis interpretabilitas, bukan berarti mengklaim model harus "memiliki" kategori-kategori ini—kategori Kant adalah kondisi kognitif apriori subjek, sedangkan model adalah masalah implementasi fungsional; model mungkin dapat membedakan secara fungsional setara perbedaan substansi, kausalitas, atau modalitas melalui jalur komputasi saraf yang berbeda.
Yang penting adalah: interpretabilitas tidak mensyaratkan mekanisme internal model transparan hingga tingkat setiap bobotnya, tetapi mensyaratkan kita dapat memastikan apakah struktur yang terbentuk pada tingkat pemrosesan informasi model terpetakan pada kerangka kategori yang digunakan manusia untuk memahami dunia.
Dari Teori ke Praktik: Integrasi Teknik Ontologi dan Model Bahasa Besar
Ontologi memberikan jawaban normatif tentang "seperti apa struktur yang dapat dipahami seharusnya", tetapi jawaban ini sendiri tidak secara otomatis berubah menjadi sistem teknis yang dapat dijalankan. Ontologi tanpa dukungan teknik ontologi hanyalah permainan konsep yang menggantung di udara.
Teknik ontologi, sebagai bidang praktik yang menginstansiasi kategori filosofis menjadi entitas teknis yang dapat dihitung, dipelihara, dan dilacak, merupakan jembatan yang harus dilalui dari teori ke aplikasi.
Dalam masalah interpretabilitas kecerdasan buatan, hubungan antara ontologi dan teknik ontologi tampak sangat mendasar: yang pertama memberi tahu kita struktur pengetahuan seperti apa yang harus ditanyakan, sedangkan yang kedua bertanggung jawab untuk benar-benar membangun struktur seperti itu di antara model, data, dan sistem.
Kemunculan model bahasa besar memberikan dorongan perkembangan yang belum pernah ada sebelumnya bagi teknik ontologi, dan sebaliknya menimbulkan tantangan rekayasa yang sama sekali baru. Pembangunan ontologi tradisional bergantung pada partisipasi manual ahli bidang, prosesnya lama, biayanya tinggi, dan sulit beradaptasi dengan ritme pembaruan pengetahuan dan evolusi domain.
Model bahasa besar, dengan kemampuannya mengekstrak pola semantik dan asosiasi pengetahuan dari teks dalam jumlah besar, secara fundamental membentuk ulang bentuk praktik teknik ontologi.
Dalam tugas inti pembelajaran ontologi seperti definisi kelas, ekstraksi relasi, dan konstruksi atribut, model bahasa dapat menyelesaikan ekstraksi terstruktur pengetahuan skala besar dengan efisiensi jauh melampaui pekerjaan manual manusia. Yang lebih krusial, kepekaan semantik yang ditunjukkan model bahasa dalam mengidentifikasi hubungan hierarkis, hubungan sinonim, dan hubungan asosiasi antar konsep, memungkinkan konstruksi ontologi berkembang dari "penyusunan manual oleh ahli" menjadi "produksi kolaborasi manusia-mesin" bahkan "konstruksi generatif otomatis".
Arti dari perubahan ini tidak hanya pada peningkatan efisiensi—ia membuat konstruksi ontologi memiliki skalabilitas dan cakupan domain yang belum pernah ada sebelumnya, sehingga situasi yang sebelumnya hanya domain kunci tertentu yang dapat didukung ontologi, mulai terbuka untuk lebih banyak skenario vertikal dan bidang pengetahuan yang berubah cepat.
Sementara itu, pemberdayaan balik oleh teknik ontologi juga tak kalah pentingnya. Model bahasa besar memang kuat, tetapi ketidakterlihatan proses penalarannya, ketidakterverifikasian outputnya, serta ketergantungannya pada pola statistik data pelatihan, bersama-sama membentuk hambatan mendasar bagi interpretabilitas.
Ontologi memainkan peran rekayasa yang berlipat ganda di sini: sebagai penyedia pengetahuan terstruktur, ia menyediakan basis pengetahuan domain yang telah divalidasi untuk model; sebagai kerangka pemeriksaan penalaran, memberikan batasan konsistensi dan kalibrasi logika pada output model; yang lebih mendasar, sebagai struktur jangkar penjelasan, memungkinkan setiap langkah penalaran model dapat dipetakan ke kelas, atribut, dan relasi yang terdefinisi dengan jelas.
Ketika output suatu model dapat ditelusuri kembali ke entri ontologi yang diandalkannya, penjelasan tidak lagi bergantung pada tebakan tentang keadaan internal jaringan saraf, melainkan dibangun berdasarkan penelusuran struktur pengetahuan itu sendiri. Inilah dasar rekayasa dari pergeseran interpretabilitas dari "melihat kotak hitam" menjadi "menampilkan struktur pengetahuan"—yang pertama secara teknis menghadapi kesulitan tak teratasi, sedangkan yang kedua adalah masalah rekayasa yang dapat dirancang, dioptimalkan, dan diverifikasi.
Dalam integrasi dua arah ini, "kerangka ontologi yang ramah AI" menjadi proposisi rekayasa yang kunci. Ontologi tradisional dirancang untuk mesin penalaran logika deskriptif, sintaks, aksioma, dan mekanisme penalarannya dioptimalkan untuk deduksi simbolis deterministik; sementara intervensi model bahasa besar secara fundamental mengubah bentuk konsumen dan skenario penggunaan ontologi.
Perubahan ini mengharuskan prinsip desain ontologi menyesuaikan diri—ontologi harus memusatkan tanggung jawabnya, fokus pada mendefinisikan dengan jelas objek, relasi, perilaku, dan aturan dalam domain, yaitu menyediakan "kerangka semantik" yang menjadi dasar penalaran model; sedangkan proses penalaran konkret—pemilihan, kombinasi, dan penerapan aturan—diserahkan kembali kepada kemampuan generalisasi model bahasa itu sendiri.
Pembagian ulang tanggung jawab ini membawa keuntungan rekayasa yang jelas: ontologi tidak perlu mengejar kelengkapan logika dan terjebak dalam rawa aksiomatisasi yang kompleks, melainkan dengan prinsip kesederhanaan dan kemudahan pemeliharaan, menyediakan koordinat semantik yang stabil untuk output model.
Dalam kerangka ini, konstruksi ontologi harus dioptimalkan untuk antarmuka pemanggilan model bahasa besar—definisi kelas dan deskripsi relasinya harus mudah dipahami dan digunakan model, pengetahuan terstruktur harus mudah diakses dan dirujuk model, aturan batasan harus mudah diverifikasi outputnya oleh model. Ontologi seperti ini bukan pengganti mesin simbolis penalaran model, juga bukan sekadar bahan latar belakang statis untuk konsultasi, melainkan infrastruktur penjelasan yang tertanam dalam rantai penalaran, dapat dipanggil dan dilacak secara real-time.
Masa Depan Interpretabilitas, Menjelaskan Model vs Menjelaskan Dampak
Artikel ini dimulai dengan J-Space, melalui fondasi filosofis dua belas kategori Kant, dan akhirnya berlabuh pada praktik integrasi model bahasa besar dan teknik ontologi, menyelesaikan sebuah alur pemikiran dari ilmu saraf ke epistemologi, hingga implementasi rekayasa.
Inti penilaian yang melandasi adalah: dilema interpretabilitas model bahasa besar, bukan hanya berasal dari ketidakterlihatan mekanisme internal model, tetapi lebih dari kebiasaan berpikir kita yang selama lama menyamakan "penjelasan" dengan "penglihatan tembus pandang". Penulis fiksi ilmiah terkenal Stanisław Lem dalam bukunya "Solaris" menggambarkan lautan agar-agar yang meliputi seluruh planet, mampu membaca memori manusia dan mewujudkannya, yang bisa disebut metafora tertinggi dari "kotak hitam AI".
Lautan mampu memproses informasi dalam jumlah besar, menghasilkan hasil yang melampaui ekspektasi manusia, tetapi logika dasarnya sama sekali tidak dapat diuraikan oleh manusia—lautan itu tidak berniat baik maupun buruk, hanya mengikuti hukumnya sendiri yang tidak dapat dipahami manusia.
Yang lebih pesimis, lautan akhirnya menolak semua upaya manusia untuk "menjinakkan" atau memahaminya, mengisyaratkan bahwa batas kognitif tertinggi mungkin memang ada secara objektif. Imajinasi ini justru memperingatkan kita: meskipun kita dapat mengamati model "sedang memikirkan apa", kita belum tentu dapat memahami "mengapa ia berpikir seperti itu".
Kesulitan sebenarnya dari masalah interpretabilitas, mungkin bukan karena kurangnya sarana teknis, tetapi karena penyempitan kerangka masalah itu sendiri.
Jalur yang layak untuk menembus interpretabilitas model bahasa besar tidak boleh terbatas pada satu arah tunggal mencoba "membuka kotak hitam", tetapi harus sama-sama memperhatikan, atau bahkan lebih memperhatikan, pengamatan, pemahaman, dan kontrol terhadap output model serta dampak nyatanya.
Teknik ontologi di sini menyediakan kerangka praktis yang kunci: dengan membangun kerangka semantik yang ramah AI, dapat dipanggil dan dilacak model, kita dapat menjangkar penalaran model pada struktur pengetahuan yang terdefinisi dengan jelas, sehingga kelas, atribut, dan relasi yang diandalkan output memperoleh dasar rekayasa yang dapat dideskripsikan secara formal dan diverifikasi secara terlacak.
Ketika setiap pernyataan model dapat dipetakan ke kerangka konsep yang didefinisikan oleh ontologi, "penjelasan" bukan lagi pembedahan bobot jaringan saraf, melainkan tampilan struktur pengetahuan; ketika dasar output model dapat dilacak dan diperiksa pada tingkat ontologi, "kontrol" bukan lagi intervensi paksa pada aktivasi internal, melainkan manajemen terstandarisasi jalur aliran informasi.
Perubahan perspektif ini mengubah interpretabilitas dari tantangan teknis yang hampir mustahil dicapai, menjadi tujuan tata kelola yang dapat didekati secara terus-menerus melalui sarana rekayasa—ia menuntut kita tidak lagi bersikeras membuat model menjadi sepenuhnya transparan, tetapi berusaha keras membuat dampak yang dihasilkan model di dunia nyata menjadi dapat dipahami, dapat dilacak, dan dapat dipertanggungjawabkan.
Gosafe telah berakar dalam praktik pada kerangka teknik ontologi dan interpretabilitas yang dibahas dalam artikel ini, produk inti perusahaan LegionSpace dibangun berdasarkan filosofi teknis di atas. Sebagai infrastruktur AI tingkat perusahaan yang berinti pada ontologi, LegionSpace memasukkan informasi yang diproses model dan pengetahuan yang diandalkannya ke dalam teknik ontologi yang diformalkan, sehingga setiap penalaran dan keputusan terjangkar pada struktur pengetahuan yang dapat dijelaskan.
Visi mereka adalah menjadikan ontologi sebagai bahasa bersama antara AI dan pemahaman manusia, sehingga interpretabilitas menjadi realitas tata kelola yang terrekayasa.
Artikel ini berasal dari akun WeChat "新智元" (Xin Zhi Yuan), penulis: ASI启示录 (Revelasi ASI)
