Ошибки чат-ботов с ИИ привели к падению доходов сектора в 2024 году

investing.ruDipublikasikan tanggal 2024-10-05Terakhir diperbarui pada 2024-10-05

Happycoin.club - Исследование, проведённое научным журналом Nature, показало, что по мере выпуска новых моделей чат-боты на базе искусственного интеллекта совершают всё больше ошибок.

По словам одного из экспертов Лексин Чжоу, сервисы ИИ оптимизированы под правдоподобные ответы, которые могут быть не всегда точными. Постепенно эти ошибки накапливаются, так как для обучения новых чат-ботов используются старые модели. Это и приводит к «краху» и падению интереса к нейросетям.

Одна из комичных ситуаций сложилась с платформой ИИ от Google (NASDAQ:GOOGL), который в начале 2024 года начал создавать исторически неточные изображения. Например, нейросеть выдавала изображения азиатов и негров в форме нацистских офицеров.

Сгенерированные ИИ изображения

Компании-разработчики чат-ботов ищут возможности справиться с этими ошибками. В частности, генеральный директор Nvidia (NASDAQ:NVDA) Дженсен Хуанг предложил заставлять нейросети проводить более точные исследования и предоставлять источники для каждого сгенерированного ответа. Некоторые модели уже используют эти меры, но ситуация с галлюцинациями не улучшилась.

В сентябре гендиректор HyperWrite Мэтт Шумер заявил, что новая нейросеть компании использует функцию «настройка отображения», которая даёт возможность ИИ-боту учиться, анализируя собственные ошибки, корректируя их со временем.

Читайте оригинальную статью на сайте Happycoin.club

Bacaan Terkait

Pendiri Baixing.com: Saya Percaya Setengah pada Pernyataan "Model Bahasa Besar Melahap Segalanya"

Pendiri 58 Tongcheng (situs rakyat): Saya Percaya Setengah dengan Pernyataan "Model Bahasa Besar Menelan Segalanya". Banyak orang berbicara tentang "model besar adalah segalanya", tetapi penulis tidak sepenuhnya percaya. Pernyataan "menelan segalanya" sering kali muncul karena pemahaman terbatas tentang masa depan. Internet pun disebutkan akan menelan segalanya, namun kenyataannya tidak. Penulis lebih setuju melihat model bahasa besar sebagai fondasi penting, seperti jaringan tulang punggung internet atau pembangkit listrik. Tanpa fondasi ini, dunia tidak bisa berkembang. Namun, setelah fondasi terbentuk, hal yang menarik justru terjadi di atasnya. Seperti listrik: setelah ditemukan, aplikasi pertamanya adalah bola lampu. Tapi kemudian muncul berbagai peralatan seperti mesin cuci, TV, dan penyedot debu. Listrik adalah dasar, tetapi peralatan spesifik itulah yang benar-benar mengubah dunia. Demikian pula, model bahasa besar menyediakan kecerdasan dasar, tetapi kecerdasan ini harus dimasukkan ke dalam "mesin" atau "alat" yang ditujukan untuk skenario spesifik agar dapat berfungsi dan mengubah dunia. Claude Code untuk menulis kode, Claude Design untuk desain, VoiceDrop untuk menulis artikel — meski menggunakan model dasar yang sama, mereka menyelesaikan masalah yang berbeda. Hanya memiliki listrik atau air tidak cukup untuk mencuci pakaian tanpa mesin cuci. Kecerdasan itu bagus, tetapi sebagian besar hal di dunia memerlukan kombinasi berbagai elemen untuk bekerja. Model bahasa besar mungkin bisa menggantikan banyak hal di bidang perangkat lunak, tetapi tidak banyak skenario yang hanya membutuhkan satu elemen. Saat ini, selain model besar, diperlukan lapisan seperti "Harness" untuk menghubungkannya dengan kode dan membentuk sesuatu yang benar-benar bisa digunakan. Lapisan antarmuka ini membantu memasukkan kecerdasan, seperti listrik atau air, ke dalam aplikasi spesifik, mengubahnya menjadi mesin yang memecahkan masalah konkret. Penulis mengakui bahwa ada logika tertentu di balik "menelan segalanya", terutama terkait perangkat lunak yang ada saat ini. Banyak perangkat lunak, seperti CRM, sistem informasi rumah sakit (HIS), dan berbagai sistem lainnya, dibangun dari aturan, formulir, alur kerja yang tetap. Lapisan ini memang mungkin banyak "ditelan" oleh model bahasa besar karena terdiri dari instruksi jelas yang dapat dieksekusi komputer — sesuatu yang sangat dikuasai model bahasa besar. Namun, di lapisan ini, selain perangkat lunak, ada banyak hal lain: informasi pelanggan, kemampuan eksekusi (seperti memesan tiket pesawat), kepercayaan, dan banyak hal di dunia fisik. Ini tidak akan ditelan. Setelah "menelan" lapisan perangkat lunak lama, justru terbuka ruang yang lebih besar untuk perangkat lunak baru di atasnya. Perangkat lunak baru kemungkinan akan memiliki antarmuka yang lebih "mengalir", tidak terlalu kaku dengan aturan. Jika bagian aturan diserahkan kepada AI, seperti yang dilakukan Salesforce dengan CRM-nya, maka imajinasi dan kemungkinan baru akan terbuka — bagian yang saat ini belum kita lihat. Kesalahan umum adalah, ketika teknologi baru datang, karena kita belum melihat jalan yang lebih besar di depannya, kita hanya fokus pada apa yang ada di depan mata. Penulis mengingatkan bahwa pada 2004, banyak yang mengira internet hampir berakhir dan perusahaan seperti Sina, Sohu, NetEase akan memonopoli segalanya. Beberapa tahun kemudian, segalanya berubah drastis. Kesimpulannya, model besar itu penting — ia adalah fondasi dan titik fokus utama saat ini. Namun, begitu menjadi sesuatu yang stabil dan dapat disediakan secara berkelanjutan, dibutuhkan berbagai "mesin" dan "alat" di atasnya untuk memecahkan masalah spesifik. Lapisan tebal itulah — di mana dan bagaimana ia digunakan — yang akan menjadi arus utama gelombang kedua. "Menelan segalanya" adalah istilah yang tidak tepat. Yang penting adalah menemukan peluang di area yang "ditelan"nya.

marsbit3j yang lalu

Pendiri Baixing.com: Saya Percaya Setengah pada Pernyataan "Model Bahasa Besar Melahap Segalanya"

marsbit3j yang lalu

Trading

Spot
活动图片