Sungguh dramatis! Ini mungkin rangkuman lengkap drama perebutan kekuasaan Sam Altman yang paling detail di seluruh internet.
Pemeran utama lainnya dalam peristiwa ini, posisi kedua OpenAI Greg Brockman mengungkapkan secara langsung:
Dalam 72 jam setelah Altman dipecat, apa sebenarnya yang terjadi?
Kebenaran bermunculan, tapi cukup menyakitkan:
Greg dan Altman benar-benar tidak tahu apa-apa sebelum kejadian, sampai sekarang, pihak yang terlibat sendiri masih merenungi di bagian mana kesalahan terjadi.
Dewan awalnya hanya ingin menyingkirkan Altman, tapi Greg terlalu setia kawan, hari itu juga mengajukan pengunduran diri.
Hari pertama setelah pemecatan, mereka sudah mengadakan rapat rahasia di rumah Altman, mempersiapkan perusahaan baru, bahkan berencana membawa seluruh karyawan.
Dewan berubah pikiran mendadak, awalnya hampir sepakat dengan Altman untuk kembali, tapi tiba-tiba menunjuk CEO baru.
Sepanjang akhir pekan, semua pesaing menggoda karyawan dengan gila-gilaan, tapi tidak ada satu pun yang menerima.
Pembelotan Ilya, membuat Greg lega.
Wawancara lebih dari satu jam, Greg hampir menceritakan semua detail dari awal sampai akhir kudeta epik Silicon Valley ini, serta menanggapi segala hal, termasuk sejarah berdirinya OpenAI, alasan beralih ke profit, masa depan akan ke mana......
Dari kebingungan saat meninggalkan Stripe, hingga offsite di Lembah Napa yang menentukan nasib, hingga terobosan tak terduga proyek Dota, densitas informasinya sangat tinggi.
Greg bahkan beberapa kali tercekat:
Saat Ilya pergi, itulah satu-satunya saat saya merasa tidak ingin melanjutkan lagi.
Berikut ini adalah teks lengkap wawancara puluhan ribu kata, kontennya telah disaring dan disesuaikan tanpa mengubah makna aslinya.
Dialog dengan Presiden OpenAI Greg Brockman
(Pertanyaan dari pewawancara Shane Parrish disingkat menjadi Q di bawah ini)
OpenAI Lahir dari Keraguan Diri
Q: Bagaimana OpenAI didirikan?
Greg: Saya tahu saya ingin memulai bisnis, karena saya merasa itu sangat berarti.
Q: Tapi kamu baru saja memulai bisnis di Stripe saat itu.
Greg: Benar, tapi saya selalu merasa, masalah yang diselesaikan Stripe bukanlah "masalah saya".
Itu memang penting, dan saya telah mencurahkan bertahun-tahun untuknya. Tapi saya merasa, dengan atau tanpa saya, itu akan berhasil.
Jadi saat itulah saya pertama kali benar-benar punya kesempatan untuk berpikir: Apa misi yang ingin saya curahkan seumur hidup? Sebuah masalah yang ingin saya dorong sepanjang hidup saya, bahkan jika hanya membuatnya sedikit lebih baik.
Jawabannya jelas — AI.
Jika Anda dapat secara nyata mempengaruhi arah perkembangan AI di dunia, maka hidup ini tidak sia-sia.
Q: Ketika kamu berencana meninggalkan Stripe, Patrick menyuruhmu untuk berbicara dengan Sam Altman, apa yang terjadi dalam percakapan itu?
Greg: Patrick saat itu berkata kepada saya, Sam telah bertemu banyak anak muda dalam situasi seperti saya.
Sebenarnya saya tahu maksud Patrick adalah berharap Sam dapat membujuk saya untuk tetap tinggal, tetapi setelah berbicara dengan Sam selama beberapa menit, dia sudah mengetahui tekad saya untuk pergi.
Kemudian Sam bertanya pada saya tentang rencana selanjutnya, saya memberitahunya, saya sedang mempertimbangkan untuk mendirikan perusahaan AI.
Sam berkata, dia juga sedang mempertimbangkan untuk melakukan sesuatu di bidang AI, dan berharap dapat tetap berhubungan nanti.
Setelah meninggalkan Stripe, saya dan Sam berbicara lagi, kali ini Sam mengatakan bahwa dia memiliki ide yang lebih konkret, dan mengundang saya untuk menghadiri makan malam bulan Juli.
Saya ingat tema makan malam saat itu adalah: Sekarang mendirikan sebuah laboratorium, mengumpulkan peneliti paling top di dunia, apakah sudah terlalu terlambat? Apakah masih mungkin?
Q: Tahun berapa itu?
Greg: 2015.
Pada saat itu, DeepMind hampir memonopoli semua peneliti top, pendanaan, dan data. Kami semua meragukan, bisakah membuat sesuatu yang baru dari awal?
Kami bersama-sama membuat daftar banyak kesulitan, tetapi tidak ada yang bisa memberikan alasan yang benar-benar tidak mungkin.
Jadi malam itu, Sam dan saya menyetir kembali ke kota. Kami saling memandang, lalu dia berkata, kami harus melakukan hal ini.
Keesokan harinya, saya mulai mencurahkan seluruh perhatian untuk persiapan.
Ini sulit, semuanya tidak jelas. Kami hanya memiliki satu visi: Kami ingin membangun kecerdasan manusia umum, membawa dampak positif bagi dunia, dan membawa manfaat bagi banyak orang. Tapi bagaimana caranya, bagaimana meyakinkan orang lain untuk mengundurkan diri dan bergabung, kami sama sekali tidak tahu.
Awalnya, tim inti yang saya tentukan adalah Ilya, John Schulman, dan saya sendiri. Kami menghabiskan banyak waktu bersama berdiskusi tentang berbagai visi laboratorium, kemungkinan cara kerja, tetapi selalu gagal terbentuk.
Sebagian alasannya adalah kekhawatiran proyek kurang cukup tenaga, Dario merasa dia perlu pergi meraih namanya terlebih dahulu, tidak yakin apakah proyek ini cocok untuknya.
Sementara itu, saya mulai membujuk John Schulman untuk bergabung, dia setuju. Tapi Dario dan Chris akhirnya memutuskan pergi ke Google Brain, tim实际上只剩下 saya, Ilya, John, dan beberapa orang lainnya.
Saat itu大概有10来个人都表示了兴趣,但都在观望还会有谁加入.
Saya bertanya pada Sam, bagaimana kami memecahkan kebuntuan ini, Sam menyarankan untuk mengajak semua orang keluar mengadakan kegiatan off-site. Kami memilih Lembah Napa, saya bahkan khusus membuat kaos.
Saat itu还没有正式offer,没有公司架构,什么都没有. Kami hanya memiliki satu ide, satu visi, satu misi.
Tapi kami mengundang orang datang, pada hari itu di Lembah Napa, kami penuh inspirasi, hampir memutuskan jalur teknis sepuluh tahun ke depan:
1、Menyelesaikan masalah pembelajaran penguatan (reinforcement learning). 2、Menyelesaikan masalah pembelajaran tanpa pengawasan (unsupervised learning). 3、Secara bertahap mempelajari hal yang lebih kompleks.
Setelah rapat tertutup, saya mengirimkan offer kepada setiap orang, memberitahu bahwa kami akan memulai dalam 2-3 minggu ke depan, yang berminat bergabung harap beri tahu.
Q: Mengapa saat itu merasa DeepMind sulit dilewati?
Greg: Saat itu Google DeepMind adalah raksasa di bidang AI, mereka memiliki pendanaan yang kuat, prestasi yang gemilang, itu bahkan beberapa bulan sebelum AlphaGo diluncurkan, tetapi keunggulannya sudah sangat terlihat.
Jadi kami meragukan: Bisakah benar-benar membangun institusi baru yang independen? Jawabannya tidak jelas.
Alasan Meninggalkan Nirlaba
Q: Kapan kamu menyadari bahwa jalan nirlaba ini tidak bisa dilanjutkan?
Greg: 2017, kami mulai berpikir sangat serius, bagaimana benar-benar mewujudkan misi, bagaimana benar-benar membangun AGI. Kami menghitung kebutuhan daya komputasi, hasilnya membutuhkan perangkat komputasi skala sangat besar.
Saat itu kami接触到Cerebras公司, mereka sedang mengembangkan perangkat keras komputasi khusus, kinerjanya jauh melampaui tingkat daya komputasi yang kami hitung sendiri.
Jadi kami menyadari, jika kami bisa membeli banyak perangkat seperti itu, bisa mendapatkan produk Cerebras secara eksklusif, bisa membangun pusat data sangat besar, itu akan membawa keunggulan yang sangat besar bagi kami.
Tapi penggalangan dana lembaga nirlaba ada batas atasnya,根本支撑不了这样的投入. Jadi Elon, Sam, Ilya, dan saya semua sepakat, satu-satunya jalan bagi OpenAI untuk mewujudkan misi adalah dengan membuat entitas terkait yang berorientasi profit.
"Momen GPT" OpenAI Sendiri
Q: Kapan kamu menyadari semuanya akan berubah total? Sebelum proyek Dota, atau setelahnya?
Greg: Cara kerja OpenAI adalah serangkaian momen "mimpi menjadi kenyataan". Setiap kali Anda pikir Anda sudah melihat gambaran lengkapnya, Anda很快就会 menemukan batasan baru.
Awal membentuk tim, kami merasa sangat bersemangat, ternyata benar-benar berhasil mengumpulkan tim, bisa mulai mendorong misi. Tapi keesokan harinya sampai di kantor,发现连块白板都没有.
Proyek Dota adalah pencapaian besar pertama kami, itu真的让我们觉得,只要我们全力以赴,就确实能成事. Itu membuktikan只要将算力汇聚在一起,扩大算力,就会增强结果.
Seri GPT juga有很多这种时刻,比如早期的一篇无监督情感神经元论文,那是我们第一次看到语义从语言建模目标的训练中涌现.
Anda melatih model memprediksi karakter berikutnya,然后突然之间,就得到了一个能理解情感、区分正负面的神经网络.
Saat itu kami menyadari, kami sedang membangun mesin yang能够学习语义,而不只是语法规则.
Dan ketika GPT-4 diluncurkan,有人会问,为什么它还不是AGI.它的确能流畅对话,几乎符合我们此前对AGI的所有定义,但仍然还差临门一脚.
Singkatnya sepanjang jalan,有很多类似的时刻,让我们觉得梦想成真,但这些时刻还远没有结束,我们会有更多突破性时刻,然后意识到下一阶段或许有所可能.
Q: Menurutmu mengapa Dota begitu penting?
Greg: Dota adalah momen yang不可思议,它不像深蓝下国际象棋、AlphaGo下围棋那样有明确的规则,它是在复杂开放环境中与人类实时互动,更贴近真实世界.
Sebenarnya kami awalnya hanya ingin menggunakannya untuk memvalidasi algoritma baru, karena pembelajaran penguatan saat itu tidak dapat diskalakan. Tapi ketika kami terus memperluas daya komputasi, dengan algoritma PPO yang sangat sederhana就超越了最优秀的人类玩家,这证明:
Daya komputasi skala besar + algoritma sederhana,在实践中真的可行.
Terutama dalam lingkungan yang sangat kacau ini, tidak dapat diprogram, tidak dapat diprediksi, tidak dapat dicari, yang Anda butuhkan hampir adalah intuisi seperti manusia.
Dan jaringan saraf yang digunakan saat itu sangat kecil, jumlah sinapsis setara dengan otak serangga, kami就会意识到,如果把这套思路扩展到人类大脑规模,会是什么样子?这是一个非常吸引人的好问题.
Q: Karena berbicara tentang prediksi, menurutmu apakah ada perbedaan antara prediksi dan penalaran?
Greg: Saya pikir ada hubungan mendalam antara keduanya.
Hanya memprediksi kata berikutnya terlihat sederhana, tetapi jika Anda dapat secara akurat memprediksi kata berikutnya Einstein, maka setidaknya Anda sepintar Einstein.
Inti prediksi bukanlah memprediksi informasi yang diketahui, tetapi menyimpulkan perkembangan selanjutnya dalam skenario baru yang belum pernah dilihat, ini terikat erat dengan esensi kecerdasan.
Model penalaran saat ini dibagi menjadi dua langkah:
1、Pembelajaran tanpa pengawasan: Biarkan model berlatih dengan memprediksi apa yang akan terjadi selanjutnya. Data lebih statis, lebih observasional. 2、Pembelajaran penguatan: Biarkan AI belajar pada datanya sendiri. Ia sendiri mengambil tindakan, mendapatkan hasil umpan balik dari dunia, dan belajar darinya. Cara pelatihan pada dasarnya masih prediksi, memprediksi hasil setelah tindakan, dan memperkuat berdasarkan efeknya.
Tapi pada dasarnya, teknologi yang digunakan dalam dua tahap ini完全相同,都是预测,只是数据机构不同.
Peristiwa Kudeta Altman
Q: Sejak kapan konflik internal mulai menjadi tajam?
Greg: Keunikan OpenAI adalah, kami sangat yakin dapat membuat AI yang setara dengan tingkat manusia, yang berarti risikonya很高.
Siapa yang membuat keputusan? Nilai apa di balik keputusan ini? Hal-hal yang tidak penting di perusahaan biasa, seperti politik kantor,都会在这里被赋予事关人类存亡的重量.
Saya pikir, ini mempengaruhi banyak perkembangan internal OpenAI, ini也是所有重大冲突的根源.
Penggerak inti之一 di bidang AI adalah orang ingin menjadi pusat revolusi teknologi, menjadi orang yang dikenang, jadi 这不仅仅是OpenAI一家的问题.
Dan teknologi AI pada dasarnya terfragmentasi, tekanan tinggi mungkin menempa berlian,也可能产生裂痕,所以你经常会在小团体中看到钻石的形成,因为他们通力合作、高度信任彼此.但有时他们也会分裂,走自己的路.
Saya pikir di bidang AI,多元路径和良性竞争是正常的,能够让我们更安全地推进技术,探讨安全、伦理等棘手问题.
Jadi debat sehat始终存在 di internal OpenAI,但现在,这正在全世界范围内发生.
Q: Mari kembali ke saat kamu mengetahui Sam dipecat, di mana kamu?
Greg: Saya sedang di rumah. Saya menerima SMS undangan panggilan video, dan memperhatikan除了山姆以外的董事会成员都在上面. Saat itu saya sudah预感不妙.
Mereka memberitahu saya, 董事会已决定解除山姆的职务. Informasi yang saya terima基本和公开声明是一样的,于是 saya mencoba mengejar detail lebih lanjut,结果被拒绝了.
Kemudian mereka又说,我也被移除董事会,但是会继续留在公司,因为我对公司和使命至关重要.
Saya再次要求给出理由,依旧被拒绝.最后他们告诉我,在新的架构下,我或许能得到反馈.这就是那次通话的内容.
Q: Apa yang ada di pikiranmu saat itu? Merasa marah?
Greg: Tidak, saya hanya merasa ini tidak benar, tapi saya大概能理解发生了什么.
Q: Berapa lama之后 kamu才知道究竟是什么导致了这一切?
Greg: Jawabannya分成两部分.一是我觉得我还在不断了解一些新的事实,一些别人脑子里在想的东西.某种程度上,这可以归结为沟通不畅,你会突然意识到此前有各种被忽略掉的事情.
Di sisi lain, saya大概知道为什么他们每个人要那么做.
Tapi pada saat itu, mencari原因已经不重要了,我只是知道这不对. Jadi setelah menutup telepon, saya立刻和妻子说自己要辞职,她也表示赞同.
于是当天我就递交了辞呈.
Dari辞职之后, saya mulai menerima banyak信息. Kami收获了很多支持和热情,许多人愿意和我们一起离开重新创业,包括Jakob、Shimone、Alexander.
Kemudian kami dan Sam berkumpul,开始规划一家新公司.
第一天的时候, kami觉得山姆回归的可能性只有10%. Jadi kami mengatur rapat di rumah Sam, banyak orang dari perusahaan datang, kami menunjukkan kepada mereka gambaran yang sedang dirancang.一天时间, kami就拥有了一个如何运营项目的全新图景.
那个周末, kami同时还花了很多时间和董事会和公司谈判,试图找到一条有意义的回归之路.
结果周日晚上,董事会突然临时任命新的CEO,取代了我的位置,公司彻底爆发抗议.事实上,当时我们就在办公室,甚至眼看着马上就要达成协议,可以回去了,结果董事会突然临时变卦.
人群开始从大楼中涌出,一片混乱.
Kami开始和对新公司感兴趣的人视频通话,安抚他们会没事的,我们有计划. Kami一直试图为可能加入的一小部分人建造救生筏,但突然之间,好像所有人都改变了想法,都想要加入我们的新公司.
Sam还和微软CEO Satya聊了,此前我们一直在讨论能否让他来支持我们的新事业. Kami希望能够扩大救生筏的规模,比如带走OpenAI全部员工.
那个时候正值感恩节前夕,很多人本应飞回家和家人团聚,但他们都纷纷取消了航班,办公室里挤满了人.
每个人都在那里,即使不参与对话,他们也想要亲眼见证这段历史.
然后,请愿书开始流传.太多人试图同时签署请愿书,一度导致Google Docs崩溃,所以最后只好指定某些人来登记名字,以免同时有太多编辑者.
Saya ingat saya大概凌晨5点回到家,睡了45分钟,醒来后刷Twitter,看到Ilya发了推文,并签署了请愿书,说他希望公司重新团结起来.
那真是一个如释重负的时刻. Saya非常感激,感觉我们可以将一切重新拼凑,我们可以重回正轨.
Q: Kamu dan Ilya bersama-sama mendirikan perusahaan ini, setelah peristiwa itu, apa perasaanmu tentang hubungan kalian?
Greg: Ini sangat sulit. Antara kami绝对是非常亲密的关系, dia曾在我的婚礼上担任司仪,我们一起经历了很多极其艰难的时刻.但任何关系都总有起起落落.
事后 kami花了很多时间真正地交谈,试图理解并说出我们之间积累或未曾说出口的事情.通过这个过程, saya认为我们达成了一个非常好的状态.
Bagi saya, 我感觉我们对所发生的一切都有了了结.
Q: Apa perasaanmu tentang loyalitas karyawan yang kamu picu?
Greg: Saya对此深怀感激. Saya从未主动要求过这些,也从未期待过.
Saya pikir gaya kepemimpinan saya adalah那种亲临一线的领导者,试图身先士卒,有时候带点情绪化,我不会总是回头看是否每个人都跟上了,我就是一直往前冲.
但当人们真的来帮助建造时, saya感到非常感激,觉得他们在各方面都超出了我的期待.
Q: Jadi最终每个人都回来了?
Greg: Sebenarnya整个周末,所有的竞争对手都在虎视眈眈.人们收到各种offer,但那个周末, 我们没有失去任何一个人,没有人接受offer.这太不可思议了.
实际上, pelatih Bill Belichick曾告诉我,最好的球队不是为了钱而打球,而是为了他们身边的人.那时当所有人都来支持我们时,我想起了这句话.
毋庸置疑,这是一个钻石时刻.
Istirahat Singkat dan Refleksi Diri
Q: Setelah semua ini terjadi, kamu beristirahat sebentar, apa yang dialami batinmu?
Greg: Itu adalah pengalaman yang intens, baik mengalami maupun kembali menghadapinya.
Tapi jujur, saat paling sulit dalam sejarah OpenAI之一就是Ilya离开的时候.那可能是OpenAI历史上唯一一个让我觉得我不想再干了的时刻.
Saya pikir saya butuh waktu untuk menemukan diri saya kembali, menemukan kembali mengapa awalnya melakukan hal ini, mengapa ini sangat penting, mengapa值得承受这些痛苦.
Q: Apa yang kamu lakukan selama istirahat?
Greg: Saya melatih model bahasa pada sekuens DNA.
Sebenarnya saya sudah melakukan ini selama di OpenAI, untuk lembaga penelitian biomedis nirlaba Arc. Saya menerapkan keahlian saya ke bidang yang sangat berbeda, bidang yang很有意义 bagi saya pribadi dan istri.
Istri saya有很多健康问题, kami一直在思考AI能为她的健康乃至动物健康做些什么.这段经历也让我意识到,也许我们可以将技术运用在一些全新的、有温度的领域.
Q: Jika kamu disuruh merangkum semua ini dalam satu halaman, dari Sam dicopot sampai kamu mengundurkan diri, karyawan petisi bersama, libur lalu kembali, apa yang akan kamu tulis?
Greg: Saya pikir yang saya pelajari adalah, untuk hal yang layak, harus bertahan.
Jika kamu memiliki misi yang penting, maka fakta bahwa kamu bertahan dalam pasang surut才是关键.会有“一切都完了”的时刻,也会有“我们回来了”的时刻.
Kamu不能任由这些时刻把你带偏,在这个时期,你必须培养个人的韧性.因为如果你是领导者,人们会向你寻求稳定、支持,以及前进的方向.
Saya berusaha mengembangkan的是,既要能理解我们所做事情的细节、每个选择的含义,又要能果断.
有些时候, saya很大程度上是从不确定性的角度来看待OpenAI,觉得我不知道正确答案是什么,不知道构建这项技术的正确方式是什么,或者如何回答这些棘手的问题.
但这里有很多非常聪明、有强烈意见的人. Jadi saya berusaha memahami semua pendapat ini, dan mencari cara untuk mengintegrasikannya.有时这是正确的做法.但有时你会发现这些意见是相互矛盾的,不可能同时为真.
有时候你必须做出选择,你知道这意味着会有人不高兴,有人会辞职,有人会觉得被轻视.
Saya berusaha去做的,就是拥有更强的自我意识,以及在确信某事时必须采取行动的意识.
Mengingat perjalanan OpenAI, saya merasa dalam beberapa hal, saya berharap kami bisa melakukannya berbeda saat itu.
Biasanya那种情况是,我们在某件事上拖拖拉拉,我们早就知道某人不太适合某个角色,我们认为某个技术方向不太对,我们认为某种项目运行方式不太行得通,但我们就是等得太久了.
Ini adalah pelajaran yang saya coba pelajari,也是我每天反思OpenAI、Stripe甚至更早的大学时期项目时,努力成长的一个方面.
Saya pikir cara saya beroperasi adalah, saya sangat mencintai kegiatan sehari-hari, mencintai kontribusi pribadi, mencintai perangkat lunak, mencintai memikirkan masalah, tetapi saya juga sangat peduli dengan lingkungan di mana hal-hal ini dilakukan.
实际上,我愿意放弃那种“第一类乐趣”,即快速获得满足感,比如你当前做出了什么东西,转而追求“第二类乐趣”,即当下痛苦但有长期价值的事情.
Kamu通过创造环境,让其他人能够从事那些艰苦的工作,做出伟大的成就.所以努力创造一个环境是我自然而然的倾向,这并不总是最容易的.你确实必须愿意承受巨大的个人痛苦.
Ilya总是说“你必须受苦”,如果你不受苦,你就没有在创造价值.我认为这其中有深刻的道理.
Tentang pandangan Ilya, saya觉得很有趣的是他有一种独特的说话方式,他选择的词语中总是蕴含着深刻的灵感.
这种“受苦”的图景是我们贯穿OpenAI历程一直在思考的.从一开始我们就有很多不确定性,每一件事都极其困难,极其不确定.
很多人习惯将问题扫到地毯下,盲目地说冲.我认为这是硅谷文化的负面部分,至少是硅谷的刻板印象,但我认为这在AI领域行不通,在OpenAI行不通,我们也从未这样运作过.
Cara operasi kami始终是, 面对严酷的事实,理解现实的本相.我认为这有助于我们以不同的方式思考问题,不满足于早期那种写些能被引用的论文,这只是基础,但远远不够.
然后你开始思考更大的问题,构建AGI到底需要什么?这并不愉快.因为你意识到没有现成的路.
Kamu需要资金,但你没有筹集资金的机制.你努力尝试, kami极其努力.也许你能筹到1亿美元或者5亿美元,但10亿美元,非常难.
但就是依靠现有的这些资源,我们取得了不错的成就,如果没有迎难而上、努力理解我们试图完成的事业的真相,真的别无他法.
Q: Ada pelajaran apa yang harus kamu pelajari berulang kali?
Greg: Membuat keputusan sulit, melakukan percakapan sulit.
Q: Saran terbaik apa yang pernah kamu terima?
Greg: Adalah yang saya pelajari di kelas menulis mahasiswa baru Harvard. 为了清晰和沟通,不断删减文字.
Q: Bagaimana kamu menyaring informasi?
Greg: Membaca大量, aktif mengklasifikasikan dan memproses.
Q: Siapa panutanmu, dan mengapa?
Greg: Gauss dan Descartes. Mereka adalah orang-orang yang sangat berpikir, melampaui zamannya, adalah orang-orang yang memiliki wawasan visioner, mereka membawa terobosan nyata, mengubah cara berpikir dan cara hidup kita.
Q: Tentang Greg Brockman, apa yang disalahpahami dunia?
Greg: Saya pikir orang tidak memahami betapa fokusnya saya pada misi ini, fokus ini dalam banyak hal membawa saya pribadi rasa sakit yang巨大.但我就是相信这项技术可以帮助赋能人们,让每个人受益.我非常想帮助实现这一点.
Penilaian Inti terhadap Industri AI
Q: Apa yang ingin kamu beri tahu orang non-teknis tentang AI?
Greg: Itu akan menjadi kekuatan untuk kebaikan dalam kehidupan pribadi mereka, mereka akan mendapat manfaat darinya, itu akan mendorong perkembangan sains, kedokteran, secara nyata mempengaruhi setiap orang.
Q: Mengapa OpenAI sangat buruk dalam penamaan model?
Greg: Ini saya tidak bisa beri tahu kamu. (doge)
Q: Apakah kita mendekati titik di mana AI membuat perkembangan AI berakselerasi secara eksponensial?
Greg: Saya pikir kita sedang berada dalam tahap menerapkan AI pada proses pengembangannya sendiri, dan itu akan semakin cepat.
Ini sebenarnya telah terjadi sejak ChatGPT. Kami menggunakan ChatGPT untuk mempercepat proses pengembangan sebesar 10% atau 20%. Sekarang kami memiliki那些令人惊叹的编码工具,它们真正革命化了软件工程的完成方式.
Dan sebagian besar pekerjaan yang kami lakukan dalam produksi model, hambatannya ada pada perangkat lunak. Kami很快就会进入下一个阶段, AI也将提出自己的研究想法,并进行测试、运行实验.所以我认为迭代和创新的速度将因我们正在生产的东西而继续加快.
Q: Sekarang berapa persentase kode yang ditulis oleh AI?
Greg: Sulit dikatakan, berapa banyak kode yang不是AI编写的.这个比例正在趋近于零.
Saat ini, dalam konteks dan struktur yang benar, AI在编写代码的实际书写方面远比人类优秀.至于代码结构的部分,人类专家仍然要擅长得多,但代码的实际编写基本上全是 AI的工作.
Q: Apakah AI pernah mengusulkan ide baru yang tidak terpikirkan olehmu?
Greg: Kami sedang mendekati目标 ini.例如在芯片设计方面.去年在我们自己的芯片设计中,我们试图更好地适配技术,以缩小电路使用的面积.
Kami发现模型产生的优化方案其实在我们的清单上,所以它没有提出人类从未想到过的全新东西,但它实现得更快,以我们原本没有时间完成的方式.
再比如说,最近在量子物理中,我们解决了一个特定的物理问题,结果与学界预期的方向相反,并得到了一个优美简洁的公式.
所以从这些模型中获得新想法是完全可行的.后续我们将在更难的领域应用它,或者还需要更多真实世界背景.这才刚刚看到苗头.但我们有实现它的路线图,我们还有很多工作要做.
Q: Jika model berbasis pembelajaran penguatan, apakah menurutmu mereka akan berevolusi hanya memberitahu kita apa yang ingin dengar?
Greg: Kami实际上经历了一个训练模型以适应用户偏好的演变过程.
Kami看到,在去年的某个时候,模型确实开始倾向于告诉你你想听的话,我们对此也做出了改变,因为我们希望模型真正对齐的是帮助你实现你的目标、你的长期目标.
也许当下听到附和会感觉很好,但那不是你真正想要的.也许有些人喜欢,但这不是大多数人真正想要的.
所以,我们实际上已经做出了巨大的技术进步,以确保我们的AI训练不会导致所谓的奖励破解.我们真正希望确保有一个关于目标的良好信号,而不仅仅是短期的、能让你快速满足的东西.
Bagi saya,这可能是个人AI、个人AGI将带我们走向的愿景中最重要的一部分,确保它不仅仅关乎当下看起来不错的东西,而是真正关乎与你的长期福祉、长期目标、你真正想要的东西对齐.
Saya pikir这才是最能赋予人们力量的东西.
Q: Tren saat ini似乎是在发布预览版模型,你认为是因为我们受限于算力吗?
Greg: Secara keseluruhan, kami sedang menuju dunia yang didorong oleh daya komputasi.
Tidak lagi hanya menjawab pertanyaan dengan cepat, itu真正开始深入,花费大量token来整合不同的数据源,搜索企业知识库,以解决难题、编写比人类能力更强的软件.
所有这一切根本上都由算力驱动,而且算力远远不够.如果世界上每个人都有一个 GPU,那就是80亿个 GPU,我们目前的轨迹远远达不到那个水平.现在几千、几百万个GPU就算很大了.
所以在训练上,我们倾向于提前建设算力以应对我们所看到的需求. Kami将非常专注于将模型带给每个人,使其广泛可用的使命.
Q: Kalian pernah因为投入大量精力、资金到数据中心而受到嘲笑.现在你觉得这情况如何?
Greg: Saya pikir ini akan memberi kami keunggulan.不仅是利于业务,也能够真正实现将技术带给每个人.
未来算力会优先投向重大使命,比如攻克癌症,今年就有可能实现.
事实上, 算力分配是社会未来的核心议题,只有那么多算力,所以必须优先排序,但我们坚持相信,每个人都需要获得算力.
这就是为什么我们有ChatGPT的免费版本,我们努力确保人们能够使用这项技术.
Q: Di internal OpenAI, bagaimana kalian memandang keseimbangan antara bisnis konsumen dan bisnis perusahaan?
Greg: Saya最近思考很多的是聚焦.
因为这个领域就是机会的化身,你可以把AI应用到任何问题上,任何你想构建的东西,一切皆有可能.但我们目前的问题还是算力有限.
所以我认为,在OpenAI下一阶段,企业级业务显然很重要,因为经济正在我们眼前变成算力经济.软件工程已经如此,每个用计算机工作的领域都将如此.
所以我们需要在那里帮助人们部署这些模型,弄清楚如何利用它们,如何从中获得最大收益.
企业和消费级之间的界限也将模糊,因为创业将变得比以往任何时候都容易.我们已经看到了这一点.
Q: Menurutmu akankah ada pusat data luar angkasa?
Greg: Saya pikir kami akan memiliki pusat data di mana-mana, tetapi saat ini pusat data luar angkasa masih memiliki banyak masalah teknis.
Q: Apa itu iterasi deployment? Mengapa kalian melakukannya?
Greg: Iterasi deployment adalah pilar inti OpenAI dalam menangani bagaimana teknologi ini memberkati umat manusia, mewujudkan misi.
Riset rahasia, peluncuran satu kali risikonya极高,因为你无法预判真实世界的问题.而迭代部署能让我们在实践中发现风险,快速修正.比如GPT-3上线后,我们没想到最大的滥用是医疗垃圾短信,正是实战让我们得以及时应对.
所以迭代部署的理念是,我们将推出这项技术的中间版本.
这不是盲目部署的借口,你仍然需要在每一步思考我们关于所有可能被误用的方式的最佳判断,缺点是什么,风险是什么,然后去缓解它们.但你也能看到实际情况,看看你的判断是否正确,从现实中学习,下次做得更好.
在OpenAI的历史上,我们曾希望,以前有人部署过变革性技术,也许他们能告诉我们答案.但事情从来没那么简单.
他们确实有智慧和见解,我们也吸收了.但我们意识到,我们才是最接近这项技术的人,由于创造了它,我们才能更加理解塑造它的正确方式.
Q: Jika sebuah model terdepan mengutamakan keamanan sebagai目标 utama,而另一个不这样做,你如何看待这种差异?
Greg: Saya pikir kami menemukan bahwa keamanan实际上是一个核心产品特性,没有人想要一个与自己不对齐的模型.
所以我们在安全方面进行了投资,可能远超人们所认为的程度,也可能比任何其他实验室都多.
Saya始终认为,那些构建这项技术并拥有成功产品的人不同时大力投资安全, 是不可持续的.你需要为你的业务和你正在创造的东西做长远考虑,这关乎如何训练模型,如何获得反馈循环.
Saya只想说,我们致力于将安全作为使命的一部分,这在我们的产品和世界中已经体现出来.
Q: Ketika saya memberitahu orang-orang saya akan melakukan wawancara ini, reaksi umum adalah mereka khawatir tentang pekerjaan mereka, merasa tidak pasti. Apa yang akan kamu katakan pada mereka?
Greg: Saya确实认为这项技术会如何发展是不确定的.它的发展方式令人惊讶,我们现在的AI,我们现在的世界,并不是科幻小说里所预见的.一些看似必然的结论,当它们真正实现时,结果看起来并不完全一样.
Saya percaya,人们总是最容易看到自己会失去什么.变化正在来临,这是无可否认的,但更难的是预见到你会得到什么.
举个例子,想想1950年的人如何理解Uber,首先你需要想到计算机、手机、GPS.其实这当中涉及到了相当多技术,但它确实发生了.而成千上万、数以百万计的其他案例也在同步发生.
所以我对AI的看法是,它关乎赋权,关乎人类能动性.这确实意味着一些制度、工作、那些我们以为可以依赖的东西可能不再像我们想的那样稳定.
所以它会影响到人们,但值得深入的问题是: 你得到了什么?你如何从中受益?
现在你可以成为一个创造者,你可以创造任何东西,你能想象到的任何东西都能变成现实.
Q: Bagaimana mengembangkan kemampuan mencipta?
Greg:真正深入这项技术.
Saya观察到的是,跨越多代技术,从中获益最多的人是那些在上一代技术中就投入其中的人.而现在尝试它们的门槛比以往任何时候都低.
所以我认为会有新的机会被创造出来.
Saya pikir dunia确实需要考虑如何在这个充满不确定性的时刻,在即将到来的任何转型中支持每个人.因为经济将变成算力经济,但我每个人都会有贡献的地方.
Q: Di mana seharusnya anak muda berinvestasi hari ini? Jika kamu di SMA atau kuliah, atau baru mulai bekerja, keterampilan apa yang menurutmu akan lebih berharga di masa depan?
Greg: Saya真的认为深入这项技术将成为一项关键技能,真正去理解如何从AI中获得最大价值.
因为我们都将走向一个世界,在那里我们成为智能体的管理者,也许很快会成为自主AI公司的CEO.
只要你有token,有驱动它的算力.到那时,你可以把算力指向任何问题,而人类想要解决的问题数量是无限的.
所以我认为,人们越是深入这项技术,弄清楚如何利用即将到来的东西,如何以新方式组合这些技术,如何与我们的智能体互动,真正管理它们,思考“我想要什么?我的自我意识是什么?我的目的是什么?我想在世界上看到什么?”,实现这些将比以往任何时候都容易.
Saya pikir,就我们所获得的东西而言,那个世界的上行空间几乎是不可想象的.
Q: Ini adalah pandangan masa depan yang paling positif, apa pandangan masa depan paling negatif yang dapat kamu bayangkan?
Greg: Tentang bagaimana teknologi berkembang sejauh ini, hal yang sangat menarik adalah,它实际上是让我们把自己扭曲去适应机器.
想想有多少人工作时要面对这个盒子,敲键盘,得了手腕综合症,肩膀佝偻着.但这不是我们所希望的样子,我们要走向的世界,不仅仅是你用计算机工作,而是你的计算机为你工作.
这带来了机遇,也带来了风险.所以我们需要想办法缓解这些风险.
归根结底,一个核心问题是:如果你有机器帮助人们实现他们的目标,它们在那里做你想做的事.但有时人们的目标是冲突的,你如何解决?你如何决定 AI 会帮助你什么,不会帮助你什么?真正试图弄清楚这如何融入社会?如何确保利益不只流向一个公司、一群人,而是真正提升每个人?
Kita必须承认这里依旧存在很多出错的方式或风险,需要我们解决.
Q: Pertanyaan terakhir, bagimu, apa itu kesuksesan?
Greg: Mewujudkan misi OpenAI, memastikan AGI memberkati seluruh umat manusia.
Referensi: [1]https://x.com/shaneparrish/status/2046900710055297072[2]https://youtu.be/6JoUcQ1qmAc
Artikel ini来自微信公众号“量子位”, penulis:关注前沿科技
