Источник: Подкаст Bankless
Подготовлено: Felix, PANews
Экономист из Массачусетского технологического института (MIT) Кристиан Каталини стал гостем программы Райана и Дэвида, где подробно рассказал о своей новой статье «Некоторые простые экономические аспекты искусственного общего интеллекта». В статье утверждается, что дефицитным ресурсом в экономике ИИ является уже не интеллект, а верификация: способность человека проверять, оценивать и подтверждать правильность выводов ИИ.
Кристиан подробно объяснил две кривые затрат (стоимость автоматизации и стоимость верификации), которые меняют все отрасли, рассказал, почему сначала исчезают начальные должности, и почему даже ведущие эксперты невольно готовят себе замену («проклятие программиста»). Он также описал три типа ролей, которые сохранятся в ходе этой трансформации: режиссеры, создатели смыслов и страховщики ответственности.
PANews подготовила精华（основные моменты） беседы.
Ведущий: Я думаю, многие слушатели, как и я, испытывают панику по поводу ИИ. Как вы думаете, почему люди беспокоятся об ИИ? Оправданы ли их опасения?
Кристиан: Мы все это чувствуем. Это время быстрых и transformative изменений, и чем ближе вы к коду, тем раньше, вероятно, стали свидетелями этого ускорения, этот экспоненциальный рост за последние месяцы стал очень реальным. Эта технология реализовала то, что многие думали, займет гораздо больше времени, и это ощущение — то, с чем мы все пытаемся справиться. Но я считаю, что «апокалиптические прогнозы» ошибочны, люди склонны недооценивать потенциал, который несут эти инструменты. Да, будет чрезвычайно сложный переходный период, скорость изменения работы беспрецедентна в истории. Но, тем не менее, если вы используете максимальные возможности этой технологии и инвестируете в нее, в долгосрочной перспективе это в основном благо, хотя путь будет ухабистым. Экономика рассматривает работу как набор задач, некоторые из которых будут автоматизированы, и это хорошая новость, но ключ в том, как вы переобучите себя и останетесь на передовой.
Ведущий: Как вы думаете, кого это затронет в первую очередь?
Кристиан: Это прекрасный вопрос, у меня есть много разных мыслей на этот счет. Во-первых, когда я говорю, что ближе всех к коду пострадают первыми, я имею в виду, что они первыми почувствуют, насколько мощна эта технология. Как показывает «Парадокс Джевонса», когда что-то становится эффективным, мы начинаем потреблять это больше, например, мы будем писать больше программного обеспечения. Я думаю, что программирование, как и многие другие профессии, подвергнется дифференциации, мы в статье называем это «исчезающим циклом для новичков». Если вы начинающий специалист и еще не приобрели «неявные знания», чтобы отличить отличный продукт от посредственного, то ИИ может хорошо заменить вас в различных областях.
Теперь каждый может легко получить довольно хорошего маркетолога, программиста начального уровня или юриста, который поможет в большинстве ситуаций, вам нужно только на финальном этапе привлечь топового юриста для окончательной проверки. С другой стороны, даже ведущие эксперты, внедряя ИИ, сознательно или неосознанно создают метки, информацию и цифровые следы, которые в конечном итоге приведут к автоматизации их собственной работы. Топовые лаборатории нанимают лучших специалистов в таких областях, как финансы, используют их для создания оценочных стандартов, встраивая эти профессиональные знания в большие модели. Поэтому я считаю, что ни одна работа не защищена на 100%, даже физический труд, ограниченный возможностями робототехники, в ближайшие годы совершит огромный скачок благодаря моделям вознаграждения. Все, что происходит перед экраном, можно отследить, скопировать и изучить. Для каждой профессии ключевой вопрос: если я делегирую как можно больше работы ИИ, где я еще могу добавить ценность?
На самом деле, существует много «самоуспокоения» относительно «вкуса» и «суждений». Они очень расплывчаты. Поэтому в статье мы говорим: не существует такого понятия, как вкус или хорошее/плохое суждение, есть только различие между «измеримым» и «неизмеримым». Если что-то уже измерено, машина может это воспроизвести. Если что-то все еще embedded только в весах вашего мозга, например, топовый дизайнер, накопивший десятки тысяч часов опыта, который решает, что выпускать, а что нет, — это то, что мы называем «верификацией». Вся верификация — это последний шаг: ИИ-агент создает продукт, а вы как принимающий решение оцениваете, соответствует ли он стандартам для выхода на рынок. По мере того как машины получают лучшие данные, вещи автоматизируются; но в области неизвестного или там, где данных вообще нет, эта часть еще несколько лет останется за человеком.
Ведущий: Это очень глубокое понимание. Но я также думаю, что инженерам естественно автоматизировать свою работу. Будут ли удары одинаковыми для всех отраслей?
dir="ltr">Кристиан: У нас достаточно доказательств, что изменения будут неравномерными. Можно думать так: является ли эта работа просто «упаковкой» чего-то, что обществу на самом деле не нужно? Например, общая консультационная работа, если она в основном переупаковывает, перефразирует, суммирует широко доступную информацию, то очевидно находится в зоне риска. Но если она привносит稀缺ные（дефицитные） отраслевые знания или нанимается по политическим причинам, это выживет. Спросите себя, прибыльна ли эта профессия потому, что она решает сложную проблему, или просто потому, что существует искусственное узкое место.Ведущий: Что именно означает верификация? Мне трудно разбить мою daily работу на когнитивную и верификационную.
Кристиан: Агенты уже обучились на сети, книгах и измерили все, потому что они дешевле и масштабируемы, поэтому они заменят измеримую часть. Но то, что агенты еще не знают: то есть уникальные веса нейронной сети в вашем мозге. Это то, что вы приобрели через собственный опыт и struggle, что делает вас топовым экспертом. Например, ранние участники криптовалют, многие из Аргентины, Венесуэлы и т.д., пережившие гиперинфляцию, совершенно по-другому реагируют на активы. Это внутреннее уникальное измерение все еще является огромным преимуществом.
Что такое верификация? Это разница между вашими собственными стандартами измерения мира и стандартами, которыми обладает агент. Как топовый редактор, который точно знает, какая статья найдет отклик; или топовый CTO, сталкиваясь с огромной кодобазой, сгенерированной ИИ, точно знает, какие решающие краевые части должны быть проверены человеком лично, эта часть еще не может быть измерена машиной.
Ведущий: Приведу пример, если я вижу видео на X о ракетном обстреле Израиля, но обнаруживаю, что оно сгенерировано ИИ. Я использую мозг, чтобы определить проблему, и, возможно, через reprompting генерирую лучшее видео, это моя «способность к верификации»?
Кристиан: Это хороший пример. Пойдем дальше, мы скоро можем оказаться в мире, где для большинства людей это видео будет неотличимо от реальности. Следующим шагом может быть военный эксперт, который заметит, что динамика пламени неправильная. Затем даже военный эксперт не сможет определить с первого взгляда, потребуется ИИ для анализа физики и проведения симуляционных тестов. В конечном итоге может стать полностью неотличимо, и тогда нам придется полагаться на криптографическую инфраструктуру для подтверждения подлинности. То же самое в медицине, краевые случаи в конечном итоге требуют, чтобы top radiologist использовал 20-летний опыт и понимание конкретного контекста пациента, чтобы отвергнуть judgment ИИ. Это тот самый тонкий последний слой «фильтрации», на котором мы фокусируемся. Когда мы это делаем, мы высвобождаем массу времени. Так что это именно та положительная сторона. Мы можем делать больше с меньшими ресурсами. Стоимость дорогих вещей упадет. Все общество будет потреблять больше этих вещей. Я считаю это хорошей новостью.
Ведущий: Но в вашем примере, сейчас он занимается верификацией, но скоро он не сможет верифицировать, потребуется военный командир, и, наконец, даже командир не сможет верифицировать и будет вынужден обратиться к ИИ. Разве это не доказывает, что «верификация» изначально ценна, но很快（очень скоро） также будет автоматизирована ИИ? Так что даже «верификация» сама по себе небезопасна?
Кристиан: Верно. В нашей статье мы называем это «проклятием программиста». Сам акт верификации, это очень рациональное поведение, продвигает передовые технологии и оцифровывает опыт. Мы не можем остановиться, потому что все юристы или практики пытаются использовать ИИ. Верификация действительно является сокращающимся фронтом.
Ведущий: Даже последняя область верификационной работы все больше сокращается, когда же перестать焦虑（беспокоиться）?
Кристиан: Во-первых, некоторые вещи по своей природе неизмеримы, например, так называемые «игры статуса» или вещи, которым люди придают meaning. Эти области не будут захвачены машинами, потому что их特征（характеристики） связаны с координацией и консенсусом между людьми. Криптовалюты в некотором роде тоже таковы, важно, чтобы люди пришли к консенсусу о том, что имеет ценность. По мере сокращения области измеримой работы, мы изобретем множество способов сделать неизмеримую работу значимой.
Ведущий: ИИ может создать网站（сайт） за 10 секунд, но, возможно, не сможет написать твит, который привлечет внимание людей. Может ли это быть одной из последних оставшихся работ по верификации?
Кристиан: Привлечение внимания, рассказывание по-настоящему новой шутки — это极其（чрезвычайно） сложная творческая работа, попытка сломать то, что никогда не измерялось. Мы evolved в漫长的（долгой） борьбе за выживание с чрезвычайно развитой способностью справляться с неизвестной средой. Люди, занимающиеся такой работой, называются «создателями смыслов». Например, в искусстве или культуре, что является хорошим, зависит от человеческого консенсуса. Даже когда вы используете ИИ-агента, вы должны设定（установить） «намерение».
Ведущий: Стоимость автоматизации падает экспоненциально, а что будет со «стоимостью верификации»? Будет ли она forever ограничена биологическими约束（ограничениями） человека?
Кристиан: В настоящее время она ограничена биологически. Поэтому многие компании выпускают массу кода, сгенерированного ИИ, но просто не хватает человеческих ресурсов, чтобы прочитать и проверить их, в этом必然（неизбежно） скрываются риски.
Ведущий: Разве нельзя использовать ИИ для верификации ИИ?
Кристиан: Если ИИ может правильно верифицировать, то эта часть сама по себе автоматизируема. После исчерпания всех возможностей верификации ИИ остается то, что действительно не может быть верифицировано ИИ, это и есть узкое место для человеческого вмешательства.
Ведущий: Если верификация — это новый дефицитный ресурс, но она постоянно отступает, то как работать и инвестировать в этой экономике?
Кристиан: Мы создали матрицу 2x2 на основе «стоимости автоматизации» и «стоимости верификации». В левом нижнем углу находятся вытесненные работники: автоматизация легка, верификация легка, вам绝对（абсолютно） не стоит здесь оставаться. Другие три квадранта это:
Создатели смыслов: Автоматизация сложна, верификация сложна. Они занимаются социальным консенсусом, играми статуса и человеческими связями. Например, создатели вкуса в мире моды, крипто-KOL в Twitter, они создают нарративы и координируют внимание.
Страховщики ответственности: Автоматизация легка, верификация сложна. Они ведущие эксперты в области, как топовые юристы, врачи или венчурные капиталисты. Они массово используют ИИ, но предоставляют услуги по принятию ответственности и верификации для окончательных краевых случаев.
Режиссеры: Автоматизация сложна, верификация легка. Суть — «намерение». Они应对（справляются） с «неизвестными неизвестностями», как предприниматели, направляют агентов, задают направление, чувствуют отклонение и постоянно корректируют курс.
Ведущий: Что делать молодым людям, только что окончившим вузы и желающим войти на рынок труда? С одной стороны — не представляющие ценности начальные работы, с другой — ведущие эксперты, для становления которых требуется十年（десять лет） отраслевой шлифовки, между ними огромная пропасть. ИИ может делать начальные вещи, как молодежи дорасти до другой стороны?
Кристиан: Пропасть действительно существует. Но хорошая новость в том, что вы можете сжать время обучения. Вы можете пропустить традиционные шаги обучения. Начинающий инженер теперь с помощью инструментов один может делать работу, которую раньше выполняла команда. Хотя сначала будут ошибки, но как новички они могут задавать традициям вопросы с совершенно новых angles, и в этом advantage. Они могут реализовывать идеи способами, совершенно недоступными нам в молодости. Есть плюсы и минусы.
Прошлый путь: «получить степень, найти стажировку, усердно работать для продвижения» действительно исчез, это вызовет巨大的（огромный） культурный шок. Для только что окончивших молодых людей это очень трудно. Если вы еще учитесь в университете, еще есть время看清方向. Если вы уже в затруднительном положении, мой совет: идите и используйте эти инструменты, чтобы создать что-то. Ваши амбиции должны быть в 100 раз больше, чем у нас в том возрасте.
Ведущий: Исчезновение большого количества работы «нажимания кнопок» не приведет ли в краткосрочной перспективе к хаосу в обществе?
Кристиан: Общество всегда будет заново создавать работу «нажимания кнопок», когда это необходимо для стабильности. Но многие люди, занимающиеся такой работой, на самом деле способны на большее, просто были ограничены средой. Когда физический труд перестал быть необходимым, мы изобрели тренажерные залы; теперь, столкнувшись с освобождением умственного труда, люди будут развивать различные подработки и экономику создателей, чтобы получить чувство challenge. Вот почему я считаю «безусловный базовый доход (UBI)» совершенно ошибочным, людям需要（нужны） смысл и мотивация для самореализации. Кроме того, даже если сейчас большая часть вашей работы автоматизирована, если вы хорошо используете ИИ как суперинструмент, начинающий сотрудник может выдать output, comparable с output целой команды раньше.
Ведущий: Есть ли建议（советы） для компаний и инвесторов?
Кристиан: Для компаний: инвестируйте в инфраструктуру верификации, предоставляйте «ответственность как услугу» (то есть не только предоставляйте агента, но и страхуйте последствия). Кроме того, владейте «эксклюзивным источником правды», потому что ИИ легко обмануть, компании, которые могут предоставлять эксклюзивные реальные данные или глубокие обзоры, как Bloomberg, имеют巨大（огромную） ценность. Для инвесторов, помимо инвестиций в это,重点关注（уделяйте пристальное внимание） «неизмеримым» хардкорным R&D. Обычные сетевые эффекты могут перестать работать, новые сетевые эффекты будут建立在（строиться） на том, как вы через更好的 реальные обратные связи делаете вашего агента более надежным, чем у других, потому что люди真正（действительно） хотят покупать проверенный интеллект.
Ведущий: Полезны ли криптографические технологии в этом процессе верификации?
Кристиан: Базовая инфраструктура, созданная в криптосфере за последнее десятилетие, крайне важна. Когда нам нужно подтвердить подлинность identity и предотвратить захват аккаунтов, такие链上（ончейн） технологии, как «доказательство личности», могут提供（предоставить） мощную верификацию. Также важен источник данных и криптографическая цепочка custody, нам нужны жесткие криптографические гарантии того, как генерировалась информация и соответствовала ли модель compliance.
Ведущий: Что людям делать в ближайший год? Вы оптимистично настроены относительно будущего человечества?
Кристиан: Во-первых, не паникуйте. Много экспериментируйте, используйте инструменты по максимуму, чтобы «уволить» и автоматизировать нынешнего себя. Многие любительские изыскания в будущем могут стать最有意义（самым meaningful） делом. В худшем случае вы поймете, где границы и недостатки моделей. Для многих сетевых создателей хобби уже превратилось в дело, это будет mainstream направлением в будущем. Если у вас есть дети, раскрытие их талантов, погружение их в то, что они любят, — это самое важное. Нет фиксированного шаблона профессии, новые инструменты ИИ лучше помогут вам найти свой собственный уникальный путь.
相关阅读（Похожее чтение）: Ночное чтение | Диалог с венчурным капиталистом из Кремниевой долины Биллом Гёрли: Не ищите стабильности, станьте «усиленной ИИ» версией себя
