Автор | Дэн Дин Ке Сюань
26 августа Билл Гейтс опубликовал на Gates Notes обширную статью об ИИ:
Бурная эпоха ИИ уже наступила. Выборы, которые мы делаем сейчас, имеют решающее значение. «Бурная эпоха ИИ наступила, и решения, которые мы принимаем сейчас, критически важны»
Оригинал статьи Билла Гейтса на Gates Notes:
Ключевая цитата из оригинала: ИИ может стать либо самым мощным инструментом равенства, либо серьёзным источником несправедливости. Гейтс считает, что нам нужно прямо сейчас начать планировать этот переход.
Эта статья очень читабельна. Гейтс не стал пессимистом в отношении ИИ и не отрицает его долгосрочную ценность. Он по-прежнему верит, что ИИ приведёт к значительному прогрессу в здравоохранении, образовании, сельском хозяйстве, энергетике, научных исследованиях и других областях.
Но фокус его внимания изменился.
В последние годы он больше говорил о том, что ИИ в конечном итоге сможет создать. В этот раз он посвятил значительную часть статьи обсуждению другого вопроса:
Что произойдет на пути от сегодняшнего дня к тому будущему?
Если сжать всю статью в одно предложение, то оно, вероятно, будет звучать так:
Долгосрочные выгоды от ИИ могут быть огромными. Но «переходный период» от настоящего к тому будущему может стать одним из самых бурных социальных преобразований в истории человечества. И у нас почти нет институтов, готовых к этому.
Гейтс по-прежнему верит в долгосрочную ценность ИИ. Теперь его беспокоит: как мы переживём следующие десять с лишним лет.
В оригинале он прямо пишет: «К сожалению, мы сейчас к этому не готовы».
Первый уровень: Гейтс считает, что в этот раз нельзя просто провести аналогию с промышленной революцией
На мой взгляд, это очень важный момент в статье, который легко упустить из-за заголовков новостей.
В ответ на вопрос «отнимет ли ИИ работу» стандартным ответом был: паровой двигатель уничтожил одни рабочие места, но создал новые; интернет сделал то же самое, поэтому и ИИ в конечном итоге создаст новые рабочие места.
Теперь Гейтс явно сомневается в этой аналогии. Прежние технологии в основном заменяли физический труд или конкретные способности. Новые рабочие места в итоге всё равно требовали человеческого познания.
Особенность ИИ заключается в следующем: он сам заменяет интеллектуальный труд.
Цикл по умолчанию за последние двести лет
Старые рабочие места исчезают → Появляются новые рабочие места → Люди переходят на них
В оригинале Гейтс прямо называет юриспруденцию, обслуживание клиентов, здравоохранение, программное обеспечение, производство, а затем перечисляет такие профессии, как продажи, программная инженерия, помощники юристов, рассмотрение кредитов, анализ данных, сортировка пациентов.
Его оценка: новые рабочие места по-прежнему будут появляться, но при отсутствии подходящей политики их количество в будущем может оказаться гораздо меньше, чем сегодня.
Эта оценка учитывает более глубокий аспект, чем обычно обсуждаемое «ИИ отнимает рабочие места». За последние двести лет мы исходили из того, что технический прогресс в конечном итоге создаст больше новых, более сложных рабочих мест, требующих человеческого познания.
Но что, если то, что масштабируется и удешевляется, как раз само «познание»? Тогда эта историческая аналогия перестает быть однозначной.
Самое большое влияние ИИ на занятость, возможно, заключается не во внезапной массовой безработице в один прекрасный день. Более вероятное изменение: одна и та же компания, тот же самый бизнес в будущем потребует меньше людей.
Один человек и несколько агентов могут выполнить работу, с которой раньше справлялась небольшая команда.
Рабочие места не исчезнут в одночасье, но количество новых рабочих мест будет сокращаться, команды станут тоньше, предприятия всё меньше будут готовы платить прежнюю цену за «интеллектуальный труд, который может быть выполнен ИИ».
Второй уровень: Риски уже не проблема после ОИИ, они уже происходят
Есть ещё один важный контекст для изменения позиции Гейтса в этот раз.
В интервью MIT Technology Review он объясняет, почему решил высказаться именно сейчас.
Он считает, что несколько обсуждаемых ранее «пороговых значений опасности» фактически уже начинают преодолеваться, включая: биологические возможности, возможности кибератак, психологическое и социальное влияние, разрушение рынка труда, а также управляемость ИИ.
Особенно программирование. Прогресс в Claude Code, длинных контекстах и агентском программировании заставил его осознать, что ИИ преодолел не просто порог способности к программированию.
Агент, способный писать код в больших масштабах, одновременно может стать мощным инструментом для кибератак.
Чем сильнее способности ИИ, тем больше у защищающейся стороны возможностей находить уязвимости и исправлять системы. Но у атакующей стороны также снижаются затраты на использование тех же способностей для поиска уязвимостей и проведения атак.
Гейтс также упоминает эту проблему в оригинале. Новые возможности, получаемые атакующими, быстро растут, а защищающаяся сторона не может одновременно исправлять все слабые места.
Возможности пересекают границы, а управление всё ещё находится на стадии обсуждения.
Третий уровень: Его беспокоит не только безработица, но и «низкозатратная интеллектуальная замена»
В интервью MIT есть фраза, которая, на мой взгляд, даже интереснее основного текста:
Для чётко определённых работ ИИ будет дешевле и будет выполнять их лучше.
Он приводит очень обычные примеры: телефонные продажи, обслуживание клиентов, финансовый отдел, закрытие месяца, оценка скидок и т.д. Множество «белых воротничков» работ с чёткими процессами, правилами, которые можно описать в цифровой форме, будет становиться всё легче выполнять с помощью низкозатратного ИИ.
Ключевым словом здесь может быть не «замена», а: дешевле.
В реальности, вероятно, не произойдет внезапного переключения: ИИ = 1, человек = 0. Возможно, просто отделу, где раньше требовалось 10 человек, теперь нужно 6.
Информацию, которую раньше обрабатывали сотрудники начального уровня, сначала на большую часть выполняет агент. Рабочее время одного человека раньше определяло скорость расширения бизнеса, теперь программное обеспечение может обрабатывать множество задач параллельно.
Суть изменений — это предельные издержки труда и интеллекта.
Продолжая эту мысль, Гейтс выдвигает идею, которую редко можно услышать от него: Некоторые работы, даже если ИИ может их выполнить, общество, возможно, всё равно должно оставить за человеком.
Четвёртый уровень: Очень интересная новая концепция — Human Reserved
Можно перевести как: «Сфера, зарезервированная для человека». Гейтс использует яркую аналогию: заповедник.
В заповеднике, конечно, можно строить дороги и дома. Мы выбираем не делать этого, потому что цена его утраты слишком высока. Сфера, зарезервированная для человека, работает по схожей логике: даже если ИИ может это сделать, мы всё равно решаем, что это должен делать человек.
Эта идея возникла из опыта его отца в последние годы жизни.
Отец Гейтса страдал болезнью Альцгеймера. На поздних стадиях его круглосуточно ухаживала группа сиделок. Иногда его отец уже не мог выразить, что голоден, но сиделки всё равно понимали его.
Гейтс пишет, что в таком уходе есть нечто «незаменимо человеческое». Образование и психическое здоровье могут использовать модель «человек + ИИ», где человек несёт окончательную ответственность, а ИИ расширяет его возможности.
Ещё пример из медицины: технически робот, конечно, может сказать человеку: «У вас неизлечимая болезнь». Гейтс считает, что он не должен этого делать.
Смысл «человеческой работы» в будущем может больше не определяться полностью эффективностью.
Пятый уровень: Поэтому необходимо перепроектировать налогообложение и социальное обеспечение
Если ИИ и роботы продолжат сокращать потребность в труде, существующие системы столкнутся с очень реальной проблемой.
Нынешняя налоговая база
Человек работает → Предприятие платит зарплату → С зарплаты платятся налоги
Если всё больше труда превращается в: ИИ / робот работает → Предприятие получает прирост производительности, прежняя налоговая база может пострадать.
Поэтому Гейтс снова поднимает вопрос о налоге на роботов, и говорит об этом очень прямо:
«I believe we should tax AI tokens and robots.»
«Я считаю, что мы должны облагать налогом AI-токены и роботов».
Когда предприятие нанимает человека, оно должно платить налоги с фонда оплаты труда. Покупая робота, оно обычно может сразу списать его как операционные расходы.
Гейтс считает, что существующая налоговая система фактически поощряет предприятия быстрее заменять людей машинами.
Налогообложение, с одной стороны, может немного замедлить скорость, с которой предприятия отказываются от человеческого труда, а с другой стороны, может собрать средства для переподготовки и более сильной системы социального обеспечения.
Эта проблема перекликается с той, которую я затронул, когда писал «Счёт за ИИ будут оплачивать не только технологические компании» — это две стороны одной медали.
Если эти инвестиции в конечном итоге действительно создадут огромный прирост производительности, то кому достанется этот прирост?
Шестой уровень: ИИ может одновременно стать «величайшим уравнителем» и «величайшим создателем неравенства»
Это главный тезис всей статьи.
«AI will either be the greatest equalizer ever invented, or the worst source of injustice.»
ИИ либо станет самым мощным инструментом равенства, когда-либо изобретённым человечеством, либо самым серьёзным источником несправедливости.
Если предельные издержки ИИ в медицине, образовании, сельском хозяйстве, научных исследованиях будут достаточно низкими, возможности, которые раньше были доступны только в богатых регионах, смогут охватить больше обычных людей.
Та же самая технология также может усилить существующий разрыв.
Право собственности на ИИ сосредоточено в нескольких компаниях.
Капитал получает основной прирост производительности.
Стоимость труда обычных людей снижается.
Богатые регионы первыми получают выгоду от ИИ.
Низкодоходные группы первыми сталкиваются с последствиями воздействия на занятость.
Таким образом, вопрос уже не только в том, «может ли ИИ создавать богатство?», но и в том, «кому достанется богатство, созданное ИИ?»
Наконец, три направления действий, которые он предлагает
Во-первых, создать новую систему управления переходом на ИИ.
Существующие государственные органы не были созданы для такой технологии, которая затрагивает занятость, национальную безопасность, образование, здравоохранение, налоги, энергетику, финансы и кибербезопасность.
Во-вторых, активно управлять воздействием на занятость.
Включая укрепление сети социальной защиты, профессиональную переподготовку, корректировку налоговой системы, а также такие нестандартные решения, как сферы, зарезервированные для человека.
В-третьих, необходима международная координация, США и Китай не могут отсутствовать.
Кибербезопасность, биологические риски и распространение моделей пересекают государственные границы. Гейтс прямо пишет, что между США и Китаем необходимо определённое сотрудничество.
Самый обсуждаемый момент в этой статье — его прогноз на будущее
Гейтс обсуждает проблему переходного периода ИИ:
Конечной точкой ИИ может быть изобилие, но между «обществом изобилия» и настоящим нет автоматически гладкого пути.
Общество изобилия — это вопрос как минимум ещё десяти лет. Весь переходный процесс может продлиться ближайшие 10-20 лет.
Сэм Альтман, Дарио Амодеи и другие часто описывают, куда в конечном итоге ИИ может поднять производительность. Гейтс на этот раз говорит о другом промежутке времени:
Что именно произойдёт на пути от настоящего к тому обществу изобилия?
Этот вопрос для обычных людей более реален, чем «когда появится ОИИ». Компании перестают нанимать столько новых сотрудников. Отдел начинает использовать агентов для выполнения работы нескольких человек. Некоторые профессиональные услуги становятся очень дешёвыми.
Новый прирост производительности всё больше переходит к стороне, обладающей моделями, вычислительными мощностями и капиталом. Налоги, образование, социальное обеспечение и системы занятости по-прежнему работают по-старому.
Эти изменения не нужно ждать до появления ОИИ, часть из них уже происходит. Самая сложная часть ИИ, возможно, не только в том, чтобы сделать модели достаточно мощными.
После того, как технология входит в общество, возникает более медленная и сложная проблема:
Есть ли у нас способность адаптировать общество к ней.
- Источники: Билл Гейтс / Gates Notes; Интервью MIT Technology Review; Материалы по Anthropic Claude Code.
