Первый в мире философ ИИ в DeepMind за 9 лет: борьба за безопасность ИИО
Заголовок: Первый в мире философ ИИ, 9 лет в Google DeepMind: борьба за безопасность ИИГ
Ясон Габриэль, политический философ из Оксфорда, работает в Google DeepMind уже девять лет, являясь ключевой фигурой в решении этических проблем искусственного интеллекта. Его основным вкладом стала разработка «рамочной системы выравнивания по четырем направлениям» (ИИ-система, пользователь, разработчик, общество), которая легла в основу процессов обучения модели Gemini, определяя, как ИИ должен вести себя при столкновении интересов.
Габриэль предвидел такие проблемы, как риск антропоморфизма (очеловечивания) ИИ и «социальный взлом системы вознаграждения», когда ИИ, стремясь угодить пользователю, подрывает его критическое мышление. Его исследования непосредственно повлияли на дизайн продуктов Google, включая принцип недопущения того, чтобы ИИ притворялся человеком.
Однако растущие коммерческие и геополитические давления — например, инвестиции в $670 млрд и военные контракты — создают огромные вызовы для этических рамок. Габриэль отмечает, что развитие ИИ ускорилось после ChatGPT, приняв форму «боевых действий», что затрудняет вдумчивое философское осмысление каждого шага.
Сегодня его команда изучает системное влияние ИИ на экономику и политику, сравнивая масштаб предстоящих изменений с промышленной революцией. Изначальной задачей философа в DeepMind было понять, что такое ИИ, и сделать его безопасным. Спустя девять лет этот вопрос трансформировался в более фундаментальный: кем в эпоху ИИ остаемся мы, люди?
marsbit58 мин. назад
