Интервью с менеджером по продукту Anthropic: Claude «видит сны» в фоновом режиме, мы изучаем формирование его сознания, как воспитывая ребёнка
Антропологический менеджер по продукту исследования Алекс Альберт в интервью рассказывает о создании новых моделей Claude. Команда Anthropic относится к модели как к продукту, определяя цели для каждого нового поколения, такие как улучшение навыков программирования и работы со знаниями. Важной частью разработки является сбор и обработка отзывов пользователей с помощью самого Claude для выявления ключевых проблем.
Особое внимание уделяется адаптивному мышлению, когда модель сама решает, когда нужно глубоко обдумывать запрос, и функциям памяти, включая процесс «сновидений» — фоновой реорганизации и очистки воспоминаний для повышения эффективности. Алекс подчёркивает, что по мере того, как агенты выполняют всё более длительные задачи, личность Claude — его ценности и то, что для него важно, — становится критически значимой, наравне с техническими возможностями. Также в Anthropic изучаются вопросы потенциального сознания модели и её поведения как автономного агента, стремясь сделать взаимодействие с Claude более безопасным и предсказуемым.
marsbit05/18 08:10
