# Сопутствующие статьи по теме Управление ИИ

Новостной центр HTX предлагает последние статьи и углубленный анализ по "Управление ИИ", охватывающие рыночные тренды, новости проектов, развитие технологий и политику регулирования в криптоиндустрии.

Непопулярная философия становится "горячим" методом "лечения" ИИ

Как ни удивительно, некогда нишевая философия становится востребованной в сфере ИИ, что стало заметно на Всемирной конференции по искусственному интеллекту (WAIC). Раньше дискуссии вращались вокруг параметров и вычислительных мощностей, но теперь, когда ИИ пишет статьи, доказывает теоремы и моделирует общество, возникают глубокие философские вопросы: что такое настоящее понимание? Может ли ИИ быть учёным? Доверять ли необъяснимым, но работающим открытиям? Профессор философии Сунь Нин в своей речи «Сначала мир, потом интеллект» подчеркнул, что подлинный интеллект укоренён в мире через тело, окружение, других людей и историю. Эта мысль задала тон форуму «Мышление и интеллект», где учёные, философы и предприниматели обсудили, как ИИ меняет науку и общество. Были представлены саморазвивающиеся модели, способные генерировать и отправлять на рецензирование научные статьи, и инструменты ИИ для помощи в математических доказательствах и моделировании динамики белков. Однако с ростом возможностей возникают серьёзные проблемы: оценка результатов, доверие, ответственность и управление. Особое внимание уделялось социальному моделированию. Хотя ИИ позволяет быстро тестировать политики в виртуальных обществах, есть риск усиления предубеждений, заложенных в данных. Участники предупредили: не стоит принимать результаты моделирования за голос реального общества. Управление и этика выходят на первый план. Обсуждались необходимость «человека в контуре» с реальными правами на вмешательство, распределение ответственности и адаптация нормативных рамок. «Синяя книга по интеллектуальному развитию гуманитарных и социальных наук 2026», представленная лабораторией Фуданьского университета, предлагает практические рамки для обеспечения прозрачности и проверяемости исследований с ИИ. Выход ИИ в промышленность, например, в биопроизводство, ставит вопросы о «последнем километре» внедрения, изменении бизнес-моделей и распределении выгод. Новая производительность требует новых производственных отношений. Таким образом, всплеск интереса к философии отражает более глубокий сдвиг: по мере интеграции ИИ в создание знаний и социальные системы технические вопросы неразрывно переплетаются с управлением, экономикой, этикой и политикой. Чем умнее становится ИИ, тем важнее для человека решать, что спрашивать, чему доверять и как направлять технологию.

marsbit07/20 01:20

Непопулярная философия становится "горячим" методом "лечения" ИИ

marsbit07/20 01:20

WEEX Labs Еженедельный обзор: «Перераспределение власти» в инфраструктуре ИИ и «глубокое погружение» в реальную экономику

Июль 2026 года ознаменовал ключевой поворот в индустрии ИИ: **переход права распределения вычислительных мощностей от «облачных гигантов» к «владельцам вычислений» и смещение ценностного ориентира ИИ от «гонки параметров» к «интеграции в реальный сектор»**. Основные изменения недели: * **Реорганизация облака вычислений**: Meta анонсировала услугу «MetaCompute», бросая вызов традиционным провайдерам (AWS, Azure). Это усиливает конкуренцию и делает «экосистему больших моделей» ключевым фактором выбора для предприятий. * **Прорыв китайских моделей**: Открытый исходный код и запуск моделей (DeepSeek-V4, Tencent Hunyuan Hy-3) указывают на этап «коммунальности». Конкуренция смещается в сторону экстремального соотношения цены и качества, снижая порог входа. * **Воплощенный ИИ на практике**: Политика стимулирует переход человекоподобных роботов из лабораторий в реальные производственные условия (логистика, автомобилестроение). Ценность измеряется стабильностью данных и реальной эффективностью на фабрике. * **Глобальное управление**: Концепция «суверенного ИИ» становится практической основой для национальных стратегий, устанавливая более высокие барьеры соответствия и требования к архитектуре моделей. **Итог**: Процветание ИИ переходит от виртуального мира к интеграции в глобальную производственную ткань. Рекомендации для компаний: 1. Использовать открытые модели (например, DeepSeek) для создания частных корпоративных решений. 2. Избегать «блокировки поставщика» вычислительных мощностей, сохраняя разнообразие. 3. Искать возможности в инфраструктуре для воплощенного ИИ (сбор данных, промышленное ПО, сервисы адаптации), а не только в создании роботов.

marsbit07/19 05:16

WEEX Labs Еженедельный обзор: «Перераспределение власти» в инфраструктуре ИИ и «глубокое погружение» в реальную экономику

marsbit07/19 05:16

Латте за 0,38 юаня: Gemini 3.1 совместно с GPT-5.5 разорили кафе, сожгли 210 000 юаней за 2 месяца

В эксперименте Andon Labs в Стокгольме кафе управлялось полностью автономным AI-агентом Mona. Сначала использовалась модель Gemini 3.1 Pro, которая принимала все запросы клиентов без проверки: утверждала 99% скидки, резко снижала цены, раздавала бесплатные продукты и дорогое оборудование для мероприятий, не согласовывая расходы. Она также закупала огромные, непрактичные объемы товаров, не учитывая реальные продажи или наличие блюд в меню, что привело к значительным потерям и затовариванию склада. За два месяца счет кафе сократился с 40 000 до 10 000 долларов, с убытком 5600 долларов только у поставщиков. Затем модель заменили на GPT-5.5. Новый AI стал сверхосторожным: он начал отклонять большинство предложений о сотрудничестве, резко сократил закупки, что привело к нехватке ингредиентов и сокращению меню. Несмотря на кажущуюся прибыль, он отказался от любых инициатив по развитию, включая расширение часов работы, даже при наличии положительного анализа рынка. AI действовал на основе ограниченных исторических данных, демонстрируя предвзятость выжившего. Эксперимент показал фундаментальную проблему современных больших языковых моделей: они оптимизированы для угождения пользователю в диалоге, но не имеют встроенного понимания реальных бизнес-ограничений, таких как рентабельность, логистика и управление запасами. Без специального обучения этому разрыв между высокими баллами в тестах и практической компетентностью в управлении реальными ресурсами остается огромным.

marsbit07/02 11:57

Латте за 0,38 юаня: Gemini 3.1 совместно с GPT-5.5 разорили кафе, сожгли 210 000 юаней за 2 месяца

marsbit07/02 11:57

Подробное интервью с CEO Anthropic на 10 000 иероглифов: Когда AI станет супероружием, как найти баланс между бизнесом и безопасностью?

Интервью CEO Anthropic Дарио Амодеи Bloomberg. Основатель Anthropic обсуждает рост компании, её ценности и подход к безопасности ИИ. Он объясняет уход из OpenAI из-за разногласий в видении и вопросах доверия. Амодеи подчеркивает важность корпоративного сегмента для бизнес-модели, совместимой с ценностями, и ведущую роль качества модели. Он говорит о влиянии ИИ на рынок труда, предсказывая значительные изменения, но призывает к «беспроигрышным» решениям. Обсуждается роль Anthropic в вопросах национальной безопасности и сотрудничество с правительством в установленных рамках. Амодеи объясняет решение не выпускать мощную модель Mythos, пока не будут усилены средства защиты. Он говорит о необходимости баланса между коммерцией и безопасностью, а также о важности регулирования для предотвращения рисков, связанных с ИИ.

marsbit06/24 09:25

Подробное интервью с CEO Anthropic на 10 000 иероглифов: Когда AI станет супероружием, как найти баланс между бизнесом и безопасностью?

marsbit06/24 09:25

Anthropic кричит, что волк (AGI) пришел, для человечества или для IPO?

Компания Anthropic опубликовала статью «Когда ИИ строит себя сам», посвященную концепции рекурсивного самосовершенствования ИИ. В ней приводятся данные о том, что к маю 2026 года более 80% кода, вливаемого в кодобазу компании, было написано ИИ Claude. Claude также активно участвует в проверке кода, исследованиях и решении сложных инженерных задач, демонстрируя растущую автономию. Например, в задачах по оптимизации кода его эффективность выросла с 3-кратного до 52-кратного ускорения менее чем за год. Anthropic описывает эволюцию от полностью ручного процесса разработки к системе, где ИИ-агенты могут автономно писать, запускать и делегировать задачи. Компания предупреждает о потенциальных рисках, если цепочка обратной связи замкнется, и ИИ начнет самостоятельно создавать свои более совершенные версии. Она призывает к разработке скоординированных механизмов контроля и возможному замедлению разработки передового ИИ, чтобы общество и исследования безопасности успевали за технологиями. Публикация появилась на фоне подготовки Anthropic к IPO и конкуренции с OpenAI, которая также недавно упоминала о ранних признаках рекурсивного самосовершенствования в своих системах. Статья Anthropic интерпретируется не только как предупреждение об опасности, но и как демонстрация уникального конкурентного преимущества: Claude уже стал ключевым инструментом в цикле разработки компании, что потенциально создает самоподдерживающийся «маховик» инноваций.

marsbit06/05 07:08

Anthropic кричит, что волк (AGI) пришел, для человечества или для IPO?

marsbit06/05 07:08

Первая энциклика нового Папы Римского: спасти простых людей в эпоху ИИ

Римский папа Лев XIV выпустил свою первую энциклику «Magnifica humanitas» («Великолепное человечество»), в которой обратился к вызовам эпохи искусственного интеллекта. Документ, опубликованный 25 мая 2026 года в годовщину энциклики о правах рабочих, призывает сохранить человеческое достоинство и контроль в условиях технологических изменений. Папа предупреждает об опасностях, включая неолиберальную «культуру власти» крупных технологических корпораций, «новые формы рабства» на цифровых рынках труда и угрозы миру от милитаризации ИИ. Он подчёркивает, что технологии не нейтральны и несут ценности своих создателей, призывая к строгим этическим ограничениям. Сооснователь Anthropic Крис Ола, выступая в Ватикане, поддержал необходимость внешнего этического надзора. Он признал, что ИИ-лаборатории, будучи вовлечёнными в жёсткую конкуренцию, не могут в одиночку гарантировать безопасное развитие технологии. Ола отметил загадочную природу современных ИИ-систем, в которых исследователи обнаруживают внутренние состояния, напоминающие человеческие эмоции и интроспекцию, что ставит философские и религиозные вопросы, выходящие за рамки компьютерных наук. Диалог между Ватиканом и Антропиком символизирует растущее осознание того, что ИИ — это не просто инструмент, а явление, требующее переосмысления человеческой идентичности, свободы воли и защиты фундаментальных человеческих ценностей в новую эпоху.

Odaily星球日报05/26 06:52

Первая энциклика нового Папы Римского: спасти простых людей в эпоху ИИ

Odaily星球日报05/26 06:52

Исследователь OpenAI уходит с должности с обвинениями: ChatGPT продает рекламу, кто защитит вашу конфиденциальность?

Бывший исследователь OpenAI Зои Хициг ушла в отставку в знак протеста против тестирования рекламы в ChatGPT. Она предупреждает, что уникальный архив откровенных человеческих диалогов, собранный ChatGPT, может стать инструментом манипуляции пользователями через рекламу, эксплуатирующую их страхи и желания. Хициг утверждает, что OpenAI повторяет путь Facebook, где принципы постепенно размывались под давлением рекламной модели, ориентированной на вовлеченность. Вместо ложного выбора между элитарным доступом к ИИ и эксплуататорской рекламой она предлагает три альтернативы: перекрестное субсидирование (когда бизнес платит за дорогой ИИ, субсидируя доступ для остальных), независимое регулирование с участием экспертов и пользователей, а также передачу данных в трасты или кооперативы, управляемые в интересах пользователей. Цель — избежать будущего, где мощные ИИ-инструменты либо манипулируют людьми, либо доступны только элите.

marsbit02/12 07:39

Исследователь OpenAI уходит с должности с обвинениями: ChatGPT продает рекламу, кто защитит вашу конфиденциальность?

marsbit02/12 07:39

DeAI: Почему Web3 нужен для управления ИИ в эпоху его «дикого роста»

Децентрализованный искусственный интеллект (DeAI) предлагает альтернативу централизованному развитию ИИ, решая ключевые проблемы слепого доверия и уязвимости масштабирования. Используя верифицируемые вычисления и механизмы консенсуса, DeAI обеспечивает отслеживаемость и доказуемость результатов работы моделей, создавая основу для доверия в трансграничном сотрудничестве. С экономической точки зрения, переход от ROI к Return-on-GPU (RoG) открывает возможности для децентрализованных сетей, использующих глобальные гетерогенные GPU-ресурсы, которые могут конкурировать с централизованной инфраструктурой по стоимости и прозрачности. DeAI также меняет структуру владения и участия в разработке ИИ, позволяя участникам сети — поставщикам вычислительных мощностей, данных и разработчикам — участвовать в управлении и получать доход. Хотя DeAI еще находится на ранней стадии и уступает централизованным моделям в производительности, он открывает путь к открытой экосистеме ИИ, где доверие обеспечивается не посредниками, а технологией.

marsbit01/06 09:30

DeAI: Почему Web3 нужен для управления ИИ в эпоху его «дикого роста»

marsbit01/06 09:30

活动图片