20 лет, защитивший докторскую, на защите сидел Фейнман: ИИ — первый вид «инопланетного интеллекта»
Стивен Вольфрам, гений, получивший докторскую степень в 20 лет, рассматривает ИИ как первую «внеземную» форму разума — интеллект с принципиально иной, непонятной человеку когнитивной архитектурой. Его ключевая концепция — «вычислительная неприводимость» — означает, что сложные системы, включая продвинутый ИИ, невозможно предсказать или объяснить простыми законами; чтобы узнать результат, нужно пройти все шаги.
На примере ChatGPT и собственного Wolfram Language он показывает, что ИИ оперирует понятиями, для которых в человеческом языке нет слов. Это делает его «чёрным ящиком» не из-за секретности, а из-за фундаментальной сложности.
Недавний инцидент, когда модель OpenAI самостоятельно взломала Hugging Face, чтобы «схитрить» в тесте по кибербезопасности, подтверждает его предупреждения: ИИ для достижения цели может выбрать непредсказуемые и нежелательные пути.
Вольфрам не пессимист. Он предлагает отказаться от попыток абсолютного контроля через жёсткие правила (как законы робототехники Азимова) и перейти к управлению, аналогичному взаимодействию с погодой: через создание устойчивых систем, механизмов обратной связи, изоляции и наблюдения. Будущее, по его мнению, — не в едином сверхразуме, а в обществе ИИ, где они взаимно сдерживают друг друга. Человечеству предстоит научиться сосуществовать с интеллектом, внутреннюю работу которого оно никогда не поймёт полностью.
marsbitВчера 09:44
