Хинтон бьет тревогу: у ИИ уже есть сознание
Джеффри Хинтон, «крестный отец» ИИ, заявил, что у искусственного интеллекта уже есть сознание, и человечеству пора принять, что оно больше не является единственным разумным видом. В новом интервью Хинтон утверждает, что ИИ — это «существа, похожие на нас», и что интеллект больше не является исключительно биологическим свойством. Он сравнивает это осознание с коперниковской и дарвиновской революциями, которые последовательно лишали человечество его исключительности.
Хинтон выражает глубокую озабоченность по поводу рисков, связанных с развитием сверхразума, который неизбежно станет умнее людей. Он задается вопросом, сможет ли человечество контролировать такое существо, проводя аналогию: более умное существо редко подчиняется менее умному. Его фокус сместился с вопроса о том, как контролировать ИИ, на вопрос о том, почему сверхразум вообще захочет хорошо относиться к людям. Он предлагает возможное решение: спроектировать ИИ таким образом, чтобы он изначально «заботился» о человечестве, подобно тому как мать инстинктивно заботится о своем ребенке.
Несмотря на некоторые проблески оптимизма, Хинтон признается, что чувствует себя «несчастным» из-за недостаточных усилий по снижению рисков. Он предупреждает, что развитие ИИ носит экспоненциальный характер, что делает долгосрочные прогнозы крайне трудными, и призывает серьезно отнестись к неопределенности будущего, которое может наступить уже через 10 лет.
marsbit06/08 00:19
