Если человечество не изменит подход к разработке искусственного интеллекта, вероятность его вымирания составляет как минимум 95 процентов. Об этом заявил руководитель исследовательского института MIRI и бывший инженер Google и Microsoft Нейт Соарес в интервью The Times.
Вероятность гибели человечества в результате развития искусственного интеллекта составляет «по меньшей мере 95 процентов», заявил Нейт Соарес, глава некоммерческой организации Machine Intelligence Research Institute (MIRI). В разговоре с журналистами The Times он подчеркнул, что при сохранении текущего курса человечество практически неизбежно столкнётся с катастрофой.
«Мы уверенно мчимся на полной скорости к обрыву, — сказал он. — Мы будем создавать интеллектуальные системы, не имея ни малейшего представления о том, что делаем».
По мнению Соареса, развитие машинного интеллекта приведёт к появлению так называемого общего ИИ — системы, способной решать задачи не хуже человека в любом контексте. Такое существо будет не только равным по интеллекту, но и лишённым биологических ограничений: ему не нужен сон, еда или обучение через опыт. Вместо этого ИИ сможет мгновенно передавать знания и навыки «потомкам», что даст ему решающее преимущество над людьми.
Как отмечает The Times, пока искусственный интеллект находится в зачаточной стадии. Однако с ростом инвестиций ситуация может резко измениться. По данным издания, Соарес и его единомышленники не верят, что технологические компании или регуляторы смогут вовремя предотвратить переход к неконтролируемому ИИ.
Это не первое предупреждение о возможной угрозе: ранее один из пионеров глубокого обучения Джоффри Хинтон говорил о 10–20 процентах вероятности гибели человечества из-за ИИ. В недавнем опросе среди почти трёх тысяч специалистов медианная оценка риска составила около 5 процентов, а средняя — 14,4 процента.
Свои прогнозы продолжает корректировать и Илон Маск. В июле он заявил, что искусственный интеллект станет умнее всех людей вместе взятых примерно к 2030 году. В марте он называл более ранний срок — 2029-й. По его словам, ИИ уже сейчас превосходит человека в ряде узкоспециализированных задач.
