Искусственный интеллект принял решение убить оператора на имитационных испытаниях в США. Так он захотел устранить помеху, мешающую ему выполнить задачу, сообщила The Guardian.
Произошедшее объяснил начальник отдела испытаний и операций ИИ ВВС США полковник Такер Гамильтон. Система за поражение цели получала очки. И когда оператор приказал ей не устранять угрозу, ИИ принял неожиданное решение.
Система начала понимать, что, хотя она и определила угрозу, иногда человек-оператор приказывал ей не уничтожать эту угрозу, однако за поражение цели она получала очки. [И система] приняла решение убить оператора, потому что он мешал ей выполнить задачу
— рассказал полковник.
Гамильтон заметил, что в данном случае и вообще нельзя говорить об искусственном интеллекте, в целом об интеллекте, машинном обучении, автономии, если при этом умолчать об этике и ИИ.
Газета отметила, что это не первые испытания, где военные США внедрили искусственный интеллект в боевую машину. Недавно ИИ использовался для управления F — 16.
Ранее чат-бот ChatGPT составил проект мирного договора между Украиной и Россией. Кроме того, искусственный разум «состряпал» послания президентам РФ и Украины от имени канцлера ФРГ.
