Целью системы XAI, созданной доктором Луяло Юанем и его коллегами, является достижение так называемого «выравнивания ценностей». Это означает ситуацию, при которой пользователь-человек сможет понять, почему робот или машина действуют определенным образом или приходят к определенным выводам, а машина или робот смогут понять действия пользователя и его ход мысли. Это поможет значительно улучшить коммуникацию между человеком и роботом.
Недавняя статья команды основана на одной из их предыдущих работ, также опубликованной в Science Robotics, где команда исследовала влияние, которое «объяснимые системы» (модели, которые способны объяснять принцип собственной работы) могут оказать на доверие пользователя к ИИ во время совместной работы.
Исследователи надеются, что их новая «объяснимая система» улучшит сотрудничество между людьми и машинами в решении многочисленных прикладных задач. Кроме того, они считают, что использование таких систем повысит доверие людей к роботам на основе искусственного интеллекта, широко используемым в повседневной жизни: умные помощники, бытовые роботы и другие.
За последние несколько десятилетий системы ИИ становятся все более продвинутыми, достигая значительных результатов во многих реальных задачах. Тем не менее, большинство существующих систем искусственного интеллекта не делятся своими размышлениями с пользователями-людьми, что может сделать оценку их надежности чрезвычайно сложной задачей.
