Исследователи предложили архитектуру искусственной нейронной сети с использованием аналогов дендритов — разветвленных отростков нейронов. Технология поможет снизить энергопотребление, уменьшить размер моделей и повысить их устойчивость к переобучению.
Ученые из Фонда исследований и технологий Hellas (FORTH) в Греции предложили новый подход, способный сделать системы искусственного интеллекта более экономичным. Они разработали нейронную сеть, которая имитирует работу биологических нейронов, включая дендриты — ключевые структуры мозга, участвующие в обработке информации.
Дендриты — разветвленные отростки нервных клеток, которые принимают и передают сигналы. Исследования последних лет показали, что отростки выполняют сложные вычисления независимо от основного нейрона. Это вдохновило исследователей на создание искусственной нейросети с аналогичной архитектурой.
Иллюстрация предложенного решения. Изображение: Dr. Spyridon Chavlis
Модель, которую описали в статье в журнале Nature Communications, демонстрирует ряд преимуществ перед традиционными сетями. Тестирование показало, что у дендритных нейросетей, например, высокая точность распознавания изображений при значительно меньшем количестве параметров. Они также оказались более устойчивыми к переобучению — проблеме, когда нейросеть запоминает данные, но не может применять полученные знания к новым задачам.
Наш подход меняет представление о том, как должна работать нейросеть. Вместо того чтобы задействовать миллионы параметров, как в современных ИИ, мы используем архитектуру, в которой несколько узлов кодируют различные категории данных. Это делает сеть более гибкой, компактной и энергоэффективной.
Спиридон Чавлис, соавтор исследования
Энергосбережение становится критически важным по мере роста масштабов использования ИИ. От автономных автомобилей до облачных сервисов — технологии машинного обучения требуют огромных вычислительных мощностей. Решение, предложенное учеными, может изменить ситуацию, если позволит создавать более эффективные системы с меньшими затратами ресурсов.
Исследователи считают, что их работа открывает путь к новой эре искусственного интеллекта, где вычислительные мощности будут распределяться эффективнее, а модели станут доступнее для широкого спектра приложений. Следующим шагом станет тестирование дендритных ИНС на более сложных задачах, включая обработку естественного языка и медицинскую диагностику.
