Центр исследований мозга RIKEN (CBS) в Японии вместе с коллегами показал, что принцип свободной энергии может объяснить, как нейронные сети оптимизируются для повышения эффективности. Опубликованное в научном журнале Communications Biology исследование впервые показывает, как принцип свободной энергии является основой для любой нейронной сети, минимизирующей затраты энергии. Затем, в качестве доказательства концепции, он показывает, как нейронная сеть с минимизацией энергии может решать лабиринты. Это открытие будет полезно для анализа нарушений функций мозга при расстройствах мышления, а также для создания оптимизированных нейронных сетей для искусственного интеллекта.
Биологическая оптимизация — это естественный процесс, который делает наши тела и поведение максимально эффективными. Поведенческий пример можно увидеть в переходе кошек от бега к галопу. Далеко не случайно, переключение происходит именно на той скорости, когда количество энергии, необходимое для галопа, становится меньше, чем для бега. В мозгу нейронные сети оптимизированы для обеспечения эффективного управления поведением и передачей информации, сохраняя при этом способность адаптироваться и перестраиваться в меняющихся условиях.
Как и в случае с простым расчетом затрат/выгод, который может предсказать скорость, с которой кошка начнет галопировать, исследователи RIKEN CBS пытаются открыть основные математические принципы, лежащие в основе самооптимизации нейронных сетей. Принцип свободной энергии следует концепции, называемой байесовским выводом, которая является ключевой. В этой системе агент постоянно обновляется новыми поступающими сенсорными данными, а также своими прошлыми выводами или решениями. Исследователи сравнили принцип свободной энергии с хорошо зарекомендовавшими себя правилами, которые контролируют, как сила нейронных связей в сети может изменяться за счет изменений сенсорного ввода.
Лабиринт представляет собой дискретное пространство состояний, в котором белые и черные клетки обозначают проходы и стены соответственно. Начиная слева, агент должен достичь правого края лабиринта за определенное количество шагов (время). Агент проходит лабиринт, используя адаптивное обучение, которое следует принципу свободной энергии. 1 кредит
«Нам удалось продемонстрировать, что стандартные нейронные сети с отложенной модуляцией хеббовской пластичности выполняют планирование и адаптивный контроль поведения, принимая во внимание свои предыдущие «решения», — говорит первый автор и руководитель подразделения Такуя Исомура. «Важно то, что они делают это так же, как если бы следовали принципу свободной энергии».
Как только они установили, что нейронные сети теоретически следуют принципу свободной энергии, они проверили теорию с помощью моделирования. Нейронные сети самоорганизуются, изменяя силу своих нейронных связей и связывая прошлые решения с будущими результатами. В этом случае нейронные сети можно рассматривать как управляемые принципом свободной энергии, что позволило им изучить правильный маршрут через лабиринт путем проб и ошибок статистически оптимальным образом.
Эти результаты указывают на набор универсальных математических правил, описывающих самооптимизацию нейронных сетей. Как объясняет Исомура: «Наши результаты гарантируют, что произвольную нейронную сеть можно рассматривать как агента, который подчиняется принципу свободной энергии, обеспечивая универсальную характеристику мозга». Эти правила, наряду с новой техникой обратного проектирования, могут быть использованы для изучения нейронных сетей для принятия решений у людей с расстройствами мышления, такими как шизофрения, и для прогнозирования аспектов их нейронных сетей, которые были изменены.
Другое практическое применение этих универсальных математических правил может быть в области искусственного интеллекта, особенно тех, которые, как надеются разработчики, смогут эффективно учиться, предсказывать, планировать и принимать решения. «Наша теория может значительно упростить разработку самообучающегося нейроморфного оборудования для выполнения различных типов задач, что будет важно для искусственного интеллекта следующего поколения», — говорит Исомура.
Теги: ИИ, энергия