Импульсные нейронные сети

Когда ученые начали исследовать нейронные сети? Как должны быть устроены принципы пластичности синаптической сети? В чем отличие работы мозга от первой модели компьютерной нейронной сети? Об этом рассказывает специалист по искусственному интеллекту Михаил Киселев.

Исследование нейронных сетей как направление в вычислительной науке родилось почти одновременно с изобретением компьютеров. Буквально сразу после войны ставшие уже классическими исследователи Розенблатт и другие предложили для решения всякого рода сложных задач использовать некие аналоги вычислительных структур, которые есть у нас в мозге, — нейронов. И так был изобретен первый вариант нейронной сети, который называется многослойным персептроном.

Наш мозг — это очень большая система. Известно, что в мозге где-то около десяти миллиардов нейронов. Каждый нейрон имеет порядка десяти тысяч связей. То есть это немыслимая система. В то же время она является очень энергоэкономичной и помехоустойчивой. Почему? Все дело в разнице между тем, как сигналы передаются по нашей биологической нейронной сети в мозге, и тем, как они передаются в персептроне. В персептроне нейроны обмениваются между собой значениями, которыми являются действительные числа. А в мозге ситуация не такова. В мозге нейроны обмениваются импульсами, которые имеют строго фиксированную амплитуду и очень малую длительность. Можно сказать, что они практически не имеют длительности, они почти мгновенные. Из этого следует сразу очень много плюсов. Такие сигнальные линии очень экономичны, потому что в основном по связям между нейронами ничего не распространяется, в основном они неактивны. Только на какой-то короткий момент по ним пробегает короткий импульс. В отличие от персептрона, где фактически каждая сигнальная линия должна нести на себе некую реально значимую величину, мозг — это очень энергоэффективная схема. Одновременно с энергоэффективностью импульсная схема передачи данных обеспечивает еще простоту реализации, потому что генерация этих импульсов и обработка могут быть сделаны с помощью очень простых аналоговых схем.

Еще в 50-х годах прошлого века Хеббом был заложен принцип, который сейчас активно используется. Он гласит, что если два нейрона синхронно часто бывают активны, то связь между ними усиливается. И наоборот, если они проявляют какую-то асинхронную активность, то связь между ними ослабляется. Этот принцип экспериментально был подтвержден в самом конце прошлого века, когда в результате биологических, нейрофизиологических измерений был установлен так называемый принцип нейронной пластичности, основанной на времени генерации импульса. Он и является частным случаем хеббовского принципа и говорит, что те синапсы нейрона, на которые приходят импульсы перед тем, как сам нейрон испустил импульс, усиливаются. Те синапсы, которые получают импульсы после того, как сам нейрон сгенерировал импульс, ослабляются. То есть этот принцип, безусловно, действует, но самого по себе его мало.