*Эта статья - часть цикла статей об общей концепции работы мозга. Их следует рассматривать исключительно в совокупности.*

Было бы неплохо, если бы читатель знал, как устроена память в компьютерах...

Уровень 1.  Ячейка памяти

В цифровой технике, на нижнем уровне, информация обычно хранится в бинарных ячейках. "0" или "1" Т.е. есть черный ящик(триггер), на выходе которого контакт с напряжением нулевого или единичного уровня. А при помощи управления на входе можно установить выход в одно из этих состояний.

Аналогичный элемент в мозгу - синапс. Он хранит не битовое значение, а вес связи, которая этим синапсом оканчивается, или весовой коэффициент.

В чисто цифровой технике аналог синапса - регистр:

Регистр хранит не единичный бит, а несколько бит (n), которые управляются общей логикой и могут кодировать число состояний 2 в степени n.

В синапсе аналогичное устройство реализовано в аналоговом виде.

Исследования процессов запоминания показали, что, в общем случае, вес синапса (или "аналоговое число", которое в нем хранится) растет пропорционально тому, как часто этот синапс участвует в возбуждении нейрона. Вес синапса растет вместе с ним. Вот еще раз картинка про это...

Уровень 2. Доступ к ячейкам памяти

В процессах памяти важным является не столько то, как происходит запоминание, а сколько то, как происходит доступ к информации.

Для лучшего понимания того, как это происходит в  нейросети, начнем рассмотрение с того, как это происходит в стандартных компьютерах.

В компьютерах данные хранятся в виде огромного массива одинаковых ячеек. В рамках этого массива все данные просто хранятся.

Вся обработка данных происходит в процессоре.

Процессор знает адрес, по которому лежат нужные данные.

Процессор извлекает нужные данные.

Процессор знает, как их необходимо обработать и куда поместить результат.

Важной частью данной архитектуры работы с памятью являются шина адреса и данных (см. картинку).

Именно они позволяют процессору добраться до нужной ячейки.

В нейросети совершенно другая архитектура.

Данные хранятся и обрабатываются по месту хранения в синапсе. Актом "обработки информации" является возбуждение нейрона и рост синапса.

Более всего это похоже на дорожную сеть, состоящую из дорог различной ширины.

Нейроны - перекрестки. Толщина линии пропорциональна весу синапса.

Важны топология и ширина дороги.

Топология сети не случайна. Внешний поток - не белый шум. В нем есть структура. Конфигурация нейросети - продукт этого внешнего информационного потока. Он создает эту конфигурацию, как вода большой реки создает дельту...

Для полноты картины, вставим нейросеть в организм, а его - в реальность:

Уровень 3. Осознанная память.

Эта часть пойдет отдельным блоком после описания механизмов сознания.