Intel представила второе поколение нейроморфных чипов: Loihi II. Идейно и архитектурно новый чип, в целом, повторяет первое поколение, анонсированное четыре года назад, однако имеет целый ряд улучшений технического и программного характера. Но что более интересно, с выходом Loihi II, который всё ещё считается исследовательской разработкой, компания готова сделать первые шаги по ограниченной коммерциализации данного решения.
В рамках нейромофорного подхода исследователи пытаются аппаратно воссоздать в той или иной степени точности механизмы, лежащие в основе мозга, которые на первый взгляд довольно просты: по густо провязанной и меняющейся со временем сети нейронов асинхронно и параллельно распространяются сигналы как ответ на внешние события.
Если учитывать опыт создания данной технологии в обычном «железе», то успех очевиден, при этом нейронные сети уже давно и с успехом используются. Хотя, по сравнению с мозгом человека, их обучение занимает достаточно длительное время. Также растет сложность создания подобных моделей, что существенно влияет на их энергоэффективность.
На данный момент лидером среди классических ускорителей является процессор Cerebras WSE-2. Он имеет размер с кремниевую пластину, что не мешает чипу содержать 850 000 ядер и потреблять всего 15 кВт. Однако работать с такими чипами способны только кластеры. Избежать подобных ограничений смогут нейроморфные системы.
Изготовление чипа Loihi II происходит по EUV-техпроцессу Intel 4, при этом сам техпроцесс еще дорабатывается и тестируется. Loihi II получит площадь 31 мм2 и 2 300 000 000 транзисторов, а площадь 1 ядра составит всего 0,21 мм2. Число нейронных ядер в Loihi II не изменится, оно составит 128. Но существенно вырастет число самих нейронов, со 128 000 до 1 000 000. Этого удалось достичь благодаря уменьшению памяти на одно ядро с 208 до 192 Кбайт. Данное решение позволило еще более эффективно использовать общий объем памяти и добиться более гибкого распределения банок памяти между нейронами и синапсами.
В предыдущих поколениях подобных чипов, ядра были оптимизированы для конкретных импульсных нейронных сетей. Теперь каждое ядро получит собственный программируемый конвейер. Также в предыдущих чипах использовалось 24 байта, для определения состояния одного нейрона. В новых чипах объем памяти для данной задачи увеличен до 4096 байт. Кроме этого, стоит отметить использование INT32-значения для кодирования сигнала, вместо бинарного для синапса в чипе.
Это даст возможность чипу Loihi II обучаться «на лету». При этом набор инструкций нейроморфных ядер остался прежним:
- Сдвиги
- Стандартные арифметические операции
- Работа с памятью, импульсами и регистрами
- Ветвление
В целом, области применения и задачи новинок совпадают с теми, что сейчас обслуживают «классические» нейронные сети (с поправкой на энергоэффективность). Однако одного «железа» для распространения мало, поэтому Intel подготовила универсальный open source фреймворк LAVA, который позволит унифицировать разработку и подготовку моделей для практических любых аппаратных решений (не только нейроморфных) с учётом специфики конкретных архитектур.
