«Нейро-Б», русский чип

Компания «Россети» — оператор электрических сетей в России — планирует заказать программно-аппаратные комплексы для робототехнических систем охраны. Они будут анализировать трафик с видеокамер на объектах энергетики. Основой системы станет процессор «Нейро-Б», разработкой которого займется НТЦ «Модуль». Над созданием нового решения в общей сложности будут трудиться более десяти компаний.

«Новый программно-аппаратный комплекс (ПАК) будет предназначен для использования в системах охраны и контроля работы объектов критической информационной инфраструктуры, в частности на объектах энергосетевого хозяйства, — рассказал “Стимулу” заместитель генерального директора по развитию НТЦ “Модуль” Алексей Мохнаткин. — Тем не менее уже сегодня можно сказать, что сфера применения этого ПАК значительно шире. Он станет востребованным решением для предиктивной медицины, систем «умный дом/город/транспорт», роботизированных систем, беспилотных летательных аппаратов и систем помощи водителю, для использования в СХД И ЦОД и телекоммуникациях. В основу разработки ляжет система на кристалле с широкими возможностями вычислений, включая мощный аппарат работы с нейронными сетями».

Заместитель генерального директора по развитию НТЦ «Модуль» Алексей Мохнаткин

НТЦ «Модуль»

По словам разработчиков, векторно-матричный процессор «Нейро-Б» будет уникальным чипом для отечественного рынка микроэлектроники. Его планируют создавать по самым современным микроэлектронным технологиям 5‒7 нанометров, по которым сейчас производятся топовые процессоры для смартфонов и ноутбуков. «Нейро-Б» может стать прямым конкурентом процессорам таких гигантов, как Nvidia и Tesla. Сфера его применения не ограничится системами охраны и управления объектами. Уже есть предварительные контракты на этот чип в сфере вычислительной техники и серверов, медицины, автомобильной промышленности и телекоммуникаций. Кроме того, большой целевой рынок — системы интеллектуальной видеоаналитики, робототехника и беспилотный транспорт. Первые процессоры должны появиться в 2023‒2024 годах.

«Наша задача — дать российским производителям законченных решений инструментарий для создания изделий, которые по своим возможностям не будут уступать топовым мировым аналогам. “Нейро-Б” позволит делать действительно уникальные продукты для задач искусственного интеллекта, и, что очень важно, они будут созданы не на импортной, а на отечественной ЭКБ, — уверен Алексей Мохнаткин. — Появление этого уникального процессора позволит вывести многие российские производства на мировой конкурентный уровень».

Например, применение решений на базе нового чипа в предиктивной медицине позволит анализировать один и тот же снимок пациента на предмет наличия сразу нескольких патологий и получать на выходе полный предиктивный анализ состояния здоровья человека. Это поможет оптимизировать труд врачей, избавив их от рутинных операций, а у пациентов отпадет необходимость ходить ко множеству специалистов.

«За этим проектом стоит важная и очень ресурсоемкая задача — создание платформы компьютерного зрения на основе российских процессоров, — пояснил “Стимулу” исполнительный директор Ассоциации разработчиков и производителей электроники Иван Покровский. — Такая платформа — это не один, а целый ряд процессоров, включая GPU, CPU, DSP и специализированные ускорители нейросетей NPU. К сожалению, действующие инструменты поддержки не позволяют комплексно спланировать создание платформы, обеспечить ее инвестиционным ресурсом, спросом со стороны крупных заказчиков и поддержкой разработчиков ПО. Поэтому компании на свой риск запускают отдельные сквозные проекты, рассчитывая, что потом удастся свести их вместе. Если платформа не сложится и не обрастет экосистемой партнеров, заказчики продолжат использовать решения от Nvidia, Intel и других вендоров. Перспективы проекта можно оценивать только в контексте создания российской платформы компьютерного зрения».

Сделать удобной и эффективной

Чтобы выяснить мнение потенциальных разработчиков, которые могли бы использовать будущую платформу в своих проектах, корреспондент «Стимула» встретился с генеральным директором компании «Смарт Видео» Юрием Молиновым и директором по научно-исследовательской работе компании IntelliVision Львом Афраймовичем. Юрий Молинов с коллегами работает в сфере технологий компьютерного зрения и искусственного интеллекта, машинного обучения уже около пятнадцати лет. Они начинали свою деятельность еще в те времена, когда все только зарождалось, когда на компьютерное зрение смотрели как на что-то совершенно фантастическое.

Генеральный директор компании «Смарт Видео» Юрий Молинов

Архив Юрия Молинова

«Сейчас компьютерное зрение начало масштабно применяться во многих государственных проектах, связанных в основном с безопасностью, и государство готово в это вкладывать большие деньги, — рассказывает гендиректор “Смарт Видео”. — Например, в Москве недавно запустили систему Face Pay. Конечно же, все эти данные обрабатываются на каких-то устройствах. Лицо должно быть оцифровано, с него надо снять цифровой отпечаток. И применение этих технологий в повседневной жизни только верхушка айсберга. А гигантская невидимая часть — деятельность различных силовых структур, расследования с использованием данных, получаемых с видеокамер».

Таких камер установлено сейчас сотни тысяч, и, конечно же, ни один человек не способен просмотреть и обработать всю эту лавину информации. Поэтому внедряются различные системы компьютерного зрения и искусственного интеллекта, которые помогают идентифицировать инциденты в автоматическом режиме. Например, кто-то зашел на станции метро в какие-то помещения, вошел в тоннель или спрыгнул с платформы. Сейчас это автоматически фиксируется, и дается сигнал тревоги. Все это делают системы компьютерного зрения.

«Реализуются эти решения по-разному, — рассказывает Юрий Молинов. — Кто-то обрабатывает данные на серверах, кто-то — на встроенных устройствах. И из нашего пятнадцатилетнего опыта нам стало понятно, что борьбу начинают выигрывать те, кто научился эффективно эти данные обрабатывать — с точки зрения денег и скорости обработки».

Когда обработка идет на сервере, его нужно куда-то поставить, он греется, и ему требуется кондиционер, на него надо подавать электропитание, его необходимо охранять. И совсем другое дело, когда для тех же целей используется встроенная в устройство платформа, которая включает в себя процессор и ускоритель для обработки видеосигнала.

«Все это размещается внутри устройства, которое непосредственно находится там, где и снимается видео, — поясняет Юрий Молинов. — Или в самой камере, или в умном блоке, который просто прикрепляется к камере. А дальше этот блок отправляет так называемые метаданные, то есть уже проанализированную и структурированную информацию, например текстовое сообщение, о том, что произошел такой-то инцидент. Чтобы доставить метаинформацию, ресурсов надо значительно меньше, чем для передачи видео. А в дата-центре эти сообщения уже может обрабатывать обычный маломощный компьютер».

Однако, по словам Юрия Молинова, удобных для разработки российских специализированных платформ сейчас нет.

«Что имеется в виду под удобством? Давайте возьмем Nvidia, — приводит пример Юрий Молинов. — У этой компании есть микрокомпьютеры, они называются Nvidia Jetson. Там установлен хороший процессор ARM, графические ускорители. Nvidia сделала очень удобный инструментарий. Можно взять какую-то существующую нейронную сеть и одной кнопкой запустить ее на устройстве от Nvidia, потому что у них есть специальные фреймворки, которые позволяют нейронную сеть быстро сконвертировать в формат, принимаемый этим устройством, которое, в свою очередь, будет эффективно вычислять данную нейросеть».

Директор по научно-исследовательской работе компании IntelliVision Лев Афраймович

Архив Юрия Молинова

Фреймворк — это среда разработки для того, чтобы можно было удобно перенести нейронную сеть из компьютера на устройство, чтобы она аппаратно исполнилась на каком-то специализированном процессоре. «Это как некий Word для разработчиков нейронных сетей, поясняет Юрий Молинов. — Если вы будете набирать текст в блокноте, у вас не будет сложного форматирования. Конечно, можно сделать в блокноте все красиво, но сколько времени вы на это убьете! С фреймворком примерно такая же история, он сильно облегчает работу и, условно, одной кнопкой позволяет создать таблицу. А как в блокноте создать таблицу? Рисовать палочками самому. А чтобы что-то исправить — все нужно стирать, рисовать заново».

Как отметил гендиректор «Смарт Видео», в Nvidia также сделали очень удобную инфраструктуру. Разработчикам важно, чтобы были примеры, как работать с системой, чтобы была понятная документация. Важно также, чтобы вокруг всего этого была некая экосистема, где разработчики могут существовать, черпать опыт, обмениваться мнениями. А для этого необходима мощная поддержка со стороны создателей этих систем.

«Когда мы используем нейросети, — продолжает тему Лев Афраймович, — это не просто производительность, а еще и электроэнергия, это машины, их амортизация, сохранность, охлаждение и прочее, прочее, что в итоге вытекает в громадные деньги. И мы тоже часто сталкивались с ситуациями, в которых потенциальные заказчики были не готовы внедрять решения, основанные на искусственном интеллекте, если для их использования необходимы мощные GPU-сервера. Потому что, с одной стороны, все здорово и красиво работает, а с другой стороны, когда они начинали считать, сколько стоит электроэнергия, охлаждение, поддержка серверов, то сумма становилась совершенно неоправданной».

В реальном мире думают на уровне электроэнергии, на уровне текущих затрат на поддержку всей системы, и поэтому узким местом, по словам специалиста, обычно становится оптимизация нейросетей.

«При разработке нейросетей первая задача была научиться обучать сети, — говорит Лев Афраймович. — Сегодня чисто технически обучение стало доступно практически любому мало-мальски грамотному в области разработки человеку. А узким местом стала именно эффективность. И поэтому, когда мы говорим про платформу, про удобную платформу, очень важно не забывать: такие платформы, кроме удобства в использовании, инструментария и прочего, должны содержать серьезные математические средства, позволяющие оптимизировать обученные нейросети. Потому что в конечном счете только это даст подобного рода продуктам возможность быть коммерчески успешными и востребованными».