Поддержка Tengine, Rock960 на основе оптимизации производительности RK3399, скорость увеличена на 50%!

Основываясь на новостях о микросетях, Tengine - это легкий модульный высокопроизводительный механизм вывода нейронных сетей, разработанный OPEN AI LAB. Он оптимизирован для встроенных устройств Arm и не требует использования сторонних библиотек. Он может использоваться на разных платформах для поддержки Android, Liunx. Rockchip RK3399, основанный на Rock960, является первым, кто поддерживает Tengine, повышение производительности, скорость работы увеличилась более чем на 50%.

Платформа Rock960, основанная на Rockchip RK3399, обладает мощной функциональностью и богатым интерфейсом расширения. Она использует изысканный и интегрированный дизайн и может применяться во многих инновационных областях, таких как оборудование IOT, интеллектуальное интерактивное оборудование, персональный компьютер, робот и т. Д. Он имеет следующие характеристики:

Процессор: RK3399, двухъядерный Cortex-A72 + четырехъядерный Cortex-A53, опциональный 2G / 16G, 4G / 32G

Графический процессор: Mali T860MP4, OpenGL 3.2, OpenCL 1.2

HDMI 2.0 4K @ 60

USB тип C (поддерживает протокол DP 1.2, может подключать DP-дисплей в typeC, а также может использовать TypeC to HDMI для реализации двойного экрана с двумя экранами HDMI)

Поддержка трех систем:

AndroidASOP + Debian + Ubuntu

Малый размер (85 мм x 55 мм)

Tengine поддерживает множество общих сверточных нейронных сетей, включая SqueezeNet, MobileNet, AlexNet, ResNet и т. Д., Слияние уровней поддержки, 8-битное квантование и другие стратегии оптимизации. И, позвонив библиотекам HCL, оптимизированным для разных микроархитекторов центрального процессора, производительность процессора Command достаточно. Раскопки. Как и на платформе RK3399, для однопоточного мобильного терминала Cortex-A72, обычно используемого MobileNet, требуется только 111 мс.

В качестве открытой вычислительной платформы Tengine обладает очень мощными возможностями расширения. Помимо поддержки встроенной библиотеки HCL, она также поддерживает общие библиотеки Openblas и Arm Compute Library. Клиенты могут легко расширить свои собственные библиотеки операторов и предоставить пользователям свободу. Кроме того, TEngine также может адаптироваться к различным аппаратным ресурсам, таким как GPU на чипе или даже аппаратном ускорителе DLA. Просто зарегистрируйте устройство на TEngine и смонтируйте драйвер, вы можете в полной мере использовать аппаратное обеспечение на чипе. Ресурсная эффективность вычислительной мощности.

Благословение Тенгина является важной вехой для экосистемы с открытым исходным кодом ИИ, что будет в значительной степени способствовать развитию технологий и разработке продуктов в области ИИ.

Часть данных взята из Лаборатории открытого интеллекта OPEN AI LAB