• A
  • A
  • A
  • АБB
  • АБB
  • АБB
  • А
  • А
  • А
  • А
  • А
Обычная версия сайта

Глава

Особенности программных и аппаратных средств для оптимизации инференса обученных нейронных сетей в рамках среды OpenVINO

С. 204-212.

Рассматривается задача ускорения инференса нейронных сетей с по-мощью различных техник, включающих пакетную обработку входных данных, параллелизацию выполнения сети на аппаратном обеспечении, упрощение топологии сети и т.д. Исследуется вопрос универсальных правил объединения некоторых слоёв нейронной сети как во время стадии, предшествующей инференсу, так и во время непосредственного выполнения нейронной сети на целевом устройстве. В качестве основного инструмента для инференса используется открытая среда OpenVINO, предоставляющая широкие возможности оптимизации процесса выполнения сети на целевом аппаратном обеспечении.