Intel выпустила набор инструментов OpenVINO 2024.0 с открытым исходным кодом для оптимизации и развёртывания ИИ-систем

6 марта 2024 года Intel выпустила набор инструментов OpenVINO 2024.0 для нейронных сетей с использованием встроенной поддержки анализа производительности (бенчмарк), анализа пропускной способности и задержки для различных моделей, который позволяет проводить оптимизации и развёртывания ИИ-систем на различном оборудовании.

Исходный код проекта выложен на GitHub под лицензией Apache License 2.0.Проект OpenVINO предназначен для тестирования работы ИИ не только на процессорах x86_64, но также на ARM и других архитектурах, интегрированной и дискретной графике Intel и многом другом оборудовании.

Проект поддерживает с помощью плагина возможность использования нейронной обработки блока NPU на новых процессорах Intel Core Ultra Meteor Lake.В OpenVINO 2024.0 добавлены новые функции для работы с генеративным ИИ (GenAI) включая работу из коробки с моделями энкодера предложений TensorFlow, поддержкой Mixture of Experts (MoE) и проверенными моделями Mistral.