Компания Mythic анонсировала чип ускорителя искусственного интеллекта M1108 AMP, который представляет собой технологию вычислений в памяти, основанную на 40-нм техпроцессе, и считается первым в отрасли аналоговым матричным процессором (AMP). Что касается AMP, Mythic говорит, что Mythic AMP разработан как массив вычислительных блоков.
В основе каждого блока AMP лежит механизм Mythic Analog Compute Engine (Mythic ACE™), который объединяет массив флэш-памяти и АЦП, которые объединяются для хранения параметров модели и выполнения маломощного высокопроизводительного умножения матриц. Каждый Mythic ACE дополняется цифровой подсистемой, которая включает 32-разрядный нанопроцессор RISC-V, векторный механизм SIMD, 64 КБ SRAM и высокопроизводительный маршрутизатор сети на кристалле (NoC). Результатом стал аналоговый матричный процессор, обеспечивающий энергоэффективный вывод ИИ со скоростью до 35 TOPS. Теперь периферийные устройства могут развертывать мощные модели искусственного интеллекта без проблем, связанных с высоким энергопотреблением, регулированием температуры и ограничениями форм-фактора.
M1108 оснащен множеством флеш-ячеек, АЦП, 32-битным нанопроцессором RISC-V, векторным механизмом SIMD, SRAM и высокопроизводительным маршрутизатором Network-on-Chip (NOC). 108 блоков AMP позволяют M1108 синхронизировать до 35 триллионов операций в секунду (TOPS), тем самым обеспечивая ResNet-50 со скоростью до 870 кадров в секунду. Это позволяет M1108 выполнять энергоэффективное выполнение сложных моделей искусственного интеллекта, таких как ResNet-50, YOLOv3 и OpenPose Body25. M1108 поддерживает различные процессоры, такие как Intel x86, NXP iMX8, NVIDIA Jetson и Qualcomm RB5. M1108 имеет низкое энергопотребление около 4 Вт при работе моделей ИИ на пике. Чип M1108 ИИ-ускорителя включает мощные предварительно загруженные модели для случаев использования ИИ. Эти модели включают детектор и классификатор объектов, оценщик позы человека, сегментацию изображения и многое другое.
Карта M1108 M.2 (22 мм x 80 мм) на основе этого процессора имеет крошечный размер, что позволяет легко интегрировать ее во множество различных систем. Карта M.2 подходит для обработки моделей глубоких нейронных сетей (DNN), с ней можно выполнять несколько DNN одновременно. Она также оснащена 4-полосным интерфейсом PCIe 2.1 для пропускной способности до 2 ГБ/с без внешней памяти DRAM. Также имеется оценочная карта PCIe (156 мм x 121 мм), которая позволяет вам оценить высокую производительность Mythic и энергоэффективное решение для логического вывода функций ИИ для периферийных устройств и серверов. Рабочий процесс ИИ предлагает поддержку PyTorch, TensorFlow 2.0 и Caffe.
Эффективная архитектура потока данных Mythic AMP в сочетании с мощным пакетом оптимизации моделей и эффективным компилятором графов обеспечивает детерминированное выполнение приложений ИИ. Разработчики систем искусственного интеллекта могут быть уверены, что когда они проектируют свой продукт с заданной точностью, частотой кадров, задержкой или профилем мощности, их целевые показатели производительности гарантированы при развертывании продукта.
© digitrode.ru