Последние достижения искусственного интеллекта (ИИ), основанные на гигантских облачных вычислительных системах, продолжают поражать как обычных пользователей, так и ученых-компьютерщиков. ИИ способен выполнять задачи, такие как написание бизнес-отчетов, создание фотосессий для модных магазинов или открытие новых молекул. Это стало обыденностью, хотя еще в 2020 году такие возможности казались фантастикой.
Потенциал преобразующих вычислительных возможностей столь же важен для производителей встроенных устройств, как и для пользователей облачных ИИ-сервисов. Представьте себе устройства, которые могут мгновенно реагировать на ваш голос, прогнозировать поломки оборудования или анализировать окружающую среду без передачи данных в облако.
Конкуренция за внимание потребителей будет выиграна теми производителями, которые сумеют адаптироваться и использовать передовые технологии ИИ, предлагая интересный пользовательский опыт в edge-приложениях (например, портативных или носимых устройствах).
Но для реализации амбициозных планов в области ИИ, которые разрабатываются лидерами потребительской электроники, миру встраиваемых систем придется преодолеть серьезные проблемы. Необходимо адаптировать энергопотребление, стоимость и размеры аппаратного и программного обеспечения ИИ под жестко ограниченные ресурсы таких устройств.
Почему ИИ важен на периферии (Edge AI)
Объем данных, генерируемых периферийными устройствами, растет в геометрической прогрессии, что требует внедрения обработки ИИ непосредственно на устройствах. Глобальная "дата-сфера", включающая все данные, создаваемые в мире, к 2025 году достигнет 150 зеттабайт, а к 2030 году увеличится до почти 600 зеттабайт.
С ростом объема данных возрастает роль ИИ и машинного обучения (ML) в их интерпретации и извлечении полезных инсайтов. В свою очередь, полученные инсайты генерируют новые данные, что приводит к "петле обратной связи", ускоряющей этот процесс.
Для справления с таким объемом данных необходимо переходить к обработке информации непосредственно на устройствах.
Четыре причины для выполнения ИИ на краю
Хотя системы ИИ для предприятий и смартфонов часто выполняют свои функции в облаке, локальная обработка данных имеет четыре ключевых преимущества для встроенных устройств:
-
Меньшая задержка для работы в реальном времени: Например, устройства для мониторинга здоровья или прогнозного обслуживания требуют мгновенного реагирования. Локальная обработка позволяет устранять задержки, присущие облачным сервисам.
-
Снижение нагрузки на пропускную способность: Постоянная передача больших объемов данных в облако перегружает сети и увеличивает затраты. Локальная обработка решает эту проблему.
-
Конфиденциальность и безопасность: Некоторые приложения (например, мониторинг здоровья) требуют, чтобы данные оставались на устройстве. Локальная обработка обеспечивает это требование.
-
Энергоэффективность: Передача данных между устройством и облаком потребляет много энергии, что приводит к быстрой разрядке батарей. Локальная обработка увеличивает время работы устройства без подзарядки.
Возможности Edge AI: ключевые приложения
Стремление перенести ИИ на край привело к разработке методов оптимизации ML-моделей. Среди них:
- Сжатие моделей и их квантование — позволяют уменьшить вычислительные затраты и размеры моделей.
Различные типы ML-моделей находят применение в таких задачах, как:
- Классификация изображений и обнаружение объектов: Конволюционные нейронные сети (CNN) используются для распознавания лиц, жестов и объектов.
- Генеративный ИИ и обработка естественного языка: Малые языковые модели (SLM), адаптированные для краевых устройств, позволяют управлять голосовыми интерфейсами и переводить текст в реальном времени.
- Прогнозное обслуживание и обнаружение аномалий: Модели, работающие с временными рядами, анализируют данные сенсоров и сигнализируют о необходимости обслуживания оборудования.
Проблемы и будущее встраиваемых устройств
Сегодняшние MCUs (микроконтроллеры) не соответствуют требованиям новых ML-моделей из-за ограничений по мощности и памяти. Однако производители стремятся усовершенствовать MCUs следующим образом:
- Введение специализированных нейронных вычислительных модулей для обеспечения быстродействия более 1 TOPS при низком энергопотреблении.
- Увеличение памяти и пропускной способности для поддержки более сложных моделей.
- Интеграция большего количества функций в MCUs, что позволит создавать компактные системы с расширенными возможностями.
Революция MCU: путь к децентрализованному миру
В будущем MCUs станут сердцем децентрализованных вычислительных систем. Устройства с встроенным ИИ заменят облачные и центральные системы, предлагая более естественные и удобные способы взаимодействия с технологиями.
Эти изменения улучшат качество жизни, предоставляя интеллектуальные устройства, встроенные в повседневную среду.