Sostav.ru
Москва, ул. Полковая 3 стр.3, офис 120
© Sostav независимый проект брендингового агентства Depot WPF
Использование опубликованных материалов доступно только при указании источника.

Дизайн сайта - Liqium

18+
22.12.2023 в 18:47

Apple может развернуть ИИ на iPhone

Компания нашла способ запускать большую языковую модель на смартфонах без использования «облака»

Американская корпорация Apple может сосредоточиться на развертывании искусственного интеллекта (ИИ) на iPhone, а не в мощных центрах обработки данных. Об этом пишет Financial Times со ссылкой на исследование Apple.

Для ИИ-приложений используются большие языковые модели. Они формируют изображения и связный текст и работают в «облаке», так как требуют значительных вычислительных мощностей.

Запустить большую языковую модель на смартфонах проблематично. Гаджеты не имеют огромных вычислительных ресурсов и энергии, доступных в центре обработки данных.

Apple разработала способ запуска ИИ-модели на смартфонах без применения «облака» за счёт использования флэш-памяти вместе с динамической памятью DRAM.

Компания протестировала свой подход на моделях, включая Falcon 7B. Благодаря новой технологии увеличится скорость отклика ИИ-ассистентов, они смогут работать офлайн.

«Наша работа не только обеспечивает решение текущего вычислительного "узкого места", но и создаёт прецедент для будущих исследований», — говорится в отчёте Apple.

Обсудить с другими читателями:
Ваш браузер устарел
На сайте Sostav.ru используются технологии, которые не доступны в вашем браузере, в связи с чем страница может отображаться некорректно.
Чтобы страница отображалась корректно, обновите ваш браузер.
Ваш браузер использует блокировщик рекламы.
Он мешает корректной работе сайта. Добавьте сайт www.sostav.ru в белый список.