Американская корпорация Apple может сосредоточиться на развертывании искусственного интеллекта (ИИ) на iPhone, а не в мощных центрах обработки данных. Об этом пишет Financial Times со ссылкой на исследование Apple.
Для ИИ-приложений используются большие языковые модели. Они формируют изображения и связный текст и работают в «облаке», так как требуют значительных вычислительных мощностей.
Запустить большую языковую модель на смартфонах проблематично. Гаджеты не имеют огромных вычислительных ресурсов и энергии, доступных в центре обработки данных.
Apple разработала способ запуска ИИ-модели на смартфонах без применения «облака» за счёт использования флэш-памяти вместе с динамической памятью DRAM.
Компания протестировала свой подход на моделях, включая Falcon 7B. Благодаря новой технологии увеличится скорость отклика ИИ-ассистентов, они смогут работать офлайн.
«Наша работа не только обеспечивает решение текущего вычислительного "узкого места", но и создаёт прецедент для будущих исследований», — говорится в отчёте Apple.