В Apple говорят о прорыве в искусственном интеллекте для iPhone

Исследователи искусственного интеллекта Apple говорят, что они совершили огромный прорыв во внедрении больших языковых моделей (LLM) на устройствах Apple, таких как iPhone, без использования больших объемов памяти.

В Apple говорят о прорыве в искусственном интеллекте для iPhone. Фото: СС0

Вместо этого исследователи переносят LLM на устройство, используя новую технику флэш-памяти, сообщает MacRumors.

В исследовательской работе под названием « LLM in a Flash: эффективный вывод модели большого языка с ограниченной памятью » исследователи отмечают, что в сфере мобильных телефонов флэш-память более распространена, чем оперативная память, которая традиционно используется для запуска LLM.

Их метод работает за счет использования оконной обработки, которая повторно оперирует некоторыми уже обработанными данными, чтобы уменьшить потребность в постоянной выборке памяти, а также за счет объединения строк и столбцов, которое включает группировку данных, чтобы их можно было быстрее прочитать из флэш-памяти.

Согласно документу, этот метод позволяет моделям ИИ уменьшить использование памяти и увеличить скорость работы.

Из сообщения исследователей:

«Этот прорыв особенно важен для внедрения передовых программ LLM в средах с ограниченными ресурсами, тем самым расширяя их применимость и доступность. Мы считаем, что по мере того, как LLM продолжают расти в размерах и эта работа, будет иметь важное значение для полного раскрытия их потенциала в широком спектре устройств и приложений.»

По некоторой информации, разработчики Apple планируют внедрить искусственный интеллект в iPhone в конце 2024 года.

Startpack подготовил список систем искусственного интеллекта. Искусственный интеллект (ИИ) широко используется в бизнесе — начиная от повышения качества обслуживания клиентов до автоматизации бизнес-процессов. Один из видов искусственного интеллекта — нейронные сети. Нейросети с помощью алгоритмов способны распознавать закономерности в данных и генерировать новые. Это лишь часть сфер, где может применяться искусственный интеллект. Внедрение искусственного интеллекта в работу компании сократит расходы и время.

Статьи по теме