Apple встретилась со стартапом PrismML, компанией, известной разработкой сверхплотных моделей на большом языке, чтобы обсудить использование ее технологии для запуска более крупных моделей искусственного интеллекта непосредственно на iPhone. Согласно отчету The Information, PrismML сократила версию Qwen 3.6 с открытым исходным кодом Alibaba настолько, чтобы она могла полноценно работать на iPhone 17 Pro.
В настоящее время модель Apple AFM 3 Core Advanced поддерживает функции iOS 27, включая обновленные голоса Siri AI и улучшенную общесистемную диктовку на моделях iPhone 17 Pro и iPhone Air. Было подчеркнуто, что Qwen 3.6 имеет 27 миллиардов параметров, что больше, чем у встроенной модели Apple AFM 3 Core Advanced, которая имеет 20 миллиардов параметров.
Стоит прочитать: нехватка оперативной памяти снижает мировые поставки ПК до 4,9%, Apple увеличивает долю рынка
Чем отличается подход PrismML
В отличие от AFM 3 Core Advanced, версия Qwen 3.6 от PrismML сохраняет все свои параметры активными одновременно. В то время как модель Apple на устройстве с 20 миллиардами параметров использует разреженную архитектуру, в которой одновременно активны только от 1 до 4 миллиардов параметров.
«Одна новая модель Apple на устройстве имеет 20 миллиардов параметров, но использует так называемую разреженную архитектуру, в которой одновременно активны только от 1 до 4 миллиардов параметров», — говорится в отчете. «В случае модели PrismML на устройстве все 27 миллиардов параметров активны одновременно», — добавили они. Таким образом, решение PrismML обеспечивает производительность в 7–27 раз выше, чем текущая реализация Apple, при работе на том же оборудовании iPhone 17 Pro.
Стоит прочитать: Apple подписывает сделку с Broadcom на 30 миллиардов долларов в рамках крупнейшего производственного проекта в США
Теперь Apple изучает эту технологию, поскольку запуск более крупных моделей непосредственно на iPhone может перенести больше функций Apple Intelligence с серверов частных облачных вычислений компании на обработку на устройстве. Это может помочь снизить расходы Apple и еще больше повысить конфиденциальность пользователей.
Хотя эта технология может принести пользу Apple во многих отношениях, она также может привести к потенциальной негативной реакции, и компания вряд ли будет использовать модели искусственного интеллекта Chinise для Siri. Поэтому решение PrismML, скорее всего, задумано как доказательство концепции.