AI Bulgaria AI Bulgaria

Пробив от Apple подсказва, че скоро може да видим генеративен AI в iPhone

Apple

От дълго време се носят слухове, че Apple има големи планове по отношение на изкуствения интелект през 2024 г. През юли бе съобщено, че технологичният гигант разработва свой собствен чатбот, подобен на ChatGPT, наречен Apple GPT.

Във връзка с това, изследователите от Apple, работещи областта на изкуствения интелект, твърдят, че са направили ключов пробив във внедряването на големи езикови модели (LLM) в iPhone и други устройства на Apple с ограничена памет, като са изобретили нова техника за използване на флаш паметта.

Чатботовете, базирани на LLM, като ChatGPT и Claude, са изключително интензивни по отношение на данните и паметта, като обикновено изискват огромни количества памет, за да функционират, което е предизвикателство за устройства като iPhone или iPad, които имат ограничена памет.

В статия, озаглавена “LLM in a flash: Efficient Large Language Model Inference with Limited Memory”, изследователите демонстрират решение за ефективно изпълнение на големи езикови модели директно на устройства с ограничена памет, като iPhone или iPad. Това се постига чрез така нареченото „model inference“ или мястото, където AI моделът извършва своето прогнозно и изчислително изпълнение, като частта „flash“ в заглавието е препратка към паметта на телефона, която позволява изключително бързо прехвърляне на данни, за да може изкуственият интелект да работи.

Според изследователите новата техника ще даде възможност на големи езикови модели да работят до 25 пъти по-бързо на устройства с ограничена памет като iPhone и iPad.

Едно от основните предимства на използването на езикови модели директно на устройствата е подобряването на поверителността и сигурността на потребителите. Чрез локалната обработка на данните се намалява необходимостта от изпращане на чувствителна информация до сървъри в облака.

Нашата работа не само осигурява решение на текущо затруднение при изчисленията, но и също така създава прецедент за бъдещи изследвания

– пишат изследователите на Apple в заключението на своята статия.

Вярваме, че тъй като големите езикови моделипродължават да нарастват по размер и сложност, подходи като този  ще бъдат от съществено значение за използването на пълния им потенциал в широк спектър от устройства и приложения.

Освен това Apple наскоро представи и друга разработка за генериране на анимирани 3D аватари от стандартно видео, която вероятно ще бъде използвана във Vision Pro.

Тези разработки са знак, че Apple се опитва да настигне своите конкуренти от Силициевата долина в областта на генеративния изкуствен интелект. Според Bloomberg, Apple планира да добави изкуствен интелект в iOS 18 и във възможно най-много от своите приложения през следващата година, включително нови функционалности в Siri, по-интелигентни предложения за отговори в Messages, плейлисти, генерирани от изкуствения интелект в Apple Music, и използване на генеративен изкуствен интелект в приложения за продуктивност като Pages и Keynote.

Последвайте ни в социалните мрежи – FacebookInstagramX и LinkedIn!

Остави коментар