Meta представи последното си поколение отворени езикови модели Llama 3.1, като най-впечатляващият сред тях е Llama 3.1 405B с внушителните 405 млрд. параметри.
Според Meta, Llama 3.1 405B е първият отворен AI модел, който не само се приближава, но и в някои аспекти дори превъзхожда водещи затворени модели като GPT-4o от OpenAI и Claude 3.5 Sonnet на Anthropic. Моделът е обучен на повече от 15 трилиона токена, като за целта от компанията са използвали над 16 000 NVIDIA H100 – най-добрите налични чипове за изкуствен интелект в момента.
Llama 3.1 405B, за разлика от предходните версии, има значително по-голям контекстен прозорец от 128 000 токена, което му позволява да обработва и генерира по-дълги текстове. Освен това, от компанията твърдят, че моделът предлага подобрени възможности за работа на осем езика, включително английски, немски, френски, италиански, португалски, хинди, испански и тайландски.
Meta също така пусна и подобрени версии на моделите с 8 и 70 млрд. параметри, които са оптимизирани с помощта на синтетични данни, генерирани от по-големия модел (Llama 3.1 405B). Тези по-малки модели, които също имат контекстен прозорец от 128 000 токена, са на нивото на подобни модели с отворен код като Gemma 2 от Google и Mixtral на Mistral, както и на затворени като GPT-3.5 Turbo, който наскоро беше заменен от много по-мощния и по-евтин GPT-4o mini
Моделите от серията Llama 3.1 са достъпни на официалния сайт на Meta, Hugging Face, както и чрез платформи като Microsoft Azure, Amazon Web Services (AWS) и Google Cloud.
Освен това, най-големият модел (Llama 3.1 405B) ще бъде интегриран и в асистента Meta AI, който за съжаление не е достъпен в Европейския съюз поради регулаторни ограничения. Въпреки това, европейските потребители могат да използват моделите от серията 3.1 чрез платформи като Perplexity AI, Poe и Groq.
Последвайте ни в социалните мрежи – Facebook, Instagram, X и LinkedIn!
Споделете: