Meta AI i 2024: Vil Llama 3 slå GPT-4 og Gemini? Techopedia

I forrige uke kom Meta med noen store kunngjøringer som vil styrke AI-økosystemet. Organisasjonen avduket sin neste generasjons Meta Training and Inference Accelerator (MTIA) -brikker.

Disse brikkene fungerer 3 ganger bedre enn forrige iterasjon og vil gjøre det mulig for brukere å kjøre mer sofistikerte modeller. Det vil også redusere avhengigheten av Nvidia GPUer.

Introducing the next generation of the Meta Training and Inference Accelerator (MTIA), the next in our family of custom-made silicon, designed for Meta’s AI workloads.

Full details ➡️ https://t.co/bF9tn4TfeJ pic.twitter.com/eti6fRCLTs

— AI at Meta (@AIatMeta) April 10, 2024

Meta bekreftet også at de vil gi ut to versjoner av open source Llama 3 large language model (LLM) før en større versjon slippes til sommeren, sa en ansatt til The Information.

Denne modellen forventes å ha rundt 140 milliarder parametere og vil drive den virtuelle assistenten i Meta AI-briller – Ray Ban smartbriller.

Metas president for globale anliggender på Meta AI Day London bekreftet noe av denne informasjonen.

“I løpet av neste måned, faktisk mindre, forhåpentligvis i løpet av veldig kort tid, håper vi å begynne å rulle ut vår nye pakke med neste generasjons grunnmodeller, Llama 3,” sa Clegg. “Det vil bli lansert en rekke ulike modeller med forskjellige funksjoner og versatiliteter i løpet av året, og vi starter veldig snart.”

Denne utviklingen kommer mindre enn en måned etter at X.AI og Elon Musk kunngjorde lanseringen av Grok 1.5 LLM, som nærmet seg GPT-4-nivå ytelse.

I denne artikkelen ser Techopedia på Meta AIs rolle i markedet for generativ AI for å se hvor selskapet står i forkant av lanseringen av Llama 3.

Nøkkelpunkter

Meta lanserte neste generasjon av Meta Training and Inference Accelerator (MTIA), den neste i sin familie av skreddersydde silisiumbrikker designet for Metas AI-arbeidsbelastninger.
Selskapet bekreftet at det vil gi ut to versjoner av open source Llama 3 store språkmodell (LLM) før en større versjon slippes til sommeren.
Lettere versjoner av Llama 3 har potensial til å være mer tilgjengelige enn større modeller som GPT-4, noe som gjør dem billigere å trene og kjøre.
Llama 3 ser lovende ut, men det er usannsynlig at den vil forbigå GPT-4 eller Gemini når som helst snart.

Innholdsfortegnelse Innholdsfortegnelse

Nøkkelpunkter
Kan Meta gå tå til tå med de tøffeste?
En kort oversikt over Meta AIs Llama
Hvor passer Meta inn i LLM-markedet?
Summert
Referanser

Innholdsfortegnelse

Nøkkelpunkter
Kan Meta gå tå til tå med de tøffeste?
En kort oversikt over Meta AIs Llama

Se hele listen

Hvor passer Meta inn i LLM-markedet?
Summert
Referanser

Kan Meta gå tå til tå med de tøffeste?

Med lanseringen av Llama 3 forbereder Meta seg på å gå tå til tå med de tøffeste i det generative AI-markedet, som Anthropic, Google og OpenAI.

“Målet vårt over tid er å gjøre en Llama-drevet Meta AI til den mest nyttige assistenten i verden,” sa Joelle Pineau, visepresident for AI-forskning ved Meta AI Day London. “Det gjenstår ganske mye arbeid for å komme dit.”

Llama 3 vil kjempe i en oppoverbakke, ikke bare på grunn av mulighetene til Gemini og GPT-4 (eller GPT-5 senere), men fordi det generative AI-markedet er så konkurranseutsatt.

Noen kommentatorer mener imidlertid at Meta har gode forutsetninger for å ta ledelsen.

Tom Allen, administrerende direktør og grunnlegger av The AI Journal, sa i en e-post til Techopedia:

“Med kunngjøringen om Llama 3 som kommer i sommer, vil jeg sette dem foran flokken.

“De har en enorm mulighet foran seg med Meta Rayban-brillene som får utrullede oppdateringer. I tillegg har brillene fått et forsprang ettersom folk allerede er kjent og komfortable med tanken på å bruke Ray Ban-briller. Assistenten i brillene kommer til å bli drevet av Llama 3 med de to som går hånd i hånd og [vil] forbedre en annen linje av Metas inntektsstrømmer.”

Allen fremhever også at Meta AI har tilgang til de riktige dataene på tvers av sosiale medier som Facebook og Instagram, noe som gir en gullgruve av data for opplæring av systemene.

På den annen side, hvis vi tar i betraktning at de to første Llama 3-modellene som lanseres ikke vil være multimodale, er det lite sannsynlig at de vil fortrenge populære modeller som Gemini og GPT-4, i det minste på kort sikt, ettersom de tilbyr støtte for tekst-, bilde- og stemmeinnganger.

Når det er sagt, har disse lettvektsversjonene av Llama 3 potensial til å være mer tilgjengelige enn større modeller som GPT-4, noe som gjør dem billigere å trene og kjøre via applikasjoner på enheten og små enheter som smarttelefoner.

En kort oversikt over Meta AIs Llama

Da Meta lanserte Llama i fire forskjellige størrelser (7B, 13B, 33B og 65B parametere) i februar 2023, fikk modellen betydelig oppmerksomhet ettersom den var åpen kildekode.

På den tiden investerte et stort selskap som Meta i å utvikle en kraftig modell med åpen kildekode i stedet for en proprietær blackbox-modell, noe som ga et sårt tiltrengt alternativ til den lukkede utviklingstilnærmingen til leverandører som OpenAI.

De mindre versjonene av modellen gjorde det også mulig for utviklere å trene opp og kjøre sine egne modeller uten å måtte bruke en formue på kraftigere databehandlingsinfrastruktur. Hver versjon kunne også finjusteres for å forbedre ytelsen.

Selv om Llama ikke ble like populær som ChatGPT, vakte den likevel stor interesse, og Meta mottok over 100 000 forespørsler om tilgang til modellen.

Det var imidlertid med lanseringen av Llama 2 i juli 2023 at gapet mellom åpen kildekode og proprietær AI begynte å lukke seg.

Modellen, som var tilgjengelig med 7 milliarder, 13 milliarder og 70 milliarder parametere, utkonkurrerte åpen kildekode-modeller på de fleste testede benchmarks og tiltrakk seg nok oppmerksomhet til at over 3500 bedriftsprosjekter var basert på Llama 2-modeller innen september 2023.

Deltakere som omfavner Llama 2. Kilde: Meta AI

Hvor passer Meta inn i LLM-markedet?

Selv om Metas Llama 2 ikke overgår GPT-4 eller tilbyr multimodale funksjoner, har den en klar fordel: den er lettere og billigere å kjøre.

Noen anslår at Llama 2 koster 30 ganger mindre per avsnittssammendrag enn GPT-4, samtidig som nøyaktigheten er like god.

Med det sagt, så kan Llama 2s åpne kildekode også være en bremsekloss.

I motsetning til GPT-4 eller Gemini, som du får tilgang til på nettet via en webapp, må brukerne laste ned Llama 2.

Selv om dette ikke er uoverkommelig vanskelig, skaper det en mindre sømløs brukeropplevelse enn å skrive inn Gemini eller ChatGPT i Google eller nettleseren din for å laste opp ChatGPT eller Gemini.

På samme måte gjør mangelen på multimodale funksjoner Gemini og ChatGPT til bedre valg for brukere som ønsker å samhandle med en virtuell assistent som kan behandle tekst-, tale-, lyd- og bildeinndata.

Om vi vender blikket mot LLM-markedet med åpen kildekode, kan vi se at selv om Llama 2 har prestert godt, har den blitt utkonkurrert på enkelte områder av konkurrenter som Mistral AI. Mistral 7B utkonkurrerer for eksempel Llama 2 13B på alle benchmarks og Llama 1 34B på mange benchmarks.

På den annen side er utgivelsen av Llama 3 og forbindelsen med Ray Ban smartbriller store jokertegn.

Dersom de generative AI-funksjonene til Meta utføres riktig, vil de gjøre det mulig for brukerne å blande den fysiske og digitale verden som en del av en ny multimodal LLM-opplevelse, og Metas sosiale medieimperium gir tilgang til alle dataene som er nødvendige for å gjøre nettopp det.

Summert

Meta er fortsatt en viktig aktør på LLM-markedet, men så langt har selskapet hovedsakelig fokusert på å berike økosystemet for åpen kildekode-modeller.

Llama 3 ser lovende ut, men det er usannsynlig at den kommer til å overhale GPT-4 eller Gemini med det første.