Når en banebrytende innovasjon som «Llama 2» dukker opp, er det lite sannsynlig at Meta vil la muligheten gå fra seg. Denne gangen har de presentert sin egen chatbot.
Llama 2, Metas egenutviklede, store språkmodell med åpen kildekode – i likhet med GPT-3 – er forventet å skape betydelig aktivitet innen kunstig intelligens.
Den nye AI-en har potensial til å bli en seriøs utfordrer til ChatGPT, hovedsakelig fordi den er kostnadsfri å bruke, noe som legger grunnlaget for nye fremskritt innen kunstig intelligens. Llama 2 har imidlertid enda mer å by på. I denne artikkelen utforsker vi Llama 2 nærmere.
Meta: Pionerer i Metaverse-revolusjonen
La oss starte med å se nærmere på hjernen bak Llama 2, Meta Platforms Inc. Tidligere var de kanskje bedre kjent som Facebook, men det er ikke lenger tilfelle.
Med en markedsverdi på 772,33 milliarder dollar er Meta et av de ledende teknologiselskapene i markedet, med spisskompetanse innen sosiale medier og teknologi. De fleste populære sosiale medieplattformer og meldingsapper, inkludert Facebook, Instagram, WhatsApp, Threads og Messenger, er alle en del av deres portefølje.
Metas prestisjeprosjekt er utviklingen av Metaverse, et kollektivt, virtuelt delt rom som kombinerer fysiske, utvidede og virtuelle realiteter. Denne visjonen omfatter utvikling av VR- og AR-teknologier, fordypende opplevelser og digitale økosystemer som muliggjør interaksjon mellom brukere på nye og engasjerende måter.
Da verden ble introdusert for store språkmodeller gjennom OpenAIs GPT-modeller og Googles PaLM 2, så Meta sin sjanse til å introdusere noe eget – et forsøk på å utkonkurrere de eksisterende aktørene.
Les også: AI-applikasjoner som nysgjerrige sinn burde ha på sine smarttelefoner.
Vi presenterer Llama 2
Llama 2 er en stor språkmodell med åpen kildekode utviklet av Meta og Microsoft, og den er ment for både forsknings- og kommersielle formål. Dette kan virke som et uvanlig samarbeid, men begge selskapene har forsøkt å posisjonere seg innen forskning på kunstig intelligens, så hvorfor ikke slå seg sammen mot felles konkurrenter? Resultatet er en kraftfull LLM som er gratis å bruke.
Ved å gjøre den tilgjengelig uten kostnad, har Meta blitt en av de største bidragsyterne til åpen innovasjon innen kunstig intelligens. Selv om Llama 2 fungerer på samme måte som andre LLM-er, som GPT-3 og PaLM 2, med lignende utviklingsprinsipper.
Plattformen gir organisasjoner og utviklere muligheten til å skape generative AI-verktøy og opplevelser uten begrensninger.
Selv om de tekniske detaljene om hvordan den skiller seg fra konkurrentene fortsatt er noe uklare, er det åpenhet og kostnadsfri tilgjengelighet som skiller den ut, i motsetning til andre lukkede kildekoder.
Hvordan fungerer Llama 2?
Llama har blitt trent med 2 billioner «tokens» fra offentlig tilgjengelige kilder som Wikipedia, Common Crawl og offentlig tilgjengelige bøker fra Project Gutenberg, for å etablere sitt nevrale nettverk. Hvert token representerer et ord eller et semantisk fragment som gir modellen evnen til å forstå ulike tekster og predikere den etterfølgende teksten.
Utviklerne brukte flere strategier mens de trente AI-modellen, inkludert forsterkende læring med menneskelig tilbakemelding (RLHF). Dette ble gjort for å oppmuntre til nyttige svar fra systemet og generere mer passende resultater.
Det som er spesielt interessant er at du kan trene modellen til å generere merkevarehistorier ved hjelp av eksempler i din personlige, profesjonelle eller merkevarestil, tone og personlighet. Modellen fungerer som et fundament som du kan forme etter dine spesifikke behov. Modellens chatbot er også trent og finjustert med data, noe som gjør den bedre egnet til å svare på spørsmål på en mer naturlig måte.
Systemkrav for å kjøre Llama 2
For å kunne kjøre programmet trenger du minst en 7B-modell og 10 GB VRAM, selv om 8 GB også kan fungere i noen tilfeller.
Her er noen forutsetninger for å kjøre Llama 2 lokalt:
- Python: Python 3.8 eller nyere er påkrevd, mens 3.11 anbefales.
- Git: Git må være installert.
For å teste ut noen av versjonene av Llama, er det eneste alternativet å besøke Hugging Face, den sentrale plattformen for AI-modeller med åpen kildekode. Gjennom denne plattformen kan du også prøve Llama 2 7B Chat. Hvis du har maskinvare som oppfyller kravene, kan du be om tilgang til den neste versjonen av Llama ved å gi Meta informasjon om deg selv.
Hvordan sammenligner Llama 2 med GPT og Bard?
Llama 2 befinner seg i samme kategori som GPT- og Bards AI-modeller. Forskerne bak Llama publiserte en vitenskapelig artikkel der de forklarte ulike aspekter av AI-modellen, inkludert hvordan den presterer i forhold til lignende produkter basert på standard referanseverdier – som TriviaQA-leseforståelsesdatasettet og en fleroppgave-språkforståelsestest.
Sammenligningen ble gjort med flere modeller med åpen og lukket kildekode, som GPT-3.5, GPT-4, PaLM og PaLM 2.
Konklusjonen var at 70B-versjonene av Llama presterer betydelig bedre enn andre LLM-er med åpen kildekode. Selv om den tilsynelatende er på linje med ytelsen til GPT-3.5 og PaLM på de fleste områder, overgår den ikke GPT-4 eller PaLM 2.
I praksis avhenger Llama 2 av fantasi, samtidig som den leverer raske resultater. ChatGPT kan på den annen side være mer avansert og kreativ i produksjonen, spesielt hvis du bruker den nyeste og betalte versjonen.
Men det er her Llama har et fortrinn: den er gratis å bruke og har åpen kildekode. Bedrifter kan få tilgang til og bruke de offisielle API-ene til å finjustere modellene sine for å fremme unike svar.
Avsluttende tanker
Llama 2 er ikke den beste LLM-en som finnes på markedet. Det som skiller den ut, er at den er åpen kildekode og tilgjengelig for alle gratis, i motsetning til konkurrentene med lukket kildekode. Lanseringen av dette AI-verktøyet har vært et viktig fremskritt for åpen innovasjon. Fordi Llama er så tilgjengelig, forenkles prosessen for bedrifter som ønsker å eksperimentere og lage AI-drevne verktøy og applikasjoner som de kan kontrollere.
Hvem som helst kan få tilgang til den, men den eneste begrensningen i lisensen er at selskaper med over 700 millioner månedlige brukere må be om spesiell tillatelse for å bruke Llama. Dette innebærer at store teknologigiganter og direkte konkurrenter til Meta og Microsoft, som Google, Amazon og Apple, ikke har like lett tilgang. Det gir dermed en fordel til mindre selskaper.
Du kan gjerne utforske den kraftigste AI-verktøylisten for fremtidig referanse.