Czym jest Llama 3 od Meta (wyjaśnione prosto dla początkujących)

Czym jest Llama 3

Llama to rodzina modeli AI zbudowanych przez Meta, firmę stojącą za Facebookiem i Instagramem. Tak jak w ChatGPT czy Claude, wpisujesz pytanie, a model odpowiada. Ciekawe jest jednak nie to, co robi, ale to, jak jest udostępniana.

Większość modeli AI jest zamknięta w produkcie swojego twórcy. Z ChatGPT korzystasz przez OpenAI, a sam model nigdy nie opuszcza ich serwerów. Meta publikuje wagi Llama, czyli liczby, które tworzą wytrenowany model, tak by każdy mógł je pobrać i uruchomić.

Przydatne porównanie: większość AI to restauracja, w której zamawiasz, a oni gotują. Llama jest bliższa opublikowaniu przepisu. Nadal możesz zjeść w restauracji, ale możesz też ugotować sam, przerobić danie albo otworzyć własną kuchnię.

Jedno wyjaśnienie, o które toczą się spory w internecie. Llama zwykle opisuje się jako open source, a ściśle rzecz biorąc są to "otwarte wagi" z licencją, która niesie pewne warunki, w tym ograniczenia komercyjnego użycia na bardzo dużą skalę. Dla osoby prywatnej nie robi to żadnej praktycznej różnicy. Dla firmy budującej na tym produkt licencję warto przeczytać.

Dlaczego to ma znaczenie, nawet jeśli nigdy niczego nie pobierzesz

Trzy konsekwencje docierają do zwykłych użytkowników.

Jest tania, więc jest wszędzie. Ponieważ każdy może ją hostować, konkurencja zbija cenę. Modele Llama napędzają sporą część AI, którą spotykasz w innych produktach, bez żadnej etykietki, i zwykle to właśnie one kryją się za "szybkim" albo "oszczędnym" poziomem w danej usłudze.

Może działać bez internetu. Model na twoim własnym komputerze działa w samolocie, w zamkniętym środowisku albo wszędzie tam, gdzie dane nie mogą opuścić budynku. Żadna usługa hostowana tego nie zaoferuje.

Trzyma rynek w ryzach. Zdolna darmowa opcja stawia sufit temu, ile mogą kosztować modele zamknięte, co jest dla ciebie dobre niezależnie od tego, czego używasz.

W czym naprawdę jest dobra

Szczerość w tej sprawie przyda się bardziej niż entuzjazm. Llama występuje w kilku rozmiarach, a kompromis jest zawsze ten sam: mniejsze modele są ekstremalnie szybkie i tanie, większe są zdolniejsze, ale ich uruchomienie przestaje być tanie.

Zadanie	Llama	Lepiej gdzie indziej
Szybkie pytania o fakty	Szybko i wystarczająco dobrze	Nie
Krótkie listy, pomysły, proste przeróbki	Bardzo dobrze i natychmiast	Nie
Powtarzalna praca na wielu pozycjach	Idealnie, bo liczy się koszt sztuki	Nie
Praca offline albo prywatna	Jedyna realna opcja	Nie
Tekst czytany od początku do końca	Da się użyć	Claude, zauważalnie
Złożone wieloetapowe rozumowanie	Słabiej niż czołówka	GPT albo Claude
Bardzo długie dokumenty	Ograniczone	Gemini
Cokolwiek z ostatnich tygodni	Nie wie	Model z dostępem do sieci

Schemat jest taki: świetna do ilości i tempa, konkurencyjna w codziennych pytaniach i za czołówką przy trudnym rozumowaniu oraz dopracowanym pisaniu. To uczciwy kompromis jak na coś darmowego i dlatego "co jest lepsze" to złe pytanie. Używaj jej tam, gdzie liczy się szybkość i koszt, a przełączaj się, gdy zadanie robi się trudne.

Trzy sposoby korzystania

1. Przez wspólne miejsce pracy, bez konfiguracji. Najprostsza opcja. Llama jest dostępna w Whizi obok GPT, Claude i Gemini, więc możesz kierować do niej szybkie pytania i przełączyć się na mocniejszy model w tej samej rozmowie, gdy zadanie się skomplikuje. Nie ma czego instalować.

2. Na własnym komputerze. Narzędzia takie jak Ollama i LM Studio pobierają model i uruchamiają go lokalnie. Realistyczne oczekiwania: potrzebujesz w miarę nowoczesnej maszyny z dużą ilością pamięci, wygodnie chodzą mniejsze modele, a odpowiedzi będą wolniejsze niż w usłudze hostowanej, o ile nie masz dobrej karty graficznej. W zamian nic z tego, co piszesz, nie opuszcza twojego komputera i wszystko działa przy wyłączonym internecie. Naprawdę warte zachodu, jeśli wymogiem jest prywatność albo praca offline, a poza tym zbędne.

3. Przez API. Jeśli budujesz oprogramowanie, dostawcy hostują Llama po bardzo niskiej cenie za token, co często jest powodem, żeby wybrać ją zamiast modelu z czołówki do zadań o dużej skali.

Jak wyciągać z niej dobre odpowiedzi

Mniejsze modele nagradzają inny styl promptów niż te z czołówki. Trzy nawyki robią dużą różnicę.

Bądź bezpośredni i konkretny. Wypisz 10 pomysłów na nazwę kawiarni, po jednym w linii, bez wyjaśnień działa lepiej niż prośba w formie pogawędki. Mniejsze modele dobrze wykonują proste, wprost podane polecenia, a przy rozbudowanych odpływają.

Jedna rzecz naraz. Modele z czołówki ogarniają sześć warunków w jednym prompcie. Mniejsze radzą sobie lepiej z serią pojedynczych próśb.

Podaj format. Odpowiedz jednym zdaniem albo zwróć wyłącznie listę numerowaną zapobiega laniu wody, które mniejsze modele produkują, gdy nie są pewne.

I wiedz, kiedy się przełączyć. Jeśli odpowiedź jest mglista, sama sobie przeczy albo pomija coś oczywistego, to sygnał, żeby przenieść to samo pytanie do mocniejszego modelu, a nie przeformułowywać je w kółko. W miejscu pracy, które trzyma kilka modeli, to jedno kliknięcie, a rozmowa idzie dalej.

Na co uważać

Nie wie, co wydarzyło się ostatnio. Jej wiedza kończy się na dacie treningu i jeśli nie jest podpięta do wyszukiwarki, na pytanie o zeszły miesiąc odpowie z wiedzy ogólnej, w dodatku pewnym tonem.

Zmyśla, jak każdy model. Mniejsze modele robią to nieco częściej. Sprawdzaj każdy konkretny fakt, datę czy liczbę.

Darmowe nie znaczy prywatne, jeśli jest hostowane. Uruchomienie Llama na własnym komputerze jest prywatne. Korzystanie z niej przez czyjąś usługę oznacza, że obowiązuje polityka danych tej firmy, dokładnie tak jak przy każdym innym modelu.

Zamieszanie z wersjami. Llama 3 to jedna generacja, a od tego czasu wyszły nowsze wersje. Jeśli to dla ciebie ważne, zapytaj, z której wersji korzystasz, bo różnice możliwości między generacjami są duże.