Llama 3 nedir? Meta'nın yapay zekası, yeni başlayanlar için sade anlatım

Llama 3 nedir

Llama, Facebook ve Instagram'ın arkasındaki şirket olan Meta'nın geliştirdiği bir yapay zeka modelleri ailesi. Tıpkı ChatGPT ve Claude gibi, bir soru yazıyorsun ve o yanıtlıyor. İlginç olan ne yaptığı değil, nasıl dağıtıldığı.

Yapay zeka modellerinin çoğu, kendisini yapan şirketin ürününün içine kilitlidir. ChatGPT'yi OpenAI üzerinden kullanırsın ve modelin kendisi hiçbir zaman onların sunucularından çıkmaz. Meta ise Llama'nın ağırlıklarını, yani eğitilmiş modeli oluşturan sayıları, isteyen herkes indirip çalıştırabilsin diye yayımlıyor.

İşe yarar bir benzetme: yapay zekanın çoğu bir restoran gibidir, sen sipariş verirsin, onlar pişirir. Llama ise tarifi yayımlamaya daha yakın. İstersen yine restoranda yersin, istersen kendin pişirir, tarifi kendine göre değiştirir ya da kendi mutfağını açarsın.

İnternette tartışıldığını göreceğin bir ayrım var. Llama genelde açık kaynak diye anılır ama teknik olarak "açık ağırlıklar" söz konusu ve lisansı bazı koşullar taşıyor, bunların arasında çok büyük ölçekli ticari kullanıma dair kısıtlamalar da var. Tek bir kullanıcı için pratikte hiçbir farkı yok. Üzerine ürün kuran bir şirket içinse lisansı okumaya değer.

Hiçbir şey indirmeyecek olsan bile bu neden önemli

Bunun sıradan kullanıcıya kadar ulaşan üç sonucu var.

Ucuz, bu yüzden her yerde. Herkes barındırabildiği için rekabet maliyeti aşağı çekiyor. Başka ürünlerde karşına çıkan yapay zekanın azımsanmayacak bir kısmı, adı hiç anılmadan Llama modelleriyle çalışıyor ve bir servis hızlı ya da ekonomik bir katmandan bahsettiğinde genelde kastettiği şey budur.

İnternetsiz çalışabilir. Kendi bilgisayarındaki bir model uçakta, güvenli bir ortamda ya da verinin binadan çıkmaması gereken her yerde çalışır. Barındırılan hiçbir servis bunu sunamaz.

Piyasayı dürüst tutuyor. Yetkin ve ücretsiz bir seçenek, kapalı modellerin isteyebileceği ücrete tavan koyar. Sen hangisini kullanırsan kullan, bu senin lehine.

Gerçekte neyde iyi

Bu konuda dürüst olmak, hevesli olmaktan daha çok işe yarar. Llama birkaç boyutta geliyor ve ödünleşim hep aynı: küçük modeller son derece hızlı ve ucuz, büyük olanlar daha yetkin ama artık çalıştırması ucuz değil.

Görev	Llama	Başka yerde daha iyi
Hızlı olgu soruları	Hızlı ve yeterince iyi	Hayır
Kısa listeler, fikir üretme, basit yeniden yazımlar	Çok iyi, üstelik anında	Hayır
Çok sayıda öğe üzerinde tekrarlayan iş	İdeal, çünkü orada öğe başına maliyet önemli	Hayır
Çevrimdışı ya da gizli çalışması gereken her şey	Tek gerçek seçenek	Hayır
Birinin baştan sona okuyacağı bir metin	İdare eder	Claude, gözle görülür şekilde
Karmaşık, çok adımlı akıl yürütme	Öncü modellerden zayıf	GPT ya da Claude
Çok uzun belgeler	Sınırlı	Gemini
Son birkaç haftaya ait her şey	Bilmiyor	Web erişimi olan bir model

Örüntü şu: hacim ve hızda mükemmel, günlük sorularda rekabetçi, zor akıl yürütmede ve cilalı yazıda öncü modellerin gerisinde. Ücretsiz bir şey için bu adil bir takas ve "hangisi daha iyi" sorusunun neden yanlış soru olduğunu da açıklıyor. Hızın ve maliyetin önemli olduğu yerde onu kullan, iş zorlaştığında model değiştir.

Kullanmanın üç yolu

1. Bir çalışma alanı üzerinden, hiçbir kurulum olmadan. En basit seçenek. Llama, Whizi'de GPT, Claude ve Gemini'nin yanında duruyor; yani hızlı soruları ona gönderip iş zorlaştığında aynı konuşmanın içinde daha güçlü bir modele geçebilirsin. Kurulacak hiçbir şey yok.

2. Kendi bilgisayarında. Ollama ve LM Studio gibi araçlar bir modeli indirip yerelde çalıştırıyor. Gerçekçi beklentiler: makul ölçüde yeni ve bol bellekli bir makineye ihtiyacın var, rahat çalışanlar küçük modeller ve iyi bir GPU'n yoksa yanıtlar barındırılan bir servisten daha yavaş gelir. Karşılığında yazdığın hiçbir şey makinenden çıkmaz ve internet kapalıyken de çalışır. Şart gizlilik ya da çevrimdışı kullanımsa gerçekten değer, değilse gereksiz.

3. Bir API üzerinden. Yazılım geliştiriyorsan, sağlayıcılar Llama'yı token başına çok düşük maliyetle barındırıyor; yüksek hacimli işlerde onu bir öncü modelin yerine seçmenin sebebi de genelde budur.

Ondan iyi yanıtlar almak

Küçük modeller, öncü modellerden farklı bir prompt tarzını ödüllendirir. Üç alışkanlık büyük fark yaratıyor.

Doğrudan ve net ol. Bir kahve dükkanı için 10 isim fikri ver, her biri tek satır, açıklama yok sohbet havasındaki bir istekten daha iyi sonuç verir. Küçük modeller basit ve açık talimatları iyi takip eder, süslü olanlarda dağılır.

Tek seferde tek iş. Öncü modeller tek promptta altı kısıtı idare eder. Küçük modeller ise tek tek isteklerden oluşan bir sırayla daha iyi iş çıkarır.

Biçimi söyle. Tek cümleyle yanıtla ya da sadece numaralı bir liste döndür demek, küçük modellerin emin olmadıklarında ürettiği dolgu metni önler.

Bir de ne zaman geçeceğini bil. Bir yanıt muğlaksa, kendisiyle çelişiyorsa ya da bariz bir şeyi atlıyorsa, bu, promptu yeniden yazmayı sürdürmek yerine aynı soruyu daha güçlü bir modele taşıma işaretidir. Birkaç modeli bir arada tutan bir çalışma alanında bu tek tıkla olur ve konuşma da seninle gelir.

Nelere dikkat etmeli

Yakın zamanda ne olduğunu bilmiyor. Bilgisi eğitim tarihinde duruyor ve aramaya bağlı değilse, geçen ayla ilgili bir soruyu genel bilgiden, üstelik tam bir özgüvenle yanıtlar.

Her model gibi uyduruyor. Küçük modeller bunu biraz daha fazla yapıyor. Her somut olguyu, tarihi ve sayıyı kontrol et.

Barındırılıyorsa, ücretsiz olması gizli olduğu anlamına gelmez. Llama'yı kendi bilgisayarında çalıştırmak gizlidir. Bir başkasının servisi üzerinden kullanmak, tıpkı başka her modelde olduğu gibi, onların veri politikasının geçerli olması demektir.

Sürüm karışıklığı. Llama 3 bir kuşaktı ve o zamandan beri daha yeni sürümler çıktı. Senin için önemliyse hangi sürümü kullandığını sor, çünkü kuşaklar arasındaki yetenek farkı büyük.