Apa itu Llama 3 dari Meta (dijelaskan sederhana untuk pemula)

Apa itu Llama 3

Llama adalah keluarga model AI buatan Meta, perusahaan di balik Facebook dan Instagram. Seperti ChatGPT dan Claude, Anda mengetik pertanyaan dan ia menjawab. Yang menarik bukan apa yang ia lakukan, melainkan cara ia disebarkan.

Sebagian besar model AI terkunci di dalam produk pembuatnya. Anda memakai ChatGPT lewat OpenAI, dan modelnya sendiri tidak pernah keluar dari server mereka. Meta merilis weights Llama, yaitu deretan angka yang membentuk model terlatih itu, agar siapa pun bisa mengunduh dan menjalankannya.

Perumpamaan yang berguna: kebanyakan AI itu seperti restoran, Anda memesan dan mereka yang memasak. Llama lebih mirip resep yang dipublikasikan. Anda tetap bisa makan di restorannya, dan Anda juga bisa memasaknya sendiri, memodifikasinya, atau membuka dapur Anda sendiri.

Satu hal yang perlu diluruskan, dan sering diperdebatkan di internet. Llama biasa disebut open source, padahal secara ketat ia adalah "open weights" dengan lisensi yang membawa sejumlah syarat, termasuk pembatasan untuk pemakaian komersial berskala sangat besar. Bagi perorangan, itu tidak berpengaruh apa-apa dalam praktik. Bagi perusahaan yang membangun produk di atasnya, lisensinya layak dibaca.

Kenapa itu penting meski Anda tidak pernah mengunduh apa pun

Ada tiga akibat yang sampai ke pengguna biasa.

Ia murah, jadi ia ada di mana-mana. Karena siapa pun bisa menyediakannya, persaingan menekan biayanya. Model Llama menggerakkan banyak AI yang Anda temui di produk lain tanpa diberi label, dan biasanya itulah yang dimaksud sebuah layanan dengan tingkatan cepat atau hemat.

Ia bisa jalan tanpa internet. Model di komputer Anda sendiri tetap berfungsi di pesawat, di lingkungan tertutup, atau di mana pun data tidak boleh keluar dari gedung. Tidak ada layanan berbasis awan yang bisa menawarkan itu.

Ia menjaga pasar tetap sehat. Pilihan gratis yang mumpuni memberi batas atas untuk harga model tertutup, dan itu menguntungkan Anda apa pun yang Anda pakai.

Di mana ia benar-benar unggul

Jujur soal ini lebih berguna daripada sekadar antusias. Llama hadir dalam beberapa ukuran, dan pertukarannya konsisten: model kecil sangat cepat dan murah, model besar lebih mampu tapi tidak lagi murah dijalankan.

Tugas	Llama	Lebih baik di model lain
Pertanyaan fakta singkat	Cepat dan cukup baik	Tidak
Daftar pendek, curah ide, tulis ulang sederhana	Sangat baik, dan instan	Tidak
Pekerjaan berulang untuk banyak item	Ideal, karena biaya per item penting	Tidak
Apa pun yang harus jalan offline atau privat	Satu-satunya pilihan nyata	Tidak
Tulisan yang dibaca orang sampai habis	Cukup layak	Claude, terasa jelas
Penalaran rumit banyak langkah	Lebih lemah dari model papan atas	GPT atau Claude
Dokumen sangat panjang	Terbatas	Gemini
Apa pun dari beberapa minggu terakhir	Ia tidak tahu	Model dengan akses web

Polanya: sangat baik untuk volume dan kecepatan, bersaing untuk pertanyaan sehari-hari, dan tertinggal dari model papan atas dalam penalaran berat dan tulisan yang rapi. Itu pertukaran yang adil untuk sesuatu yang gratis, dan itulah alasan "mana yang lebih baik" adalah pertanyaan yang keliru. Pakai ia saat kecepatan dan biaya yang penting, lalu berpindah saat tugasnya berat.

Tiga cara memakainya

1. Lewat ruang kerja, tanpa pengaturan apa pun. Pilihan paling sederhana. Llama sudah termasuk di Whizi bersama GPT, Claude, dan Gemini, jadi Anda bisa mengirim pertanyaan cepat ke sana lalu berpindah ke model yang lebih kuat di percakapan yang sama begitu tugasnya jadi berat. Tidak ada yang perlu dipasang.

2. Di komputer Anda sendiri. Alat seperti Ollama dan LM Studio mengunduh model lalu menjalankannya secara lokal. Harapan yang realistis: Anda butuh komputer yang cukup baru dengan memori berlimpah, model yang kecil yang berjalan nyaman, dan jawabannya akan lebih lambat daripada layanan awan kecuali Anda punya GPU bagus. Sebagai gantinya, tidak ada satu pun yang Anda ketik keluar dari komputer Anda, dan ia tetap jalan saat internet mati. Benar-benar sepadan kalau privasi atau pemakaian offline memang syaratnya, dan tidak perlu kalau bukan.

3. Lewat API. Kalau Anda membangun perangkat lunak, penyedia layanan menyediakan Llama dengan biaya per token yang sangat rendah, dan itu sering jadi alasan memilihnya dibanding model papan atas untuk tugas bervolume tinggi.

Cara mendapatkan jawaban yang bagus darinya

Model yang lebih kecil menyukai gaya prompt yang berbeda dari model papan atas. Tiga kebiasaan ini membuat perbedaan besar.

Langsung dan spesifik. Buat 10 ide nama kedai kopi, satu baris per ide, tanpa penjelasan bekerja lebih baik daripada permintaan bergaya obrolan. Model kecil patuh pada instruksi sederhana yang gamblang dan melenceng pada instruksi yang berbelit.

Satu hal dalam satu waktu. Model papan atas sanggup menangani enam batasan dalam satu prompt. Model kecil lebih baik dengan urutan permintaan tunggal.

Sebutkan formatnya. Jawab dalam satu kalimat atau balas hanya dengan daftar bernomor mencegah jawaban bertele-tele yang muncul saat model kecil merasa ragu.

Dan ketahui kapan harus berpindah. Kalau jawabannya kabur, saling bertentangan, atau melewatkan hal yang jelas, itu tandanya pertanyaan yang sama sebaiknya dipindahkan ke model yang lebih kuat, bukan terus diulang dengan kalimat lain. Di ruang kerja yang memuat beberapa model, ini cukup satu klik dan percakapannya ikut terbawa.

Hal yang perlu diwaspadai

Ia tidak tahu apa yang baru terjadi. Pengetahuannya berhenti di tanggal pelatihan, dan kecuali terhubung ke pencarian, ia akan menjawab pertanyaan soal bulan lalu dari pengetahuan umum, dengan penuh keyakinan.

Ia mengarang, sama seperti semua model. Model yang lebih kecil agak lebih sering melakukannya. Periksa setiap fakta, tanggal, atau angka yang spesifik.

Gratis tidak berarti privat, kalau dijalankan orang lain. Menjalankan Llama di komputer Anda sendiri memang privat. Memakainya lewat layanan orang lain berarti kebijakan data mereka yang berlaku, persis seperti model mana pun.

Kebingungan versi. Llama 3 adalah satu generasi, dan sudah ada versi yang lebih baru sejak itu. Tanyakan versi mana yang Anda pakai kalau itu penting, karena beda kemampuan antargenerasi cukup besar.