Po ChatGPT atsiradimo atsirado daug įrankių, kurių pagarba vartotojų privatumui yra abejotina. Laimei, pasirodė keli atvirojo kodo projektai, kurie tai ištaisė. Ollama AI yra dirbtinio intelekto panaudojimo terminale įrankis
Programa bus leidžia naudoti LLM sąrašą savo kompiuterio terminale arba vienos plokštės įrenginyje tol, kol jūsų aparatinė įranga yra pakankamai galinga. Gerai tai, kad jų bibliotekoje yra visų dydžių parinkčių.
LLM (didelio masto kalbos modeliai) naudojami norint suprasti kalbos generavimą ir vertimą lygiu, kuris yra artimas natūraliai kalbai. Jie mokomi su didžiuliu tekstinių duomenų kiekiu. Šie modeliai gali būti naudojami atliekant įvairias su kalba susijusias užduotis, pavyzdžiui, atsakant į klausimus, apibendrinant tekstą, verčiant į kitas kalbas, kuriant nuoseklų ir kūrybišką turinį, užbaigiant sakinius ir ieškant kalbos modelių.
Posakis "didelio masto" reiškia tiek didžiulį duomenų kiekį (milijardus), tiek parametrus, kuriuos modelis naudoja ryšiams užmegzti ir duomenų šablonams rasti.
Parametrai yra veiksnys, į kurį reikia atsižvelgti. Nors kai kurie praneša, kad Raspberry Pi 4 naudojo Ollama AI, ne visi modeliai gali būti naudojami, jei neturite pakankamai atminties. Naudojau modelius su 7 milijardais parametrų su 6 GB RAM ir be grafikos plokštės, nedarant įtakos sistemos veikimui, bet nepavyko su modeliu su 13.
Mažiau parametrų turintys modeliai kalba ispaniškai „Yankee“ turistinės parodijos lygiu ir nėra labai tikslūs, todėl juos naudodami turėtumėte būti atsargūs.
Ollama AI: naudokite dirbtinį intelektą terminale
Prieš tęsdami, pradėkime nuo trumpo paaiškinimo. LlaMa yra mašininio mokymosi algoritmas, leidžiantis dirbtiniam intelektui išmokti atpažinti ir klasifikuoti objektų vaizdus.
Šio tipo modeliams Jie mokomi naudoti paženklintus vaizdus, kad jie išmoktų atpažinti specifines savybes, tokias kaip tekstūra, forma ir spalva, leidžiančias juos atpažinti kituose kontekstuose.
Kadangi algoritmo pavadinimas tariamas taip pat, kaip ir gyvūno pavadinimas, kai kurios bibliotekos buvo pavadintos panašių rūšių vardais, pavyzdžiui, vikunos (kalbose, kuriose nevartojamas ñ) arba Alpaka.
Grįžtant prie Ollama AI, Tai leidžia mums atsisiųsti ir paleisti skirtingus atvirojo kodo modelius iš mūsų Linux platinimo terminalo. Jis įdiegtas naudojant komandą:
curl https://ollama.ai/install.sh | sh
Norėdami paleisti modelį, rašome komandą:
ollama run nombre_del_modelo
Mes matome modelių sąrašą čia
Pavyzdžiui, norėdami įdiegti „TinyLlaama“ modelį su kiek daugiau nei terabaitu parametrų, naudojame komandą:
ollama run tinyllama
Pirmą kartą vykdant šią komandą modelis atsisiunčiamas į kompiuterį. Atminkite, kad kai kurie užima kelis gigabaitus vietos diske.
Galite ištrinti modelį naudodami komandą:
ollama rm nombre_del modelo
Norėdami pamatyti įdiegtų modelių sąrašą, naudokite komandą:
ollama sąrašas
Informaciją apie kiekvieną įdiegtą modelį galite peržiūrėti naudodami:
ollama show
Įdomus variantas iš Ollama modelių bibliotekos yra vadinamieji "Uncensored".. Žinomiausi dirbtinio intelekto modeliai apriboja tam tikrų tipų klausimus, kad atitiktų ne tik įstatymus, bet ir socialinį politinio korektiškumo spaudimą.
Prisimenu, kad seniai paprašiau Copiloto, Microsoft ChatGPT pagrindu veikiančio asistento, papasakoti man ledkalnio anekdotus. Jis man pasakė, kad ekologinės katastrofos yra per rimta tema, kad būtų galima juokauti.
Necenzūruoti modeliai Jie nustato atvejus, kai AI atsisako reaguoti arba pateikia šališkus atsakymus iš bazinių modelių, juos pašalina ir apmoko sistemą tinkamai reaguoti.
Turėčiau atlikti daugiau bandymų, kad sužinočiau, koks naudingas „Ollama AI“ gali būti kompiuteriuose su ribotu RAM kiekiu ir be specialios vaizdo plokštės. Bet kokiu atveju pravartu žinoti, kad atvirojo kodo alternatyvos skinasi kelią ir leidžia panaikinti cenzūrą.