Mākslīgais intelekts turpina pārveidot mūsu pasauli, un iespējas strādāt ar progresīviem valodu modeļiem pieaug ar lēcieniem un robežām. Tomēr ne visiem ir nepieciešams izveidot savienojumu ar mākoņpakalpojumiem vai paļauties uz trešajām pusēm, lai izpētītu šīs tehnoloģijas. Interesanta un pieejama alternatīva ir DeepSeek-R1, AI modelis, kas ļauj lietotājiem palaist to lokāli pieticīgos datoros. Šajā rakstā es paskaidrošu, kā instalēt DeepSeek un pilnībā izmantot tā iespējas.
DeepSeek-R1 ir a atvērtā koda AI modelis kas izceļas ar savu efektivitāti un progresīvām spriešanas spējām. Palaižot to lokāli, jūs ne tikai ietaupāt periodiskas izmaksas, bet arī aizsargājat savu privātumu un iegūstat elastību, lai to integrētu pielāgotos projektos. Lai gan dažiem modeļiem ir nepieciešama jaudīga aparatūra, DeepSeek-R1 piedāvā versijas, kas pielāgotas dažādiem resursiem, sākot no pamata datoriem līdz uzlabotām darbstacijām.
Kas ir DeepSeek un kāpēc to izmantot lokāli?
DeepSeek-R1 ir a uzlabots valodas modelis, kas paredzēts sarežģītiem uzdevumiem, piemēram, loģiskai spriešanai, risinot matemātiskos uzdevumus un ģenerējot kodu. Tā galvenā priekšrocība ir tā, ka tas ir atvērts avots, kas nozīmē, ka varat to instalēt un palaist savā datorā, neatkaroties no ārējiem serveriem.
Dažas no tās ievērojamajām funkcijām ietver:
- Elastīgums: Jūs varat pielāgot modeli atbilstoši savām vajadzībām, sākot no vieglajām versijām līdz uzlabotajām konfigurācijām.
- Konfidencialitāte: Visa apstrāde tiek veikta lokāli, izvairoties no bažām par sensitīvu datu atklāšanu. Tas, iespējams, ir vissvarīgākais punkts, jo daudzi ir nobažījušies par to, ko uzņēmumi var darīt ar mūsu datiem.
- Ietaupījumi: Jums nebūs jātērē nauda par abonementiem vai mākoņpakalpojumiem, padarot to par pieņemamu iespēju izstrādātājiem un uzņēmumiem.
Prasības uzstādīšanai
Pirms instalēšanas uzsākšanas pārliecinieties, ka ievērojat tālāk norādīto Prasības:
- Dators ar operētājsistēmu Linux, macOS vai Windows (pēdējā gadījumā ar WSL2 atbalstu).
- Vismaz 8 GB RAM, lai gan tas ir ieteicams vismaz 16 GB optimālai veiktspējai.
- Piekļuve internetam, lai sākotnēji lejupielādētu modeļus.
- Pamatzināšanas terminālī vai komandrindā.
Turklāt, jums būs jāinstalē rīks ar nosaukumu Ollama, kas pārvalda un lokāli darbina DeepSeek modeļus.
Ollama uzstādīšana
Ollama ir vienkāršs risinājums, kas ļauj lejupielādēt un palaist valodu modeļus, piemēram, DeepSeek-R1. Lai to instalētu, rīkojieties šādi:
- Operētājsistēmā Linux vai macOS atveriet termināli un palaidiet šo komandu, lai instalētu Ollama — pakotni cirtot Acīmredzot tas ir nepieciešams:
curl -fsSL https://ollama.com/install.sh | sh
- Windows sistēmās pārliecinieties, vai iepriekš ir iespējots WSL2, un pēc tam veiciet tās pašas darbības Ubuntu terminālī, ko konfigurējat WSL ietvaros.
- Palaižot, pārbaudiet, vai Ollama ir instalēta pareizi
ollama --version. Ja komanda atgriež versijas numuru, esat gatavs virzīties uz priekšu.
DeepSeek-R1 lejupielāde
Kad Ollama ir instalēta un darbojas (ollama serve terminālī, ja vēlāk izskaidrotā lejupielāde neizdodas), tagad varat lejupielādēt DeepSeek modeli, kas vislabāk atbilst jūsu vajadzībām un aparatūrai:
- 1.5 B parametri: Ideāli piemērots pamata datoriem. Šis modelis aizņem aptuveni 1.1 GB.
- 7 B parametri: Ieteicams aprīkojumam ar GPU vidēji augsts. Tas aizņem apmēram 4.7 GB.
- 70 B parametri: Sarežģītiem uzdevumiem ar aprīkojumu ar lieliska jauda atmiņa un jaudīgs GPU.
Lai lejupielādētu standarta 7B modeli, terminālī palaidiet šo komandu:
Olama Run Deepseek-R1
Lejupielādes laiks būs atkarīgs no jūsu interneta ātruma un būs nepieciešams tikai pirmajā tērzēšanas robota palaišanas reizē. Kad modelis būs pabeigts, tas būs gatavs lietošanai no komandrindas vai grafiskā interfeisa.
DeepSeek izmantošana ar grafisko interfeisu
Lai gan jūs varat mijiedarboties ar DeepSeek tieši no termināļa, daudzi lietotāji ērtībai dod priekšroku grafiskajam interfeisam. Šajā gadījumā jūs varat instalēt ChatBoxAI, bezmaksas lietojumprogramma, kas ļaus jums izmantot DeepSeek priekšrocības no vizuālā forma.
- Lejupielādējiet un instalējiet ChatBoxAI no tā oficiālā lapa.
- Iestatiet lietotni lietošanai Ollama kā modeļu piegādātājs:
ChatBoxAI iestatījumos atlasiet “Izmantot manu API” un izvēlieties DeepSeek modeli, kuru iepriekš lejupielādējāt. Ja viss ir pareizi konfigurēts, jūs varēsiet veikt vaicājumus un uzdevumus tieši no grafiskā interfeisa.
DeepSeek integrācija projektos
Ja esat izstrādātājs, varat integrēt DeepSeek savos projektos, izmantojot to API OpenAI saderīgs. Šeit ir vienkāršs lietošanas piemērs Pitons:
importēt openai klientu = openai.Client(base_url="http://localhost:11434/v1", api_key="ollama") atbilde = client.chat.completions.create(model="deepseek-r1", messages=[{ "role": "user", "content": "Ģenerēt kodu Python, lai aprēķinātu Fibonači"}])
Šis skripts nosūtīs vaicājumu vietējam DeepSeek modelim un atgriezīs rezultātu jūsu terminālī vai lietojumprogrammā.
DeepSeek-R1 AI modelis ir lieliska iespēja tiem, kas meklē progresīvs un ekonomisks risinājums. Ar Ollama nodrošināto vieglo piekļuvi, modeļu elastību un spēju integrēties pielāgotos projektos, DeepSeek paver jaunas iespējas izstrādātājiem, studentiem un AI ekspertiem. Tā kā galvenā uzmanība tiek pievērsta privātumam un veiktspējai, tas ir rīks, kuru ir vērts rūpīgi izpētīt.