Ollama for Mac - Download

Ero stanco di raggiungere limiti di velocità sull'API di OpenAI mentre scrivevo codice a tarda notte e ogni volta che provavo a riassumere un lungo documento, il mio browser si bloccava. È stato allora che ho trovato Ollama per Mac - Download per Mac. Si scopre che puoi effettivamente eseguire LLM decenti direttamente sul tuo laptop senza inviare nulla al cloud. All'inizio ero scettico: come poteva qualcosa di gratuito fare quello che fanno gli strumenti a pagamento? Ma dopo aver installato un modello come llama3, ho semplicemente digitato un messaggio e ho ricevuto una risposta in meno di un secondo. Nessuna attesa. Nessuna fuga di dati.

La roba buona

L'esecuzione dei modelli localmente rappresenta una svolta per la privacy. Non devo preoccuparmi del mio codice o delle note private che fluttuano nel server di qualcun altro. E la riga di comando è sorprendentemente semplice: una volta presa la mano, passare da un modello all'altro è solo una riga. Ho eseguito mistral-small e poi sono passato a phi3 con zero attriti. L'app GUI (che hanno aggiunto di recente) è ancora semplice ma molto migliore della pura CLI se non ti piace il lavoro da terminale. L'ho già collegato a uno script Python che genera automaticamente casi di test e funziona e basta. Nessuna chiave API, nessuna fattura. È anche open source, quindi puoi sbirciare sotto il cofano se sei curioso. Per uno strumento gratuito, questo livello di controllo sembra raro.

Il non così buono

Non è perfetto. Su macOS Big Sur, ho avuto uno strano arresto anomalo durante il caricamento di un modello di grandi dimensioni: niente di troppo grave, ma abbastanza da farmi riavviare l'app. Inoltre, la documentazione non è particolarmente adatta ai principianti. Se non hai mai utilizzato una CLI prima, potresti scontrarti con un muro cercando di installare un modello. E sì, la GUI è ancora piuttosto scarna. Nessuna cronologia chat fantasiosa, nessun tema, niente di appariscente. Fondamentalmente stai utilizzando un terminale con alcuni pulsanti extra. Inoltre, non è progettato per il multitasking intenso: eseguire più modelli contemporaneamente? Non realmente supportato. Quindi, se stai realizzando un'automazione complessa o hai bisogno di funzionalità avanzate, probabilmente vorrai aggiungere qualcos'altro.

In conclusione

Se sei uno sviluppatore o un hobbista che desidera l'intelligenza artificiale locale senza pagare un centesimo, vale assolutamente la pena provare Ollama per Mac - Download per Mac. Non è per tutti, soprattutto se desideri un'interfaccia raffinata e cliccabile, ma per coloro che hanno a cuore la privacy e non si preoccupano di un po' di lavoro sul terminale, è una solida opzione gratuita. Provatelo. Non vincerà alcun premio di design, ma porterà a termine il lavoro.