Ollama

Ollamaは、対応するAIモデルを実行・管理するためのデスクトップチャットアプリ、コマンドラインツール、ローカルAPIを提供します。開発者やローカルAIを試したい人は、チャット、モデルを活用したアプリの試作、対応するコーディングツールとの接続に利用できます。このcaskはOllama.appと同梱のollama実行ファイルをインストールします。バイナリのみの別配布版ではありません。

機能

• デスクトップアプリまたはコマンドラインから、対応モデルとチャットできます。
• Ollamaライブラリからモデルのバリエーションをダウンロード、一覧表示、実行、管理できます。
• 各モデルの機能に応じて、対応するビジョン、埋め込み、ツール呼び出し、判断モデルを使用できます。
• ローカルREST APIと公式Python/JavaScriptライブラリを通じてアプリを統合できます。
• Modelfileを使ってモデル設定を作成し、対応するモデル形式をインポートできます。
• ドキュメントに記載された起動連携を通じて、対応する外部コーディングエージェントに接続できます。これらのエージェントは別製品です。

インストールと初回利用

brew install --cask ollama-appをインストールするか、公式macOSパッケージをダウンロードしてOllama.appをApplicationsに配置します。アプリを起動し、適切なモデルを選択してプロンプトを送信します。caskは、同梱のollamaコマンドをHomebrewのbinディレクトリにリンクします。単体アプリは、リンクがない場合、/usr/local/binにCLIリンクを作成するよう提案することがあります。CLIユーザーはollamaを実行してモデルまたは連携機能を選択するか、特定のモデルにはollama run <model>を実行できます。初回のモデルダウンロードにはネットワーク接続と追加のディスク容量が必要です。PythonおよびJavaScriptライブラリは任意の連携機能であり、パッケージ版Macアプリの起動には必要ありません。

システム要件とハードウェア

公式Macドキュメントと現在のcaskではmacOS Sonoma14以降が必要です。Apple Mシリーズ搭載MacはCPUおよびGPU実行に対応し、x86 Intel Macは公式Mac要件に従いCPUで実行します。バージョン0.40.0は、そのランタイムが対応するモデルアーキテクチャで、Apple Silicon上のMLXを自動的に使用します。すべてのモデルがMLXで動作するという意味ではありません。性能、メモリ、利用可能なアクセラレーションは、モデルサイズ、コンテキスト長、ハードウェアによって異なります。すべてのモデルに共通するRAMの最低要件は確認されていません。モデルファイルの容量は数十から数百GBになることがあります。アプリのアーカイブは206,260,689バイトで、ダウンロードしたモデルやインストール後の使用容量とは別です。

プラットフォーム、依存関係、競合

Ollamaは公式のmacOS、Windows、Linux向けインストール方法と公式Dockerイメージを提供しています。このcaskはmacOSデスクトップパッケージです。LinuxまたはWindowsのインストール方法やGPU要件は異なります。プロジェクトが掲載するサードパーティのモバイルクライアントは連携機能であり、このアプリの公式モバイル版ではありません。caskには追加のformula依存関係はなく、ollama-binaryとの競合が明記されています。別途インストールしたHomebrew formula、手動でインストールした実行ファイル、または実行中の別サーバーも、PATHやローカルサービスのポートと競合する場合があります。サーバーを重複して起動するのではなく、選択したインストールを確認してください。APIは通常localhost:11434を使用します。ローカル連携機能を使うには、サーバーが起動しており、要求された処理に対応するモデルが必要です。

モデル、プライバシー、クリーンアップ

ローカルでのモデル実行と任意のクラウド実行は異なるワークフローです。クラウドモデルを選択するとネットワーク接続と、該当するアカウントおよびサービスの規約が必要です。クライアントがローカルにインストールされているからといって、すべてのプロンプトがデバイス内にとどまるとは限りません。ダウンロードしたモデルにはそれぞれ独自のライセンスと利用条件があり、Ollamaのソフトウェアライセンスとは別です。必要なファイルがそろっていれば、使用する機能の条件に応じて、再ダウンロードせずにローカルモデルを使い続けられます。任意のHomebrew zapは、モデルと設定を含む~/.ollamaに加え、アプリのサポートデータ、環境設定、キャッシュを削除します。必要なデータは事前に保存してください。モデルを削除すると、大容量の再ダウンロードが必要になる場合があります。

アカウント、費用、ライセンス

OllamaのソースソフトウェアはMITライセンスです。ローカル実行に有料のOllamaサブスクリプションは必要ありませんが、利用者自身の計算資源と、別途ライセンスされたモデルを使用します。任意のクラウドモデルやサービスでは、それぞれのサインインが必要で、プランや使用量の上限が適用される場合があります。利用資格と料金は、最新の公式クラウドドキュメントを確認してください。統合されたエージェントやサードパーティプロバイダーには、それぞれ独自の料金とアカウントがあります。インストールしても、ライブラリ内のすべてのモデルを無制限に利用する権利が付与されるわけではありません。

公式リファレンス

• Macのインストールと要件
• 公式ソースと連携機能
• デスクトップアプリの発表
• クラウドモデル
• モデルライブラリ
• MITライセンス
• 公式リリース