Ollama

Ollama は優れたオープンソースツールで、さまざまな大規模言語モデル（LLM）をローカルで簡単に実行・管理できます。Cherry Studio は現在 Ollama 連携をサポートしており、使い慣れたインターフェースで、クラウドサービスに依存せず、ローカルにデプロイした LLM と直接やり取りできます！

Ollama とは？

Ollama は、大規模言語モデル（LLM）のデプロイと利用を सरल化するツールです。以下の特徴があります：

• ローカル実行： モデルは完全にお使いのローカルコンピュータ上で動作し、ネット接続は不要です。プライバシーとデータの安全を守ります。

• 簡単で使いやすい： シンプルなコマンドライン操作で、さまざまな LLM をダウンロード・実行・管理できます。

• 豊富なモデル： Llama 2、Deepseek、Mistral、Gemma など、多くの人気オープンソースモデルをサポートしています。

• クロスプラットフォーム： macOS、Windows、Linux に対応しています。

• オープンAPI：OpenAI互換のインターフェースをサポートしており、他のツールと連携できます。

なぜ Cherry Studio で Ollama を使うのか？

• クラウドサービス不要： クラウドAPIの割り当てや料金に縛られることなく、ローカル LLM の強力な機能を存分に体験できます。

• データプライバシー： すべての会話データはローカルに保存されるため、情報漏えいの心配がありません。

• オフライン利用可能： ネットワーク接続がない場合でも、LLM とのやり取りを続けられます。

• カスタマイズ性： ニーズに応じて、最適な LLM を選択・設定できます。

Cherry Studio で Ollama を設定する

1. Ollama のインストールと実行

まず、お使いのコンピュータに Ollama をインストールして実行する必要があります。以下の手順に従ってください：

• Ollama をダウンロード： Ollama 公式サイト（https://ollama.com/）にアクセスし、お使いのOSに応じたインストーラーをダウンロードします。 Linux では、以下のコマンドで直接 ollama をインストールできます：

  curl -fsSL https://ollama.com/install.sh | sh

• Ollama のインストール： インストーラーの案内に従ってインストールを完了します。

• モデルをダウンロード： ターミナル（またはコマンドプロンプト）を開き、 ollama run コマンドで使用したいモデルをダウンロードします。たとえば、Llama 2 モデルをダウンロードするには、次を実行します：

  ollama run llama3.2

  Ollama は自動的にそのモデルをダウンロードして実行します。

• Ollama を起動したままにする： Cherry Studio で Ollama モデルとやり取りしている間は、Ollama が起動状態のままであることを確認してください。

2. Cherry Studio に Ollama サービスプロバイダーを追加する

次に、Cherry Studio に Ollama をカスタム AI サービスプロバイダーとして追加します：

• 設定を開く： Cherry Studio の左側ナビゲーションバーで、「設定」（歯車アイコン）をクリックします。

• モデルサービスに入る： 設定ページで「モデルサービス」タブを選択します。

• プロバイダーを追加： 一覧から Ollama をクリックします。

3. Ollama サービスプロバイダーを設定する

サービスプロバイダー一覧で、先ほど追加した Ollama を見つけ、詳細設定を行います：

1. 有効状態：

   • Ollama サービスプロバイダーの右端にあるスイッチがオンになっており、有効であることを確認します。

2. API キー：

   • Ollama はデフォルトでAPI キーが 不要です。この欄は空欄のままにするか、任意の内容を入力できます。

3. API アドレス：

   • Ollama が提供するローカル API アドレスを入力します。通常は次のとおりです：

     http://localhost:11434/

     ポートを変更した場合は、ご自身で変更してください。

4. アクティブ保持時間： このオプションはセッションの保持時間を設定するもので、単位は分です。設定時間内に新しい会話がない場合、Cherry Studio は自動的に Ollama との接続を切断し、リソースを解放します。

5. モデル管理：

   • 「+ 追加」ボタンをクリックして、Ollama ですでにダウンロードしたモデル名を手動で追加します。

   • たとえば、すでにollama run llama3.2でllama3.2モデルをダウンロードしている場合、ここにllama3.2

   • 「管理」ボタンをクリックすると、追加済みのモデルを編集または削除できます。

使い始める

以上の設定が完了したら、Cherry Studio のチャット画面で Ollama サービスプロバイダーとダウンロード済みのモデルを選択し、ローカル LLM との対話を始められます！

ヒントと注意

• 初回のモデル実行： あるモデルを初めて実行する際、Ollama はモデルファイルをダウンロードする必要があり、時間がかかる場合があります。しばらくお待ちください。

• 利用可能なモデルを確認： ターミナルで ollama list コマンドを実行すると、ダウンロード済みの Ollama モデル一覧を確認できます。

• ハードウェア要件： 大規模言語モデルの実行には一定の計算資源（CPU、メモリ、GPU）が必要です。お使いのコンピュータの構成がモデルの要件を満たしていることを確認してください。

• Ollama ドキュメント：設定ページのOllama ドキュメントとモデルを表示リンクをクリックすると、Ollama 公式サイトのドキュメントへすぐに移動できます。