OpenAIのローカルモデルの公開
AIチャットサービス「ChatGPT」で知られるOpenAI社から、ローカル環境で動作するオープンモデルが公開されました。
これらのモデルは、インターネット接続がなくても利用できます。チャットの履歴がサーバーに送信されないため、より安全な環境で利用できるほか、独自のサービス構築にも役立ちます。
公開モデル
公開されたモデルは、以下の2種類です。
- gpt-oss-120b
- gpt-oss-20b
モデル名の「120b」や「20b」は、モデルの性能を左右するパラメーターの合計数を表します。この数字が大きいほど性能が高くなりますが、その分モデルの容量も大きくなります。
Ollama
これらのモデルを利用するには、「Ollama」と呼ばれるソフトウェアが必要です。
Ollamaは、オープンモデルをローカルで簡単に実行できるようにするツールで、コマンドラインやWebインターフェースを通じてモデルを管理・操作できます。
メモリは12GB以上必要です
インストールの動画
インストール
以下のURLをクリックして「Download」ボタンをクリックします
「Download for Windows」をクリックします
ダウンロードしたら「OllamaSetup.exe」をクリックして起動します
「Install」をクリックします
インストールしたらチャット風の画面が表示されます
赤枠の部分が「gpt-oss:20b」になっていることを確認します
「Send a message」のところにAIに聞きたいことを記入しましょう！
文字を入力したら「↑」ボタンを押して送信します
初回は、「gpt-oss:20b」のモデルダウンロードから始まります。12.8GBあるのでかなり時間がかかると思います。しばらく待ちましょう
このように回答が返ってきたら成功です！
画面の出し方
チャット画面を閉じてしまったときに再び開く方法についてですが、
Windowsの右下にある「△」をクリックして羊のアイコンをクリックするとメニューが出るので、
「Open Ollama」をクリックすると再びチャット画面をだすことができます
コメント