対あり技術部(技術系) 
Blog 
対あり技術部(技術系) 
Blog 
対あり技術部(技術系) 
Blog 
Blog 
Blog 
Blog 
Blog 
Blog 
Blog 
AIチャットサービス「ChatGPT」で知られるOpenAI社から、ローカル環境で動作するオープンモデルが公開されました。
これらのモデルは、インターネット接続がなくても利用することができます。チャットの履歴がサーバーに送信されないため、より安全な環境で利用できるほか、独自のサービス構築にも役立ちます。
公開されたモデルは、以下の2種類です。
モデル名の「120b」や「20b」は、モデルの性能を左右するパラメーターの合計数を表します。この数字が大きいほど性能が高くなりますが、その分モデルの容量も大きくなります。
これらのモデルを利用するには、「Ollama」と呼ばれるソフトウェアが必要です。
Ollamaは、オープンモデルをローカルで簡単に実行できるようにするツールで、コマンドラインやWebインターフェースを通じてモデルを管理・操作できます。
メモリは12GB以上必要です
以下のURLをクリックして「Download」ボタンをクリックします
「Download for Windows」をクリックします
ダウンロードしたら「OllamaSetup.exe」をクリックして起動します
「Install」をクリックします
インストールしたらチャット風の画面が表示されます
赤枠の部分が「gpt-oss:20b」になっていることを確認します
「Send a message」のところにAIに聞きたいことを記入しましょう！
文字を入力したら「↑」ボタンを押して送信します
初回は、「gpt-oss:20b」のモデルダウンロードから始まります。12.8GBあるので、かなり時間がかかると思います。しばらくお待ちください。
このように回答が返ってきたら成功です！
チャット画面を閉じてしまったときに再び開く方法についてですが、
Windowsの右下にある「△」をクリックして羊のアイコンをクリックするとメニューが出るので、
「Open Ollama」をクリックすると再びチャット画面を出すことができます。
コメント