BEEP様にて書籍を取り扱いいただきました!
LLM
【2025年版】ローカルPCで話題のDeepSeeK R1をブラウザで使う方法(llama.cppを活用)
今回は、ローカルPCで話題のDeepSeeK R1を活用し、AIチャットをブラウザ上で操作できる環境を構築する方法をご紹介します。現在、AIチャットツールとしてはChatGPTやBirdなどが広く利用されていますが、これらはすべて外部のサーバーを通じて提供されているサービスです。そのため、セキュリティ上の理由から、特に企業や団体内では利用できない場合があります。そこで、今回はローカルPCや自前のサーバー上でAIチャットを実行できるツールを使い、インターネットに依存せずにAIとやり取りができる環境を作り上げる方法を解説します。これにより、セキュリティの懸念を避けながら、自由にAIチャットを活用できるようになります。llama.cppllama.cppは、大規模言語モデル「LLaMA(Large Language Model Meta AI)」を効率的に動作させるソフトウェアですC++で実装されています今回はソースコードがビルドしてみますllama.cppだけでは、動作しません。モデルが必要です。モデルはさまざまな組織から公開されています。モデルにもいろいろ種類があり、llama.cppでは一般的に「gguf」形式を使用します今回は今話題のDeepSeek R1をモデルに使用していますCyberAgentでDeepSeekの日本語チューニングモデルが出ており、
ローカルPCでブラウザで使用できるAIチャットを日本語で動かす(llama.cpp)
今回はローカルPCで、はやりのAIチャットをブラウザで操作できるようにしていこうと思います。AIチャットではChatGPTやBirdなどが有名ですが、すべてサービス提供者のサーバを介していますセキュリティ的な問題で会社内で使用できないこともあると思いますそこで、ローカルPCやサーバでAIチャットができるツールがあるので構築していきます