ローカルLLM

スポンサーリンク
対あり技術部(技術系)

Clef + Ollamaでローカル「判断AI」を動かす完全ガイド|文章を生成しない決定モデルの仕組みと活用例

Cloudflareのオープンウェイトモデル「Clef」の仕組みと、Ollamaを使ってローカル環境で動かす手順を解説します。文章を生成せず確率で答えを返す決定モデルの特徴や、チケットの自動振り分けなどの活用例が分かります。
対あり技術部(技術系)

Qwen3.8-Flash-Next(検閲なし)をllama.cppでローカル実行する

Qwen3.8-Flash-Nextの検閲なし版モデルをllama.cppでローカル実行する手順を解説します。GGUFファイルのダウンロードからllama-cliでの起動、思考過程の制御やAPIサーバー化までの設定方法をまとめました。
対あり技術部(技術系)

【GPU不要】Qwen3.8-Flash-NextをDDR4メモリだけで動かす

2026年8月26日、AlibabaのQwenチームが「Qwen3.8-Flash-Next」のオープンウェイトを公開しました。次期Qwen4ファミリーで使われる新アーキテクチャの先行公開版という位置づけで、総パラメータ125B(アクティブ...
対あり技術部(技術系)

Muse Glimmer 30b+ Ollama でローカルAIを動かす完全ガイド

2026年8月10日、Meta から新しいオープンウェイトモデル「Muse Glimmer」がリリースされました。Llama シリーズ以来となる Apache 2.0 ライセンスでの公開であり、30B というミッドサイズながらエージェントタ...
Blog

OllamaのGemma 4で画像OCRが途中までしか読めない問題と、その原因

はじめに手元の環境でOllama + Gemma 4を使い、画像から文字を抜き出す処理を試していた。短いテキストなら問題なく読めるのに、込み入った画像や細かい文字が多い画像になると、出力が途中で欠けたり、文字の一部を取りこぼしたりする。最初...
対あり技術部(技術系)

Qwen3.6-35B-A3B + Ollama でローカルAIを動かす完全ガイド

Qwen3.6の概要Qwen3.6は、Alibaba CloudのQwenチームが2026年4月にリリースした最新の大規模言語モデル(LLM)シリーズです。Qwen3.5シリーズの好評を受けて、コミュニティからのフィードバックを基に開発され...
Blog

Gemma 4 + Ollama でローカルAIを動かす完全ガイド

はじめにGoogle DeepMindが公開したGemma 4は、Gemini 3の研究と技術を基に構築された最先端のオープンモデルです。この記事では、ローカル環境で簡単にLLMを実行できるOllamaを使って、Gemma 4を導入する方法...
Blog

Qwen3.5(検閲なし)+ Ollama でローカルAIを動かす完全ガイド

通常のQwen3.5はこちら本記事では、HauhauCS が公開している検閲なし(Uncensored)の大規模言語モデル Qwen3.5-9B-Uncensored-HauhauCS-Aggressive を、Ollama を使ってローカ...
Windows使い方

OpenAIのローカルで動作するオープンモデル公開!gpt-ossをWindowsで動かそう!

OpenAIのローカルモデルの公開AIチャットサービス「ChatGPT」で知られるOpenAI社から、ローカル環境で動作するオープンモデルが公開されました。これらのモデルは、インターネット接続がなくても利用できます。チャットの履歴がサーバーに送信されないため、より安全な環境で利用できるほか、独自のサービス構築にも役立ちます。公開モデル公開されたモデルは、以下の2種類です。gpt-oss-120bgpt-oss-20bモデル名の「120b」や「20b」は、モデルの性能を左右するパラメーターの合計数を表します。この数字が大きいほど性能が高くなりますが、その分モデルの容量も大きくなります。Ollamaこれらのモデルを利用するには、「Ollama」と呼ばれるソフトウェアが必要です。 Ollamaは、オープンモデルをローカルで簡単に実行できるようにするツールで、コマンドラインやWebインターフェースを通じてモデルを管理・操作できます。
対あり技術部(技術系)

【2025年版】ローカルPCで話題のDeepSeeK R1をブラウザで使う方法(llama.cppを活用)

今回は、ローカルPCで話題のDeepSeeK R1を活用し、AIチャットをブラウザ上で操作できる環境を構築する方法をご紹介します。現在、AIチャットツールとしてはChatGPTやBirdなどが広く利用されていますが、これらはすべて外部のサーバーを通じて提供されているサービスです。そのため、セキュリティ上の理由から、特に企業や団体内では利用できない場合があります。そこで、今回はローカルPCや自前のサーバー上でAIチャットを実行できるツールを使い、インターネットに依存せずにAIとやり取りができる環境を作り上げる方法を解説します。これにより、セキュリティの懸念を避けながら、自由にAIチャットを活用できるようになります。llama.cppllama.cppは、大規模言語モデル「LLaMA(Large Language Model Meta AI)」を効率的に動作させるソフトウェアですC++で実装されています今回はソースコードがビルドしてみますllama.cppだけでは、動作しません。モデルが必要です。モデルはさまざまな組織から公開されています。モデルにもいろいろ種類があり、llama.cppでは一般的に「gguf」形式を使用します今回は今話題のDeepSeek R1をモデルに使用していますCyberAgentでDeepSeekの日本語チューニングモデルが出ており、
スポンサーリンク