Strata 0.2.17のQwen3.8-Flash-NextをDeepSeek Harnessで使う

Strataを最新の0.2.17に更新して、Qwen3.8-Flash-NextをDeepSeek Harness(dsh)から使ってみたので、やったことを残しておきます。

Strataのインストール方法や、前のバージョンでの速度は以下の記事に書いています。

【Strata 0.2.3】アプリ版とターミナル版を検証|RTX 5060 Ti 16GB・128Kで生成が毎秒74→90トークンに

【Strata 0.2.9】DeepSeek V4.1-FlashのUnsloth版に対応|UD-IQ1_Sの導入方法と使い方をRTX 5060 Tiで解説

環境

パーツ 内容
GPU GeForce RTX 5060 Ti 16GB(ドライバー621.24)
CPU Ryzen 9 9900X
メモリ 64GB
OS Windows 11 Pro
Strata ターミナル版 0.2.17(build 0.1.63)
モデル Qwen3.8-Flash-Next IQ2_XS、コンテキスト128K、KVキャッシュ8-bit、先読みはDFlash2
DeepSeek Harness 0.2.2-rc.5
Node.js 26.13.1

Strataを更新する

まず、何が更新されるかを確認します

strata update --check

自分の環境は0.2.12でした。

エンジンが0.1.58→0.1.63(488MB)、DeepSeek用のエンジンが0.1.58→0.1.59(423MB)、Controlが0.1.58→0.1.63になると表示されました。

Qwen3.8-Flash-Nextを8080番ポートで動かしたままだったので、モデルを止めて更新し、終わったら同じ設定で起動し直すオプションを付けて実行しました。

strata update --yes --stop-model --start-again

新しいエンジンでモデルを読み込み、1トークン答えられるのを確かめてから切り替える流れになっています。

Engine  0.1.58 -> 0.1.63   updated (tested: started, answered one token, stopped)
Dsv41   0.1.58 -> 0.1.59   updated (tested: it starts). Models you start from now on use the new DeepSeek engine. ...
Control 0.1.58 -> 0.1.63   updated. The next `strata` command already runs it; the app switches on its next start
...
qwen3.8-flash-next-iq2_xs (port 8080) is serving again with the same settings.

ダウンロードからモデルの起動し直しまで、3分ほどで終わりました。

strata --version

strata 0.2.17 (build 0.1.63; ...) と表示されれば完了です。

ちなみに前のエンジンは残してあり、strata components rollback で戻せると表示されていました。

DeepSeek Harnessとは?

DeepSeekが公開しているオープンソースのエージェント実行環境で、コマンド名は dsh です。ライセンスはMITです。

モデルにファイルを読み書きさせたり、コマンドを実行させたりする部分(ツール、サンドボックス、セッションの記録など)を受け持つもので、Claude CodeやOpenCodeに近い立ち位置です。

まだdeveloper previewで、GitHubのREADMEには互換性が壊れる変更が入ると書かれています。

DeepSeekのモデル専用ではなく、OpenAI互換のAPIならカスタムのプロバイダーとして追加できます。

Strataとの関係ですが、strata connect の一覧に「deepseek-harness」があります。

strata connect deepseek-harness

strata connect deepseek-harness の実行結果。DeepSeek HarnessはStrataアプリに組み込まれていると表示されている

Strataアプリのエージェントチャットは、中身がDeepSeek Harnessみたいです。

自分のPCに入っているアプリ(0.2.3)のフォルダーを見ると、@deepseek-ai/dsh の0.2.1-alpha.3が入っていました。

今回はアプリではなく、npmで入る単体のdshをターミナルから使い、Strataのサーバーにつないでいます。

インストール

dshはnpmで入りますが、Node.js 24.9以上が必要です。

自分のPCは22.16.0だったので、先にNode.jsを更新しました。wingetにはNode 24単体のパッケージが見つからなかったので、LTS版を入れています。入ったのは26.13.1でした

winget install --id OpenJS.NodeJS.LTS

インストーラーが管理者権限を求めてくるので、確認画面で許可します。

node --version
npm install -g @deepseek-ai/dsh@latest

672個のパッケージが42秒で入りました。

途中で npm warn cleanup とEPERMの警告がたくさん出ましたが、macOS用のパッケージ(dsh-experimental-cua-macos)の後片付けで出ていたもので、インストール自体は成功していました。

dsh --version

0.2.2-rc.5 と表示されました。

Strataにつなぐ

dshはプロファイルごとに設定を持っています。

今回は、1つの依頼を実行して結果を出したら終わる headless プロファイルを使います。一度ヘルプを表示すると、%USERPROFILE%\.dsh\profiles\headless\ にプロファイルのファイルが作られます。

dsh headless --help

この中の cordis.patch.yml に、Strataのサーバーをプロバイダーとして追加します。

最初は [] だけが書かれているので、以下に書き換えます。

- id: llm-pi-ai
  config:
    providers:
      strata:
        displayName: Strata
        apiKeyEnv: STRATA_API_KEY
        api: openai-completions
        baseURL: http://127.0.0.1:8080/v1
        models:
          - id: qwen3.8-flash-next-iq2_xs
            name: Qwen3.8-Flash-Next IQ2_XS
            contextWindow: 131072
            maxTokens: 16384
            input: [text, image]
            reasoningEfforts:
              off: none
              low: low
              medium: medium
              high: high
- id: agent-default-model
  config:
    provider: strata
    model: qwen3.8-flash-next-iq2_xs

baseURL は /v1 まで付けます。

モデルのIDは、Strataが返している名前をそのまま書きます。以下で確認できます

curl.exe http://127.0.0.1:8080/v1/models

"id": "qwen3.8-flash-next-iq2_xs" と、コンテキスト長の "n_ctx": 131072 が返ってきました。

contextWindow はこの値に合わせました。maxTokens は、Strataがほかのアプリ向けに出す設定と同じく、コンテキスト長の1/8(128Kなら16,384)にしています。

agent-default-model は、このモデルを既定にする設定です。書かないと、既定のモデルはDeepSeek公式の deepseek-flash のままです。

reasoningEfforts はStrataの reasoning_effort に合わせて書きましたが、思考の切り替えは今回試していません。

ちなみにdshのドキュメントには、OpenAI互換のサーバーによっては compat の設定(developerロールを使わない、max_tokens を使うなど)が要ると書かれています。

Strataに developer ロールと max_completion_tokens を付けたリクエストを直接送ってみたところ普通に返ってきたので、今回は書いていません。

APIキーのエラー

最初は apiKeyEnv を書かずに実行したら、以下のエラーで止まりました。

dsh: PI_AI_ERROR: No API key for provider: strata

Strataは127.0.0.1だけで待ち受けていてAPIキーなしで使えますが、dsh側はキーがないとリクエストを送ってくれません。

なので apiKeyEnv で環境変数の名前を指定して、そこに適当な文字列を入れます。

$env:STRATA_API_KEY = "strata-local"
$env:DSH_TELEMETRY_MODE = "DISABLED"

strata-local は、Strataがキーのないサーバー向けの設定で使っている仮の値に合わせました。サーバー側でキーを見ていないので、中身は何でも通ると思います。

dshは既定だと、フィードバックを送ったときに会話の記録をOTelで送信します。DSH_TELEMETRY_MODE=DISABLED でこの送信を止められるので、念のため付けています。

使ってみる

質問する

作業用のフォルダーに移動して実行します。

dsh --profile headless "日本で一番高い山は?一文で答えてください。"
日本で一番高い山は富士山(標高3,776メートル)です。

9〜10秒で返ってきました。答えが標準出力に出て、そのまま終了します。

短い質問ですが、dshのシステムプロンプトとツールの定義だけで約6,500トークンあります。新しい会話の最初のリクエストは、これを読むのに4秒前後かかっていました。

スクリプトを書かせる

テスト用に sample フォルダーを作って、txt、md、pngのファイルを5個置きました(サブフォルダーあり)。

これを拡張子ごとに数えるスクリプトを頼みます。

dsh --profile headless --json "sampleフォルダーの中のファイルを拡張子ごとに数えて、件数と合計バイト数を表で出すPythonスクリプト count_ext.py をこのフォルダーに作ってください。サブフォルダーも対象にしてください。作ったら python count_ext.py sample を実行して、結果が正しいか確認してください。"

--json を付けると、ツールの呼び出しなどの途中経過が1行ずつJSONで出てきます。

34秒で終わりました。途中でやっていたことは以下です。

  • 作業フォルダーの確認(working_directory)
  • ファイル一覧の取得(glob)
  • count_ext.py の作成(write)
  • python count_ext.py sample の実行(pwsh)
  • PowerShellで別に集計して、結果と照合(pwsh 2回)

Windowsなので、コマンドはpwshというツールでPowerShellから実行していました。

できたスクリプトを自分でも実行してみます。

python count_ext.py sample
Extension        Count         Bytes
------------------------------------
.md                  1             7
.png                 2          2560
.txt                 2            14
------------------------------------
TOTAL                5          2581

合っています。

質問とスクリプトの実行を続けてやると、こんな感じです。

dsh --profile headless で質問した結果と、python count_ext.py sample の実行結果

途中の説明は「I’ll create the script and verify it.」のように英語でしたが、最後の報告は日本語で、照合結果の表まで付いていました。

続きを頼む

--session-id に前のセッションのIDを渡すと、同じ会話の続きとして頼めます。IDは --json の最初の行に出ています。

dsh --profile headless --json --session-id session-xxxxxxxx "count_ext.py に --sort count オプションを追加して、件数の多い順に並べられるようにしてください。既定は今まで通り拡張子順のままにしてください。追加したら両方のパターンで実行して確認してください。"

57秒で終わりました。argparseで --sort {ext,count} を追加して、両方のパターンで実行しています。

件数が同じ拡張子の並び順も確かめたかったようで、TEMPフォルダーにテスト用のファイルを作って試していました。

1回目はサブフォルダーを作らずにファイルを書こうとして失敗していましたが、次のステップで自分で気づいて作り直しています。テスト用のファイルは、同じコマンドの最後で消していました。

headlessの既定の権限(workspace-write)では、書き込めるのは作業フォルダーとTEMPなどの一時フォルダーだけです。ドキュメントによると、読み込みとネットワークは制限されないので注意してください。

速度

dshに作業させている間のStrataのモニター(strata monitor)です。

dshが作業している間のstrata monitorの画面。生成速度は毎秒98.1トークンで、最近のリクエストに約4万7,000トークンのプロンプトのほとんどが再利用されている様子が表示されている

strata status で、リクエストごとの数字を確認できます。

依頼 かかった時間 ステップ数
富士山の質問 9〜10秒 1
count_ext.py の作成 34秒 7
–sort count の追加 57秒 10

dshは1ステップごとにリクエストを送りますが、前までの会話はStrata側で再利用されていました。

新しく増えた分だけを読むので、2ステップ目以降のプロンプトの読み込みはだいたい0.3〜0.7秒です。

ただ、–sort count の追加では1.3〜4秒かかったステップが4回ありました。一番長かったのは、count_ext.py を読み込んだ直後のステップで約4秒です。

生成速度はステップによって毎秒29〜121トークンとばらつきました。

一番速かったのはスクリプトを書いたステップで、566トークンを毎秒121トークン。遅かったのは最後の日本語の報告(毎秒31〜35トークン)と、テスト用のファイルを作るPowerShellのコマンド(毎秒29トークン)でした。

コメント

タイトルとURLをコピーしました