【最新】日本語対応のローカルLLMおすすめ10選！軽量モデルで徹底比較！

最近では、日本語に特化したローカルLLM（大規模言語モデル）が多数登場し、個人のPC環境でも高性能なAIを活用できるようになりましたね。

本記事では、最新の日本語対応ローカルLLMから自宅パソコンでも動かしやすい軽量モデルを10個厳選し、
それぞれ試してみてNGなところ良いところについて徹底比較します。

日本語対応ローカルLLM　10選

今回ご紹介する日本語対応ローカルLLMは以下の通りです。
国産モデルから、有名どころの日本語チューニングをしたもの、チューニングなしで日本語できるもので、
パラメータは7B～14B付近の軽量モデルを選択しています。

日本語対応ローカルLLMの検証方法

日本語対応ローカルLLMの検証方法ですが、
以下の日本語の文章を150文字で要約させ、その結果から
日本語の解釈可否、指定文字150文字に収まっているか、
登場人物が網羅され、内容を正しく理解しているか
等を評価します。

プロンプト

ローカルLLMを動かすプラットフォーム

ローカルLLMを動かすプラットフォームは
LMStudio
を使用します。

インストール方法など導入手順については以下の記事をご参照ください。

【VBA】ExcelにローカルLLMの回答を出力する方法！DeepSeekもオフラインで！

またLLMを切り替え、プロンプトを出す操作を10回も繰り返すのは面倒なので、
以下VBAをエクセル上に実装し、ワンクリックで10個のLLMの結果をまとめて得るように自動化したいと思います。

VBAサンプルコード

Sub ローカルLLM一斉送信()
    Dim i As Integer
  
    For i = 7 To 7
        質問をローカルLLMへ送る (i)
    Next

End Sub


Sub 質問をローカルLLMへ送る(i As Integer)

    ' JSONパーサーを導入しMicrosoft Scripting Runtimeを参照に追加する必要があります

    Dim objhttp As Object
    Dim strTextToPredict As String
    Dim strRequestBody As String
    Dim strResponse As String
    Dim strModel As String
    Dim strMessages As String
    Dim apiUrl As String
    Dim jsonResponse As Object

    ' モデル名
    strModel = Sheets(1).Cells(i, 1)

    ' 入力セルからテキストを取得し、改行を処理します
    strTextToPredict = Replace(Sheets(1).Range("B1").Text, Chr(10), "\n")

    ' JSON配列メッセージを準備します
    strMessages = "[{""role"": ""user"", ""content"":""" & strTextToPredict & """}]"

    ' APIのURLを設定（ローカル LLM）
    apiUrl = "http://127.0.0.1:1234/v1/chat/completions"

    ' HTTPリクエストオブジェクトを初期化
    Set objhttp = CreateObject("MSXML2.XMLHTTP")
    With objhttp
        .Open "POST", apiUrl, False
        .setRequestHeader "Content-Type", "application/json"
        
        'リクエスト本文
        strRequestBody = "{""model"":""" & strModel & """, ""messages"":" & strMessages & "," _
                        & """temperature"": 0.7, ""max_tokens"": -1, ""stream"": false}"

        .Send strRequestBody

        ' レスポンスが成功したかどうかを確認
        If .Status = 200 Then
            strResponse = .responseText
        Else
            MsgBox "エラー: " & .Status & " - " & .statusText
            Exit Sub
        End If
    End With

    Debug.Print strResponse

    ' JSONレスポンスをパース
    Set jsonResponse = JsonConverter.ParseJson(strResponse)

    ' レスポンスに含まれる配列からメッセージ部分を出力
    If jsonResponse("choices")(1)("message")("role") = "assistant" Then
        Sheets(1).Cells(i, 2) = jsonResponse("choices")(1)("message")("content")
    End If

End Sub

プロンプトの内容をB1セルにいれ、

ローカルLLMモデル名を正確にA列にいれます。

VBAを実行すると、A列のモデル名とプロンプトを読み込み、B列にLLMからの回答を記述するようにします。

必要なPCスペック

上記のLLMモデルは、7B～14Bの軽量モデルのため、比較的低スペックな環境でも動作可能です。
具体的には、以下のスペックが推奨されます。

GPUは必須？

CPUでも動作は可能ですが、非常に処理が遅くなるため、NVIDIA製のGPU（VRAM 12GB以上）の搭載を推奨します。

例えば、タカヒロの環境では、

• CPU: Intel Core i7
• メモリ: 32GB
• ストレージ: 1.5TB
• GPU: ラップトップ版 RTX 3060（6GB VRAM）

という構成になっています。
このスペックでも動作は可能ですが、
より快適な環境を求める場合は高性能なGPUを搭載したPCを選ぶのが理想です。

タカヒロ

ラップトップ版 RTX 3060（6GB VRAM）でそこそこ動きますが、14Bあたりを動かすときは12GB以上のVRAMは欲しい感じです。

おすすめのPC選び

• スペックが良いほど最適で長期間快適に使えるため、可能な限り上位モデルを選ぶのがベストです。
• 特にRTXシリーズのGPUは必須レベルで、VRAM 12GB以上のモデルが望ましいです。
• これらの条件を満たすPCは、一般的なビジネス向けノートPCではほぼ見つからず、ゲーミングPCのカテゴリで探す必要があります。

以下、AmazonのおすすめゲーミングPCリストをご紹介しますので、
気になる方はチェックしてみてください。

・amazon RTX ノートパソコンで検索
・amazon ゲーミングPCで検索

※商品プロモーションを含みます。

日本語対応ローカルLLMの検証結果

日本語対応ローカルLLMの検証結果は以下の通りです。

1.ELYZA-japanese-Llama-2-7b-instruct

ELYZA-japanese-Llama-2-7b-instructの評価は以下のとおりです。

• 指定された文字数を上回る出力となりました。

• 登場人物の一部が抜け落ちていました。

• 内容は理解している様子が見られました。

• 文章内に「ですます調」と「である調」が混在していました。

評価

回答結果

2.Llama-3-ELYZA-JP-8B

Llama-3-ELYZA-JP-8Bの評価は以下のとおりです。

• 指定された文字数を上回る出力となりました。

• 登場人物が一部欠落していました。

• 内容はおおむね理解しているものの、証言者の話が抜けていました。

• 文章は「ですます調」で統一されていました。

評価

回答結果

3.Llama-3.1-Swallow-8B-Instruct-v0.3

Llama-3.1-Swallow-8B-Instruct-v0.3の評価は以下のとおりです。

• 指定された文字数を上回る出力となりました。

• 登場人物が一部欠落していました。

• 内容は理解しているものの、証言者の話が抜けていました。

• 文章は「ですます調」で統一されていました。

評価

回答結果

4.Qwen2.5-7B-Instruct

Qwen2.5-7B-Instructの評価は以下のとおりです。

• 指定された文字数を上回る結果となりましたが、比較的近い文字数で出力されました。

• 登場人物が一部欠落していました。

• 内容は理解している様子が見られました。

• 文章には「ですます調」と「である調」が混在していました。

評価

回答結果

5.Tanuki-8B-dpo-v1.0

Tanuki-8B-dpo-v1.0の評価は以下のとおりです。

• 指定された文字数を上回る結果となりましたが、比較的近い文字数で出力されました。

• 登場人物が一部欠落していました。

• 内容はおおむね理解している様子が見られました。

• 日本語の表現にやや違和感がありました。

評価

回答結果

6.RakutenAI-7B-Instruct

RakutenAI-7B-Instructの評価は以下のとおりです。

• 指定された文字数を上回る結果となりました。

• 登場人物はすべて網羅されていました。

• 内容は十分に理解している様子が見られました。

• 日本語としてわかりやすく、丁寧な文章で構成されていました。

タカヒロ

軽量モデルで日本語の理解、表現がよく、実務で使えそうなのは、
この楽天製LLMが一番良いかと思いました。

評価

回答結果

7.Mistral-7B-Instruct-v0.3

Mistral-7B-Instruct-v0.3の評価は以下のとおりです。

• 指定された文字数を上回る結果となりました。

• 登場人物が一部欠落していました。

• 内容は理解している様子が見られました。

• 日本語表現にやや不自然な箇所がありました。

評価

回答結果

8.plamo-13b

plamo-13bの評価は以下のとおりです。

• 指定された文字数を上回る結果となりました。

• 内容を理解しているかどうかは判断が難しい結果となりました。

タカヒロ

plamo-13bの日本語の解釈は何回か試しましたが、イマイチでした。
日本語チューニングされたものがあれば試してみる価値はありかと思います。

評価

回答結果

9.Stockmark-13b

Stockmark-13bの評価は以下のとおりです。

• 出力は指定された文字数以内でしたが、やや少なすぎる印象でした。

• 登場人物が欠落していました。

• 内容は理解している様子が見られました。

タカヒロ

結論付けることを優先して出してしまっている感じがします。
LLMモデルの癖は強めかなと思います。

評価

回答結果

10.cyberagent-DeepSeek-R1-Distill-Qwen-14B-Japanese

cyberagent-DeepSeek-R1-Distill-Qwen-14B-Japaneseの評価は以下のとおりです。

• 出力は指定された文字数以内に収まっていました。

• 登場人物はすべて網羅されていました。

• 内容はしっかりと理解している様子が見られました。

• 文章は端的にまとめられており、非常に理解しやすい内容でした。

タカヒロ

考察の過程が丁寧に行われている様子が見受けられ、出力結果も非常にしっかりしており、クオリティの高い実用的なモデルだと感じました。
ただし、回答までに要する処理時間は今回の中で最も長くなりましたが、これはタカヒロの環境に起因するもので、
高性能なGPUを搭載したPC環境であれば、このモデルを採用することがよいかもしれません。

評価

回答結果

さいごに

いかがでしょうか。

今回は、

についてまとめました。

まだ、ローカルLLM関連の記事はありますので、よろしければご参照ください。