Qwenとは Alibaba系が開発するLLM。ChatGPTと違い、モデルを自分のPCにダウンロードして完全ローカルで動かせる(ネット不要)。
| Qwen3.5 | LM Studio上の容量目安 | 公式の最低メモリ目安 | 現実的におすすめのPCメモリ | 性能感 | 向いている用途 |
|---|---|---|---|---|---|
| 2B | 約2GB | 2GB | 8GB以上 | ★★ | 軽い要約、分類、簡単な文章 |
| 4B | 約3.75GB | 4GB | 8〜16GB | ★★★ | 日常会話、要約、文章作成 |
| 9B | 約6〜7GB | 7GB | 16GB以上 | ★★★★ | 本格的な文章、RAG、コード、画像理解 |
| 27B | 約17GB | 17GB | 32GB以上推奨 | ★★★★★ | 高度な推論、複雑な文章、コード |
| 35B-A3B | 約21GB | 最大21GB級 | 32〜64GB推奨 | ★★★★★ | 高性能を狙う本格ローカル運用 |
導入手順 LM Studioインストール → Models検索 → Qwen3.5 9B選択 → MLX・4bit版DL → Load → Chatで質問。Python/ターミナル不要。
得意なこと 文章作成・要約・翻訳・箇条書き・表整理・手順書/FAQ作成・コード生成/修正・JSON/Markdown生成・PDFや画像の読解など。
ローカルLLMが向いている理由 最大の利点は「データを外部に送らなくてよい」こと。社内資料・顧客情報・製造手順・図面・議事録などをMac内だけで処理可能。特に手順書作成、社内FAQ(RAG併用)、技術資料整理、ノウハウの知識継承と相性が良い。
苦手なこと
- Web検索不可
- URLを直接読めない
- 知識は導入時点で固定(最新情報に弱い)
- 巨大クラウドAI(ChatGPT/Claude/Geminiの上位モデル)ほどの推論力はない
Thinkモードの使い分け 普段はOFF(文章作成・要約・翻訳・普通の質問)。複雑な分析・推論・設計・コード検討の時だけON。
RAG vs ファインチューニング
- RAG:社内資料を検索してQwenに渡す仕組み(社内資料を覚えさせたいならまずこちら)
- Fine-tuning:AI自体の回答傾向を教育する仕組み(最後の手段)
推奨順序:①素のQwen → ②プロンプト工夫 → ③RAG追加 → ④それでも足りなければFine-tuning
QwenとGemma / LM StudioとOllama
- Qwen=主力候補(日本語・多言語・コーディング・RAG・Tool Use・構造化出力に強い)、Gemma=比較対象(画像理解に強み)
- LM Studio=人間が直接使うGUI向け、Ollama=自作アプリの裏側で動かす用途向け。最初はLM Studioで十分
全体像 ローカルLLM(社内・機密情報、PDF、手順書、RAG)とクラウドAI(Web検索、最新情報、高度な調査)を使い分けるのが合理的。将来的にはTool/MCP経由でWeb検索やDB連携も追加可能。
核心メッセージ Qwen導入の価値は「無料のChatGPT代替」ではなく、社内データを外に出さずに使える自社専用AIエンジンを持てること。今回の環境構築は、その土台が整った段階。
