QwenをローカルLLMとして始めるガイド:覚書

ブログ

Qwen(クウェン)**は、Alibaba Cloud が開発している生成AIモデル群です。クラウドで使うAIとしても、PCやスマホでローカル実行するAIとしても触りやすいのが特徴。

  • Qwenは小さいモデルから始めるのが分かりやすい
  • iPhoneかMacがあれば、ほぼ0円〜800円で試せる
  • 小さいモデルの目安
    • 0.8B:まず動かしてみる用
    • 2B:軽くて入口向き
    • 4B:実用感が出やすい
    • 9B:強いが少し重い
  • できること
    • 短文の作成
    • 要約
    • 言い換え
    • 翻訳
    • メモ整理
    • 簡単な質問応答
  • 向いている始め方
    • iPhone + 無料アプリ:0円で体験しやすい
    • iPhone + 買い切りアプリ:800円前後で少し快適
    • Mac + Ollama:いちばん現実的でおすすめ
  • 圏外でも使える?
    • 使えることが多い
    • 先にモデルをダウンロードしておけば、その後はオフライン利用が可能な場合がある
    • 移動中や電波の弱い場所でも使いやすい
  • おすすめの選び方
    • 無料で試したい → iPhone + 無料アプリ
    • ちゃんと触りたい → Mac + Ollama + 2B / 4B
    • iPhoneだけで完結したい → 買い切りアプリ
  • 迷ったらこれ
    • Macあり → まず 2B
    • もっと使えそうなら4B
    • iPhoneだけ → 無料アプリで小型モデルから
  • ひとことで言うと
    • Qwenの小さいモデルは、安く始められて、手元で動いて、オフライン運用もしやすい
岡山のホームページ作成