【v1.0】ローカルLLM・GPU推論 コストゼロ化&VRAM最適化キット(CLI+雛形+PDF)
- ダウンロード商品¥ 980
クラウドLLM APIの従量課金暴走を止め、定型推論90%をローカルLLM(¥0)へオフロードするための実機検証済みフルスイート(全11ファイル・Python 3.11+ 標準ライブラリのみ・外部依存ゼロ)です。 解凍直後から pip install 不要で動作し、個人開発・社内システムへそのまま商用組込(MIT License)できます。 ■ 収録内容(ZIP形式 / 単体テスト 8/8 PASS 検証済) 1. llm_kit.py — 4機能統合CLI(vram-plan / breakeven / bench / route) 2. modules/vram_calculator.py — FP16〜Q3_K_M量子化・GQA KVキャッシュ・統合メモリ(Apple Silicon / Strix Halo等)のVRAMヘッドルーム精密算出&OOM事前遮断 3. modules/finops_breakeven.py — クラウドAPI従量課金 vs ローカルGPU/統合メモリの正確な回収月数・12ヶ月/24ヶ月純削減額試算 4. modules/local_benchmark.py — Ollama / llama.cpp / vLLM(OpenAI互換API)のP50/P95遅延・tok/s自動計測(--mock自己検証付) 5. modules/hybrid_router.py — 既定ローカル¥0実行+明示オプトイン&残予算ガード付き Fail-Closed ハイブリッドルーター 6. templates/systemd-local-llm.service — Flash Attention・KV Q8_0・MemoryMax・OOMScoreAdjust 入り本番systemdユニット雛形 7. templates/docker-compose.local-llm.yml — ヘルスチェック・メモリ上限付き Docker Compose 雛形 8. docs/LOCAL_LLM_GPU_OPTIMIZATION_GUIDE_v1.pdf — A4 2ページ実践運用ガイドPDF 9. tests/test_local_llm_kit.py — 単体テスト 8/8 PASS 10. README.md / LICENSE_MIT.txt ■ 関連ツール・シリーズ商品 ・無料AIエージェント30秒ライブ監査ツール(ブラウザ完結・登録不要): https://www.akashiczero.com/audit.html ・【v2.0】AIエージェント Fail-Closed 防御コード全集(¥500): https://akashiczero.booth.pm/items/9182761 ■ 動作環境・ライセンス ・Python 3.11 以上(Linux / macOS / Windows、標準ライブラリのみ) ・MIT License(個人・社内商用組込・改変OK)



