タグ: ローカルLLM

PrismML Bonsaiとは？1ビット・三値(ternary)量子化でローカルLLMの常識を変えるモデル【2026年】

はじめに「ローカルLLMをMacで動かしたいけど、メモリが足りなくて大きなモデルが動かない…」この悩みを持ったことがある人は少なくないでしょう。実際、私が使っているM4 MacBook Air（24GBメモリ）でも、

「源内（GENAI）は全部AWS依存でしょ？うちの環境じゃムリ…」そう思っている自治体のICT担当者や、セキュリティポリシーが厳しい企業の情シス担当者は少なくありません。結論から言えば、デジタル庁が公開したガバメント

M4 MacでのローカルLLM、結局どれが速いのか「M4 MacでローカルLLMを動かしたい。でも、量子化フォーマットによって速度が全然違うって本当？」私はHermes Agentという自律型AIエージェントをM4

「ローカルLLMを動かしたいけど、NVIDIAのGPUとMacのApple Silicon、どっちを選べばいいの？」そんな悩みをお持ちではありませんか？この記事の結論を先に言います。画像生成（ComfyUI）がメイ

はじめに「AIエージェント」や「AIモデル」といった言葉を最近よく耳にするけれど、その違いを正しく説明できる人は意外と少ないものです。特にこれからのAI活用を考える上で、この違いを理解しているかどうかは非常に重要なポイ