#fastapi — 1 posts

1-bit LLM「Bonsai-8B」をMacでローカル実行する — セットアップからチャットUI構築まで

Apr 5, 2026

1.28GBで8Bパラメータ。1-bit LLM Bonsai-8BをApple Silicon Mac (M3) でMLX実行し、Svelte + FastAPIでチャットUIを構築するまでの全過程。