コンテンツにスキップ

kobyn's articles

Apple Vision Pro入手への道のり

ようやく日本でもApple Vision Proが発売されました。 が、初物の製品のため入手するまでにいくつかつまずきポイントがあったので、それらをまとめました。 なお、この記事時点での情報なので、今後状況が変わる可能性があります。

LLMのGPUメモリサイズ

LLMで推論時に一度に乗るメモリのサイズについてのメモ。

量子化すると小規模〜中規模のモデルであればMシリーズのMac上でも十分に動作する。