はじめにCaratの脇山です。最近、モデルサイズが比較的小さく精度も高いオープンLLMモデルがどんどん登場しています。私は時々70Bのモデルを自分のPCで動かしています。しかし、70BサイズのモデルをPCで動かそうとすると発熱や生成速度が遅…
公開日: 2025年2月27日
この記事は note で公開された記事です。
はじめにCaratの脇山です。最近、モデルサイズが比較的小さく精度も高いオープンLLMモデルがどんどん登場しています。私は時々70Bのモデルを自分のPCで動かしています。しかし、70BサイズのモデルをPCで動かそうとすると発熱や生成速度が遅…
公開日: 2025年2月27日
この記事は note で公開された記事です。
No comments yet