「DeepSeek-R1-Distill-Qwen-14B/32B」をベースに、日本語を追加学習させたLLM「DeepSeek-R1-Distill-Qwen-14B/32B-Japanese」が公開されているので ThinkPad X1nanoGen3(mem16GB)にインストールしてみた!
インストール自体は難しくないが・・・・データが大きい32Bモデルを起動するとメモリ不足でエラー(泣)
少なめの14Bは辛うじて動いた!!
メモリは最低でも32GBいるなぁ~~
「DeepSeek-R1-Distill-Qwen-14B/32B」をベースに、日本語を追加学習させたLLM「DeepSeek-R1-Distill-Qwen-14B/32B-Japanese」が公開されているので ThinkPad X1nanoGen3(mem16GB)にインストールしてみた!
インストール自体は難しくないが・・・・データが大きい32Bモデルを起動するとメモリ不足でエラー(泣)
少なめの14Bは辛うじて動いた!!
メモリは最低でも32GBいるなぁ~~