如何刪除hugging face dowloaded的llm model？

在現(xiàn)在需要使用llm進(jìn)行research的情況下，經(jīng)常會出現(xiàn)，由于下載模型太多，導(dǎo)致內(nèi)存問題，然后需要刪除某些不用的模型的情況，那么如何找到hugging face的模型保存位置呢？

很簡單，由于大多數(shù)人的hugging face都是自動托管的，因此 他的模型會被自動保存在cache里，我們可以找到對應(yīng)的cache文件， 然后進(jìn)行刪除即可：

默認(rèn)位置：

~/.cache/huggingface/hub

cd進(jìn)去之后，可以查看所有保存的models：

你也可以查看某一個文件占用了多少內(nèi)存空間：
du -sh + folder name 即可

然后刪除不需要的地方即可：

rm -rf ~/.cache/huggingface/hub/models--meta-llama--Meta-Llama-3-8B-Instruct

如何查找一個，進(jìn)程？根據(jù)他的名字：

ps aux | grep name of it