Tech for Fun

IMMICH: 手动下载AI大模型并放置在正确位置

immich是个人自托管云相册,有跨平台的APP可以用。

此文章的immich相册基于v1.126.1,人脸识别和smart search等基于AI Machine Learning的功能出错。

查看日志发现是后台不能下载大模型。

sudo docker logs immich_machine_learning

immich是docker,运行在PVE里的ubuntu server。直通了RTX4060Ti 16GB.

前期给ChatGPT误导了太多东西。走了不少弯路。且谷歌也比较难找到同一版本的教程。这里记录一下。

翻看日志可以看到下载两个模型不能成功,一个是buffalo_l, 一个是ViT-B-32__openai.

原因是我这里的网络不能直接访问huggingface.io

解决方案是从电脑上科学下载这两个大模型,然后上传到docker里。

安装git lfs。我的是Mac,用的是brew

brew install git-lfs 
git clone https://huggingface.co/immich-app/buffalo_l
git clone https://huggingface.co/immich-app/ViT-B-32__openai
cd buffalo_l  (一会再ViT-B-32__openai)
git lfs install
git lfs pull

下载完成在用户目录,可以看到这两个文件夹。

scp上传到ubuntu-server上。

然后创建docker里的目录:

sudo docker exec -it immich_machine_learning /bin/bash
mkdir -p /cache/clip
mkdir -p /cache/facial-recognition
exit

回到ubuntu-server的终端:

docker cp ViT-B-32__openai immich_machine_learning:/cache/clip/
docker cp buffalo_l immich_machine_learning:/cache/facial-recognition/
docker exec immich_machine_learning chmod -R 777 /cache
sudo docker restart immich_machine_learning

最后在网页上再点击face detection 和facial recognition。

ubuntu-server终端用nvidia-smi可以看到显卡已经在做运算了。

ChatGPT的坑:

1, 前期一直和我说n卡独显可以加快几万张照片的缩略图生成。后来发现缩略图生成只能由CPU完成。

2, ChatGPT说的手动下载大模型然后上传上云的位置一直是错的。后来在谷歌找了很久才找到一个对的。

George

Geek for fun.

https://jimy.fun

Leave a Reply

Your email address will not be published. Required fields are marked *

Back To Top