原先immich一直部署在群晖上,618首发入了绿联DXP4800Plus后,一直在动脑筋怎么发挥它的硬件长处,就想到immich的视觉机器学习。
immich是一款自托管的相册服务器,其中用于机器学习的容器是immich-machine-learning,默认安装的是不带硬件加速的。实际上支持3种硬件加速,分别是ARM Mali、Nvidia CUDA、intel OpenVINO。拉取的时候在tag后面加上对应的名称,比如docker pull ghcr.io/immich-app/immich-machine-learning:v1.106.4-openvino。
immich建议用固定版本号,部署则建议去官网下载yml和.env,因为更新实在频繁,一会换数据库版本,一会换数据库位置,一会又合并容器,网上找攻略照搬他人的yaml文件容易踩坑。
4个实验组,绿联和群晖都分别安装硬件加速版和普通版的机器学习容器。
省流直接看结果:绿联的奔腾8505支持openvino,GPU可以参与CLIP及人脸,但不知道是否驱动的关系,GPU作用不大,主力还是CPU。群晖的J4125看起来并不支持openvino,虽然使用openvino后群晖GPU的参与程度很高,CPU占用显著下降,但CLIP和人脸大模型加载后全部初始化失败。另外,绿联和群晖按官方配置QuickSync或VAAPI后都无法正常使用硬件加速视频转码,希望有成功的小伙伴可以指导下。
建议:绿联8505芯片推荐用openvino硬件加速进行机器学习,虽然GPU出力实在一般,但速度还是快了些的。群晖J4125芯片不建议用openvino硬件加速,虽然GPU出力比较高,但是大模型加载不了,后期相册使用过程中怕有不确定情况发生。
(组一)绿联-openvino硬件加速机器学习
(组二)绿联-未启用硬件加速机器学习
(组三)群晖-openvino硬件加速机器学习
(组四)群晖-未启用硬件加速机器学习
(附加)机器学习模型加载
【1】群晖开启openvino后加载模型初始化失败
【2】其余情况均加载模型成功
作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~
,