绿联&群晖,分别使用immich机器学习的效能情况

原先immich一直部署在群晖上,618首发入了绿联DXP4800Plus后,一直在动脑筋怎么发挥它的硬件长处,就想到immich的视觉机器学习。

immich是一款自托管的相册服务器,其中用于机器学习的容器是immich-machine-learning,默认安装的是不带硬件加速的。实际上支持3种硬件加速,分别是ARM Mali、Nvidia CUDA、intel OpenVINO。拉取的时候在tag后面加上对应的名称,比如docker pull ghcr.io/immich-app/immich-machine-learning:v1.106.4-openvino。

immich建议用固定版本号,部署则建议去官网下载yml和.env,因为更新实在频繁,一会换数据库版本,一会换数据库位置,一会又合并容器,网上找攻略照搬他人的yaml文件容易踩坑。

4个实验组,绿联和群晖都分别安装硬件加速版和普通版的机器学习容器。

省流直接看结果:绿联的奔腾8505支持openvino,GPU可以参与CLIP及人脸,但不知道是否驱动的关系,GPU作用不大,主力还是CPU。群晖的J4125看起来并不支持openvino,虽然使用openvino后群晖GPU的参与程度很高,CPU占用显著下降,但CLIP和人脸大模型加载后全部初始化失败。另外,绿联和群晖按官方配置QuickSync或VAAPI后都无法正常使用硬件加速视频转码,希望有成功的小伙伴可以指导下。

建议:绿联8505芯片推荐用openvino硬件加速进行机器学习,虽然GPU出力实在一般,但速度还是快了些的。群晖J4125芯片不建议用openvino硬件加速,虽然GPU出力比较高,但是大模型加载不了,后期相册使用过程中怕有不确定情况发生。

绿联&群晖,分别使用immich机器学习的效能情况

(组一)绿联-openvino硬件加速机器学习

绿联&群晖,分别使用immich机器学习的效能情况
绿联&群晖,分别使用immich机器学习的效能情况
绿联&群晖,分别使用immich机器学习的效能情况

(组二)绿联-未启用硬件加速机器学习

绿联&群晖,分别使用immich机器学习的效能情况
绿联&群晖,分别使用immich机器学习的效能情况
绿联&群晖,分别使用immich机器学习的效能情况

(组三)群晖-openvino硬件加速机器学习

绿联&群晖,分别使用immich机器学习的效能情况
绿联&群晖,分别使用immich机器学习的效能情况
绿联&群晖,分别使用immich机器学习的效能情况

(组四)群晖-未启用硬件加速机器学习

绿联&群晖,分别使用immich机器学习的效能情况
绿联&群晖,分别使用immich机器学习的效能情况
绿联&群晖,分别使用immich机器学习的效能情况

(附加)机器学习模型加载

【1】群晖开启openvino后加载模型初始化失败

绿联&群晖,分别使用immich机器学习的效能情况

【2】其余情况均加载模型成功

绿联&群晖,分别使用immich机器学习的效能情况

作者声明本文无利益相关,欢迎值友理性交流,和谐讨论~

,

声明:本站所有文章,如无特殊说明或标注,均为本站原创发布。任何个人或组织,在未征得本站同意时,禁止复制、盗用、采集、发布本站内容到任何网站、书籍等各类媒体平台。如若本站内容侵犯了原著者的合法权益,可联系我们进行处理。