搜索
S100和S100P的内存大小不同,各个模型的内存占用情况也不同。S100/S100P的底软提供了hb_switch_ion.sh脚本用来分配模型可使用的内存空间,该脚本主要有以下两种使用方式。
# 使用balanced模式 /usr/hobot/bin/hb_switch_ion.sh balanced # 重启生效 reboot
建议运行3B及以内的模型时使用balanced模式,若运行7B模型报错,请切换到bpu_first模式。
# 使用bpu_first模式 /usr/hobot/bin/hb_switch_ion.sh bpu_first # 重启生效 reboot
在bpu_first模式下,模型可使用最多的内存空间,适合运行7B模型的场景。