整理记录stable-diffusion-webui在bms上的文生图迁移适配 1. 新建环境1.1 创建容器设置端口 30002，使用1号卡 123456789101112131415161718mkdir -p /root/projectsdocker run -itd -u root \--device=/dev/davinci1 \--device=/dev/davinci_m

记于2024.1.25 文档与Atlas 中心训练服务器 23.0.0 NPU驱动和固件安装指南 01 - 华为 (huawei.com)有所出入，仅以目前经验记录 1. 更新固件驱动初始bms安装了老版本固件驱动 ，需要进行更新升级 1.1 下载固件驱动1234mkdir -p /root/downloadscd /root/downloadswget https://public.obs.cn

1234567891011121314151617181920212223242526272829303132333435363738394041424344454647484950515253545556575859606162import jsonimport osimport cv2import matplotlib.pyplot as pltimport numpy as npdef mk

aarch64 cpu torch2.1.0会报错，切换2.0.1 torch2.1.0 1234567891011(ptch) [ma-user uie_pytorch]$python -c "import torch;m=torch.nn.Linear(20, 1);print(torch.__version__);print(m(torch.rand(1, 20)))"2

chatglm报错注释model_chatglm.py里面的@torch.jit.script

1234567891011121314151617181920212223242526272829303132333435363738394041424344454647import timeimport mindspore as msimport numpy as npimport argparsefrom mindformers.models.glm import GLMConfig, GLM

baichuan2 13b 多卡推理权重问题20231209加载base权重推理异常 加载chat权重推理正常

chatglm2 lora微调报错 1234567891011File "/home/ma-user/anaconda3/envs/MindSpore/lib/python3.9/site-packages/mindspore/train/model.py", line 708, in _train_dataset_sink_processoutputs = train_net

推理服务器环境配置一、背景当前存在推理服务器的使用需求，需要对推理服务器的系统以及开发环境进行部署。同时基于等保要求以及服务器暂时无法上云提供服务的现状，推理服务器仅通过专线形式对外提供访问，因此在配置过程中需要离线进行相关驱动、固件以及环境的配置。 二、环境配置1、前序准备 硬件：Atlas 800推理服务器（Atlas 300*4） 系统：Centos7.6 由于设备无法连接外网，须使用笔记本

m3e迁移适配 （未完成）性能上还需要调整，同类型的小模型，测试了几个都可以按一样的方式修改 环境准备cann7.0 torch2_py39 依赖安装1pip install sentence_transformers 测试代码123456789101112131415161718192021222324252627282930313233343536373839# import torch#