服装图案素材网站,wordpress调用页面标题,网页模板下载在线,全国企业工商信息查询系统实际应用 神经网络项目由x86cpu的linux环境移到arm cpu架构上运行#xff0c;使用docker进行测试以及环境配置。 docker load -i 镜像压缩文件.tar docker load -i命令用于从一个压缩的镜像存档文件#xff08;通常是以.tar扩展名结尾#xff09;中加载镜像到本地Docker引擎…实际应用 神经网络项目由x86cpu的linux环境移到arm cpu架构上运行使用docker进行测试以及环境配置。 docker load -i 镜像压缩文件.tar docker load -i命令用于从一个压缩的镜像存档文件通常是以.tar扩展名结尾中加载镜像到本地Docker引擎中。 docker load加载一个本地的镜像。-i指定输入文件后面跟着要加载的镜像存档文件。 docker images 查看镜像docker run --name 容器名 -it -e ASCEND_VISIBLE_DEVICES0 -p 1234:5678 镜像id /bin/bash docker run运行一个新的容器。-it使用交互式终端运行容器其中-i表示交互式-t表示分配一个伪终端。-e ASCEND_VISIBLE_DEVICES0。环境变量选择使用哪个NPU卡-p 1234:5678端口映射容器内部端口与宿主机端口进行映射/bin/bash进入到容器的bash终端 docker rename 原名称 现名称docker cp source_path container_name:destination_pathdocker ps 查看正在运行的容器 docker ps -a 查看所有容器 docker start 容器名dockers stop 容器名docker rm 容器名docker exec -it container_name command container_name 是要进入的容器的名称或ID。command 是要在容器内执行的命令。通常我们使用/bin/bash或/bin/sh作为命令以启动一个交互式Shell会话。
在Docker容器中安装NPU驱动固件宿主机装了docker可以不装
在宿主机上已经安装了相应的NPU驱动和固件。容器在创建时需要与宿主机共享NPU设备。 docker run --privileged -it -v /dev:/dev image_name bash--privileged参数来赋予容器特权使其能够访问宿主机的设备。同时使用-v /dev:/dev参数来共享宿主机的/dev目录包括其中的设备文件。
ChatGLM部署华为arm服务器
安装toolkit工具包容器内没安装NPU驱动固件所以需要到.bashrc中配置环境变量 环境变量要加export xxxxxxx 安装torch依赖解压代码包创建模型权重软链接替换transformers的utils.py文件(可以先不做)权重切分与执行
Docker架构
镜像三类
基础镜像 Ubuntu、Debian、CentOs、Windows、MacOs docker commit构建镜像 Docker commit 是将正在运行的容器保存为新的镜像的一种方法。将当前容器的状态快照成一个新的镜像。优点快速和方便缺点占用空间大、冗余、效率低、可重复性弱、容易出错。 从镜像运行容器实际上是在镜像顶部上加了一层可写层所有对容器文件系统的修改都在这一层中进行不影响已经存在的层。从容器构建镜像实际上是把容器的顶层固化到镜像中。镜像的体积只会增大不会减小。 # 将容器转换为镜像
docker commit 容器id 镜像名称版本号
# 将镜像打包为压缩包用于传输
docker save -o image_name.tar image_name
# 将镜像压缩包解压为镜像
docker load -i image_name.tardockerfile构建镜像 Dockerfile 是一种文本文件它包含了一系列指令和配置用于自动化构建 Docker 镜像。优点灵活性和可重复性。比docker commit更具优势。 可重复性使用 Dockerfile 可以完全复制镜像构建过程确保每次构建的结果一致。可扩展性Dockerfile 允许您定义容器的多个层次并在每个层次上进行构建和修改。轻松地添加、删除或更新组件。可维护性Dockerfile 是一个文本文件可以与代码存储在同一版本控制系统中并且可以通过版本控制工具进行追踪和管理。这使得团队成员可以共同协作和维护镜像构建过程。 容器
仓库 仓库可看成一个代码控制中心用来保存镜像 Docker Hub(https://hub.docker.com) dockerfile
FROM acltransformer:base # ubuntu:18.04 指定父镜像指定dockerfile基于哪个镜像进行创建以华为昇腾172.16.15服务器为例RUN apt-get update apt-get install -y \ # 执行命令wget \language-pack-zh-hans \mkdir /dataWORKDIR /data # 工作目录
COPY Dockerfile_dir ./Dockerfile_dir # 复制文件 这是个文件夹WORKDIR /data/Dockerfile_dir/npu_tools
RUN /bin/bash Miniconda3-latest-Linux-aarch64.sh -b -p /opt/conda \echo export PATH/opt/conda/bin:$PATH ~/.bashrc \RUN conda create -n py37 python3.7
ENV PATH /opt/conda/envs/chatglm_py37/bin:$PATH # 环境变量RUN /bin/bash npu_env.sh \pip install -r requirements.txt -i https://pypi.tuna.tsinghua.edu.cn/simpleENTRYPOINT [/bin/bash, -c, /opt/conda/envs/py37/bin/python3.7 main.py] # 设置容器的入口点在编写 Dockerfile 时通常会遵循一个原则尽可能使步骤少而有效。 减小镜像大小每个步骤都会在镜像中创建一个新的层次并增加镜像的大小。较少的步骤意味着较少的层次从而减小了镜像的总体大小。提高构建速度每个步骤都需要执行一些操作较少的步骤意味着较少的操作从而减少了构建过程的时间。简化维护和调试较少的步骤意味着较少的代码和配置使得维护和调试变得更加简单。 使用下面命令来用dockerfile创建docker镜像。 docker build -t chatglm_npu:v2 -f Dockerfile .
docker build --platform linux/arm64/v8 -t chatglm_npu:v1 -f Dockerfile .
docker build --platform linux/amd64 -t dispatch:v1 -f Dockerfile .
