网站界面设计的原则,申请空间 建立网站吗,嵌入式开发板哪款好,天津建设监理协会网站推理模块 模型训练完成后#xff0c;需要单独再写一个推理模块来供用户测试或者使用#xff0c;该模块可以命名为test.py或者inference.py#xff0c;导入训练好的模型文件和待测试的图像#xff0c;输出该图像的分割结果。inference.py主体部分如代码11-7所示。 代码11-7 … 推理模块 模型训练完成后需要单独再写一个推理模块来供用户测试或者使用该模块可以命名为test.py或者inference.py导入训练好的模型文件和待测试的图像输出该图像的分割结果。inference.py主体部分如代码11-7所示。 代码11-7 推理模块部分 # 导入相关库
import numpy as np
import torch
from PIL import Image
# 定义推理函数
def inference(model, test_img):img Image.open(test_img)img val_transform(img)img img.unsqueeze(0).to(cuda)with torch.no_grad():outputs model(img)preds outputs.detach().max(dim1)[1].cpu().numpy()print(preds.shape)pred VOCSegmentation.decode_target(preds[0]).astype(np.uint8)Image.fromarray(pred).save(os.path.join(s%_pred.png % test_img.split(.)[0])) 上述代码仅展示推理模块的主体部分完整代码可参考本书配套的对应章节代码文件。实际执行时我们可以在命令行通过传入待测试图像和模型文件执行inference.py。测试示例如下 python inference.py --data_root 2007_000676.jpg --model deeplabv3plus_resnet101 测试图像和模型预测结果示例如图11-5所示。 部署模块 虽然我们可以通过推理模块来测试模型效果但推理毕竟不是面向用户级的使用体验。为了能够在常见的用户端使用我们的分割模型还需要对模型进行工程化的部署deployment。根据分割模型的应用场景一般最常见的部署场景是web端部署或者是基于C的软件集成部署。web端部署一般基于Flask等后端部署框架来完成形式上可以分为为REST API和web应用两种表现形式。 一个web服务简单而言就是用户从客户端发送一个HTTP请求然后服务器收到请求后生成HTML文档作为响应返回给客户端的过程。当返回的内容需要在前端页面上呈现时这个服务就是一个web端的应用当返回内容不需要在前端页面体现而是直接以JSON等数据结构给用户时这个服务就是一个REST API。 Flask是一个基于Python的轻量级web应用框架非常简洁和灵活也便于初学者快速上手。简单几行代码即可快速定义一个web服务如代码11-8所示。 # 导入flask相关模块
from flask import Flask, jsonify
# 创建应用
app Flask(__name__)
# 定义预测路由
app.route(/predict, methods[POST])
def predict():return jsonify({class_id: IMAGE_NET_XXX, class_name: Cat}) 本节我们将分别展示基于PASCAL VOC 2012训练的Deeplab v3模型的REST API和web应用部署方式。 REST API部署 基于REST API部署相对较为简单我们可以直接编写一个api.py的文件将推理流程融入到Flask的预测路由函数中即可。在此之前需要先导入训练好的模型以及定义跟验证时同样的数据转换方法。基于上述策略可定义api.py如下 代码11-9 REST API部署 # 导入相关库
import torch
from torchvision import transforms
from PIL import Image
import io
import numpy as np
from utils import ext_transforms_new as et
from datasets import VOCSegmentation
from flask import Flask, request, jsonify
import models# 创建应用
app Flask(__name__)# 模型字典
model_map {deeplabv3plus_resnet50: models.deeplabv3plus_resnet50,deeplabv3plus_resnet101: models.deeplabv3plus_resnet101,
}# 创建模型
model model_map[deeplabv3plus_resnet101](num_classes21,
output_stride16)# 导入模型
model.load_state_dict(torch.load(../checkpoints/deeplabv3plus_resnet101_voc.pth)[model_state])
model.to(cuda)
model.eval()
print(model loaded.)# 定义数据转换方法
transform et.Compose([transforms.ToTensor(),transforms.Normalize(mean[0.485, 0.456, 0.406],std[0.229, 0.224, 0.225]),
])# 定义模型预测路由
app.route(/predict, methods[POST])
def predict():if request.method POST:# 从请求中读取输入图像image request.files[image].read()image Image.open(io.BytesIO(image))# 图像变换input_tensor transform(image).unsqueeze(0).to(cuda)# 模型预测with torch.no_grad():output model(input_tensor)preds output.detach().max(dim1)[1].cpu().numpy()print(preds.shape)# 对输出进行解码转换为maskpreds VOCSegmentation.decode_target(preds[0]).astype(np.uint8)# 转换成listresult preds.tolist()return jsonify(result)if __name__ __main__:app.run(debugTrue) 定义好app.py以后直接在命令行启动该REST API服务 python app.py 然后再单独启动一个Python终端通过requests库发起post请求传入一张待分割图像 resp requests.post(http://localhost:5000/predict, files{image: open(./deployment/2007_000676.jpg, rb)}) 这时候我们可以在服务端看到相关响应信息如图11-6所示。状态码显示为200说明请求成功返回数据可以在requests返回对象中查看。 web端部署 REST API的部署方式更多的是方便开发者使用对于普通用户可能不是那么友好。为了更加方便用户使用和更直观的展示模型效果我们可以通过web端部署的方式让用户上传图像作为输入并将输入图像和分割结果直接在网页上显示。所以与API部署方式不同的是需要加上一个index.html的网页模板文件将输入和分割结果在网页模板上进行渲染。同时原先的api.py文件也需要进行修改修改后的文件可命名为app.py主体部分如代码11-10所示。 代码11-10 web端应用app.py # 创建应用
app Flask(__name__)
# 定义上传和预测路由
app.route(/, methods[GET, POST])
def upload_predict():# POST请求后读取图像if request.method POST:image_file request.files[image]if image_file:image_location os.path.join(app.config[UPLOAD_FOLDER],image_file.filename)image_file.save(image_location)# 图像变换image Image.open(image_location).convert(RGB)input_tensor transform(image).unsqueeze(0).to(cuda)# 模型预测with torch.no_grad():output model(input_tensor)preds output.detach().max(dim1)[1].cpu().numpy()print(preds.shape)# mask解码preds VOCSegmentation.decode_target(preds[0]).astype(np.uint8)# 保存图像到指定路径segmented_image Image.fromarray(preds)segmented_image_path image_location.replace(.jpg, _segmented.jpg)segmented_image.save(segmented_image_path)display_input_path ../ image_locationdisplay_segmented_path ../ segmented_image_path# 渲染结果到网页return render_template(index.html, input_imagedisplay_input_path, segmented_imagedisplay_segmented_path)return render_template(index.html) 代码11-10与api.py的主要区别在于读取图像部分是需要读取用户上传到指定目录下的图像并且对输入图像和分割结果渲染呈现到网页端。index.html是网页HTML的模板文件我们可以通过编辑该文件来实现自己想要的网页效果。 执行app.py文件启动web服务然后打开服务运行地址http:127.0.0.1:5000即可看到网页端效果在网页点击“选择文件”上传输入图像然后点击“Segment”执行模型分割图11-7为web部署后的使用效果图。 总结 本章以PASCAL VOC 2012数据集和Deeplab v3分割模型为例给出了基于PyTorch的深度学习图像分割项目代码框架。一个相对完整的图像分割代码框架应包含预处理模块、数据导入模块、模型模块、工具函数模块、配置模块、主函数模块、推理模块和部署模块。启中预处理、数据导入、模型、工具函数、配置和主函数模块均为模型训练阶段的工作模块而推理和部署则属于模型训练完后的测试和使用阶段工作模块。 需要特别说明的是本章的代码框架仅作为深度学习图像分割项目的一般性框架具体使用时应根据项目的实际情况酌情参考。 后续全书内容和代码将在github上开源请关注仓库 https://github.com/luwill/Deep-Learning-Image-Segmentation 本章完结其余章节待续
