专业移动网站建设商,四川网站建设scyiyou,百度提交入口,网站常用的优化方法有哪些本系列是自学深度学习编译器过程中的一些笔记和总结#xff0c;参考文献在文末。 1. 概述
深度学习#xff08;DL#xff09;编译器的产生有两方面的因素#xff1a;深度学习模型的广泛应用#xff0c;以及深度学习芯片的层出不穷。
一方面#xff0c;我们现在有非常多… 本系列是自学深度学习编译器过程中的一些笔记和总结参考文献在文末。 1. 概述
深度学习DL编译器的产生有两方面的因素深度学习模型的广泛应用以及深度学习芯片的层出不穷。
一方面我们现在有非常多深度学习的应用比如自动驾驶技术常常需要用到计算机视觉方面的模型如行人检测车道线识别等智能家居设备常常需要用到自然语言处理NLP和语音识别方面的模型甚至在生物学领域深度学习可以解决难倒了几代科学家的蛋白质折叠问题。
另一方面这些应用要投入使用面对的是非常多样的部署环境。比如自动驾驶相关的计算机视觉模型需要部署到车辆上智能家居相关的自然语言处理模型需要部署到智能音箱上另外一些应用还可能部署到手机上、数据中心的计算集群上等。而随着各种深度学习专用芯片的出现如Google的TPUNvidia的TuringIntel NNPAmazon的Inferentia阿里平头哥的含光华为海思的NPU等等部署环境变得更加的多样化。
那么如何使不同的深度学习应用在不同的部署环境如不同的硬件、不同的操作系统、不同的容器执行环境、不同的运行时计算库、不同的加速器类型等上获得最优的性能呢这正是深度学习编译器研究的问题。
2. 什么是深度学习编译器
深度学习编译器的任务是把输入的深度学习模型转化成不同硬件上优化的代码进行输出。 这个过程和传统编译器所做的事情非常类似因此取名“深度学习编译器”。 但深度学习编译器也有和传统编译器不同的地方。最大的不同在于输入不同传统编译器输入的是高级语言比如C/C/ObjC而深度学习编译器输入的是深度学习模型一般以计算图的形式存在。这样的输入使得深度学习的领域知识可以在编译的过程中被引入进来从而更好地优化部署的代码。这也是为什么不直接用传统编译器来编译深度学习相关应用的原因。 参考文献
https://mlc.ai/zh/chapter_introduction/index.htmlhttps://www.bilibili.com/video/BV1pM41167KP/
