12380网站建设打算,wordpress 3.1.3,五道口网站建设,企业网站pr值低怎么办TensorFlow Lite 是一组工具#xff0c;可帮助开发者在移动设备、嵌入式设备和 loT 设备上运行模型#xff0c;以便实现设备端机器学习。 支持多平台
支持多种平台#xff0c;涵盖 Android 和 iOS 设备、嵌入式 Linux 和微控制器。 原理/流程 工作原理或者使用流程就是上面…TensorFlow Lite 是一组工具可帮助开发者在移动设备、嵌入式设备和 loT 设备上运行模型以便实现设备端机器学习。 支持多平台
支持多种平台涵盖 Android 和 iOS 设备、嵌入式 Linux 和微控制器。 原理/流程 工作原理或者使用流程就是上面4步1与2创建或者转换一个TensorFlow Lite 模型3部署在手机等终端使用模型进行推理4TensorFlow Lite 提供了优化模型大小size和性能performance的工具通常对准确性accuracy影响甚微。优化模型可能需要稍微复杂的训练training转换conversion或集成integration。机器学习优化是一个不断发展的领域TensorFlow Lite 的模型优化工具包Model Optimization Toolkit随着新技术的发展而不断发展。 创建 TensorFlow Lite 模型
有如下两种方式创建lite模型
创建 TensorFlow Lite 模型使用 TensorFlow Lite Model Maker利用您自己的自定义数据集创建模型。默认情况下所有模型都包含元数据。将 TensorFlow 模型转换为 TensorFlow Lite 模型使用 TensorFlow Lite Converter 将 TensorFlow 模型转换为 TensorFlow Lite 模型。在转换过程中您可以应用量化等优化措施以缩减模型大小和缩短延时并最大限度降低或完全避免准确率损失。默认情况下所有模型都不含元数据。
tensorflow lite组件 TensorFlow Lite 转换器TensorFlow Lite Converter是一个将训练好的 TensorFlow 模型转换成 TensorFlow Lite 格式的工具。转换模型减小了模型文件大小并引入了不影响准确性accuracy的优化措施optimizations2. TensorFlow Lite 解释器是一个库该库会接收模型文件执行它对输入数据定义的运算并提供对输出的访问。
该解释器interpreter适用于多个平台提供了一个简单的 API用于从 Java、Swift、Objective-C、C 和 Python 运行 TensorFlow Lite 模型。
以下代码展示了从 Java 调用的解释器
try (Interpreter interpreter new Interpreter(tensorflow_lite_model_file)) { interpreter.run(input, output); 3.由于 TensorFlow Lite 内置算子库仅支持有限数量的 TensorFlow 算子所以并非所有模型都可以转换。大多数 TensorFlow Lite 运算都针对的是浮点float32和量化uint8、int8推断。 4.Delegates 利用GPU和Digital Signal Processor DSP等设备加速器实现TensorFlow Lite模型的硬件加速。
默认情况下TensorFlow Lite使用针对ARM Neon指令集优化的CPU内核。 模型优化 量化的工作原理是降低用于表示模型参数的数字默认情况为 32 位浮点数的精度。这样可以获得较小的模型大小和较快的计算速度。2.剪枝
剪枝的工作原理是移除模型中对其预测影响很小的参数。剪枝后的模型在磁盘上的大小相同并且具有相同的运行时延迟但可以更高效地压缩。这使剪枝成为缩减模型下载大小的实用技术。
3.聚类
聚类的工作原理是将模型中每一层的权重归入预定数量的聚类中然后共享属于每个单独聚类的权重的质心值。这就减少了模型中唯一权重值的数量从而降低了其复杂性。 参考
参考官网TensorFlow Lite | TensorFlow中文官网
