个人备案的网站可以做商城,成都网站海口网站建设,android网站开发教程,新沂微网站开发目录
⚛️1 结论
☪️2 说明
☪️3 传入数值转成科学计数法
♋3.1 只有整数部分
♏3.2 只有小数部分
♐3.3 整数小数 ⚛️1 结论
整数(sqlite视为int64)位数 20位#xff0c;sqlite3_value_text 采用科学计数法。否则正常表示。
浮点数(sqlite视为double)的整数部… 目录
⚛️1 结论
☪️2 说明
☪️3 传入数值转成科学计数法
♋3.1 只有整数部分
♏3.2 只有小数部分
♐3.3 整数小数 ⚛️1 结论
整数(sqlite视为int64)位数 20位sqlite3_value_text 采用科学计数法。否则正常表示。
浮点数(sqlite视为double)的整数部分位数 16位sqlite3_value_text 使用科学计数法且包括小数点后的位数共计显示15位数字。否则正常表示(这里涉及浮点数的精度问题比如1.33存储显示为1.3299999...多个9...99)。
【示例】整数7位 小数13位一共20位则最终输出整数有7位则小数部分只显示有8位小数点后第9位按照四舍五入到第8位【示例】整数0位即等于0 小数16位一共16位则最终输出整数有0位(等于0)则小数部分只显示有15位小数点后第16位则四舍五入到第15位【示例】整数16位 小数2位一共18位则最终输出科学计数法整数有1位则小数部分只显示有14位小数点后第15位按照四舍五入到第14位
【说明】
位数小数点不算一位位数均从1开始特殊情况只有小数即0.1234的整数部分0不算一位即视为0位 ☪️2 说明
本文测试 sqlite3_value_text 函数的特性主要集中测试 sqlite3_value_text 函数在何时会转成科学计数法。
创建sqlite自定义函数 注册如下 ☪️3 传入数值转成科学计数法
♋3.1 只有整数部分
a 正整数 结论对于正整数数值位数 20 位sqlite3_value_text 采用科学计数法。 b 负整数 结论对于负整数数值位数 20 位sqlite3_value_text 采用科学计数法。 【总结】对于只有整数的数值当整数位数 20位sqlite3_value_text 采用科学计数法。 ♏3.2 只有小数部分
a 正小数 结论对于正小数数值最多保留小数点后第 15 位当超出15位时则按照第16位进行四舍五入到第15位。 b 负小数 结论对于负小数数值最多保留小数点后第 15 位当超出15位时则按照第16位进行四舍五入到第15位。 【总结】对于只有小数数值最多保留小数点后第 15 位当超出15位时则按照第16位进行四舍五入到第15位。 ♐3.3 整数小数
a 正浮点数
整数小数数值 19位 整数小数数值 18位 整数小数数值 17位 结论
正整数小数只显示15位数字 示例整数7位 小数13位一共20位则最终输出整数有7位则小数部分只显示有8位小数点后第9位(如果有)则四舍五入到第8位整数部分 16位则使用科学计数法小数部分最多保留到第15位(四舍五入) b 负浮点数
整数小数数值 19位 整数小数数值 18位 整数小数数值 17位 结论
负整数小数只显示15位数字 示例整数7位 小数13位一共20位则最终输出整数有7位则小数部分只显示有8位小数点后第9位(如果有)则四舍五入到第8位整数部分 16位则使用科学计数法小数部分最多保留到第15位(四舍五入) 【总结】
整数小数只显示15位数字 示例整数7位 小数13位一共20位则最终输出整数有7位则小数部分只显示有8位小数点后第9位(如果有)则四舍五入到第8位整数部分 16位则使用科学计数法小数部分最多保留到第15位(四舍五入)
