博客
关于我
强烈建议你试试无所不能的chatGPT,快点击我
NUMBER类型细讲
阅读量:4913 次
发布时间:2019-06-11

本文共 1293 字,大约阅读时间需要 4 分钟。

Oracle number datatype 语法:NUMBER[(precision [, scale])]

简称:precision --> p
scale --> s

NUMBER(p, s)

范围: 1 <= p <=38, -84 <= s <= 127
保存数据范围:-1.0e-130 <= number value < 1.0e+126
保存在机器内部的范围: 1 ~ 22 bytes

有效为:从左边第一个不为0的数算起的位数。

s的情况:
s > 0
精确到小数点右边s位,并四舍五入。然后检验有效位是否 <= p。
s < 0
精确到小数点左边s位,并四舍五入。然后检验有效位是否 <= p + |s|。
s = 0
此时NUMBER表示整数。

eg:

Actual Data Specified As Stored As
----------------------------------------
123.89 NUMBER 123.89
123.89 NUMBER(3) 124
123.89 NUMBER(6,2) 123.89
123.89 NUMBER(6,1) 123.9
123.89 NUMBER(4,2) exceeds precision (有效位为5, 5 > 4)
123.89 NUMBER(6,-2) 100
.01234 NUMBER(4,5) .01234 (有效位为4)
.00012 NUMBER(4,5) .00012
.000127 NUMBER(4,5) .00013
.0000012 NUMBER(2,7) .0000012
.00000123 NUMBER(2,7) .0000012
1.2e-4 NUMBER(2,5) 0.00012
1.2e-5 NUMBER(2,5) 0.00001
123.2564 NUMBER 123.2564
1234.9876 NUMBER(6,2) 1234.99
12345.12345 NUMBER(6,2) Error (有效位为5+2 > 6)
1234.9876 NUMBER(6) 1235 (s没有表示s=0)
12345.345 NUMBER(5,-2) 12300
1234567 NUMBER(5,-2) 1234600
12345678 NUMBER(5,-2) Error (有效位为8 > 7)
123456789 NUMBER(5,-4) 123460000
1234567890 NUMBER(5,-4) Error (有效位为10 > 9)
12345.58 NUMBER(*, 1) 12345.6
0.1 NUMBER(4,5) Error (0.10000, 有效位为5 > 4)
0.01234567 NUMBER(4,5) 0.01235
0.09999 NUMBER(4,5) 0.09999

转载于:https://www.cnblogs.com/guifang/archive/2012/11/07/2759156.html

你可能感兴趣的文章
$("#id a") - $("#id .c a") = ?
查看>>
题目1034:寻找大富翁---用了sort()函数,注意头文件;
查看>>
Windows下Wamp装不上Memcache扩展
查看>>
js中数组的map()方法
查看>>
wpa破解学习实践
查看>>
USACO 2008 FEB Eating Together
查看>>
5月13 jquery的一些应用
查看>>
mysql命令行如何得到表结构
查看>>
有效的更改IE、Firefox、Chrome浏览器缓存位置的方法
查看>>
SQL*Plus 系统变量之7 - BLO[CKTERMINATOR]
查看>>
MATLAB 统计数据并画出统计直方图
查看>>
TTTTTTTTTTTTTTTTT CF #182 div1 B floyd
查看>>
adbi命令【转】
查看>>
jQuery----选择器1
查看>>
SpringPython之AOP
查看>>
Piggy-Bank
查看>>
不加好友就能微信聊天?微信企业号实现了!
查看>>
实现左边div固定宽度,右边div自适应撑满剩下的宽度的布局方式:
查看>>
UVA 104 Arbitrage
查看>>
thinphp使用模型左右链接,表前缀不同处理
查看>>