Skip to content
项目
群组
代码片段
帮助
正在加载...
帮助
为 GitLab 提交贡献
登录/注册
切换导航
H
h2database
项目
项目
详情
活动
周期分析
仓库
仓库
文件
提交
分支
标签
贡献者
分枝图
比较
统计图
议题
0
议题
0
列表
看板
标记
里程碑
合并请求
0
合并请求
0
CI / CD
CI / CD
流水线
作业
计划
统计图
Wiki
Wiki
代码片段
代码片段
成员
成员
折叠边栏
关闭边栏
活动
分枝图
统计图
创建新议题
作业
提交
议题看板
打开侧边栏
Administrator
h2database
Commits
e08a0ebf
提交
e08a0ebf
authored
11 年前
作者:
noelgrandin
浏览文件
操作
浏览文件
下载
电子邮件补丁
差异文件
Fix bug in dividing very-small BigDecimal numbers
上级
7617a13d
无相关合并请求
隐藏空白字符变更
内嵌
并排
正在显示
2 个修改的文件
包含
5 行增加
和
13 行删除
+5
-13
ValueDecimal.java
h2/src/main/org/h2/value/ValueDecimal.java
+1
-9
testScript.sql
h2/src/test/org/h2/test/testScript.sql
+4
-4
没有找到文件。
h2/src/main/org/h2/value/ValueDecimal.java
浏览文件 @
e08a0ebf
...
...
@@ -101,15 +101,7 @@ public class ValueDecimal extends Value {
bd
=
BigDecimal
.
ZERO
;
}
else
if
(
bd
.
scale
()
>
0
)
{
if
(!
bd
.
unscaledValue
().
testBit
(
0
))
{
String
s
=
bd
.
toString
();
int
i
=
s
.
length
()
-
1
;
while
(
i
>=
0
&&
s
.
charAt
(
i
)
==
'0'
)
{
i
--;
}
if
(
i
<
s
.
length
()
-
1
)
{
s
=
s
.
substring
(
0
,
i
+
1
);
bd
=
new
BigDecimal
(
s
);
}
bd
=
bd
.
stripTrailingZeros
();
}
}
return
ValueDecimal
.
get
(
bd
);
...
...
This diff is collapsed.
Click to expand it.
h2/src/test/org/h2/test/testScript.sql
浏览文件 @
e08a0ebf
...
...
@@ -3873,10 +3873,10 @@ call datediff('MS', TIMESTAMP '1900-01-01 00:00:01.000', TIMESTAMP '2008-01-01 0
> 3408134399000
> rows: 1
call select 1.0/3.0*3.0, 100.0/2.0, -25.0/100.0, 0.0/3.0, 6.9/2.0;
> SELECT 0.999999999999999999999999990, 50, -0.25, 0, 3.45 FROM SYSTEM_RANGE(1, 1) /* PUBLIC.RANGE_INDEX */ /* scanCount: 2 */
> ----------------------------------------------------------------------------------------------------------------------------
> (0.999999999999999999999999990, 50, -0.25, 0, 3.45)
call select 1.0/3.0*3.0, 100.0/2.0, -25.0/100.0, 0.0/3.0, 6.9/2.0
, 0.72179425150347250912311550800000 / 5314251955.21
;
> SELECT 0.999999999999999999999999990, 50, -0.25, 0, 3.45
, 1.35822361752313607260107721120531135706133161972E-10
FROM SYSTEM_RANGE(1, 1) /* PUBLIC.RANGE_INDEX */ /* scanCount: 2 */
> ----------------------------------------------------------------------------------------------------------------------------
-------------------------------------------------------
> (0.999999999999999999999999990, 50, -0.25, 0, 3.45
, 1.35822361752313607260107721120531135706133161972E-10
)
> rows: 1
call dateadd('
MS
', 1, TIMESTAMP '
2001
-
02
-
03
04
:
05
:
06
.
789001
');
...
...
This diff is collapsed.
Click to expand it.
编写
预览
Markdown
格式
0%
重试
或
添加新文件
添加附件
取消
您添加了
0
人
到此讨论。请谨慎行事。
请先完成此评论的编辑!
取消
请
注册
或者
登录
后发表评论