Семантика сравнения
Замыкающие нули в значениях десятичных чисел с плавающей запятой сохраняются.Например, 1.0 и 1.00 — это два различных представления.Это порождает различные семантики сравнения для типа данных DECFLOAT
, как показано ниже.
Сравнение числовых значений
Замыкающие нули игнорируются в сравнениях.Например, 1.0 равно 1.00.По умолчанию такой тип сравнения используется для индексирования, сортировки, разбивки таблицы, оценки предикатов и других функций — короче говоря, везде, где сравнение выполняется неявно или в предикатах.
create table stockPrice (stock DECFLOAT(16));
insert into stockPrice
values (4.2);
insert into stockPrice
values (4.2000);
insert into stockPrice
values (4.6125);
insert into stockPrice
values (4.20);
commit;
select * from stockPrice where stock = 4.2;
-- Возвращает три значения 4.2, 4.2000, 4.20
select * from stockPrice where stock > 4.20;
-- Возвращает одно значение 4.6125
select * from stockPrice order by stock;
-- Возвращает все значения, 4.2, 4.2000, 4.20, 4.6125.
-- Первые три значения возвращаются в неопределенном порядке.
Сравнение TotalOrder
Замыкающие нули учитываются при сравнении.Например, 1.0 > 1.00.Каждое значение DECFLOAT
имеет порядок в семантике сравнения TotalOrder.
Согласно семантике TotalOrder, порядок различных значений определяется так, как показано в следующем примере:
-nan < -snan < -inf < -0.1 < -0.10 < -0 < 0 < 0.10 < 0.1 < inf < snan < nan
Important
|
Обратите внимание на то, что отрицательный нуль меньше положительного нуля при сравнении TotalOrder |
Запросить сравнение TotalOrder в предикатах можно при помощи встроенной функции TOTALORDER().
Для курсов акций может быть важным знать точность данных.Например, если курсы обычно указываются с точностью в пять знаков после запятой, а курс равен $4.2, тогда неясно, равна цена $4.2000, $4.2999 или чему-то, лежащему между этими двумя значениями.
create table stockPrice (stock DECFLOAT(16));
insert into stockPrice
values (4.2);
insert into stockPrice
values (4.2000);
insert into stockPrice
values (4.6125);
insert into stockPrice
values (4.20);
commit;
select * from stockPrice where TOTALORDER(stock, 4.2000) = 0;
-- Возвращает только значение 4.2000
select * from stockPrice where TOTALORDER(stock, 4.20) = 1;
-- Возвращает два значения 4.2 и 4.6125, которое больше 4.20
Порядок, в котором возвращаются арифметически одинаковые значения, имеющие различное количество замыкающих нулей, не определен.Следовательно, ORDER BY
по столбцу DECFLOAT
со значениями 1.0 и 1.00 возвращает два значения в произвольном порядке.Аналогично, DISTINCT
возвращает либо 1.0, либо 1.00.