Home Explore Help
Sign In
8516
/
Test
1
0
Fork 0
Files Issues 0 Pull Requests 0 Wiki
Branch: master
Branches Tags
Test
/
linux-devkit
/
sysroots
/
x86_64-arago-linux
/
usr
/
lib
/
python2.7
/
test
/
decimaltestdata
/
dqToIntegral.decTest

dqToIntegral.decTest 12 KB
Permalink History Raw

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257 
  1. ------------------------------------------------------------------------
    2. 

  2. -- dqToIntegral.decTest -- round Quad to integral value               --
    3. 

  3. -- Copyright (c) IBM Corporation, 2001, 2008.  All rights reserved.   --
    4. 

  4. ------------------------------------------------------------------------
    5. 

  5. -- Please see the document "General Decimal Arithmetic Testcases"     --
    6. 

  6. -- at http://www2.hursley.ibm.com/decimal for the description of      --
    7. 

  7. -- these testcases.                                                   --
    8. 

  8. --                                                                    --
    9. 

  9. -- These testcases are experimental ('beta' versions), and they       --
    10. 

  10. -- may contain errors.  They are offered on an as-is basis.  In       --
    11. 

  11. -- particular, achieving the same results as the tests here is not    --
    12. 

  12. -- a guarantee that an implementation complies with any Standard      --
    13. 

  13. -- or specification.  The tests are not exhaustive.                   --
    14. 

  14. --                                                                    --
    15. 

  15. -- Please send comments, suggestions, and corrections to the author:  --
    16. 

  16. --   Mike Cowlishaw, IBM Fellow                                       --
    17. 

  17. --   IBM UK, PO Box 31, Birmingham Road, Warwick CV34 5JL, UK         --
    18. 

  18. --   mfc@uk.ibm.com                                                   --
    19. 

  19. ------------------------------------------------------------------------
    20. 

  20. version: 2.59
    21. 

  21. 

  22. -- This set of tests tests the extended specification 'round-to-integral
    23. 

  23. -- value-exact' operations (from IEEE 854, later modified in 754r).
    24. 

  24. -- All non-zero results are defined as being those from either copy or
    25. 

  25. -- quantize, so those are assumed to have been tested extensively
    26. 

  26. -- elsewhere; the tests here are for integrity, rounding mode, etc.
    27. 

  27. -- Also, it is assumed the test harness will use these tests for both
    28. 

  28. -- ToIntegralExact (which does set Inexact) and the fixed-name
    29. 

  29. -- functions (which do not set Inexact).
    30. 

  30. 

  31. -- Note that decNumber implements an earlier definition of toIntegral
    32. 

  32. -- which never sets Inexact; the decTest operator for that is called
    33. 

  33. -- 'tointegral' instead of 'tointegralx'.
    34. 

  34. 

  35. extended:    1
    36. 

  36. clamp:       1
    37. 

  37. precision:   34
    38. 

  38. maxExponent: 6144
    39. 

  39. minExponent: -6143
    40. 

  40. rounding:    half_even
    41. 

  41. 

  42. dqintx001 tointegralx      0     ->  0
    43. 

  43. dqintx002 tointegralx      0.0   ->  0
    44. 

  44. dqintx003 tointegralx      0.1   ->  0  Inexact Rounded
    45. 

  45. dqintx004 tointegralx      0.2   ->  0  Inexact Rounded
    46. 

  46. dqintx005 tointegralx      0.3   ->  0  Inexact Rounded
    47. 

  47. dqintx006 tointegralx      0.4   ->  0  Inexact Rounded
    48. 

  48. dqintx007 tointegralx      0.5   ->  0  Inexact Rounded
    49. 

  49. dqintx008 tointegralx      0.6   ->  1  Inexact Rounded
    50. 

  50. dqintx009 tointegralx      0.7   ->  1  Inexact Rounded
    51. 

  51. dqintx010 tointegralx      0.8   ->  1  Inexact Rounded
    52. 

  52. dqintx011 tointegralx      0.9   ->  1  Inexact Rounded
    53. 

  53. dqintx012 tointegralx      1     ->  1
    54. 

  54. dqintx013 tointegralx      1.0   ->  1  Rounded
    55. 

  55. dqintx014 tointegralx      1.1   ->  1  Inexact Rounded
    56. 

  56. dqintx015 tointegralx      1.2   ->  1  Inexact Rounded
    57. 

  57. dqintx016 tointegralx      1.3   ->  1  Inexact Rounded
    58. 

  58. dqintx017 tointegralx      1.4   ->  1  Inexact Rounded
    59. 

  59. dqintx018 tointegralx      1.5   ->  2  Inexact Rounded
    60. 

  60. dqintx019 tointegralx      1.6   ->  2  Inexact Rounded
    61. 

  61. dqintx020 tointegralx      1.7   ->  2  Inexact Rounded
    62. 

  62. dqintx021 tointegralx      1.8   ->  2  Inexact Rounded
    63. 

  63. dqintx022 tointegralx      1.9   ->  2  Inexact Rounded
    64. 

  64. -- negatives
    65. 

  65. dqintx031 tointegralx     -0     -> -0
    66. 

  66. dqintx032 tointegralx     -0.0   -> -0
    67. 

  67. dqintx033 tointegralx     -0.1   -> -0  Inexact Rounded
    68. 

  68. dqintx034 tointegralx     -0.2   -> -0  Inexact Rounded
    69. 

  69. dqintx035 tointegralx     -0.3   -> -0  Inexact Rounded
    70. 

  70. dqintx036 tointegralx     -0.4   -> -0  Inexact Rounded
    71. 

  71. dqintx037 tointegralx     -0.5   -> -0  Inexact Rounded
    72. 

  72. dqintx038 tointegralx     -0.6   -> -1  Inexact Rounded
    73. 

  73. dqintx039 tointegralx     -0.7   -> -1  Inexact Rounded
    74. 

  74. dqintx040 tointegralx     -0.8   -> -1  Inexact Rounded
    75. 

  75. dqintx041 tointegralx     -0.9   -> -1  Inexact Rounded
    76. 

  76. dqintx042 tointegralx     -1     -> -1
    77. 

  77. dqintx043 tointegralx     -1.0   -> -1  Rounded
    78. 

  78. dqintx044 tointegralx     -1.1   -> -1  Inexact Rounded
    79. 

  79. dqintx045 tointegralx     -1.2   -> -1  Inexact Rounded
    80. 

  80. dqintx046 tointegralx     -1.3   -> -1  Inexact Rounded
    81. 

  81. dqintx047 tointegralx     -1.4   -> -1  Inexact Rounded
    82. 

  82. dqintx048 tointegralx     -1.5   -> -2  Inexact Rounded
    83. 

  83. dqintx049 tointegralx     -1.6   -> -2  Inexact Rounded
    84. 

  84. dqintx050 tointegralx     -1.7   -> -2  Inexact Rounded
    85. 

  85. dqintx051 tointegralx     -1.8   -> -2  Inexact Rounded
    86. 

  86. dqintx052 tointegralx     -1.9   -> -2  Inexact Rounded
    87. 

  87. -- next two would be NaN using quantize(x, 0)
    88. 

  88. dqintx053 tointegralx    10E+60  -> 1.0E+61
    89. 

  89. dqintx054 tointegralx   -10E+60  -> -1.0E+61
    90. 

  90. 

  91. -- numbers around precision
    92. 

  92. dqintx060 tointegralx '56267E-17'   -> '0'      Inexact Rounded
    93. 

  93. dqintx061 tointegralx '56267E-5'    -> '1'      Inexact Rounded
    94. 

  94. dqintx062 tointegralx '56267E-2'    -> '563'    Inexact Rounded
    95. 

  95. dqintx063 tointegralx '56267E-1'    -> '5627'   Inexact Rounded
    96. 

  96. dqintx065 tointegralx '56267E-0'    -> '56267'
    97. 

  97. dqintx066 tointegralx '56267E+0'    -> '56267'
    98. 

  98. dqintx067 tointegralx '56267E+1'    -> '5.6267E+5'
    99. 

  99. dqintx068 tointegralx '56267E+9'    -> '5.6267E+13'
    100. 

  100. dqintx069 tointegralx '56267E+10'   -> '5.6267E+14'
    101. 

  101. dqintx070 tointegralx '56267E+11'   -> '5.6267E+15'
    102. 

  102. dqintx071 tointegralx '56267E+12'   -> '5.6267E+16'
    103. 

  103. dqintx072 tointegralx '56267E+13'   -> '5.6267E+17'
    104. 

  104. dqintx073 tointegralx '1.23E+96'    -> '1.23E+96'
    105. 

  105. dqintx074 tointegralx '1.23E+6144'  -> #47ffd300000000000000000000000000 Clamped
    106. 

  106. 

  107. dqintx080 tointegralx '-56267E-10'  -> '-0'      Inexact Rounded
    108. 

  108. dqintx081 tointegralx '-56267E-5'   -> '-1'      Inexact Rounded
    109. 

  109. dqintx082 tointegralx '-56267E-2'   -> '-563'    Inexact Rounded
    110. 

  110. dqintx083 tointegralx '-56267E-1'   -> '-5627'   Inexact Rounded
    111. 

  111. dqintx085 tointegralx '-56267E-0'   -> '-56267'
    112. 

  112. dqintx086 tointegralx '-56267E+0'   -> '-56267'
    113. 

  113. dqintx087 tointegralx '-56267E+1'   -> '-5.6267E+5'
    114. 

  114. dqintx088 tointegralx '-56267E+9'   -> '-5.6267E+13'
    115. 

  115. dqintx089 tointegralx '-56267E+10'  -> '-5.6267E+14'
    116. 

  116. dqintx090 tointegralx '-56267E+11'  -> '-5.6267E+15'
    117. 

  117. dqintx091 tointegralx '-56267E+12'  -> '-5.6267E+16'
    118. 

  118. dqintx092 tointegralx '-56267E+13'  -> '-5.6267E+17'
    119. 

  119. dqintx093 tointegralx '-1.23E+96'   -> '-1.23E+96'
    120. 

  120. dqintx094 tointegralx '-1.23E+6144' -> #c7ffd300000000000000000000000000 Clamped
    121. 

  121. 

  122. -- subnormal inputs
    123. 

  123. dqintx100 tointegralx        1E-299 -> 0  Inexact Rounded
    124. 

  124. dqintx101 tointegralx      0.1E-299 -> 0  Inexact Rounded
    125. 

  125. dqintx102 tointegralx     0.01E-299 -> 0  Inexact Rounded
    126. 

  126. dqintx103 tointegralx        0E-299 -> 0
    127. 

  127. 

  128. -- specials and zeros
    129. 

  129. dqintx120 tointegralx 'Inf'       ->  Infinity
    130. 

  130. dqintx121 tointegralx '-Inf'      -> -Infinity
    131. 

  131. dqintx122 tointegralx   NaN       ->  NaN
    132. 

  132. dqintx123 tointegralx  sNaN       ->  NaN  Invalid_operation
    133. 

  133. dqintx124 tointegralx     0       ->  0
    134. 

  134. dqintx125 tointegralx    -0       -> -0
    135. 

  135. dqintx126 tointegralx     0.000   ->  0
    136. 

  136. dqintx127 tointegralx     0.00    ->  0
    137. 

  137. dqintx128 tointegralx     0.0     ->  0
    138. 

  138. dqintx129 tointegralx     0       ->  0
    139. 

  139. dqintx130 tointegralx     0E-3    ->  0
    140. 

  140. dqintx131 tointegralx     0E-2    ->  0
    141. 

  141. dqintx132 tointegralx     0E-1    ->  0
    142. 

  142. dqintx133 tointegralx     0E-0    ->  0
    143. 

  143. dqintx134 tointegralx     0E+1    ->  0E+1
    144. 

  144. dqintx135 tointegralx     0E+2    ->  0E+2
    145. 

  145. dqintx136 tointegralx     0E+3    ->  0E+3
    146. 

  146. dqintx137 tointegralx     0E+4    ->  0E+4
    147. 

  147. dqintx138 tointegralx     0E+5    ->  0E+5
    148. 

  148. dqintx139 tointegralx    -0.000   -> -0
    149. 

  149. dqintx140 tointegralx    -0.00    -> -0
    150. 

  150. dqintx141 tointegralx    -0.0     -> -0
    151. 

  151. dqintx142 tointegralx    -0       -> -0
    152. 

  152. dqintx143 tointegralx    -0E-3    -> -0
    153. 

  153. dqintx144 tointegralx    -0E-2    -> -0
    154. 

  154. dqintx145 tointegralx    -0E-1    -> -0
    155. 

  155. dqintx146 tointegralx    -0E-0    -> -0
    156. 

  156. dqintx147 tointegralx    -0E+1    -> -0E+1
    157. 

  157. dqintx148 tointegralx    -0E+2    -> -0E+2
    158. 

  158. dqintx149 tointegralx    -0E+3    -> -0E+3
    159. 

  159. dqintx150 tointegralx    -0E+4    -> -0E+4
    160. 

  160. dqintx151 tointegralx    -0E+5    -> -0E+5
    161. 

  161. -- propagating NaNs
    162. 

  162. dqintx152 tointegralx   NaN808    ->  NaN808
    163. 

  163. dqintx153 tointegralx  sNaN080    ->  NaN80  Invalid_operation
    164. 

  164. dqintx154 tointegralx  -NaN808    -> -NaN808
    165. 

  165. dqintx155 tointegralx -sNaN080    -> -NaN80  Invalid_operation
    166. 

  166. dqintx156 tointegralx  -NaN       -> -NaN
    167. 

  167. dqintx157 tointegralx -sNaN       -> -NaN    Invalid_operation
    168. 

  168. 

  169. -- examples
    170. 

  170. rounding:    half_up
    171. 

  171. dqintx200 tointegralx     2.1    -> 2            Inexact Rounded
    172. 

  172. dqintx201 tointegralx   100      -> 100
    173. 

  173. dqintx202 tointegralx   100.0    -> 100          Rounded
    174. 

  174. dqintx203 tointegralx   101.5    -> 102          Inexact Rounded
    175. 

  175. dqintx204 tointegralx  -101.5    -> -102         Inexact Rounded
    176. 

  176. dqintx205 tointegralx   10E+5    -> 1.0E+6
    177. 

  177. dqintx206 tointegralx  7.89E+77  -> 7.89E+77
    178. 

  178. dqintx207 tointegralx   -Inf     -> -Infinity
    179. 

  179. 

  180. 

  181. -- all rounding modes
    182. 

  182. rounding:    half_even
    183. 

  183. dqintx210 tointegralx     55.5   ->  56  Inexact Rounded
    184. 

  184. dqintx211 tointegralx     56.5   ->  56  Inexact Rounded
    185. 

  185. dqintx212 tointegralx     57.5   ->  58  Inexact Rounded
    186. 

  186. dqintx213 tointegralx    -55.5   -> -56  Inexact Rounded
    187. 

  187. dqintx214 tointegralx    -56.5   -> -56  Inexact Rounded
    188. 

  188. dqintx215 tointegralx    -57.5   -> -58  Inexact Rounded
    189. 

  189. 

  190. rounding:    half_up
    191. 

  191. 

  192. dqintx220 tointegralx     55.5   ->  56  Inexact Rounded
    193. 

  193. dqintx221 tointegralx     56.5   ->  57  Inexact Rounded
    194. 

  194. dqintx222 tointegralx     57.5   ->  58  Inexact Rounded
    195. 

  195. dqintx223 tointegralx    -55.5   -> -56  Inexact Rounded
    196. 

  196. dqintx224 tointegralx    -56.5   -> -57  Inexact Rounded
    197. 

  197. dqintx225 tointegralx    -57.5   -> -58  Inexact Rounded
    198. 

  198. 

  199. rounding:    half_down
    200. 

  200. 

  201. dqintx230 tointegralx     55.5   ->  55  Inexact Rounded
    202. 

  202. dqintx231 tointegralx     56.5   ->  56  Inexact Rounded
    203. 

  203. dqintx232 tointegralx     57.5   ->  57  Inexact Rounded
    204. 

  204. dqintx233 tointegralx    -55.5   -> -55  Inexact Rounded
    205. 

  205. dqintx234 tointegralx    -56.5   -> -56  Inexact Rounded
    206. 

  206. dqintx235 tointegralx    -57.5   -> -57  Inexact Rounded
    207. 

  207. 

  208. rounding:    up
    209. 

  209. 

  210. dqintx240 tointegralx     55.3   ->  56  Inexact Rounded
    211. 

  211. dqintx241 tointegralx     56.3   ->  57  Inexact Rounded
    212. 

  212. dqintx242 tointegralx     57.3   ->  58  Inexact Rounded
    213. 

  213. dqintx243 tointegralx    -55.3   -> -56  Inexact Rounded
    214. 

  214. dqintx244 tointegralx    -56.3   -> -57  Inexact Rounded
    215. 

  215. dqintx245 tointegralx    -57.3   -> -58  Inexact Rounded
    216. 

  216. 

  217. rounding:    down
    218. 

  218. 

  219. dqintx250 tointegralx     55.7   ->  55  Inexact Rounded
    220. 

  220. dqintx251 tointegralx     56.7   ->  56  Inexact Rounded
    221. 

  221. dqintx252 tointegralx     57.7   ->  57  Inexact Rounded
    222. 

  222. dqintx253 tointegralx    -55.7   -> -55  Inexact Rounded
    223. 

  223. dqintx254 tointegralx    -56.7   -> -56  Inexact Rounded
    224. 

  224. dqintx255 tointegralx    -57.7   -> -57  Inexact Rounded
    225. 

  225. 

  226. rounding:    ceiling
    227. 

  227. 

  228. dqintx260 tointegralx     55.3   ->  56  Inexact Rounded
    229. 

  229. dqintx261 tointegralx     56.3   ->  57  Inexact Rounded
    230. 

  230. dqintx262 tointegralx     57.3   ->  58  Inexact Rounded
    231. 

  231. dqintx263 tointegralx    -55.3   -> -55  Inexact Rounded
    232. 

  232. dqintx264 tointegralx    -56.3   -> -56  Inexact Rounded
    233. 

  233. dqintx265 tointegralx    -57.3   -> -57  Inexact Rounded
    234. 

  234. 

  235. rounding:    floor
    236. 

  236. 

  237. dqintx270 tointegralx     55.7   ->  55  Inexact Rounded
    238. 

  238. dqintx271 tointegralx     56.7   ->  56  Inexact Rounded
    239. 

  239. dqintx272 tointegralx     57.7   ->  57  Inexact Rounded
    240. 

  240. dqintx273 tointegralx    -55.7   -> -56  Inexact Rounded
    241. 

  241. dqintx274 tointegralx    -56.7   -> -57  Inexact Rounded
    242. 

  242. dqintx275 tointegralx    -57.7   -> -58  Inexact Rounded
    243. 

  243. 

  244. -- Int and uInt32 edge values for testing conversions
    245. 

  245. dqintx300 tointegralx -2147483646  -> -2147483646
    246. 

  246. dqintx301 tointegralx -2147483647  -> -2147483647
    247. 

  247. dqintx302 tointegralx -2147483648  -> -2147483648
    248. 

  248. dqintx303 tointegralx -2147483649  -> -2147483649
    249. 

  249. dqintx304 tointegralx  2147483646  ->  2147483646
    250. 

  250. dqintx305 tointegralx  2147483647  ->  2147483647
    251. 

  251. dqintx306 tointegralx  2147483648  ->  2147483648
    252. 

  252. dqintx307 tointegralx  2147483649  ->  2147483649
    253. 

  253. dqintx308 tointegralx  4294967294  ->  4294967294
    254. 

  254. dqintx309 tointegralx  4294967295  ->  4294967295
    255. 

  255. dqintx310 tointegralx  4294967296  ->  4294967296
    256. 

  256. dqintx311 tointegralx  4294967297  ->  4294967297
    257. 

  257.