dqMaxMag.decTest 12 KB

123456789101112131415161718192021222324252627282930313233343536373839404142434445464748495051525354555657585960616263646566676869707172737475767778798081828384858687888990919293949596979899100101102103104105106107108109110111112113114115116117118119120121122123124125126127128129130131132133134135136137138139140141142143144145146147148149150151152153154155156157158159160161162163164165166167168169170171172173174175176177178179180181182183184185186187188189190191192193194195196197198199200201202203204205206207208209210211212213214215216217218219220221222223224225226227228229230231232233234235236237238239240241242243244245246247248249250251252253254255256257258259260261262263264265266267268269270271272273274275276277278279280281282283284285286287288289290291292293294295296297298299300301302303304
  1. ------------------------------------------------------------------------
  2. -- dqMaxMag.decTest -- decQuad maxnummag --
  3. -- Copyright (c) IBM Corporation, 1981, 2008. All rights reserved. --
  4. ------------------------------------------------------------------------
  5. -- Please see the document "General Decimal Arithmetic Testcases" --
  6. -- at http://www2.hursley.ibm.com/decimal for the description of --
  7. -- these testcases. --
  8. -- --
  9. -- These testcases are experimental ('beta' versions), and they --
  10. -- may contain errors. They are offered on an as-is basis. In --
  11. -- particular, achieving the same results as the tests here is not --
  12. -- a guarantee that an implementation complies with any Standard --
  13. -- or specification. The tests are not exhaustive. --
  14. -- --
  15. -- Please send comments, suggestions, and corrections to the author: --
  16. -- Mike Cowlishaw, IBM Fellow --
  17. -- IBM UK, PO Box 31, Birmingham Road, Warwick CV34 5JL, UK --
  18. -- mfc@uk.ibm.com --
  19. ------------------------------------------------------------------------
  20. version: 2.59
  21. -- we assume that base comparison is tested in compare.decTest, so
  22. -- these mainly cover special cases and rounding
  23. extended: 1
  24. clamp: 1
  25. precision: 34
  26. maxExponent: 6144
  27. minExponent: -6143
  28. rounding: half_even
  29. -- sanity checks
  30. dqmxg001 maxmag -2 -2 -> -2
  31. dqmxg002 maxmag -2 -1 -> -2
  32. dqmxg003 maxmag -2 0 -> -2
  33. dqmxg004 maxmag -2 1 -> -2
  34. dqmxg005 maxmag -2 2 -> 2
  35. dqmxg006 maxmag -1 -2 -> -2
  36. dqmxg007 maxmag -1 -1 -> -1
  37. dqmxg008 maxmag -1 0 -> -1
  38. dqmxg009 maxmag -1 1 -> 1
  39. dqmxg010 maxmag -1 2 -> 2
  40. dqmxg011 maxmag 0 -2 -> -2
  41. dqmxg012 maxmag 0 -1 -> -1
  42. dqmxg013 maxmag 0 0 -> 0
  43. dqmxg014 maxmag 0 1 -> 1
  44. dqmxg015 maxmag 0 2 -> 2
  45. dqmxg016 maxmag 1 -2 -> -2
  46. dqmxg017 maxmag 1 -1 -> 1
  47. dqmxg018 maxmag 1 0 -> 1
  48. dqmxg019 maxmag 1 1 -> 1
  49. dqmxg020 maxmag 1 2 -> 2
  50. dqmxg021 maxmag 2 -2 -> 2
  51. dqmxg022 maxmag 2 -1 -> 2
  52. dqmxg023 maxmag 2 0 -> 2
  53. dqmxg025 maxmag 2 1 -> 2
  54. dqmxg026 maxmag 2 2 -> 2
  55. -- extended zeros
  56. dqmxg030 maxmag 0 0 -> 0
  57. dqmxg031 maxmag 0 -0 -> 0
  58. dqmxg032 maxmag 0 -0.0 -> 0
  59. dqmxg033 maxmag 0 0.0 -> 0
  60. dqmxg034 maxmag -0 0 -> 0 -- note: -0 = 0, but 0 chosen
  61. dqmxg035 maxmag -0 -0 -> -0
  62. dqmxg036 maxmag -0 -0.0 -> -0.0
  63. dqmxg037 maxmag -0 0.0 -> 0.0
  64. dqmxg038 maxmag 0.0 0 -> 0
  65. dqmxg039 maxmag 0.0 -0 -> 0.0
  66. dqmxg040 maxmag 0.0 -0.0 -> 0.0
  67. dqmxg041 maxmag 0.0 0.0 -> 0.0
  68. dqmxg042 maxmag -0.0 0 -> 0
  69. dqmxg043 maxmag -0.0 -0 -> -0.0
  70. dqmxg044 maxmag -0.0 -0.0 -> -0.0
  71. dqmxg045 maxmag -0.0 0.0 -> 0.0
  72. dqmxg050 maxmag -0E1 0E1 -> 0E+1
  73. dqmxg051 maxmag -0E2 0E2 -> 0E+2
  74. dqmxg052 maxmag -0E2 0E1 -> 0E+1
  75. dqmxg053 maxmag -0E1 0E2 -> 0E+2
  76. dqmxg054 maxmag 0E1 -0E1 -> 0E+1
  77. dqmxg055 maxmag 0E2 -0E2 -> 0E+2
  78. dqmxg056 maxmag 0E2 -0E1 -> 0E+2
  79. dqmxg057 maxmag 0E1 -0E2 -> 0E+1
  80. dqmxg058 maxmag 0E1 0E1 -> 0E+1
  81. dqmxg059 maxmag 0E2 0E2 -> 0E+2
  82. dqmxg060 maxmag 0E2 0E1 -> 0E+2
  83. dqmxg061 maxmag 0E1 0E2 -> 0E+2
  84. dqmxg062 maxmag -0E1 -0E1 -> -0E+1
  85. dqmxg063 maxmag -0E2 -0E2 -> -0E+2
  86. dqmxg064 maxmag -0E2 -0E1 -> -0E+1
  87. dqmxg065 maxmag -0E1 -0E2 -> -0E+1
  88. -- Specials
  89. dqmxg090 maxmag Inf -Inf -> Infinity
  90. dqmxg091 maxmag Inf -1000 -> Infinity
  91. dqmxg092 maxmag Inf -1 -> Infinity
  92. dqmxg093 maxmag Inf -0 -> Infinity
  93. dqmxg094 maxmag Inf 0 -> Infinity
  94. dqmxg095 maxmag Inf 1 -> Infinity
  95. dqmxg096 maxmag Inf 1000 -> Infinity
  96. dqmxg097 maxmag Inf Inf -> Infinity
  97. dqmxg098 maxmag -1000 Inf -> Infinity
  98. dqmxg099 maxmag -Inf Inf -> Infinity
  99. dqmxg100 maxmag -1 Inf -> Infinity
  100. dqmxg101 maxmag -0 Inf -> Infinity
  101. dqmxg102 maxmag 0 Inf -> Infinity
  102. dqmxg103 maxmag 1 Inf -> Infinity
  103. dqmxg104 maxmag 1000 Inf -> Infinity
  104. dqmxg105 maxmag Inf Inf -> Infinity
  105. dqmxg120 maxmag -Inf -Inf -> -Infinity
  106. dqmxg121 maxmag -Inf -1000 -> -Infinity
  107. dqmxg122 maxmag -Inf -1 -> -Infinity
  108. dqmxg123 maxmag -Inf -0 -> -Infinity
  109. dqmxg124 maxmag -Inf 0 -> -Infinity
  110. dqmxg125 maxmag -Inf 1 -> -Infinity
  111. dqmxg126 maxmag -Inf 1000 -> -Infinity
  112. dqmxg127 maxmag -Inf Inf -> Infinity
  113. dqmxg128 maxmag -Inf -Inf -> -Infinity
  114. dqmxg129 maxmag -1000 -Inf -> -Infinity
  115. dqmxg130 maxmag -1 -Inf -> -Infinity
  116. dqmxg131 maxmag -0 -Inf -> -Infinity
  117. dqmxg132 maxmag 0 -Inf -> -Infinity
  118. dqmxg133 maxmag 1 -Inf -> -Infinity
  119. dqmxg134 maxmag 1000 -Inf -> -Infinity
  120. dqmxg135 maxmag Inf -Inf -> Infinity
  121. -- 2004.08.02 754r chooses number over NaN in mixed cases
  122. dqmxg141 maxmag NaN -Inf -> -Infinity
  123. dqmxg142 maxmag NaN -1000 -> -1000
  124. dqmxg143 maxmag NaN -1 -> -1
  125. dqmxg144 maxmag NaN -0 -> -0
  126. dqmxg145 maxmag NaN 0 -> 0
  127. dqmxg146 maxmag NaN 1 -> 1
  128. dqmxg147 maxmag NaN 1000 -> 1000
  129. dqmxg148 maxmag NaN Inf -> Infinity
  130. dqmxg149 maxmag NaN NaN -> NaN
  131. dqmxg150 maxmag -Inf NaN -> -Infinity
  132. dqmxg151 maxmag -1000 NaN -> -1000
  133. dqmxg152 maxmag -1 NaN -> -1
  134. dqmxg153 maxmag -0 NaN -> -0
  135. dqmxg154 maxmag 0 NaN -> 0
  136. dqmxg155 maxmag 1 NaN -> 1
  137. dqmxg156 maxmag 1000 NaN -> 1000
  138. dqmxg157 maxmag Inf NaN -> Infinity
  139. dqmxg161 maxmag sNaN -Inf -> NaN Invalid_operation
  140. dqmxg162 maxmag sNaN -1000 -> NaN Invalid_operation
  141. dqmxg163 maxmag sNaN -1 -> NaN Invalid_operation
  142. dqmxg164 maxmag sNaN -0 -> NaN Invalid_operation
  143. dqmxg165 maxmag sNaN 0 -> NaN Invalid_operation
  144. dqmxg166 maxmag sNaN 1 -> NaN Invalid_operation
  145. dqmxg167 maxmag sNaN 1000 -> NaN Invalid_operation
  146. dqmxg168 maxmag sNaN NaN -> NaN Invalid_operation
  147. dqmxg169 maxmag sNaN sNaN -> NaN Invalid_operation
  148. dqmxg170 maxmag NaN sNaN -> NaN Invalid_operation
  149. dqmxg171 maxmag -Inf sNaN -> NaN Invalid_operation
  150. dqmxg172 maxmag -1000 sNaN -> NaN Invalid_operation
  151. dqmxg173 maxmag -1 sNaN -> NaN Invalid_operation
  152. dqmxg174 maxmag -0 sNaN -> NaN Invalid_operation
  153. dqmxg175 maxmag 0 sNaN -> NaN Invalid_operation
  154. dqmxg176 maxmag 1 sNaN -> NaN Invalid_operation
  155. dqmxg177 maxmag 1000 sNaN -> NaN Invalid_operation
  156. dqmxg178 maxmag Inf sNaN -> NaN Invalid_operation
  157. dqmxg179 maxmag NaN sNaN -> NaN Invalid_operation
  158. -- propagating NaNs
  159. dqmxg181 maxmag NaN9 -Inf -> -Infinity
  160. dqmxg182 maxmag NaN8 9 -> 9
  161. dqmxg183 maxmag -NaN7 Inf -> Infinity
  162. dqmxg184 maxmag -NaN1 NaN11 -> -NaN1
  163. dqmxg185 maxmag NaN2 NaN12 -> NaN2
  164. dqmxg186 maxmag -NaN13 -NaN7 -> -NaN13
  165. dqmxg187 maxmag NaN14 -NaN5 -> NaN14
  166. dqmxg188 maxmag -Inf NaN4 -> -Infinity
  167. dqmxg189 maxmag -9 -NaN3 -> -9
  168. dqmxg190 maxmag Inf NaN2 -> Infinity
  169. dqmxg191 maxmag sNaN99 -Inf -> NaN99 Invalid_operation
  170. dqmxg192 maxmag sNaN98 -1 -> NaN98 Invalid_operation
  171. dqmxg193 maxmag -sNaN97 NaN -> -NaN97 Invalid_operation
  172. dqmxg194 maxmag sNaN96 sNaN94 -> NaN96 Invalid_operation
  173. dqmxg195 maxmag NaN95 sNaN93 -> NaN93 Invalid_operation
  174. dqmxg196 maxmag -Inf sNaN92 -> NaN92 Invalid_operation
  175. dqmxg197 maxmag 0 sNaN91 -> NaN91 Invalid_operation
  176. dqmxg198 maxmag Inf -sNaN90 -> -NaN90 Invalid_operation
  177. dqmxg199 maxmag NaN sNaN89 -> NaN89 Invalid_operation
  178. -- old rounding checks
  179. dqmxg221 maxmag 12345678000 1 -> 12345678000
  180. dqmxg222 maxmag 1 12345678000 -> 12345678000
  181. dqmxg223 maxmag 1234567800 1 -> 1234567800
  182. dqmxg224 maxmag 1 1234567800 -> 1234567800
  183. dqmxg225 maxmag 1234567890 1 -> 1234567890
  184. dqmxg226 maxmag 1 1234567890 -> 1234567890
  185. dqmxg227 maxmag 1234567891 1 -> 1234567891
  186. dqmxg228 maxmag 1 1234567891 -> 1234567891
  187. dqmxg229 maxmag 12345678901 1 -> 12345678901
  188. dqmxg230 maxmag 1 12345678901 -> 12345678901
  189. dqmxg231 maxmag 1234567896 1 -> 1234567896
  190. dqmxg232 maxmag 1 1234567896 -> 1234567896
  191. dqmxg233 maxmag -1234567891 1 -> -1234567891
  192. dqmxg234 maxmag 1 -1234567891 -> -1234567891
  193. dqmxg235 maxmag -12345678901 1 -> -12345678901
  194. dqmxg236 maxmag 1 -12345678901 -> -12345678901
  195. dqmxg237 maxmag -1234567896 1 -> -1234567896
  196. dqmxg238 maxmag 1 -1234567896 -> -1234567896
  197. -- from examples
  198. dqmxg280 maxmag '3' '2' -> '3'
  199. dqmxg281 maxmag '-10' '3' -> '-10'
  200. dqmxg282 maxmag '1.0' '1' -> '1'
  201. dqmxg283 maxmag '1' '1.0' -> '1'
  202. dqmxg284 maxmag '7' 'NaN' -> '7'
  203. -- expanded list from min/max 754r purple prose
  204. -- [explicit tests for exponent ordering]
  205. dqmxg401 maxmag Inf 1.1 -> Infinity
  206. dqmxg402 maxmag 1.1 1 -> 1.1
  207. dqmxg403 maxmag 1 1.0 -> 1
  208. dqmxg404 maxmag 1.0 0.1 -> 1.0
  209. dqmxg405 maxmag 0.1 0.10 -> 0.1
  210. dqmxg406 maxmag 0.10 0.100 -> 0.10
  211. dqmxg407 maxmag 0.10 0 -> 0.10
  212. dqmxg408 maxmag 0 0.0 -> 0
  213. dqmxg409 maxmag 0.0 -0 -> 0.0
  214. dqmxg410 maxmag 0.0 -0.0 -> 0.0
  215. dqmxg411 maxmag 0.00 -0.0 -> 0.00
  216. dqmxg412 maxmag 0.0 -0.00 -> 0.0
  217. dqmxg413 maxmag 0 -0.0 -> 0
  218. dqmxg414 maxmag 0 -0 -> 0
  219. dqmxg415 maxmag -0.0 -0 -> -0.0
  220. dqmxg416 maxmag -0 -0.100 -> -0.100
  221. dqmxg417 maxmag -0.100 -0.10 -> -0.100
  222. dqmxg418 maxmag -0.10 -0.1 -> -0.10
  223. dqmxg419 maxmag -0.1 -1.0 -> -1.0
  224. dqmxg420 maxmag -1.0 -1 -> -1.0
  225. dqmxg421 maxmag -1 -1.1 -> -1.1
  226. dqmxg423 maxmag -1.1 -Inf -> -Infinity
  227. -- same with operands reversed
  228. dqmxg431 maxmag 1.1 Inf -> Infinity
  229. dqmxg432 maxmag 1 1.1 -> 1.1
  230. dqmxg433 maxmag 1.0 1 -> 1
  231. dqmxg434 maxmag 0.1 1.0 -> 1.0
  232. dqmxg435 maxmag 0.10 0.1 -> 0.1
  233. dqmxg436 maxmag 0.100 0.10 -> 0.10
  234. dqmxg437 maxmag 0 0.10 -> 0.10
  235. dqmxg438 maxmag 0.0 0 -> 0
  236. dqmxg439 maxmag -0 0.0 -> 0.0
  237. dqmxg440 maxmag -0.0 0.0 -> 0.0
  238. dqmxg441 maxmag -0.0 0.00 -> 0.00
  239. dqmxg442 maxmag -0.00 0.0 -> 0.0
  240. dqmxg443 maxmag -0.0 0 -> 0
  241. dqmxg444 maxmag -0 0 -> 0
  242. dqmxg445 maxmag -0 -0.0 -> -0.0
  243. dqmxg446 maxmag -0.100 -0 -> -0.100
  244. dqmxg447 maxmag -0.10 -0.100 -> -0.100
  245. dqmxg448 maxmag -0.1 -0.10 -> -0.10
  246. dqmxg449 maxmag -1.0 -0.1 -> -1.0
  247. dqmxg450 maxmag -1 -1.0 -> -1.0
  248. dqmxg451 maxmag -1.1 -1 -> -1.1
  249. dqmxg453 maxmag -Inf -1.1 -> -Infinity
  250. -- largies
  251. dqmxg460 maxmag 1000 1E+3 -> 1E+3
  252. dqmxg461 maxmag 1E+3 1000 -> 1E+3
  253. dqmxg462 maxmag 1000 -1E+3 -> 1000
  254. dqmxg463 maxmag 1E+3 -1000 -> 1E+3
  255. dqmxg464 maxmag -1000 1E+3 -> 1E+3
  256. dqmxg465 maxmag -1E+3 1000 -> 1000
  257. dqmxg466 maxmag -1000 -1E+3 -> -1000
  258. dqmxg467 maxmag -1E+3 -1000 -> -1000
  259. -- subnormals
  260. dqmxg510 maxmag 1.00E-6143 0 -> 1.00E-6143
  261. dqmxg511 maxmag 0.1E-6143 0 -> 1E-6144 Subnormal
  262. dqmxg512 maxmag 0.10E-6143 0 -> 1.0E-6144 Subnormal
  263. dqmxg513 maxmag 0.100E-6143 0 -> 1.00E-6144 Subnormal
  264. dqmxg514 maxmag 0.01E-6143 0 -> 1E-6145 Subnormal
  265. dqmxg515 maxmag 0.999E-6143 0 -> 9.99E-6144 Subnormal
  266. dqmxg516 maxmag 0.099E-6143 0 -> 9.9E-6145 Subnormal
  267. dqmxg517 maxmag 0.009E-6143 0 -> 9E-6146 Subnormal
  268. dqmxg518 maxmag 0.001E-6143 0 -> 1E-6146 Subnormal
  269. dqmxg519 maxmag 0.0009E-6143 0 -> 9E-6147 Subnormal
  270. dqmxg520 maxmag 0.0001E-6143 0 -> 1E-6147 Subnormal
  271. dqmxg530 maxmag -1.00E-6143 0 -> -1.00E-6143
  272. dqmxg531 maxmag -0.1E-6143 0 -> -1E-6144 Subnormal
  273. dqmxg532 maxmag -0.10E-6143 0 -> -1.0E-6144 Subnormal
  274. dqmxg533 maxmag -0.100E-6143 0 -> -1.00E-6144 Subnormal
  275. dqmxg534 maxmag -0.01E-6143 0 -> -1E-6145 Subnormal
  276. dqmxg535 maxmag -0.999E-6143 0 -> -9.99E-6144 Subnormal
  277. dqmxg536 maxmag -0.099E-6143 0 -> -9.9E-6145 Subnormal
  278. dqmxg537 maxmag -0.009E-6143 0 -> -9E-6146 Subnormal
  279. dqmxg538 maxmag -0.001E-6143 0 -> -1E-6146 Subnormal
  280. dqmxg539 maxmag -0.0009E-6143 0 -> -9E-6147 Subnormal
  281. dqmxg540 maxmag -0.0001E-6143 0 -> -1E-6147 Subnormal
  282. -- Null tests
  283. dqmxg900 maxmag 10 # -> NaN Invalid_operation
  284. dqmxg901 maxmag # 10 -> NaN Invalid_operation