Fix overflow_check CompileError with msvc
authorChristoph Gohlke <cgohlke@uci.edu>
Sun, 27 Jan 2013 18:07:01 +0000 (10:07 -0800)
committerChristoph Gohlke <cgohlke@uci.edu>
Sun, 27 Jan 2013 18:07:01 +0000 (10:07 -0800)
tests/run/overflow_check.pxi

index 3603f95..eea9f06 100644 (file)
@@ -34,7 +34,7 @@ cpdef check(func, op, a, b):
     if not func_overflow:
         assert res == op_res, "Inconsistant values: %s(%s, %s) == %s != %s" % (func, a, b, res, op_res)
 
-medium_values = (max_value_ / 2, max_value_ / 3, min_value_ / 2, <INT>sqrt(max_value_) - <INT>1, <INT>sqrt(max_value_) + 1)
+medium_values = (max_value_ / 2, max_value_ / 3, min_value_ / 2, <INT>sqrt(<long double>max_value_) - <INT>1, <INT>sqrt(<long double>max_value_) + 1)
 def run_test(func, op):
     cdef INT offset, b
     check(func, op, 300, 200)