又犯了低级错误了

  下面这个代码:

return scale < 1 / 10000 ? 1 / 10000 : scale;

当scale=0.0000005时,居然返回的还是0.0000005,而不是0.0001 !

原来呀,1/10000=0

应该是

return scale < 1.0 / 10000 ? 1.0 / 10000 : scale;

才对。

又忽略了int和double的除法的区别!

原文地址:https://www.cnblogs.com/sinceret/p/10562719.html