英特尔处理器三角函数指令被发现会产生极其不精确的结果

责任编辑:editor005

2014-10-11 11:46:55

摘自:cnbeta网站

软件开发者Bruce Dawson发现,英特尔x86/x64处理器的三角函数指令fsin在某些情况下会产生极其不精确的结果。英特尔已经确认了这一问题,表示将会修正软件开发者手册中的相关描述。

软件开发者Bruce Dawson发现,英特尔x86/x64处理器的三角函数指令fsin在某些情况下会产生极其不精确的结果。英特尔已经确认了这一问题,表示将会修正软件开发者手册中的相关描述。这个问题与上世纪英特尔奔腾处理器浮点数除法错误不同,还不能称之为是一个bug。

Dawson是在用33位圆周率近似值进行计算时发现了fsin的精度问题,他认为英特尔的fsin实现有明显弱点。

英特尔处理器三角函数指令被发现会产生极其不精确的结果

链接已复制,快去分享吧

企业网版权所有©2010-2025 京ICP备09108050号-6京公网安备 11010502049343号