主題
:
SuperPi到底是整數運算還是浮點運算?
瀏覽單個文章
JasonCTW
Advance Member
加入日期: Sep 2003
您的住址: 台北縣永和新店
文章: 375
整數運算
演算法課程
要提高浮點運算精度
先把每一位浮點看成整數
如
PI=3.141592654....
拆成
3 (10^0)
1 (10^-1)
4 (10^-2)
1 (以下省略)
5
9
2
6
5
4
.
.
.
再代入演算法下去算
複雜到FFT之類的就以非常大的整數陣列(記憶體)代入演算法下去算
__________________
Jason Chen @ Taiwan
嘟嘟....你慢走 2006/1/12 中午
2007-11-13, 08:23 PM #
9
JasonCTW
瀏覽公開訊息
傳送私人訊息給JasonCTW
瀏覽JasonCTW的個人網站
查詢JasonCTW發表的更多文章
增加 JasonCTW 到好友清單