瀏覽單個文章
JasonCTW
Advance Member
 
JasonCTW的大頭照
 

加入日期: Sep 2003
您的住址: 台北縣永和新店
文章: 375
整數運算
演算法課程
要提高浮點運算精度
先把每一位浮點看成整數

PI=3.141592654....
拆成
3 (10^0)
1 (10^-1)
4 (10^-2)
1 (以下省略)
5
9
2
6
5
4
.
.
.
再代入演算法下去算

複雜到FFT之類的就以非常大的整數陣列(記憶體)代入演算法下去算
__________________
Jason Chen @ Taiwan
嘟嘟....你慢走 2006/1/12 中午
舊 2007-11-13, 08:23 PM #9
回應時引用此文章
JasonCTW離線中