C#decimal数据类型——有效长度问题
生活随笔
收集整理的這篇文章主要介紹了
C#decimal数据类型——有效长度问题
小編覺得挺不錯的,現(xiàn)在分享給大家,幫大家做個參考.
C#decimal整數(shù)部分有效長度
通過累計(jì)數(shù)字做數(shù)據(jù)容納量測試:
從1累加到一百萬億測試:
//累計(jì)數(shù)據(jù)
//1++++++100=5050
//1+++++++100000000000000(一百萬億)
//(n+1)*n/2
從1累加到一千萬億測試:
decimal n = decimal.Parse("1000000000000000");//一千萬億 decimal one=decimal.Parse("1"); decimal two=decimal.Parse("2"); decimal v = (n + one) * n / two; Console.WriteLine(v); Console.WriteLine(v.ToString().Length);異常如下:
基礎(chǔ)長度測試:
//C#處理數(shù)據(jù)長度,最長29位 string len = "100000000000000000000000000000"; Console.WriteLine(decimal.Parse(len)); Console.WriteLine("最大長度:"+ len.Length);?
長度30的時候就會報(bào)錯異常。
總結(jié)
以上是生活随笔為你收集整理的C#decimal数据类型——有效长度问题的全部內(nèi)容,希望文章能夠幫你解決所遇到的問題。
- 上一篇: 我的Go+语言初体验——【三、spx案例
- 下一篇: C#浮点数问题