大桔灯文库logo

#有效数字位数# 相关文档

  • 数值逼近(复旦大学)答案.doc

    习题一1.用3位数字计算出方程:的解xy再用6位数字计算出x与y已知正确解为练习练习x=1y=-1计算结果说明什么解:用3位浮点计算:即得:解得:用6位浮点计算:即得:解得:此例说明在计算过程中选取有效数字位数越多相对误差越小计算结果越精确11.将(24-22)中的数全部列出来且在实轴上表示出来问总共有多少解:(24-22)系统中的所有正数为:共有个再加上中的80个负数以及0故共有161个1

    日期:2022-04-18 格式:.docx 页数:20页 大小:2.14MB 发布:
  • 1
  • 1/1页

客服

顶部