C语言实际输出的小数后第5位与预期输出的小数后第5位不同

rhfm7lfc 于 2023-08-03 发布在其他

关注(0)|答案(1)|浏览(142)

实际输出的小数点后第5位数字与预期输出的小数点后第5位数字不同。
输出：558.29498预期：558.29496

double findMaxAverage(int* nums, int numsSize, int k){
float maxSum = -2147483648;
float currentSum = 0;

for(int i=0; i < numsSize; i++){
    currentSum += nums[i];
    if(i >= k - 1){
        if(currentSum > maxSum) maxSum = currentSum;
        currentSum -= nums[i - (k - 1)];
    }
}
return maxSum/k;
}

字符串
我试着这么做-

return (double)maxSum/k;

型
请帮我一下。

来源：https://stackoverflow.com/questions/76615259/5th-digit-after-decimal-actual-output-is-not-same-as-the-5th-digit-after-decimal

1条答案

按热度按时间

k2arahey1#

不要通过使用float然后将其强制转换为double而放弃精度。开始使用双精度浮点数。

double findMaxAverage(int* nums, int numsSize, int k) {
    double maxSum = -2147483648;
    double currentSum = 0;

    for (int i = 0; i < numsSize; i++) {
        currentSum += nums[i];

        if (i >= k - 1) {
            if (currentSum > maxSum) 
                maxSum = currentSum;

            currentSum -= nums[i - (k - 1)];
        }
    }

    return maxSum/k;
}

字符串

赞(0）回复(0）举报 2023-08-03

我来回答

C语言实际输出的小数后第5位与预期输出的小数后第5位不同

1条答案

相关问题

热门标签

最新问答

C语言 实际输出的小数后第5位与预期输出的小数后第5位不同

1条答案

相关问题

热门标签

最新问答

C语言实际输出的小数后第5位与预期输出的小数后第5位不同