问题很简单：函数find_magnitude返回一个double，但你告诉printf将int转换为%d。您应该使用%f说明符：

printf("%f\n", find_magnitude(v1, v2, v3));

还请注意以下备注：

• find_magnitude()的forward声明应该放在全局范围内以保持一致性。正如声明的那样，定义和声明是独立的，不一致不会在编译时产生诊断，但会在运行时产生未定义的行为。由于这个原因和其他原因，在C中总是在全局范围内编写全局对象的声明被认为是更安全和惯用的。
• 变量v1、v2和v3可能应该被定义为double。
• v1 * v1是计算v1的平方比pow(v1, 2)更简单、更有效的方法。
• 应该测试scanf()的返回值以检测无效或丢失的输入。

以下是修改后的版本：

#define _CRT_SECURE_NO_WARNINGS
#include <stdio.h>
#include <math.h>

double find_magnitude(double v1, double v2, double v3);

int main(void) {
    double v1, v2, v3;
    char a;

    printf("Enter M/m or magnitude or D/d for the dot product and angle in degrees: ");
    if (scanf("%c", &a) != 1)
        return 1;

    if (a == 'M' || a == 'm') {
        printf("Enter in values for v1, v2, and v3: ");
        if (scanf("%lf,%lf,%lf", &v1, &v2, &v3) == 3) {
            printf("magnitude: %f\n", find_magnitude(v1, v2, v3));
        } else {
            printf("invalid input\n");
        }
    }

    return 0;
}

double find_magnitude(double v1, double v2, double v3) {
    double mag;
    mag = sqrt(v1 * v1 + v2 * v2 + v3 * v3);
    return mag;
}

如 Eph 所述，计算3D向量的幅度（或模数）可以使用<math.h>中声明的hypot()函数更准确地执行：

• 在v1、v2和/或v3的值非常大、非常小或在幅度上非常不同的情况下，计算sqrt(v1 * v1 + v2 * v2 + v3 * v3)可能产生不准确的结果。
• hypot(v1, v2)应用于2D向量，而不是sqrt(v1 * v1 + v2 * v2)，
• hypot(v1, hypot(v2, v3))用于3D向量。

以下是find_magnitude的修改版本：

double find_magnitude(double v1, double v2, double v3) {
    return hypot(v1, hypot(v2, v3));
}