首页 » 技术分享 » 查看溢出(简述计算机溢出原理)

查看溢出(简述计算机溢出原理)

 

你是否细心观察到计算机所能表示的数字存在范围,那么计算机表示数字的范围是如何产生的呢?
我们定义一个int型的变量,已知他在存储中占用32位且数字在计算机中采用二进制的方式存储,那就不难理解32位二进制必然存在表示的范围。而int又分为无符号和有符号两种,他们的区别在于有符号要用首位去存储正负(0表示正数,1表示负数),那有符号整型最大就是0111 1111 1111 1111 1111 1111 1111 1111即2的三十次方减一了。
话不多说,呈代码:

#include <stdio.h>
#include <stdlib.h>
int sq(int x) {
    return x*x;
}int main(int argc, char *argv[]) {
    int i;
    for (i = 1; i < argc; i++) {
 int x = atoi(argv[i]);
 int sx = sq(x);
 printf("sq(%d) = %d\n", x, sx);
    }
    return 0;
}

那么在下面的案例中,我们观察到当执行到65535的平方时,结果就有点不正常了,正数和正数相乘却产生了负数,这就是正溢出。在计算机中,乘法是通过移位和加法来实现的,而65535的二进制为1111 1111 1111 1111,算完后只保留后32位,这就是65535平方的机器码了。除此之外还有负溢出等。
所以说,写代码需谨慎。

在Linux上部分案例的运行结果如下:
在这里插入图片描述

转载自原文链接, 如需删除请联系管理员。

原文链接:查看溢出(简述计算机溢出原理),转载请注明来源!

0