在计算机这行待久了你会发现一个挺有意思的现象很多写了几年代码的人遇到二进制计算还是会心里发怵。一说“217转二进制”要拿计算器一提到“负数的二进制”直接懵圈更别提“二进制除法”和“十进制小数转二进制”这种听着就像天书的词了。但说白了二进制就是计算机世界的母语。你在屏幕上看到的图片、视频、文字底层全是0和1的组合运算。这篇博文我不打算讲枯燥的理论而是直接从最实用的计算角度切入把整数转换、补码原理、加减乘除、小数精度这些事儿掰开揉碎了讲清楚。不管你是在校学生、刚入门程序员还是偶尔被二进制折腾的运维老哥这篇内容都能让你真正“算得明白”在实战里少踩几个坑。1. 内容整体设计与思路拆解1.1 为什么非要搞懂二进制计算很多人觉得奇怪现在高级语言这么多我写int a 5谁还管它底层是101还是什么这个想法其实忽略了两个关键场景。第一个是调试和排查问题。比如你在C语言里用strstr()去查找一段二进制内存或者对着网络抓包文件看十六进制数据如果不懂二进制和进制转换你根本不知道这些字节代表什么。再比如用memtester压测内存时下载 ARM 或 ARM64 版本二进制包安装完跑起来你至少得看懂日志里那些地址和掩码的规律。第二个是性能和底层优化。位运算比普通乘除法快这是老生常谈但为什么快因为 CPU 本质上执行的就是二进制移位和逻辑运算。你写x * 8编译器可能直接给你优化成x 3。不懂二进制的计算规则你很难真正理解编译器的行为更别说自己写出高效的底层代码。1.2 二进制计算学习路径怎么安排我的建议是按“从现象到本质”的顺序来先从最直观的“二进制是什么”入手建立位权的感觉然后掌握最常用的整数转换这是一切计算的基础接着进入真正的重头戏——二进制的加减乘除和补码表示最后再处理小数的二进制转换和精度问题。这样安排的好处是你每一步都能用前一步的知识来解释后一步的困惑。比如补码这个东西很多教材上只告诉你规则是“取反加一”但没人告诉你为什么要这么干。当你理解了二进制减法借位的麻烦你就明白补码是为了把减法统一成加法让 CPU 内部只需要设计加法器。这就是我在这篇文章里想传达的核心思路每一个二进制计算的规则背后都有它存在的物理约束和工程逻辑。2. 核心细节解析与实操要点2.1 位权展开二进制的最底层的直觉我们从小熟悉十进制比如217表示2×10² 1×10¹ 7×10⁰这叫位权展开。二进制也一样只不过底数从10换成了2每一位只能是0或1。比如11010110从右往左数第0位是0×2⁰第1位是1×2¹第2位是1×2²第3位是0×2³第4位是1×2⁴第5位是0×2⁵第6位是1×2⁶第7位是1×2⁷。把它们加起来就是0 2 4 0 16 0 64 128 214。这个拆解过程就是“权值相加法”。我强烈建议你遇到任何二进制数第一反应都先做位权展开而不是死记硬背。因为位权展开不仅能用来转十进制还能帮你理解二进制乘法中“左移一位等于乘以2”的现象——左移就是让每个位的权值翻倍。2.2 217转化为二进制最实用的短除法流程网上关于十进制转二进制的教程不少大多在讲“除2取余”但我发现很多教程没讲清楚取余的顺序。以题目里这个“217转化为二进制”为例完整操作是这样217 ÷ 2 108余1108 ÷ 2 54余054 ÷ 2 27余027 ÷ 2 13余113 ÷ 2 6余16 ÷ 2 3余03 ÷ 2 1余11 ÷ 2 0余1注意了这里的余数要逆向排列也就是从下往上读11011001。验证一下128 64 0 16 8 0 0 1 217完全正确。2.3 二进制扩展法与快速心算技巧除2取余法虽然通用但手算效率偏低。这里分享一个更快的“二进制扩展法”思路我觉得特别适合没有计算器在身边的时候用。所谓扩展法就是先把权值序列写出来512 256 128 64 32 16 8 4 2 1然后看这个数能拆成哪些权值之和。还是拿217举例。217比128大所以第8位是1217 - 128 8989比64大第7位是189 - 64 2525比16大第6位是025比32小第6位是0第5位是125 - 16 99比8大第4位是19 - 8 1剩下1就是第0位。所以是11011001。这个方法在脑子里想一遍比列除法竖式快多了尤其适合处理“等于2的整数次幂附近的数”。3. 实操过程与核心环节实现3.1 二进制加减法从进位到借位讲真如果只是做二进制加法和乘法很多人觉得自己会但真遇到减法就开始犯迷糊。我们先看加法。二进制的加法规则只有四条000011101110并向左进1。比如1011 0110最低位101第二位110进1第三位0110再进1第四位1010进1结果就是10001。减法呢如果直接按竖式借位你会发现规则很不统一借位比加法麻烦不少。这就是我在前面提到的关键计算机为什么不用直接减法因为硬件设计上做减法需要额外的“借位”电路而且边界情况处理复杂。所以计算机采用的是补码方案把A - B变成A (-B)。你只需要算出-B的补码剩下的交给加法器就行。3.2 负数的二进制与补码原理现在来看重头戏补码。这里我要帮很多人纠正一个误解就是把“二进制负数”和“符号位取反”混为一谈。最开始的“原码”方案确实是用最高位做符号位比如10000001表示-1。但原码有个致命问题0有两种表示00000000和10000000这让运算器很不爽。于是计算机采用“补码”来表示负数。补码的计算规则是正数的补码就是它本身负数的补码是“原码取反加一”。以8位为例-1的原码是00000001取反是11111110再加一得到11111111。所以-1在8位二进制里就是11111111。你可能要问11111111按无符号数看不是255吗这就是关键了同一个二进制序列到底表示正数还是负数取决于你怎么解释它。如果是int8_t它就是 -1如果是uint8_t它就是 255。这个“解释权”的概念在后续做二进制计算时会反反复复遇到。3.3 二进制乘除法移位才是灵魂乘除法听起来复杂但归根结底就是移位加迭代。二进制乘法用竖式看特别直观。比如1101 × 101你可以把乘数按位拆开1101 × 1对应乘数最低位、1101 × 0左移一位、1101 × 1左移两位。把它们加起来1101 0000 110100 1000001。你发现没有二进制乘法根本没有“九九乘法表”每一步只是“乘1保留”或“乘0清零”然后按位左移再相加。二进制除法也类似以被除数不断减去除数为核心。比如110101 ÷ 101相当于十进制53 ÷ 5。从高位开始看1不够减101商记011不够减商记0110够减商1余1拉下一位1变成11不够减商0再拉下一位0变成110够减商1余1最后拉下一位1变成11不够减商0。结果商是01010也就是10余数11即十进制商2余3。这个操作过程其实和长除法一样只是每一步的比较只涉及0和1判断起来更简单。3.4 从十进制小数到二进制乘以2取整法如果说整数转换还算顺利小数转换就是很多人第一次怀疑人生的地方。十进制小数转二进制的方法叫“乘2取整法”具体操作是把小数部分不断乘以2每次取乘积的整数部分作为二进制位直到小数部分为0或者达到所需精度。比如0.6250.625 × 2 1.25取整数1剩0.250.25 × 2 0.5取整数0剩0.50.5 × 2 1.0取整数1剩0.0所以0.625就是0.101正好能精确表示。但注意很多十进制小数在二进制里是无限循环的比如0.10.1 × 2 0.2取00.2 × 2 0.4取00.4 × 2 0.8取00.8 × 2 1.6取10.6 × 2 1.2取10.2 × 2 0.4取0到这里已经是0.00011接着循环了后面会一直重复0011这样的模式这就是为什么你在程序里输出0.1 0.2经常会得到一个0.30000000000000004的原因——0.1和0.2转成二进制本来就不是精确值计算后误差自然存在。3.5 十进制小数转换有精度限制时需要考虑舍入吗这个热搜问得特别好答案是需要而且必须认真考虑。IEEE 754 浮点数标准规定单精度 float 用23位存尾数双精度 double 用52位存尾数。当二进制小数超出尾数位数时必须做舍入常见策略是“就近舍入”也就是四舍五入到偶数。这和你小学数学里四舍五入一个道理只不过是在二进制层面操作。我举一个实际例子。把0.1转成双精度二进制理论上要无限循环但计算机只能存52位。如果不做舍入直接截断累计误差会更大做了就近舍入存储的值更接近真实的0.1但依然不是精确的。工程经验是涉及金额计算时绝对不要用float或double请改用十进制定点数或者整数分存储涉及科学计算需要高精度时用专门的高精度库。这是我在金融项目里踩过坑之后总结出来的铁律。4. 常见问题与排查技巧实录4.1 手算二进制时最容易犯的三个错误第一个错误是除2取余的顺序搞反。不是说从下往上读嘛有人总习惯从上往下读结果217被算成了10011011和真正的11011001完全不一样。我的建议是算完立刻做一次位权展开验算把每一位权值加起来看看是否等于原数这能拦下90%的粗心错误。第二个错误是补码计算时忘了“取反再加一”是两步操作。比如求-5的8位补码先写原码00000101取反得11111010再加一得11111011。如果只取不加结果就是-6的补码这一步错得极其隐蔽。第三个错误是小数转换时忽略精度。很多新手用“乘2取整法”转换0.3写到某一位发现循环了就随便截断完全不考虑舍入最后在程序里对不上结果。遇到这种情况你要先明确自己需要保留多少位二进制小数再决定截断还是舍入。4.2 如何快速验算二进制结果验算是二进制的救命稻草。我推荐两个土办法第一个是“权值回加”把每一位的权值之和算一遍第二个是利用8进制或16进制做中间检查。因为8进制一位对应二进制3位16进制一位对应二进制4位转换非常方便。比如你算出11011001从右往左每4位一组1101 1001就是十六进制的D9。马上心算D×169 13×169 217数值对上了说明结果基本没错。这个技巧在调试内存和网络数据时特别有用。你用xxd或hexdump查看二进制文件看到的都是十六进制如果你能把每个字节拆成8位二进制直接在脑子里算出它的十进制很多问题能当场定位。4.3 二进制和“二进制包”不是一回事还有一个让我哭笑不得的常见混淆很多人搜索“二进制计算”时会搜到“centos 部署nginx二进制包”或“docker默认sock文件位置”这类结果然后以为“二进制包”和“二进制计算”是同一个字面意思。其实这里的“二进制包”指的是已经编译好的可执行文件直接拷贝到系统里就能运行不需要再编译源码。这个概念和“二进制的计算”属于技术的两个领域。一个是数学和计算机原理层面讲的是数据如何用0和1表示另一个是软件分发与部署层面讲的是可执行文件的格式和管理。不过它们有一个共通点都需要你理解二进制文件的结构。比如你下载 ARM64 架构的软件包却装到了 x86 机器上系统会直接拒绝执行因为它二进制指令集不兼容。这种兼容性问题本质上就是两种“二进制世界观”的碰撞。4.4 二进制计算在 AI 和性能调优里的延伸从热搜词里看到“二进制人工智能”和“vsc怎么指定二进制打开文件”我觉得可以再延伸两句。二进制计算在 AI 里最经典的体现就是位掩码和量化。神经网络权重量化到 int8 之后一个权值只用8位二进制表示计算时用位运算完成批量矩阵乘能大幅度提高推理速度。这时候你要是懂二进制的补码和乘法原理想优化代码会顺手很多。另外Visual Studio Code 里指定二进制方式打开文件就是在设置里把某些文件扩展名关联到“Editor: Binary File”模式。打开之后你会看到十六进制和 ASCII 对照点某个字节能看到它的十进制和二进制值。经常跟二进制内存、文件结构打交道的朋友建议把这个功能用起来它能帮你把抽象的计算和真实的数据对应上。5. 常见二进制计算问题速查表场景典型问题解决思路十进制整数转二进制结果为负数怎么办先转绝对值再求补码二进制转十进制最高位是1是127还是-1看类型是有符号还是无符号有符号则按补码解析小数转二进制0.1无法精确表示用定点数或高精度库避免浮点累计误差二进制乘法计算耗时过长用移位和加法减少乘法运算次数二进制除法除法向上/向下舍入明确算法要求补码除法要考虑符号位运算调试想快速定位标志位用十六进制查看 位掩码与运算跨平台部署二进制包无法运行检查架构是 x86_64 还是 arm64C语言字符串查找strstr 查找二进制数据失败改用 memmem 或自写字节比较逻辑浮点输出异常0.10.2 结果显示多出很多位接受精度现状格式化输出时截断编译器优化x*8 被优化为 x3理解移位等价于2的幂次乘除6. 写在最后的几个心得我做了这么多年开发最大的感触是二进制的计算没有任何高深莫测的地方它就是一套基于2的位权系统配上移位、取反、加一这几件基本工具。你只需要反复练习整数和小数的转换再把补码和移位弄透彻绝大多数和二进制有关的面试题、工作中遇到的疑难杂症都能迎刃而解。分享一个我个人觉得最实用的建议在电脑上打开“计算器”的“程序员”模式它有十六进制、十进制、八进制、二进制的联动显示还能直接做位运算。遇到拿不准的转换点两下鼠标看到结果再对照手动推导一遍比你死记硬背任何公式都管用。最后如果你在实践过程中遇到具体卡壳的地方比如某个二进制除法的案例怎么都验证不对或者某个浮点数精度问题在具体业务里不知道怎么处理欢迎留言把细节抛出来。二进制这个领域多讨论一次理解就深一层。
二进制计算精讲：进制转换、补码原理与位运算实战
在计算机这行待久了你会发现一个挺有意思的现象很多写了几年代码的人遇到二进制计算还是会心里发怵。一说“217转二进制”要拿计算器一提到“负数的二进制”直接懵圈更别提“二进制除法”和“十进制小数转二进制”这种听着就像天书的词了。但说白了二进制就是计算机世界的母语。你在屏幕上看到的图片、视频、文字底层全是0和1的组合运算。这篇博文我不打算讲枯燥的理论而是直接从最实用的计算角度切入把整数转换、补码原理、加减乘除、小数精度这些事儿掰开揉碎了讲清楚。不管你是在校学生、刚入门程序员还是偶尔被二进制折腾的运维老哥这篇内容都能让你真正“算得明白”在实战里少踩几个坑。1. 内容整体设计与思路拆解1.1 为什么非要搞懂二进制计算很多人觉得奇怪现在高级语言这么多我写int a 5谁还管它底层是101还是什么这个想法其实忽略了两个关键场景。第一个是调试和排查问题。比如你在C语言里用strstr()去查找一段二进制内存或者对着网络抓包文件看十六进制数据如果不懂二进制和进制转换你根本不知道这些字节代表什么。再比如用memtester压测内存时下载 ARM 或 ARM64 版本二进制包安装完跑起来你至少得看懂日志里那些地址和掩码的规律。第二个是性能和底层优化。位运算比普通乘除法快这是老生常谈但为什么快因为 CPU 本质上执行的就是二进制移位和逻辑运算。你写x * 8编译器可能直接给你优化成x 3。不懂二进制的计算规则你很难真正理解编译器的行为更别说自己写出高效的底层代码。1.2 二进制计算学习路径怎么安排我的建议是按“从现象到本质”的顺序来先从最直观的“二进制是什么”入手建立位权的感觉然后掌握最常用的整数转换这是一切计算的基础接着进入真正的重头戏——二进制的加减乘除和补码表示最后再处理小数的二进制转换和精度问题。这样安排的好处是你每一步都能用前一步的知识来解释后一步的困惑。比如补码这个东西很多教材上只告诉你规则是“取反加一”但没人告诉你为什么要这么干。当你理解了二进制减法借位的麻烦你就明白补码是为了把减法统一成加法让 CPU 内部只需要设计加法器。这就是我在这篇文章里想传达的核心思路每一个二进制计算的规则背后都有它存在的物理约束和工程逻辑。2. 核心细节解析与实操要点2.1 位权展开二进制的最底层的直觉我们从小熟悉十进制比如217表示2×10² 1×10¹ 7×10⁰这叫位权展开。二进制也一样只不过底数从10换成了2每一位只能是0或1。比如11010110从右往左数第0位是0×2⁰第1位是1×2¹第2位是1×2²第3位是0×2³第4位是1×2⁴第5位是0×2⁵第6位是1×2⁶第7位是1×2⁷。把它们加起来就是0 2 4 0 16 0 64 128 214。这个拆解过程就是“权值相加法”。我强烈建议你遇到任何二进制数第一反应都先做位权展开而不是死记硬背。因为位权展开不仅能用来转十进制还能帮你理解二进制乘法中“左移一位等于乘以2”的现象——左移就是让每个位的权值翻倍。2.2 217转化为二进制最实用的短除法流程网上关于十进制转二进制的教程不少大多在讲“除2取余”但我发现很多教程没讲清楚取余的顺序。以题目里这个“217转化为二进制”为例完整操作是这样217 ÷ 2 108余1108 ÷ 2 54余054 ÷ 2 27余027 ÷ 2 13余113 ÷ 2 6余16 ÷ 2 3余03 ÷ 2 1余11 ÷ 2 0余1注意了这里的余数要逆向排列也就是从下往上读11011001。验证一下128 64 0 16 8 0 0 1 217完全正确。2.3 二进制扩展法与快速心算技巧除2取余法虽然通用但手算效率偏低。这里分享一个更快的“二进制扩展法”思路我觉得特别适合没有计算器在身边的时候用。所谓扩展法就是先把权值序列写出来512 256 128 64 32 16 8 4 2 1然后看这个数能拆成哪些权值之和。还是拿217举例。217比128大所以第8位是1217 - 128 8989比64大第7位是189 - 64 2525比16大第6位是025比32小第6位是0第5位是125 - 16 99比8大第4位是19 - 8 1剩下1就是第0位。所以是11011001。这个方法在脑子里想一遍比列除法竖式快多了尤其适合处理“等于2的整数次幂附近的数”。3. 实操过程与核心环节实现3.1 二进制加减法从进位到借位讲真如果只是做二进制加法和乘法很多人觉得自己会但真遇到减法就开始犯迷糊。我们先看加法。二进制的加法规则只有四条000011101110并向左进1。比如1011 0110最低位101第二位110进1第三位0110再进1第四位1010进1结果就是10001。减法呢如果直接按竖式借位你会发现规则很不统一借位比加法麻烦不少。这就是我在前面提到的关键计算机为什么不用直接减法因为硬件设计上做减法需要额外的“借位”电路而且边界情况处理复杂。所以计算机采用的是补码方案把A - B变成A (-B)。你只需要算出-B的补码剩下的交给加法器就行。3.2 负数的二进制与补码原理现在来看重头戏补码。这里我要帮很多人纠正一个误解就是把“二进制负数”和“符号位取反”混为一谈。最开始的“原码”方案确实是用最高位做符号位比如10000001表示-1。但原码有个致命问题0有两种表示00000000和10000000这让运算器很不爽。于是计算机采用“补码”来表示负数。补码的计算规则是正数的补码就是它本身负数的补码是“原码取反加一”。以8位为例-1的原码是00000001取反是11111110再加一得到11111111。所以-1在8位二进制里就是11111111。你可能要问11111111按无符号数看不是255吗这就是关键了同一个二进制序列到底表示正数还是负数取决于你怎么解释它。如果是int8_t它就是 -1如果是uint8_t它就是 255。这个“解释权”的概念在后续做二进制计算时会反反复复遇到。3.3 二进制乘除法移位才是灵魂乘除法听起来复杂但归根结底就是移位加迭代。二进制乘法用竖式看特别直观。比如1101 × 101你可以把乘数按位拆开1101 × 1对应乘数最低位、1101 × 0左移一位、1101 × 1左移两位。把它们加起来1101 0000 110100 1000001。你发现没有二进制乘法根本没有“九九乘法表”每一步只是“乘1保留”或“乘0清零”然后按位左移再相加。二进制除法也类似以被除数不断减去除数为核心。比如110101 ÷ 101相当于十进制53 ÷ 5。从高位开始看1不够减101商记011不够减商记0110够减商1余1拉下一位1变成11不够减商0再拉下一位0变成110够减商1余1最后拉下一位1变成11不够减商0。结果商是01010也就是10余数11即十进制商2余3。这个操作过程其实和长除法一样只是每一步的比较只涉及0和1判断起来更简单。3.4 从十进制小数到二进制乘以2取整法如果说整数转换还算顺利小数转换就是很多人第一次怀疑人生的地方。十进制小数转二进制的方法叫“乘2取整法”具体操作是把小数部分不断乘以2每次取乘积的整数部分作为二进制位直到小数部分为0或者达到所需精度。比如0.6250.625 × 2 1.25取整数1剩0.250.25 × 2 0.5取整数0剩0.50.5 × 2 1.0取整数1剩0.0所以0.625就是0.101正好能精确表示。但注意很多十进制小数在二进制里是无限循环的比如0.10.1 × 2 0.2取00.2 × 2 0.4取00.4 × 2 0.8取00.8 × 2 1.6取10.6 × 2 1.2取10.2 × 2 0.4取0到这里已经是0.00011接着循环了后面会一直重复0011这样的模式这就是为什么你在程序里输出0.1 0.2经常会得到一个0.30000000000000004的原因——0.1和0.2转成二进制本来就不是精确值计算后误差自然存在。3.5 十进制小数转换有精度限制时需要考虑舍入吗这个热搜问得特别好答案是需要而且必须认真考虑。IEEE 754 浮点数标准规定单精度 float 用23位存尾数双精度 double 用52位存尾数。当二进制小数超出尾数位数时必须做舍入常见策略是“就近舍入”也就是四舍五入到偶数。这和你小学数学里四舍五入一个道理只不过是在二进制层面操作。我举一个实际例子。把0.1转成双精度二进制理论上要无限循环但计算机只能存52位。如果不做舍入直接截断累计误差会更大做了就近舍入存储的值更接近真实的0.1但依然不是精确的。工程经验是涉及金额计算时绝对不要用float或double请改用十进制定点数或者整数分存储涉及科学计算需要高精度时用专门的高精度库。这是我在金融项目里踩过坑之后总结出来的铁律。4. 常见问题与排查技巧实录4.1 手算二进制时最容易犯的三个错误第一个错误是除2取余的顺序搞反。不是说从下往上读嘛有人总习惯从上往下读结果217被算成了10011011和真正的11011001完全不一样。我的建议是算完立刻做一次位权展开验算把每一位权值加起来看看是否等于原数这能拦下90%的粗心错误。第二个错误是补码计算时忘了“取反再加一”是两步操作。比如求-5的8位补码先写原码00000101取反得11111010再加一得11111011。如果只取不加结果就是-6的补码这一步错得极其隐蔽。第三个错误是小数转换时忽略精度。很多新手用“乘2取整法”转换0.3写到某一位发现循环了就随便截断完全不考虑舍入最后在程序里对不上结果。遇到这种情况你要先明确自己需要保留多少位二进制小数再决定截断还是舍入。4.2 如何快速验算二进制结果验算是二进制的救命稻草。我推荐两个土办法第一个是“权值回加”把每一位的权值之和算一遍第二个是利用8进制或16进制做中间检查。因为8进制一位对应二进制3位16进制一位对应二进制4位转换非常方便。比如你算出11011001从右往左每4位一组1101 1001就是十六进制的D9。马上心算D×169 13×169 217数值对上了说明结果基本没错。这个技巧在调试内存和网络数据时特别有用。你用xxd或hexdump查看二进制文件看到的都是十六进制如果你能把每个字节拆成8位二进制直接在脑子里算出它的十进制很多问题能当场定位。4.3 二进制和“二进制包”不是一回事还有一个让我哭笑不得的常见混淆很多人搜索“二进制计算”时会搜到“centos 部署nginx二进制包”或“docker默认sock文件位置”这类结果然后以为“二进制包”和“二进制计算”是同一个字面意思。其实这里的“二进制包”指的是已经编译好的可执行文件直接拷贝到系统里就能运行不需要再编译源码。这个概念和“二进制的计算”属于技术的两个领域。一个是数学和计算机原理层面讲的是数据如何用0和1表示另一个是软件分发与部署层面讲的是可执行文件的格式和管理。不过它们有一个共通点都需要你理解二进制文件的结构。比如你下载 ARM64 架构的软件包却装到了 x86 机器上系统会直接拒绝执行因为它二进制指令集不兼容。这种兼容性问题本质上就是两种“二进制世界观”的碰撞。4.4 二进制计算在 AI 和性能调优里的延伸从热搜词里看到“二进制人工智能”和“vsc怎么指定二进制打开文件”我觉得可以再延伸两句。二进制计算在 AI 里最经典的体现就是位掩码和量化。神经网络权重量化到 int8 之后一个权值只用8位二进制表示计算时用位运算完成批量矩阵乘能大幅度提高推理速度。这时候你要是懂二进制的补码和乘法原理想优化代码会顺手很多。另外Visual Studio Code 里指定二进制方式打开文件就是在设置里把某些文件扩展名关联到“Editor: Binary File”模式。打开之后你会看到十六进制和 ASCII 对照点某个字节能看到它的十进制和二进制值。经常跟二进制内存、文件结构打交道的朋友建议把这个功能用起来它能帮你把抽象的计算和真实的数据对应上。5. 常见二进制计算问题速查表场景典型问题解决思路十进制整数转二进制结果为负数怎么办先转绝对值再求补码二进制转十进制最高位是1是127还是-1看类型是有符号还是无符号有符号则按补码解析小数转二进制0.1无法精确表示用定点数或高精度库避免浮点累计误差二进制乘法计算耗时过长用移位和加法减少乘法运算次数二进制除法除法向上/向下舍入明确算法要求补码除法要考虑符号位运算调试想快速定位标志位用十六进制查看 位掩码与运算跨平台部署二进制包无法运行检查架构是 x86_64 还是 arm64C语言字符串查找strstr 查找二进制数据失败改用 memmem 或自写字节比较逻辑浮点输出异常0.10.2 结果显示多出很多位接受精度现状格式化输出时截断编译器优化x*8 被优化为 x3理解移位等价于2的幂次乘除6. 写在最后的几个心得我做了这么多年开发最大的感触是二进制的计算没有任何高深莫测的地方它就是一套基于2的位权系统配上移位、取反、加一这几件基本工具。你只需要反复练习整数和小数的转换再把补码和移位弄透彻绝大多数和二进制有关的面试题、工作中遇到的疑难杂症都能迎刃而解。分享一个我个人觉得最实用的建议在电脑上打开“计算器”的“程序员”模式它有十六进制、十进制、八进制、二进制的联动显示还能直接做位运算。遇到拿不准的转换点两下鼠标看到结果再对照手动推导一遍比你死记硬背任何公式都管用。最后如果你在实践过程中遇到具体卡壳的地方比如某个二进制除法的案例怎么都验证不对或者某个浮点数精度问题在具体业务里不知道怎么处理欢迎留言把细节抛出来。二进制这个领域多讨论一次理解就深一层。
