IEEE 754 부동소수점 변환기

IEEE 754 부동소수점이란?

// Float ↔ hex through the raw IEEE 754 bits (works in any browser / Node.js)
const buf = new DataView(new ArrayBuffer(8));

function floatToHex32(value) {
  buf.setFloat32(0, value); // rounds to nearest even
  return '0x' + buf.getUint32(0).toString(16).toUpperCase().padStart(8, '0');
}

function hexToFloat32(hex) {
  buf.setUint32(0, parseInt(hex, 16));
  return buf.getFloat32(0);
}

floatToHex32(0.1);        // '0x3DCCCCCD'
floatToHex32(3.14159);    // '0x40490FD0'
hexToFloat32('3DCCCCCD'); // 0.10000000149011612

주요 기능

IEEE 754 변환 예시

0.1

0x3DCCCCCD — 실제로는 0.100000001490116119384765625로 저장됨

3.14159

0x40490FD0

65504

0x7BFF — 가장 큰 유한 FP16 값

-0

0x80000000 (FP32), +0은 0x00000000

40490FDB

FP32 (binary32)
40490FDB          ->  3.1415927410125732
4048F5C3          ->  3.140000104904175
3F800000          ->  1
40000000          ->  2
3DCCCCCD          ->  0.10000000149011612
42C80000          ->  100
C0490FDB          ->  -3.1415927410125732
7F800000          ->  Infinity
FF800000          ->  -Infinity
7FC00000          ->  NaN
00000000          ->  0
80000000          ->  -0

FP64 (binary64)
400921FB54442D18  ->  3.141592653589793
40091EB851EB851F  ->  3.14
3FB999999999999A  ->  0.1
3FF0000000000000  ->  1

IEEE 754 부동소수점 변환 방법

1. 1

   부동소수점 형식 선택

   단정밀도(FP32)가 기본으로 선택되어 있습니다. JavaScript/Python 스타일 숫자에는 배정밀도(FP64)로, 머신러닝과 그래픽스에서 쓰이는 16비트 형식에는 반정밀도(FP16)나 bfloat16으로 전환하세요.

2. 2

   10진수 입력

   0.1, -2.5e3, 65504 등 어떤 값이든 입력하거나 ±0, ±Infinity, NaN, 최소 서브노멀, 최대 유한 값 특수 값 칩을 사용하세요. 입력과 동시에 변환이 이루어집니다.

3. 3

   색상으로 구분된 비트 레이아웃 읽기

   부호 비트, 지수부 필드, 가수부가 서로 다른 색으로 강조되며, 필드 분해 표에는 원시 비트, 바이어스 계산, 암시적 선행 비트가 표시됩니다.

4. 4

   정확한 저장 값과 오차 확인

   정확도 패널은 실제로 저장되는 값을 — 모든 자릿수를 정확하게 계산해 — 입력한 값 대비 반올림 오차와 함께 출력하고, 이전·다음 표현 가능한 이웃 값과 ULP 간격도 보여줍니다.

5. 5

   비트 반전, hex 붙여넣기, 결과 복사

   아무 비트나 클릭해 반전하거나 16진수(3DCCCCCD)와 2진수 문자열을 붙여넣어 다시 10진수로 디코딩하세요. 16진수, 2진수, 정확한 값, 또는 동일한 비트 패턴을 재현하는 공유 링크를 복사할 수 있습니다.

흔한 부동소수점 실수

print(0.1)  # 0.1 — 정확해 보이지만 아님

0.1 저장 값 (FP64) = 0.1000000000000000055511151231257827021181583404541015625

if (0.1 + 0.2 === 0.3) { … }   // 절대 실행되지 않음

if (Math.abs(a - b) < 1e-9) { … }   // 데이터 크기에 맞춘 허용 오차

fp16(65520)   → Infinity (0x7C00) — 조용한 오버플로

bf16(65520)   → 유한 값 (bfloat16은 지수 비트 8개 유지)

if (x === NaN) { … }        // x가 NaN이어도 항상 false

if (Number.isNaN(x)) { … }  // 올바른 검사

IEEE 754 변환기로 할 수 있는 일

직렬화된 바이너리 데이터 디버깅

네트워크 캡처, GPU 버퍼, 레지스터 덤프, 파일 형식에서 발견한 16진수를 붙여넣어 정확한 10진수 값으로 디코딩하거나, 반대 방향으로 변환해 테스트 픽스처를 작성하세요. 바이트 순서 참고: 표시되는 16진수는 빅 엔디언 비트 패턴입니다. 덤프가 리틀 엔디언이라면 붙여넣기 전에 바이트 순서를 반전하세요. 바이트가 숫자가 아니라 장치 이름이나 JSON 필드 같은 텍스트로 읽힌다면 16진수 문자열 변환기로 디코딩하세요.

ML 양자화 이해

값이 FP16의 65504 상한을 넘지 않는지 점검하고, FP16과 bfloat16의 정밀도 손실을 자릿수 단위로 비교하고, 그래디언트가 언더플로되는 서브노멀 구간을 살펴보세요.

부동소수점 버그 설명

동료가 '같은' 두 숫자가 왜 다른지 물으면 두 비트 패턴과 정확한 저장 값을 보여주는 퍼머링크를 보내세요 — 논쟁이 저절로 정리됩니다. 긴 덤프에는 텍스트 비교 도구를 함께 사용하세요.

인코딩 학습과 교육

학생이 지수 비트를 직접 클릭하고 바이어스 계산이 갱신되는 것을 보면 컴퓨터 구조 수업이 구체적으로 다가옵니다. 필드 분해 표는 교과서가 형식을 그리는 방식을 그대로 반영합니다.

임베디드·산업용 레지스터 디코딩

Modbus, CAN, 센서 페이로드는 FP32 값을 원시 16진수 워드로 전달하는 경우가 많습니다. 여기에 워드를 붙여넣으면 임시 스크립트를 작성하지 않고도 물리량을 읽을 수 있습니다.

IEEE 754 형식과 특수 값

네 가지 2진 형식 한눈에 보기

binary16(FP16): 부호 1 + 지수 5 + 가수 10비트, 바이어스 15, 최대 65504, 10진 약 3.3자리. bfloat16: 1 + 8 + 7, 바이어스 127, 최대 ≈ 3.39 × 10³⁸, 약 2.4자리. binary32(FP32): 1 + 8 + 23, 바이어스 127, 최대 ≈ 3.40 × 10³⁸, 약 7.2자리. binary64(FP64): 1 + 11 + 52, 바이어스 1023, 최대 ≈ 1.80 × 10³⁰⁸, 약 15.9자리. 패턴은 이렇습니다: 지수 비트는 범위를, 가수 비트는 정밀도를 사고, bfloat16은 FP32의 범위를 얻기 위해 정밀도를 의도적으로 모두 내놓습니다.

값이 조립되는 방식

정규 수는 (−1)^부호 × 1.가수부 × 2^(지수 − 바이어스)로 디코딩됩니다. 선행 1은 암시적이어서 저장되지 않으며, 23비트 가수부 필드가 24비트 정밀도를 제공하는 이유입니다. 저장되는 지수는 실제 지수에 바이어스(FP32에서 127)를 더한 값이므로 2⁰은 01111111로 저장됩니다. 이 도구의 필드 분해 표는 현재 값에 대해 그 계산의 각 단계를 보여줍니다. 참값에 고정된 오프셋을 더해 저장하는 이 방식이 바로 오프셋 바이너리이며, IEEE 754는 바이어스로 흔히 쓰이는 2^(e−1) 대신 2^(e−1)−1을 택했을 뿐입니다.

특수 값: 예약된 지수 패턴

지수부가 모두 1이고 가수부가 0이면 ±Infinity, 가수부가 0이 아니면 NaN입니다(표준적인 quiet NaN은 가수부 최상위 비트를 1로 설정). 지수부가 모두 0이고 가수부가 0이면 ±0, 가수부가 0이 아니면 서브노멀이며 0.가수부 × 2^(1 − 바이어스)로 디코딩됩니다 — 암시적 선행 1이 없습니다. 이 규칙은 네 형식 모두에서 동일하며, 같은 칩이 모든 형식에서 동작하는 이유입니다.

반올림: 가장 가까운 값으로, 동률이면 짝수로

값이 두 표현 가능한 수 사이에 놓이면 IEEE 754의 기본 모드는 더 가까운 쪽으로 반올림하고, 정확히 중간이면 마지막 가수 비트가 0인 쪽(짝수 방향)을 선택해 체계적인 쏠림을 방지합니다. 이 변환기는 10진수 입력을 대상 형식으로 좁힐 때 정확히 이 규칙을 적용하며, 오차 패널은 그 결과로 생기는 부호 있는 차이를 정확하게 표시합니다.

ULP: 부동소수점의 격자 간격

표현 가능한 부동소수점은 고르게 퍼져 있지 않습니다 — 이웃 사이의 간격(마지막 자리의 한 단위)은 2의 거듭제곱마다 두 배가 됩니다. 1.0 근처에서 double의 ULP는 2⁻⁵² ≈ 2.22 × 10⁻¹⁶이고, 2⁵³ 근처에서는 ULP가 1.0에 도달해 정수를 건너뛰기 시작합니다. 이웃 값 패널은 현재 ULP를 정확히 출력하며, '내 숫자가 여기서 얼마나 정밀한가?'에 대한 정직한 답입니다.

부동소수점 모범 사례

부동소수점을 ==로 비교하지 말 것

어떤 연산이든 거친 뒤에는 수학적으로 같은 두 식이 ULP 하나 차이로 벌어질 수 있습니다. 값의 크기에 맞는 허용 오차와 비교하거나, 비트 패턴 사이의 ULP 수를 세세요 — 이 도구에서 직접 확인할 수 있습니다.

금액은 2진 부동소수점에 넣지 말 것

어떤 2의 거듭제곱 격자도 0.10을 정확히 담지 못하므로, float에 담긴 통화는 눈에 보이는 오차를 누적합니다. 정수 센트나 decimal 타입을 사용하세요. 이 도구의 정확한 저장 값 패널이 그 이유를 보여주는 상시 증거입니다.

16비트 형식은 습관이 아니라 범위로 선택

값이 65504를 넘을 수 있다면 — 손실 함수, 그래디언트, 물리 시뮬레이션의 급증 — FP16은 Infinity로 오버플로되지만 bfloat16은 아무 일 없이 지나갑니다. 모든 값이 좁은 대역으로 정규화되어 있다면 FP16의 추가 가수 비트가 눈에 띄게 나은 정밀도를 제공합니다.

좁히기 변환의 이중 반올림 함정 주의

드문 중간값 사례에서 10진수 → double → half 변환은 10진수 → half 직접 변환과 ULP 하나 차이가 날 수 있습니다. 이 도구는 10진수 입력을 대상 형식으로 한 번에 반올림하므로, 화면에 보이는 값이 정직한 IEEE 754 답입니다.

2⁵³ 이상에서는 정수가 깨진다고 예상할 것

double은 2⁵³까지의 모든 정수를 정확히 저장한 뒤 건너뛰기 시작합니다 — 2⁵³ + 1은 표현할 수 없습니다. 그 규모의 ID나 카운터를 다룬다면 64비트 정수나 문자열을 사용하고, 의심스러운 값은 여기서 비트 수준으로 점검하세요.

IEEE 754 변환기 자주 묻는 질문