합격 부품이 조립 안 되는 이유 — 치수공차가 모호한 다섯 가지 구조적 한계

숫자가 다 말해주지 않는다

도면을 펼치면 숫자들이 가득하다. 50mm, ±0.1mm, 25mm, ±0.05mm. 이 숫자들을 보며 우리는 무언가를 다 알고 있다고 느낀다. 길이를 알고, 허용 오차를 알고, 따라서 부품이 어떻게 만들어져야 하는지를 안다고. 하지만 실제 현장은 다르다.

도면대로 만든 부품이 조립에서 맞지 않는다. 치수를 다시 측정해도 공차 안에 있다. 그런데 맞지 않는다. 반대로 공차를 조금 벗어난 부품이 더 잘 맞는 경우도 있다. 무언가 근본적으로 잘못되어 있다.

잘못된 것은 부품이 아니다. 숫자 자체가 아니다. 숫자를 정의하는 방식에 있다. 치수공차는 다섯 가지 구조적 한계를 가지고 있다.

첫 번째 한계: 치수는 어디서 어디까지인가

도면에 5mm라는 치수가 기입되어 있다고 하자. 이 5mm는 무엇에서 무엇을 측정한 값인가?

계단 형상의 경우를 생각해보자. 계단의 높이를 측정한다면, 계단의 어느 모서리에서 측정하느냐에 따라 결과가 달라진다. 왼쪽면을 기준으로 측정해야 하는가? 오른쪽면을 기준으로 측정해야 하는가? 만약 오른쪽면을 기준으로 측정한다면, 어떤 치수가 도면에 표기된 5±0.5를 측정한 치수인가? 도면에는 그냥 치수선이 있을 뿐, 정확한 측정 기준이 명시되어 있지 않다.

홀의 크기도 마찬가지다. 홀의 내접원을 측정해야 하는지 외접원을 측정해야 하는지 평균값을 그 홀의 직경으로 보아야 하는지 불분명하다. 내접원으로 측정해야 한다고 해도 문제는 여전히 남아 있다. 제작된 홀은 진원이 아니다. 어떤 방향으로 측정하느냐에 따라 측정값이 달라진다.

모서리에서 구멍까지의 거리는 어떤가. 어느 면을 기준으로 측정하느냐에 따라 측정값이 달라진다. 위에 올려놓고 측정하느냐에 따라 같은 부품의 측정값이 달라진다. 측정 기준면이 도면에 명확히 지정되어 있지 않기 때문이다.

치수공차는 "얼마나"는 말해주지만, "어디서부터"는 충분히 말해주지 못한다. 측정 기준이 모호하면 측정 결과도 모호해진다.

두 번째 한계: 공차 영역이 사각형이다

이것이 치수공차의 가장 구조적인 문제다.

구멍의 위치를 치수공차로 정의하면, 도면은 이렇게 말한다. "X 방향으로 ±0.1mm 안에 있어야 하고, Y 방향으로 ±0.1mm 안에 있어야 한다." 이는 가로 0.2mm, 세로 0.2mm인 정사각형 공차 영역을 만들어낸다.

이제 사각형의 모서리를 생각해보자. X 방향으로 +0.1mm, Y 방향으로 +0.1mm 벗어난 점은 이 정사각형 안에 있다. 각각의 좌표 공차를 만족했으니 합격이다. 하지만 이 점은 이론적 중심으로부터 실제로 얼마나 떨어져 있는가? 피타고라스 정리로 계산하면 √(0.1² + 0.1²) = 0.141mm다. 0.1mm 공차를 정의했는데 실제로는 0.141mm까지 벗어날 수 있는 것이다.

반대의 상황도 있다. 대각선 방향으로 정확히 0.12mm 벗어난 점이 있다. 이 점의 X 방향 성분과 Y 방향 성분은 각각 0.085mm다. 두 좌표 공차를 모두 만족한다. 그런데 이론적 중심으로부터의 거리는 0.12mm다. 공차 영역인 0.1mm를 초과했다. 이 점은 기능적으로는 공차를 벗어났지만, 치수공차 검사에서는 합격 판정을 받는다.

원형 공차 영역을 상상해보자. 원의 반지름을 0.1mm로 정의하면, 이 원 안에 있는 모든 점은 중심으로부터 0.1mm 이내에 있다. 이것이 기능적으로 의미 있는 공차 영역이다. 그런데 같은 0.1mm 값으로 사각형 공차를 정의하면, 사각형의 네 모서리 때문에 실제로 허용되는 영역이 더 넓어진다. 거꾸로 생각하면, 사각형의 모서리까지 허용해도 기능에 문제가 없다면 그 모서리를 지나는 원 — 사각형의 대각선을 지름으로 하는 원 — 을 공차 영역으로 삼을 수 있다. 이 원은 동일한 기능을 보장하면서도 사각형보다 57% 더 넓은 허용 공간을 준다.

사각형 공차는 기능적으로 맞지 않는 부품을 통과시키고, 기능적으로 완벽한 부품을 불합격시킨다. 부품과 비용을 낭비하는 구조가 공차 정의 방식 자체에 내재되어 있는 것이다.

세 번째 한계: 검사자마다 결과가 다르다

같은 부품을 두 명의 검사자에게 주었는데 한 명은 합격, 다른 한 명은 불합격이라고 결론을 내린다면, 이것은 검사자의 문제인가, 아니면 공차 정의의 문제인가?

치수공차 방식에서는 측정 기준이 명확하게 정의되지 않는 경우가 많다. 검사자는 부품을 측정 테이블 위에 놓고 측정을 시작하는데, 부품을 어느 면을 기준으로 올려놓느냐에 따라 측정값이 달라진다. 평평한 면이 여러 개라면, 어느 면을 기준면으로 삼느냐는 검사자의 판단에 달린 경우가 생긴다.

부품이 A 면을 기준으로 세워져 있을 때 측정한 값과, B 면을 기준으로 세워져 있을 때 측정한 값이 다를 수 있다. 특히 부품 자체가 완벽히 평평하지 않다면, 어느 면이 기준이 되느냐에 따라 측정값의 차이는 더욱 커진다.

합격과 불합격이 부품의 품질이 아니라 측정 방법에 의해 결정된다. 같은 부품이 공장마다, 검사자마다 다른 판정을 받는다. 이것은 공통의 언어가 아니다.

네 번째 한계: 피쳐 간의 관계를 정의할 수 없다

실제 부품에서 중요한 것은 개별 치수만이 아니다. 구멍과 구멍 사이의 관계, 면과 면 사이의 직각도, 두 축 사이의 평행도가 부품의 기능을 결정하는 경우가 많다.

치수공차는 개별 치수에 ±값을 부여하는 방식이기 때문에, 피쳐들 사이의 기하학적 관계를 직접적으로 정의하기가 어렵다.

네 개의 구멍이 있는 판을 생각해보자. 각 구멍의 X 좌표와 Y 좌표, 각각에 ±공차를 부여했다. 모든 구멍이 자신의 공차를 만족한다. 그런데 네 구멍이 만드는 사각형 패턴이 한쪽으로 기울어져 있다면, 상대 부품의 볼트 패턴과 맞지 않을 수 있다. 개별 공차를 모두 만족했지만, 기능적 요구사항을 만족하지 못하는 것이다.

구멍에 수직으로 들어가야 하는 샤프트가 있다면, 구멍의 위치 공차만으로는 불충분하다. 구멍이 얼마나 수직으로 뚫려 있는지, 두 구멍의 중심축이 얼마나 일치하는지를 별도로 정의해야 한다. 치수공차 방식으로는 이런 요구사항을 명확하게 표현하는 데 한계가 있다.

다섯 번째 한계: 사이즈와 모양을 분리하지 못한다

마지막 한계는 자전거 바퀴 하나로 또렷하게 보인다.

자전거를 타본 사람이라면 바퀴가 완벽하게 둥글지 않을 때의 불편함을 알 것이다. 림의 원주편차는 주행성능에 직접적인 영향을 미친다. 림이 완벽하게 둥글지 않으면 진동이 발생하고, 이러한 진동에 의해 자전거 부품 수명이 단축될 수 있다. 자전거 업계에서는 바퀴의 둥근 정도 또는 회전 시 상하 이동량을 'radial trueness'라고 부르며, 실제로 원주 편차를 1mm 이하로 통제하고 있다.

그렇다면 전통적인 ±공차로 이 원주편차를 1mm로 통제하려면 어떻게 해야 할까?

타이어는 탄성이 있는 고무 소재이고, 제조사마다 다른 제조 공차, 종류(로드·산악용)에 따른 구조 차이, 공기압에 따른 형상 변화, 온도에 따른 팽창과 수축 같은 다양한 요인에 영향을 받는다. 이런 이유로 타이어의 공차는 상당히 느슨하다. 보통 ±2.5mm이다.

림은 타이어와 달리 탄성이 부족한 철이나 알루미늄 소재이기 때문에 림의 원주편차는 주행성능에 직접적인 영향을 미친다. 림의 직경이 600mm라고 가정해보자. ±공차 방식에서는 이 직경에 대해 "600±??mm"와 같은 방식으로 공차를 정의한다. 원주편차 1mm를 보장하려면 공차를 극도로 타이트하게 줘야 한다. 직경의 작은 변화도 원주 전체에 걸쳐 편차가 크게 나타날 수 있기 때문이다. 직경 공차를 ±0.3mm 정도로 해야 원주편차 1mm가 보장될 수 있다. 600mm에 ±0.3mm는 매우 까다로운 수준이다.

여기서 ±공차의 근본적인 문제가 드러난다. 타이어와 조립되는 림의 사이즈는 타이어처럼 어느 정도 여유가 있어도 된다. 하지만 림의 모양(둥글기)은 주행성능을 위해 어느 지점에서든 1mm 이상 튀어나오거나 들어가면 안된다. ±공차로는 이 둘을 분리하여 통제할 수 없다.

만약 림을 600±0.3mm로 설정하면 원주편차 통제는 어느 정도 가능하다. 하지만 사이즈 공차가 너무 타이트하다. 만약 림을 600±2.5mm로 설정하면 타이어와 조립되는 것을 감안하여 사이즈 공차가 어느 정도 합리적이 되었지만, 원주편차는 5mm까지 발생할 수 있게 된다.

±공차로는 사이즈 편차와 모양 편차를 분리하여 통제하지 못한다. 타이어와의 조립에 영향을 미치는 림의 사이즈와 주행성능에 영향을 미치는 림의 모양을 같은 공차로 취급하기 때문이다. 예를 들어, 림이 전체적으로 602mm로 균등하게 크다면 타이어 조립에만 영향을 주지만, 림의 한 부분만 2mm 튀어나와서 평균은 600mm라면 주행할 때 심한 진동이 발생할 것이다. 하지만 ±공차로는 이 둘을 구별할 수 없다.

한계를 인정하는 것이 시작이다

치수공차가 나쁜 것은 아니다. 길이, 높이, 직경 같은 단순한 크기를 정의하는 데는 여전히 가장 직관적이고 효율적인 방법이다. 기존 방식을 완전히 없앨 수도 없다. 문제는 복잡한 기능 요구사항을 치수공차만으로 해결하려 할 때 생긴다.

다섯 가지 한계는 모두 같은 뿌리에서 온다. 치수공차는 형상의 크기를 수치로 표현하도록 설계되었지, 부품의 기능적 의도를 완전하게 전달하도록 설계되지 않았다는 것이다.

기하공차는 이 한계들에 대한 직접적인 응답이다. 측정 기준을 명확히 정의하는 데이텀 시스템, 기능적 의미에 맞는 원통형 공차 영역, 누가 측정하든 동일한 결과를 낳는 명확한 규칙, 피쳐 간 기하학적 관계를 직접 정의하는 공차 유형들, 그리고 사이즈는 사이즈대로 모양은 모양대로 따로 통제하는 공차들. 자전거 림으로 돌아가 마지막 것만 보자.

기하공차의 원주흔들림공차는 특정 중심축을 기준으로 원주편차만을 통제한다. 이 경우 특정 중심축은 림 어셈블리의 중심축이 되며, 원주흔들림공차는 직경 사이즈가 아닌 원주편차만을 통제한다. 그러면 직경 사이즈는 별도의 사이즈 공차로 통제한다. 이렇게 되면 림의 직경 사이즈는 훨씬 더 많은 공차를 허용받을 수 있게 된다. 공차가 정말 중요한 곳에 집중되면서 동시에 전체적인 공차량을 늘릴 수 있는 것이다.

검사도 명확해진다. 림은 제조 후에도 '트루잉 스탠드'라는 장비에서 유지보수되거나 미세 조정되는데, 흔들림공차는 바로 이 트루잉 스탠드에서 바퀴의 중심축을 기준으로 인디케이터나 필러 게이지로 검사한다. 흔들림공차가 검사를 위한 명확한 기준축을 제공하기 때문에 일관되고 재현 가능한 측정이 가능해진다. 이 기준축이 데이텀이고, 그 축을 만들어 내는 ∅8 축이 데이텀 피쳐다. 사이즈는 별도로 검사하므로 각각의 특성을 독립적으로 관리할 수 있다.

이 사례에서 얻을 수 있는 교훈은 명확하다. ±공차 방식은 기능적으로 중요한 특성과 덜 중요한 특성을 구분하지 못한다. 그 결과 때로는 불필요하게 엄격한 제약을 가하거나, 때로는 정작 중요한 부분을 제대로 통제하지 못한다. 반면 기하공차는 제품의 실제 기능에 기반해서 공차를 배분할 수 있게 해준다. 원주편차라는 기능적으로 중요한 특성은 엄격히 통제하면서, 직경 크기에 대해서는 조립성을 고려한 합리적 공차를 허용할 수 있다.

물론 기하공차가 만능은 아니다. 올바른 이해와 적용이 전제되어야 하며, 잘못 사용하면 아예 사용하지 않는 것보다 더 큰 혼란을 가져올 수 있다. 하지만 제대로 이해하고 사용한다면, 더 합리적이고 경제적인 설계가 가능해진다. 그리고 기하공차가 왜 필요한지는, 치수공차가 왜 충분하지 않은지를 이해한 사람에게만 제대로 보인다.