우리가 측정에서 다루는 데이텀은 진짜 데이텀이 아니다

ASME Y14.5는 데이텀과 관련하여 두 가지 용어를 구분해서 정의한다. 하나는 Datum, 다른 하나는 Simulated Datum이다.

언뜻 비슷해 보이는 이 두 용어는 실제로 전혀 다른 개념을 가리키고 있다. 그런데 현장에서나 교육 현장에서나 이 둘을 구분하지 않고 모두 "데이텀"이라고 부르는 경우가 많다. 이 혼용이 측정의 본질을 흐리는 출발점이다.

Datum은 실제 부품의 데이텀 피쳐로부터 이론적으로 유도되는 진정한 기준이다. 완전하고 이상적인 기준이지만, 현실에 실재하지 않는다. Simulated Datum은 측정 장비와 치구가 물리적으로 구현하는 기준이다. Datum을 대신해 실제 측정에서 사용되는 현실의 기준이다. 실제 현실에서 측정할 때는 Simulated Datum을 Datum으로 간주하여 사용한다.

이 글에서는 이 두 개념을 한국어로 명확히 구분해서 부르기로 한다. Datum은 실질 데이텀, Simulated Datum은 구현 데이텀이라고 한다. 실질 데이텀은 진정한 기준이지만 현실에서는 알 수 없고, 구현 데이텀은 그 진정한 기준을 대신해 현실에서 물리적으로 구현해낸 최선의 근사값이다. 이 구분을 염두에 두고 아래 그림들을 따라가 보자.

---

그림으로 보는 흐름

이상과 현실의 차이

설계자가 도면을 그릴 때 머릿속에 있는 부품은 완벽하다. 면은 평평하고, 홀은 정원이며, 축선은 곧다. 그 완벽한 부품을 기준으로 데이텀이 지정되고, 공차가 부여된다. 그런데 실제로 가공된 부품은 그 상상 속의 부품과 다르다.

위의 그림과 같이 정의된 직사각형 평판 부품을 현실에서 제작한다고 상상해보자. 부품의 바닥면이 데이텀 피쳐로 지정되었고, 부품의 윗면은 이 데이텀 피쳐를 기준으로 하여 윤곽공차 0.3 범위에서 통제하게 된다. 그렇다면 부품의 윗면을 측정하여 정의된 기하공차 요구사항을 만족하는지 검증해야 한다.

위의 사각형은 설계자가 바라고 원하고 상상하던 파트다. 도면에서 설계한 것과 같이 매끈하고 반듯하다. 아래의 사각형은 실제로 제작된 파트다. 실제로 제작된 파트의 표면은 물결치듯 굴곡져 있다. 실제로 제작된 파트는 상상하던 파트와 많이 다르다. 현실에서는 아무리 정밀하게 가공해도 실제 부품은 반드시 제작 편차가 존재하기 때문에 이와 같은 굴곡을 피할 수 없다. 가공 공구의 진동, 소재의 탄성 변형, 열팽창과 냉각, 이 모든 요인이 부품에 편차로 남는다. 이 굴곡진 서피스가 우리가 다루어야 할 문제의 시작이다. 부품의 모든 면이 아랫면과 같이 제작 편차가 있을 테지만, 설명을 위해 아랫면만 제작 편차가 있는 것으로 단순화하였다.

실재하지 않는 데이텀

실제 현실에서 제작된 파트의 아랫면에 접하는 붉은 선이 표시되어 있다. 이것이 실제 데이텀 피쳐에서 유도된 데이텀이다. 이 데이텀을 앞으로는 실질 데이텀이라고 부르자.

실질 데이텀은 실제 부품의 데이텀 피쳐로부터 이론적으로 유도되는 진정한 기준이다. 굴곡진 표면 위의 수많은 점들로부터 도출되는 이상적인 평면, 그것이 실질 데이텀이다. 그 평면은 실제 서피스의 요철을 모두 반영한 채 서피스와 접하면서 존재한다. 이는 개념적으로 분명하게 존재한다. 하지만 우리는 그 굴곡진 서피스를 경험할 수 있을 뿐, 그 속에 내재된 이상적인 기준인 실질 데이텀을 경험할 수는 없다.

이제 이 실질 데이텀의 한계를 이해할 수 있다. 측정 장비가 실질 데이텀 위에 놓여 있다. 우리는 이 실질 데이텀을 기준으로 통제하려는 파트의 윗면을 측정하고 싶다. 하지만 이 실질 데이텀을 기준으로 측정하는 것이 가능한가? 이는 불가능하다. 실질 데이텀은 실제 서피스로부터 유도되는 이론적인 기준이다. 그 어떤 고성능 장비로도 그것을 직접 찾아낼 수 없다. 결국 우리는 실질 데이텀이 어디 있는지 알 수 없고, 따라서 그것을 기준으로 측정할 수도 없다.

시뮬레이터의 등장과 구현 데이텀의 탄생

실질 데이텀을 직접 사용할 수 없다면, 대안이 필요하다. 이를 위해 시뮬레이터가 등장한다.

파트는 첫번째 그림과 같이 화살표 방향으로 이동하고 두번째 그림과 같이 화살표 방향으로 회전하면서 파트는 시뮬레이터 위에서 안착하고 자리를 잡아가게 된다. 이렇게 파트가 시뮬레이터에 안착되는 과정은 시뮬레이션의 본질을 보여준다. 파트의 가장 높은 세 점은 시뮬레이터에 안착되면서 파트는 그 위에서 흔들리지 않는 자리를 찾게 된다.

시뮬레이터는 파트의 굴곡진 서피스를 받아내면서 그 서피스가 만들 수 있는 최선의 기준면을 물리적으로 구현한다. 이렇게 파트가 시뮬레이터에 접촉된 상태에서 실질 데이텀이 아닌 구현 데이텀이 도출된다.

시뮬레이터 위에 안착된 파트의 경계에 "시뮬레이터에서 도출된 구현 데이텀", "실제 데이텀 피쳐에서 유도된 실질 데이텀"을 나타내는 두 선이 표시되어 있다. 두 선은 같은 자리에 있는 것처럼 보이지만 미세하게 어긋나 있다. 시뮬레이터는 실질 데이텀에 최대한 가까운 평면을 만들어내지만, 그것이 실질 데이텀 그 자체는 아니다.

측정은 실질 데이텀이 아닌 구현 데이텀을 기준으로 이루어진다

위 그림은 앞서 설명한 실질 데이텀과 구현 데이텀이 각각 어떤 의미를 지니는지 보여준다. 왼쪽에는 실질 데이텀 위에 측정 장비가 올려져 있다. 하지만 이는 물리적으로 불가능한 위치이다. 따라서 실질 데이텀을 기준으로 측정하는 것은 불가능하다. 오른쪽에는 구현 데이텀 위에 측정 장비가 올려져 있다. 물리적으로 측정장비는 실질 데이텀이 아닌 구현 데이텀 위에만 올려질 수 있다. 측정 현장에서 실제로 사용할 수 있는 기준은 구현 데이텀뿐이다. 실질 데이텀은 기준으로 삼고자 하는 목표지만 이를 도구로 사용할 수는 없다.

실제 서피스는 빨간색 선으로 표현한 것과 같이 제작 편차가 있을 것이다. 현실에서는 이 실제 서피스가 정의한 공차영역에 있는지를 검증하게 된다. 앞서 정의한 도면의 공차영역은 실질 데이텀이 아닌 구현 데이텀을 기준으로 7만큼 떨어진 위치에 생성된다. 실제 서피스가 기하공차 요구사항을 만족하는지는 실질 데이텀이 아닌 구현 데이텀으로부터의 거리가 측정된다. 측정은 항상 구현 데이텀을 기준으로 이루어진다.

두 데이텀은 일치하지 않는다

이 모든 과정을 정리해보자. 오른쪽에는 시뮬레이터 위에 파트가 안착된 전체 장면을 보여준다. 왼쪽에는 접촉 부위를 확대해서 보여주고 있다. 확대된 영역 안에는 두 선이 있다. 위의 선은 구현 데이텀, 아래의 선은 실질 데이텀이다. 두 선은 겹치지 않는다. 실질 데이텀과 구현 데이텀은 일치하지 않는다. 이 한 문장이 이 과정의 결론이다. 시뮬레이터가 아무리 정밀해도, 측정 셋업이 아무리 엄밀해도, 구현 데이텀은 실질 데이텀에 근사할 뿐 완전히 일치하지는 않는다. 이 간격이 측정 불확도의 근본적인 원인 중 하나다.

---

개념으로 정리

그림을 통해 흐름을 이해했으니, 이제 두 개념을 정리해 보자.

Datum : 실질 데이텀

실질 데이텀은 ASME Y14.5에서 Datum으로 정의되는 개념이다. 데이텀 피쳐로부터 이론적으로 유도되는 진정한 기준으로, 이론적으로 완전한 점, 직선, 평면, 또는 그 조합이다. 데이텀 피쳐로 평면 서피스가 지정되었다면, 그 평면서피스의 모든 점으로부터 도출되는 이상적인 평면이 실질 데이텀이다. 데이텀 피쳐로 홀이 지정되었다면, 그 홀의 서피스로부터 도출되는 이상적인 축선이 실질 데이텀이다.

실질 데이텀은 개념적으로는 분명히 존재한다. 그러나 실제 부품의 서피스는 언제나 불완전하고, 그 불완전함 속에 내재된 이상적인 기준을 우리는 물리적으로 경험할 수 없다. 실질 데이텀은 우리가 도달하고자 하는 목표이지만, 현실에서는 절대로 직접 사용할 수 없는 기준이다.

Simulated Datum : 구현 데이텀

구현 데이텀은 ASME Y14.5에서 Simulated Datum으로 정의되는 개념이다. 측정 장비와 치구, 즉 시뮬레이터가 물리적으로 구현하는 기준이다. 정반 위에 부품을 올려놓을 때 정반이 구현하는 평면, 팽창핀이 홀 안에서 팽창되면서 만들어내는 축선, V블록이 축을 받쳐 만들어내는 중심선, 이 모든 것이 구현 데이텀이다.

구현이라는 이름은 그 본질을 담고 있다. 실질 데이텀이라는 진정한 기준을 현실에서는 직접 쓸 수 없으니, 시뮬레이터를 통해 그것을 최대한 물리적으로 구현해낸 값이라는 뜻이다. ASME Y14.5는 실제 측정에서 구현 데이텀을 실질 데이텀으로 간주하여 사용한다고 명시한다. 이는 구현 데이텀이 실질 데이텀과 같다는 뜻이 아니라, 현실에서 사용 가능한 최선의 기준으로 공식 인정한다는 뜻이다.

둘의 관계

앞서 실질 데이텀과 구현 데이텀은 일치하지 않는다고 설명했다. 구현 데이텀은 실질 데이텀을 향해 최대한 근사하지만, 결코 완전히 일치하지 않는다. 시뮬레이터의 정밀도가 높을수록, 측정 셋업이 엄밀할수록 그 간격은 줄어든다. 그러나 그 간격이 완전히 사라지는 일은 없다.

이 간격이 왜 생기는가. 실제 부품의 표면은 항상 불완전하기 때문이다. 시뮬레이터가 아무리 정밀해도, 그것이 접촉하는 표면 자체가 이미 편차를 포함하고 있다. 시뮬레이터는 그 편차를 포함하면서 표면에서 최선의 기준을 만들어낼 뿐이다. 실질 데이텀과 구현 데이텀 사이의 간격은 바로 그 표면의 편차에서 비롯된다. 이 구분을 이해하는 것은 측정 행위의 본질을 파악하는 데 있어 그 자체로 중요하다.

그리고 이 구분은 데이텀 피쳐를 참조할 때 사용하는 모디파이어를 이해하는 장면에서 특히 선명하게 빛을 발한다. 모디파이어에 따라 구현 데이텀이 만들어지는 방식이 달라지기 때문이다. RMB가 적용된 경우 구현 데이텀은 실제 부품의 피쳐에 의해 구현된다. 실질 데이텀과 구현 데이텀이 엄밀하게 일치하지는 않지만, 최대한 근사하게 구현되는 방식이다. 반면 MMB 또는 LMB가 적용된 경우에는 실제 부품의 피쳐가 아니라 도면의 정의에 의해 구현 데이텀이 결정된다. 실제 부품의 상태에 영향을 받지 않고 구현되므로, 실질 데이텀과의 근사 관계도 성립하지 않는다.

실질 데이텀과 구현 데이텀을 이렇게 구분하여 설명하는 이유가 바로 여기에 있다. MMB 또는 LMB가 적용되었을 때 구현 데이텀이 어떻게 만들어지는지, 그리고 그것이 측정에서 어떤 의미를 갖는지를 이해하기 위한 토대를 마련하기 위한 것이다. 이는 이후에 자세히 설명한다.

---

마치며

우리가 측정 현장에서 실제로 다루는 데이텀은 언제나 구현 데이텀이다. 정반이든, 팽창핀이든, CMM의 프로브든, V블록이든, 측정 장비가 만들어내는 모든 기준은 구현 데이텀이다. 실질 데이텀은 그 구현 데이텀이 목표로 삼는 이상적인 기준으로, 현실에서 직접 경험할 수는 없다.

ASME Y14.5가 Datum과 Simulated Datum을 별도로 정의한 것은 이유가 있다. 이 둘이 다르다는 사실을 명확히 인식해야, 측정 행위의 본질이 보이기 때문이다. 구현 데이텀이 무엇을 향해 근사하려는지를 이해해야, 측정 셋업의 목적이 보인다. 장비의 정밀도, 치구의 설계, 측정 순서와 방법, 이 모든 것이 구현 데이텀의 질을 높이기 위한 노력이다. 그리고 구현 데이텀의 질이 높아질수록, 우리는 실질 데이텀에 조금 더 가까워진다.

그리고 이 구분은 데이텀 모디파이어를 이해할 때 특히 중요해진다. RMB, MMB, LMB 중 어떤 모디파이어가 적용되느냐에 따라 구현 데이텀이 만들어지는 방식이 달라지고, 그 차이가 측정 결과에 직접적인 영향을 미친다. 실질 데이텀과 구현 데이텀을 분명히 구분하고 있어야, 그 모디파이어들이 무엇을 하는지가 선명하게 보인다. 이에 대한 내용은 이후에 자세히 다룬다.