Phase 11-2

1M 컨텍스트의 의미

100만 토큰 컨텍스트 윈도우가 무엇인지, 노무사 업무에서 이것이 왜 혁신적인지 알아봅니다.

컨텍스트 윈도우란 무엇인가요?

컨텍스트 윈도우(context window)는 AI가 한 번에 읽고 처리할 수 있는 텍스트의 양을 말합니다. 노무사 업무에 빗대면 이렇게 생각하시면 됩니다. 여러분이 복잡한 사건을 검토할 때, 책상 위에 근로계약서, 취업규칙, 급여명세서, 관련 법령집, 판례 출력물을 동시에 펼쳐놓고 보시잖아요? 컨텍스트 윈도우는 바로 그 '책상의 크기'입니다. 책상이 작으면 서류를 한 장 볼 때마다 다른 서류를 치워야 합니다. 앞에서 본 내용을 잊어버리기 쉽죠. 반대로 책상이 아주 넓으면 관련 서류를 전부 펼쳐놓고 동시에 비교하며 작업할 수 있습니다. 1M(100만) 토큰 컨텍스트란, 대략 한국어 기준으로 50만~75만 자 분량의 텍스트를 한 번에 처리할 수 있다는 뜻입니다. 이것은 일반적인 단행본 3~4권에 해당하는 양입니다. 노무사시험 기본서 한 과목 분량이라고 생각하시면 감이 오실 겁니다.

노무사 업무에서 100만 토큰이면 뭘 할 수 있나요?

구체적인 예를 들어보겠습니다. 근로기준법 전문은 약 5만 자입니다. 산업안전보건법은 약 15만 자, 중대재해처벌법은 약 1만 5천 자입니다. 이 세 법을 합쳐도 약 20만 자 정도로, 100만 토큰 용량의 일부에 불과합니다. 즉, 근로기준법 + 산업안전보건법 + 중대재해처벌법 + 산재보상보험법을 전부 한꺼번에 읽어놓고, '이 사안에서 각 법률이 어떻게 적용되는지 비교 분석해 줘'라고 요청할 수 있습니다. 50페이지짜리 취업규칙 3개 회사 분량을 동시에 넣고 비교 분석을 요청할 수도 있습니다. 노동위원회 판정례 10건을 한꺼번에 넣고 공통 법리를 추출할 수도 있습니다. 이전에는 문서를 잘라서 넣거나 요약해서 넣어야 했지만, 이제는 원문 그대로 전체를 넣을 수 있다는 점이 핵심입니다.
TIP: 한국어는 영어보다 토큰 효율이 낮아서 같은 토큰 수에 담기는 글자 수가 적습니다. 대략 1토큰 = 0.5~0.75자 정도로 계산하면 됩니다.

컨텍스트가 클 때 생기는 실질적 차이

컨텍스트가 작은 AI(예: 4천~8천 토큰)에게 긴 문서를 분석하라고 하면, 문서를 여러 조각으로 잘라서 따로따로 넣어야 합니다. 문제는 앞 조각을 분석할 때 뒷 조각의 내용을 모르고, 뒷 조각을 분석할 때 앞 조각을 잊어버린다는 점입니다. 이러면 문서 전체의 맥락을 놓치게 됩니다. 예를 들어, 취업규칙의 앞부분에 '통상임금에는 정기상여금을 포함한다'고 되어 있고, 뒷부분의 퇴직금 조항에서 '평균임금'을 기준으로 계산한다고 되어 있다면, 이 두 조항의 관계를 파악하려면 전체를 한눈에 봐야 합니다. 100만 토큰 컨텍스트는 이런 '전체 맥락 파악'이 가능합니다. 또 다른 장점은 대화의 연속성입니다. 긴 상담을 하면서 처음에 얘기한 사실관계가 뒤에서도 유지됩니다. 작은 컨텍스트의 AI는 대화가 길어지면 처음에 알려준 내용을 잊어버려서 다시 설명해야 하는 불편함이 있었습니다.

100만 토큰 활용 시나리오: 병원 노무관리

병원 노무관리를 예로 들어보겠습니다. 종합병원의 취업규칙(50페이지), 임금체계 규정(20페이지), 교대근무 운영 규정(15페이지), 그리고 관련 법령인 의료법의 인력 기준 조항, 근로기준법의 근로시간 특례 조항, 최근 6개월간 교대근무 관련 노동위원회 판정례 5건을 모두 한꺼번에 넣을 수 있습니다. 이 상태에서 '간호사 3교대 근무표의 법적 문제점을 분석하고, 취업규칙 개정이 필요한 부분을 구체적으로 알려줘'라고 요청하면, AI는 모든 문서를 교차 참조하면서 종합적인 분석을 내놓을 수 있습니다. 건설현장 예도 보겠습니다. 원도급 안전보건관리 계획서, 하도급 3개 업체의 안전보건 서류, 산안법 시행규칙 별표, 중처법 시행령, 그리고 최근 중대재해 판결문 3건을 한꺼번에 넣고 '이 현장의 안전보건관리체계에 법적 미비점이 있는지 종합 분석해 줘'라고 요청할 수 있습니다. [기존 방식] 여러 법령과 문서를 탭을 왔다 갔다 하며 비교하고, 메모장에 정리하고, 다시 법령집을 뒤적이는 반복 작업. [AI 활용 방식] 관련 문서를 전부 한 번에 넣고, 교차 분석을 한 번의 요청으로 처리. 이것이 바로 '1M 컨텍스트'가 노무사 업무에 혁신적인 이유입니다. 여러 문서를 동시에 참조하는 것은 노무사 업무의 핵심이고, 바로 그 부분에서 AI가 강력한 도움을 줄 수 있게 된 것입니다.

핵심 정리

  • 컨텍스트 윈도우는 AI가 한 번에 처리할 수 있는 텍스트 양이며, 100만 토큰은 한국어 약 50만~75만 자에 해당합니다.
  • 근로기준법, 산안법, 중처법, 산재법을 동시에 읽고 비교 분석이 가능합니다.
  • 문서를 자르지 않고 원문 전체를 넣을 수 있어 맥락을 놓치지 않습니다.
  • 병원 노무관리처럼 여러 규정과 법령을 교차 참조해야 하는 업무에 특히 유용합니다.

이 강의가 어떠셨나요?