공교육 시험지 문항과 군사 기밀 번역의 클라우드 유출 0초 차단: ZeliTranslate의 온디바이스 NMT/LLM 하이브리드 번역 및 8대 국문 다국어 파이프라인 아키텍처

1. 공교육과 국방 전산망의 번역 보안 위기: 클라우드 유출과 Air-Gap의 딜레마

글로벌 학술 자료, 외국어 교과 교안, 해외 첨단 방산 기술 규격서를 신속하게 번역하는 작업은 교육과 국방 분야 모두에서 필수적인 일상 업무입니다. 그러나 상용 클라우드 번역 서비스에 무심코 문서를 입력하는 순간 다음과 같은 심각한 보안 및 운영 리스크가 발생합니다:

• 미공개 시험지 문항 및 지문의 클라우드 유출: 교사가 영어 시험 지문을 변형 출제하기 위해 외신 기사나 원서를 상용 웹 번역기에 입력하면, 출제 예정 문항과 출제 의도가 상용 AI 서버의 프롬프트 로그로 전송되어 외부 유출 사고로 직결됩니다.
• 국방 무기체계 ICD 및 군사 기밀 유출: 방위사업 및 군사 연구소에서 해외 장비 연동 규격서, 통신 암호 규격, 군사 훈련 시나리오를 웹 번역기에 입력할 경우 군사 기밀 누설에 따른 법적 처벌과 국가 안보 위협을 초래합니다.
• 물리적 분리 폐쇄망(Air-Gap)에서의 사용 불가: 시험 출제 기간의 격리 교무실이나 군부대 내부 전산망은 인터넷 연결이 물리적으로 차단되어 있어, 기존 웹 기반 번역기를 전혀 사용할 수 없어 번역 업무가 완전히 마비됩니다.

2. 핵심 아키텍처 1: 모델 레지스트리(`model_registry.json`)와 다중 경로 자동 탐색

ZeliTranslate는 다양한 하드웨어 스펙(RTX 외장 GPU 탑재 PC부터 Intel 내장 그래픽 노트북까지)을 지닌 교육 현장의 특성을 고려하여, 선언적 JSON 레지스트리 기반의 경량 NMT 모델 관리 체계를 갖추고 있습니다.

[
  {
    "key": "qwen25-3b",
    "displayName": "Qwen 2.5 3B Instruct (한국어 번역 우수 ⭐)",
    "url": "https://huggingface.co/Qwen/Qwen2.5-3B-Instruct-GGUF/resolve/main/qwen2.5-3b-instruct-q4_k_m.gguf",
    "fileName": "qwen2.5-3b-instruct-q4_k_m.gguf",
    "sizeBytes": 2100000000
  },
  {
    "key": "gemma2-2b",
    "displayName": "Gemma 2 2B IT (고속 다국어)",
    "url": "https://huggingface.co/bartowski/gemma-2-2b-it-GGUF/resolve/main/gemma-2-2b-it-Q4_K_M.gguf",
    "fileName": "gemma-2-2b-it-Q4_K_M.gguf",
    "sizeBytes": 1500000000
  },
  {
    "key": "llama32-3b",
    "displayName": "Llama 3.2 3B Instruct",
    "url": "https://huggingface.co/bartowski/Llama-3.2-3B-Instruct-GGUF/resolve/main/Llama-3.2-3B-Instruct-Q4_K_M.gguf",
    "fileName": "Llama-3.2-3B-Instruct-Q4_K_M.gguf",
    "sizeBytes": 2000000000
  },
  {
    "key": "tinyllama",
    "displayName": "TinyLlama 1.1B Chat (초경량)",
    "url": "https://huggingface.co/TheBloke/TinyLlama-1.1B-Chat-v1.0-GGUF/resolve/main/tinyllama-1.1b-chat-v1.0.Q4_K_M.gguf",
    "fileName": "tinyllama-1.1b-chat-v1.0.Q4_K_M.gguf",
    "sizeBytes": 700000000
  }
]

또한 FindAllLocalModels() 메서드는 ZeliDesk 자체 저장소(%LOCALAPPDATA%\ZeliDesk\sLM)뿐만 아니라 사용자가 기존에 다운로드해 둔 타 도구(LM Studio, Ollama 등)의 캐시 폴더까지 순회하여 시스템에 이미 존재하는 .gguf 파일을 0초 만에 감지하고 즉시 로컬 추론 드롭다운에 연결합니다.

3. 핵심 아키텍처 2: 상주 `-cnv` 세션과 멀티라인 `stdin` 파이프라인

단순 CLI 방식으로 번역을 수행하면 번역할 문장이 들어올 때마다 수 GB의 모델 가중치를 디스크에서 읽어오는 수 초의 지연이 발생합니다. ZeliTranslate는 llama-cli를 대화형 상주 세션(-cnv) 모드로 실행하여 가중치를 메모리에 상시 상주시킵니다.

// 기존 세션이 동일한 모델을 물고 있으면 재활용 (가중치 재로딩 0초)
if (_sessionActive && _inferenceProcess != null && !_inferenceProcess.HasExited && _sessionModelPath == modelPath)
{
    AppendLog("[세션 재사용] 기존 추론 세션으로 즉시 번역 전송\n");
    await SendPromptAndWaitAsync(prompt);
    return;
}

// 윈도우 인자 길이 한계 및 특수문자 왜곡을 방지하기 위해 StandardInput(UTF-8)으로 전달
// llama-cli 대화 모드는 멀티라인 입력 시 줄 끝에 ' \' 이스케이프가 필수
string safePrompt = prompt.Replace("\r\n", "\n").Replace("\n", " \\\n") + " ";

var proc = _inferenceProcess;
if (proc != null && !proc.HasExited)
{
    await proc.StandardInput.WriteLineAsync(safePrompt);
    await proc.StandardInput.FlushAsync();
}

4. 핵심 아키텍처 3: 실시간 토큰 스트리밍 및 정규식 출력 정제기 (`CleanStreamOutput`)

상주 대화 모드(-cnv)로 구동되는 LLM 런타임의 출력 스트림에는 모델의 답변뿐만 아니라 사용자 프롬프트의 에코(Echo), 프롬프트 표시자(> ), 그리고 추론 속도 통계 라인이 섞여 나옵니다. ZeliTranslate는 정밀한 상태 머신과 정규식 필터링을 결합한 CleanStreamOutput 엔진을 통해 순수한 번역 결과만을 UI에 렌더링합니다.

private static string CleanStreamOutput(string output)
{
    if (string.IsNullOrEmpty(output)) return "";

    var lines = output.Split('\n');
    var resultLines = new List<string>();
    bool capturing = false;

    foreach (var line in lines)
    {
        string trimmed = line.Trim();

        // 1. llama-cli 추론 성능 통계 라인 제외
        if (trimmed.Contains("t/s ]") || (trimmed.Contains("Prompt:") && trimmed.Contains("Generation:")))
            continue;

        // 2. 프롬프트 표시자(> ) 이후부터 실제 응답으로 캡처
        if (trimmed.StartsWith("> ") || trimmed == ">")
        {
            capturing = true;
            continue;
        }

        // 3. 입력 프롬프트 에코 부분 건너뛰기
        if (!capturing && (trimmed.StartsWith("Translate") || trimmed.StartsWith("Output ONLY")))
            continue;

        if (capturing || !trimmed.StartsWith("Translate"))
        {
            capturing = true;
            resultLines.Add(line);
        }
    }

    string result = string.Join("\n", resultLines).Trim();

    // 4. 특수 토큰 제거 ([end of text], <|...|>)
    result = Regex.Replace(result, @"\[end of text\]", "", RegexOptions.IgnoreCase);
    result = Regex.Replace(result, @"<\|.*?\|>", "");
    return result.Trim();
}

5. 핵심 아키텍처 4: 8대 국문 언어 매트릭스 및 실시간 언어 자동 감지

ZeliTranslate는 공교육과 군사 작전에서 가장 수요가 높은 8대 주요 언어 매트릭스를 기본 지원합니다:

• 한국어 (ko): 어휘 형태소 분석과 경어체/평어체 문맥 유지
• 영어 (en): 학술 논문 및 외신 표준 문체 변환
• 일본어 (ja) & 중국어 (zh): 한자 문화권 고유 명사 및 기술 용어 무결성 유지
• 유럽 4대 공용어 (es, fr, de): 스페인어, 프랑스어, 독일어 외교·기술 규격 번역

특히 소스 언어를 auto(자동 감지)로 설정할 경우, 유니코드 블록 판별 휴리스틱(한글 음절, 히라가나/가타카나, CJK 한자, 라틴 알파벳 분포)을 거쳐 0.1ms 만에 소스 언어를 즉시 식별하여 최적의 타깃 언어로 자동 전환합니다.

6. 프로세스 생명주기 및 하드웨어 거버넌스

ZeliTranslate는 6대 버그 방어 표준을 엄격히 준수합니다:

1. 좀비 프로세스 트리 킬: 창을 닫는 순간(Closed 이벤트) StopInference()가 호출되어 백그라운드 llama-cli 및 하위 프로세스를 Kill(entireProcessTree: true)로 즉각 소멸시킵니다.
2. TOCTOU(Time-of-Check to Time-of-Use) 경쟁 상태 방어: 비동기 취소 루프와 번역 루프가 동시에 동작할 때 발생할 수 있는 널 참조(NullReferenceException)를 방지하기 위해 로컬 변수 복사 스냅샷 패턴을 적용했습니다.
3. 로컬 히스토리 감사 보존: 번역된 모든 내역은 클라우드가 아닌 로컬 JSON에만 영속화(HistoryService.SaveTranslateHistory)되며, 교사나 연구원이 언제든 과거 번역 내역을 안전하게 열람하고 복사할 수 있습니다.

7. 결론: "단 1바이트의 유출도 허용하지 않는 공교육·국방 번역 표준"

시험지 출제 보안과 국방 작전 문서의 기밀 유지는 국가적 신뢰와 안보의 초석입니다.

ZeliDesk의 ZeliTranslate는 외부 SaaS 번역기가 야기하는 정보 유출의 공포를 완전히 제거했습니다. 100% 오프라인 폐쇄망 구동, 실시간 스트리밍 NMT, 그리고 엄격한 프로세스 거버넌스를 통해 대한민국 교실과 군부대에 가장 안전하고 강력한 번역 파이프라인을 제공합니다.