공교육 자율 탐구와 에이전틱 사고력 확장: yLM의 상주 llama-cli 세션 기반 질문 분해 및 온디바이스 다단계 종합 추론 파이프라인 아키텍처

1. 공교육 현장의 딜레마: "정답 자판기 AI인가, 사고력 증폭기인가?"

생성형 AI가 교육 현장에 도입되면서 초·중·고 교실과 대학 랩실은 전례 없는 교육학적 위기에 직면했습니다. ChatGPT나 Claude 같은 범용 웹 챗봇에 과제 주제를 입력하면 완성된 에세이나 문제 정답이 3초 만에 쏟아져 나옵니다. 이로 인해 학생들은 '가설을 세우고, 문제를 분해하며, 단계적으로 검증하는 사고의 과정'을 건너뛰고 결과만을 복사하는 수동적 학습자로 전락하기 쉽습니다.

또한 상용 클라우드 챗봇은 교육 현장에서 심각한 보안 및 운영상 결함을 동반합니다:

• 탐구 내용 및 학생 개인정보의 외부 클라우드 유출: 미성년자 학생이 입력한 과제물 초안, 학교 생활, 고민 상담 등이 해외 상용 AI 서버의 학습 데이터로 수집될 수 있습니다.
• 교내 방화벽 및 Air-Gap 폐쇄망 차단: 군사 학교, 보안 연구실, 교내 시험 출제 폐쇄망 PC는 인터넷이 물리적으로 분리되어 있어 SaaS 챗봇을 사용할 수 없습니다.
• 단일 턴(Single-Turn) 생성의 환각과 산만함: 복잡한 주제를 한 번의 프롬프트로 생성하면 중간 추론 과정의 오류(환각)를 학생이 검증하기 어렵습니다.

2. 핵심 아키텍처 1: 3단계 자율 탐구(Inquiry) 에이전틱 파이프라인

yLM은 사람이 복잡한 문제를 해결할 때 사용하는 인지 구조(Cognitive Architecture)를 소프트웨어 파이프라인으로 정밀 모델링했습니다. 학생이 큰 주제(예: "인공위성의 궤도 유지와 케플러 법칙의 관계", "대동법이 조선 후기 상업에 미친 영향")를 입력하면 엔진은 3단계 오케스트레이션을 자동으로 수행합니다.

// ── 1단계: 하위 질문 생성 (Decomposition) ──
string planPrompt =
    $"'{topic}'를 학생이 완전히 이해하려면 반드시 답해야 할 핵심 질문 {subCount}개를 만들어라. " +
    $"반드시 '1. 질문' 형식의 번호 목록으로 질문만 출력하고 다른 말은 하지 마라.";
string planAnswer = await AskAsync(planPrompt, ct);
var parsed = ParseNumberedQuestions(planAnswer, subCount);

// ── 2단계: 질문별 순차 탐구 (Sequential In-Depth Exploration) ──
for (int i = 0; i < parsed.Count; i++)
{
    ct.ThrowIfCancellationRequested();
    var item = _questions[i];
    item.StatusIcon = "▶️"; // UI 체크리스트 추론 중 아이콘 갱신
    SetStatus($"질문 {i + 1}/{parsed.Count} 탐구 중...");

    string answer = await AskAsync(
        $"다음 질문에 학생이 이해하기 쉽게 한국어로 간결하고 정확하게 답하라. 질문: {item.Text}", ct);
    item.Answer = answer.Trim();
    item.StatusIcon = "✅"; // 완료 아이콘 갱신
}

// ── 3단계: 지식 종합 및 통합 보고서 생성 (Knowledge Synthesis) ──
string synthPrompt =
    $"지금까지의 질문과 답변을 종합해 '{topic}'에 대해 학생에게 설명하듯 5문장 이내로 최종 정리하라.";
_lastSynthesis = (await AskAsync(synthPrompt, ct)).Trim();
BtnSaveMd.IsEnabled = true; // 최종 마크다운 리포트 저장 활성화

학생은 화면 좌측의 체크리스트 UI를 통해 질문이 생성되고, 하나씩 ⏳(대기)에서 ▶️(탐구 중)을 거쳐 ✅(답변 완료)로 전이되는 과정을 직관적으로 확인합니다. 이 시각적 경험은 "거대한 문제도 작은 질문으로 쪼개어 하나씩 해결하면 마침내 전체를 장악할 수 있다"는 강력한 문제 해결 메타인지(Metacognition)를 형성시킵니다.

3. 핵심 아키텍처 2: CAG(Context-Augmented Generation) 지식 선주입 & KV 캐시 재사용

학교 현장에서 일반적인 RAG(검색 증강 생성) 시스템을 구축하려면 Python 기반의 임베딩 모델, 벡터 데이터베이스(Chroma, Milvus 등), 복잡한 청킹 파이프라인이 요구되어 40대 PC에 설치하고 유지보수하기가 매우 까다롭습니다.

yLM은 CAG(Context-Augmented Generation, 문맥 증강 생성)라는 혁신적인 경량화 설계를 도입했습니다. 교사나 연구자가 탐구 교재, 조례안, 실험 지침서 등의 문서(.md, .txt)를 MyDocuments\ZeliDesk\yLM\knowledge 폴더에 넣어두기만 하면, yLM이 세션 초기화 시점에 이를 시스템 컨텍스트에 원스톱으로 선주입합니다.

// 컨텍스트 예산 계산: 생성용 토큰(-n) 및 Q&A 누적 공간을 제외한 안전 예산 산출
int budgetChars = Math.Max(0, (ctx - 2560) * 2);

// 지식 파일 순회 및 시그니처(이름+크기+수정시각) 산출
var sig = new StringBuilder();
foreach (var f in files)
{
    var fi = new FileInfo(f);
    sig.Append($"{fi.Name}|{fi.Length}|{fi.LastWriteTimeUtc.Ticks};");
    // 예산 범위 내에서 [자료: 파일명] 블록으로 누적 주입
    sb.Append($"\n[자료: {fi.Name}]\n{body.Trim()}\n");
}

// 지식 파일이 변경되지 않았다면 기존 세션 유지 (KV 캐시 재연산 0초)
if (IsAlive && _sessionModelFile == modelFile && _sessionKnowledgeSig == sig.ToString())
    return; // KV 캐시 프리필 상태 재사용

4. 핵심 아키텍처 3: 이종 LLM별 시스템 롤 격리 및 지침 합성 거버넌스

오픈소스 언어 모델들은 프롬프트 템플릿과 시스템 롤(System Role) 처리 방식이 모델 계열마다 판이하게 다릅니다. 예를 들어 Qwen이나 Llama 계열은 시스템 롤을 훌륭하게 지원하지만, Google Gemma 2나 DeepSeek R1 계열은 시스템 롤을 지원하지 않거나 지시 불이행 오류를 일으킵니다.

yLM은 KnownModels 테이블을 통해 모델 아키텍처별 특성을 선언적으로 등록하고, 실행 시점에 지침을 안전하게 격리 및 합성합니다.

이와 같은 하이브리드 지침 주입 설계를 통해, 학생이나 교사가 UI 상에서 드롭다운으로 어떤 모델을 선택하든 모델의 고유 아키텍처 결함 없이 가장 완벽하고 정제된 한국어 탐구 결과를 얻을 수 있습니다.

5. 핵심 아키텍처 4: 상주 프로세스 라이프사이클 및 백그라운드 좀비 차단

매 질문마다 거대 모델 가중치를 디스크에서 읽어 메모리에 올리는 방식은 40대 PC 환경에서 디스크 I/O 병목을 유발합니다. yLM은 llama-cli를 대화형 상주 모드(-cnv)로 백그라운드 구동하여 모델 가중치를 상시 유지합니다.

그러나 상주 프로세스 방식은 창을 닫았을 때 프로세스가 종료되지 않고 백그라운드에 남아 수 GB의 VRAM과 CPU를 점유하는 좀비 프로세스 누수 위험이 항상 따릅니다. yLM은 6대 버그 방어 패턴을 준수하여 철저한 프로세스 트리 파기 거버넌스를 구현했습니다:

private void KillSession()
{
    if (_llmProcess == null) return;
    try
    {
        if (!_llmProcess.HasExited)
        {
            // entireProcessTree: true로 하위 자식 프로세스까지 완전 박멸
            _llmProcess.Kill(entireProcessTree: true);
            _llmProcess.WaitForExit(3000);
        }
    }
    catch { }
    finally
    {
        _llmProcess?.Dispose();
        _llmProcess = null;
        _sessionModelFile = null;
        _ready = false;
        lock (_bufLock) _outputBuffer.Clear();
    }
}

// 창 종료(Closed) 이벤트 및 사용자의 '중지' 버튼 클릭 시 즉시 KillSession 호출

또한 출력 버퍼 감지기(_outputBuffer)는 생성 완료 시점(t/s ] 문자열 감지) 또는 3초 이상 새로운 텍스트 출력이 없을 경우 슬라이딩 워치독을 발동시켜 무한 루프나 교착 상태(Deadlock)에 빠진 추론을 자동으로 정상 완결 처리합니다.

6. 현장 실증 및 탐구 결과물 영속화 (Markdown Export)

yLM을 통한 탐구가 완료되면 학생은 탐구 보고서를 일일이 손으로 옮겨 적을 필요가 없습니다. [마크다운 저장] 버튼을 누르면 탐구 주제, 질문 목록 및 각 답변, 최종 요약문, 그리고 활용된 로컬 모델 정보가 체계적인 GitHub Markdown(.md) 형식으로 원클릭 저장됩니다.

저장된 파일은 ZeliNote(온디바이스 마크다운 에디터)나 ZeliOffice(한글 HWP 자동 변환기)와 0초 만에 연동되어 학교 수행평가 보고서, 교원 연구 자료, 국방 보고서로 즉시 제출될 수 있습니다.

7. 결론: "생각을 대신하는 AI에서, 생각을 이끄는 에이전트로"

인공지능 시대를 살아갈 학생들에게 가장 필요한 역량은 '답을 외우는 것'이 아니라 '좋은 질문을 설계하고, 체계적으로 탐구하여, 지식을 재구성하는 능력'입니다.

ZeliDesk의 yLM(Inquiry Learning Machine)은 단순한 온디바이스 유틸리티를 넘어, 미래 공교육이 나아가야 할 에이전틱 학습의 표준 모델을 제시합니다. 완전한 오프라인 Air-Gap 보안, 학생의 질문 분해 메타인지 훈련, 그리고 경량 CAG 지식 주입을 통해 대한민국 교실의 AI 교육을 한 단계 더 높은 지적 탐구의 장으로 도약시킵니다.