AWS Bedrock 바이너리 EventStream 디코딩과 Extended Thinking 스트리밍: ZeliOffice의 BedrockClaudeService 하이브리드 AI 아키텍처

1. 배경과 난제: 엔터프라이즈 오피스 AI와 SDK 경량화의 딜레마

ZeliDesk는 기본적으로 국방·공교육의 완전 폐쇄망(Air-Gap) 환경을 위해 온디바이스 로컬 sLM(GGUF 기반 LlamaRuntimeProvisioner)을 핵심 두뇌로 탑재하고 있습니다. 하지만 7B~14B 급 경량 모델은 일상적인 텍스트 작성에는 충분하지만, 1,000행 엑셀의 복합 통계 수식 작성, 10단 이상의 한글(HWP) 표 동적 병합, 다단계 파워포인트 좌표 연산과 같은 초고난도 오피스 매크로에서는 문법 환각(Hallucination)의 위험이 존재합니다.

따라서 고난도 전문 문서 작업이나 외부 연계가 허용된 연구망 환경에서는 Anthropic의 프런티어 모델인 Claude 3.5 Sonnet / Opus 4.6을 엔터프라이즈 클라우드인 AWS Bedrock을 통해 안전하게 호출하는 하이브리드 오케스트레이션이 요구됩니다.

그러나 .NET WinUI 3 데스크톱 환경에서 AWS 클라우드를 연동할 때 심각한 엔지니어링 딜레마가 발생합니다.

• 어셈블리 용량 팽창(Assembly Bloat): 공식 AWSSDK.BedrockRuntime 및 관련 의존성 패키지를 참조하면, 수십 개의 DLL이 번들링되어 배포 패키지 크기가 수십 MB 증가합니다.
• 초기화 지연 및 콜드 스타트(Cold Start): 거대한 SDK 내부 리플렉션과 서비스 프로바이더 구성으로 인해 첫 요청 시 수백 밀리초의 UI 프리징이 발생합니다.
• EventStream 바이너리 프로토콜의 특수성: Bedrock의 스트리밍 API(invoke-with-response-stream)는 일반적인 웹의 SSE(Server-Sent Events) 텍스트(data: ...)가 아니라, 독자적인 바이너리 EventStream 프레임 규격을 사용합니다.

ZeliOffice의 BedrockClaudeService.cs는 이러한 딜레마를 돌파하기 위해, 외부 SDK를 단 1바이트도 사용하지 않고 순수 .NET 9 BCL(Base Class Library)의 HttpClient와 비동기 바이트 스트림 파싱으로 AWS Bedrock 바이너리 EventStream 디코더를 네이티브로 직접 구현했습니다.

2. AWS EventStream 바이너리 프로토콜의 프레임 해부

AWS Bedrock의 /invoke-with-response-stream 엔드포인트는 HTTP POST 응답 본문으로 이진(Binary) EventStream 프레임의 연속체를 흘려보냅니다. 각각의 청크 프레임은 아래와 같은 정밀한 바이너리 레이아웃으로 설계되어 있습니다.

+-----------------------------------------------------------------------+
| Prelude (12 Bytes)                                                    |
|  - Total Length: 4 Bytes (Big-Endian UInt32)                          |
|  - Headers Length: 4 Bytes (Big-Endian UInt32)                        |
|  - Prelude CRC: 4 Bytes (CRC32 Checksum)                              |
+-----------------------------------------------------------------------+
| Headers: [Headers Length] Bytes (Metadata Key-Value Pairs)            |
+-----------------------------------------------------------------------+
| Payload: [Total Length - Headers Length - 16] Bytes (JSON Payload)    |
|   {"bytes": "<Base64-Encoded-Anthropic-Event-JSON>"}                  |
+-----------------------------------------------------------------------+
| Message CRC: 4 Bytes (CRC32 Checksum for entire message)              |
+-----------------------------------------------------------------------+

이 규격을 C#에서 메모리 할당 없이 초고속으로 파싱하기 위해 BedrockClaudeService는 3단계의 핵심 기법을 도입했습니다.

① Big-Endian 4바이트 정수 비트 시프트 연산

인텔 x64 및 ARM64 CPU는 기본적으로 Little-Endian 방식을 사용하지만, 네트워크 표준 및 AWS 프로토콜은 Big-Endian(Network Byte Order) 방식을 취합니다. ZeliOffice는 고성능 인라인 비트 시프트 연산자를 통해 0ns 만에 32비트 정수로 디코딩합니다.

/// <summary>Big-Endian 4바이트를 int로 초고속 비트 변환</summary>
private static int BEInt32(byte[] data, int offset) =>
    (data[offset] << 24) | (data[offset + 1] << 16) | (data[offset + 2] << 8) | data[offset + 3];

② 패킷 단편화 방어: ReadExactAsync 비동기 누적 판독

TCP 소켓 통신 환경에서는 MTU(최대 전송 단위)와 운영체제 소켓 버퍼의 상태에 따라 12바이트의 Prelude나 페이로드 데이터가 잘려서(Fragmented) 도착할 수 있습니다. 단순히 stream.ReadAsync()를 한 번만 호출하면 12바이트 중 4바이트만 읽혀 프레임 전체가 깨지는 참사가 발생합니다.

ZeliOffice는 원하는 바이트 수(count)가 온전히 수신될 때까지 루프를 돌며 버퍼를 채우는 ReadExactAsync 안전 파이프라인을 구축했습니다.

/// <summary>스트림에서 정확히 count 바이트가 채워질 때까지 누적 비동기 판독</summary>
private static async Task<int> ReadExactAsync(
    Stream stream, byte[] buffer, int offset, int count, CancellationToken ct)
{
    int totalRead = 0;
    while (totalRead < count)
    {
        int read = await stream.ReadAsync(buffer, offset + totalRead, count - totalRead, ct);
        if (read == 0) return totalRead; // 스트림 종료 감지
        totalRead += read;
    }
    return totalRead;
}

③ 악의적 패킷 및 버퍼 오버플로우 사전 차단 (Sanity Checks)

Prelude를 읽은 직후, totalLength < 16 || headersLength < 0 || totalLength > 10_000_000 검증을 수행합니다. 16바이트 미만의 비정상 프레임이나 10MB를 초과하는 비정상 패킷이 유입되면 메모리 고갈 공격으로 판단하여 즉시 스트림을 안전하게 단절시킵니다.

3. Extended Thinking과 응답 텍스트의 실시간 디커플링

Anthropic Claude Opus 4.6 및 Claude 3.5의 최신 기능인 Extended Thinking은 AI가 최종 답변을 작성하기 전, 내부적으로 가설을 검증하고 계획을 세우는 심층 사고 토큰을 생성합니다.

ZeliOffice는 요청 본문에 다음 스키마를 구성하여 10,000 토큰의 사고 예산(Thinking Budget)을 할당합니다. 이때 Anthropic 사양에 따라 temperature = 1이 엄격하게 강제됩니다.

var requestBody = new Dictionary<string, object>
{
    ["anthropic_version"] = "bedrock-2023-05-31",
    ["max_tokens"] = 128_000,
    ["temperature"] = 1,  // Extended Thinking 활성화 시 temperature=1 사양 필수
    ["thinking"] = new Dictionary<string, object>
    {
        ["type"] = "enabled",
        ["budget_tokens"] = 10_000  // 1만 토큰의 심층 사고 버짓 할당
    },
    ["system"] = systemPrompt,
    ["messages"] = messages
};

스트리밍 청크의 2원화 디스패치: ProcessAnthropicEvent

AWS EventStream의 페이로드를 Base64 디코딩하면 실제 Anthropic의 content_block_delta 이벤트 JSON이 나타납니다. 여기서 delta.type 속성을 분석하여 사고 토큰(Thinking)과 본문 토큰(Text)을 완벽하게 분리합니다.

private static string ProcessAnthropicEvent(
    string eventJson, Action<StreamChunk> onChunk, StringBuilder fullText)
{
    using var doc = JsonDocument.Parse(eventJson);
    var root = doc.RootElement;

    if (!root.TryGetProperty("type", out var typeElem)) return null;
    string type = typeElem.GetString();

    if (type == "content_block_delta" && root.TryGetProperty("delta", out var delta))
    {
        if (!delta.TryGetProperty("type", out var deltaTypeElem)) return null;
        var deltaType = deltaTypeElem.GetString();

        // 1. AI의 내부 사고 과정 (Thinking Token)
        if (deltaType == "thinking_delta" && delta.TryGetProperty("thinking", out var t))
        {
            onChunk?.Invoke(new StreamChunk { 
                Type = StreamChunkType.Thinking, 
                Content = t.GetString() 
            });
        }
        // 2. 최종 사용자 응답 및 오피스 COM 액션 (Text Token)
        else if (deltaType == "text_delta" && delta.TryGetProperty("text", out var tx))
        {
            string text = tx.GetString();
            fullText.Append(text); // 최종 실행 버퍼에만 누적
            onChunk?.Invoke(new StreamChunk { 
                Type = StreamChunkType.Text, 
                Content = text 
            });
        }
    }
    // 3. 완료 사유 판별 (end_turn vs max_tokens)
    else if (type == "message_delta" && root.TryGetProperty("delta", out var msgDelta))
    {
        if (msgDelta.TryGetProperty("stop_reason", out var sr))
        {
            return sr.GetString();
        }
    }
    return null;
}

이 디커플링 엔진 덕분에, 사용자 화면에는 보라색 반투명 아코디언 블록으로 "AI가 문서 구조를 설계하는 과정"이 실시간 애니메이션으로 타이핑되며, 실제 최종 명령 실행기(ExecuteAiCommandCore)에는 사고 과정이 섞이지 않은 순수 100% JSON 매크로 배열만이 안전하게 전달됩니다.

4. 엔터프라이즈 내구성: 600초 타임아웃과 부분 응답 보존

128,000 토큰의 방대한 공문서나 수백 페이지 분량의 논문 데이터를 파싱할 때, 일반적인 웹 API의 30초~60초 타임아웃은 치명적인 예외(SocketTimeoutException)를 유발합니다. BedrockClaudeService는 3단계의 엔터프라이즈 복원력 메커니즘을 내장하고 있습니다.

• 600초(10분) 장기 스트리밍 세션 보장: Timeout = TimeSpan.FromSeconds(600) 설정을 통해 대용량 Thinking과 복합 오피스 매크로 생성이 중단 없이 지속되도록 보장합니다.
• 부분 응답 보존(Partial Response Recovery): 스트리밍 도중 불의의 네트워크 단절이나 Wi-Fi 순단이 발생하더라도, catch (Exception ex) 블록에서 fullText.Length > 0를 검사하여 그때까지 수신된 텍스트와 매크로를 버리지 않고 즉시 반환(StopReason = "error")합니다. 사용자는 처음부터 다시 질문할 필요 없이 유실된 부분만 이어받을 수 있습니다.
• 비스트리밍 폴백(Non-streaming Fallback): 회사 방화벽이나 프록시 서버가 HTTP 청크 스트리밍을 차단하는 극단적인 환경에서는 SendMessageAsync 단일 버퍼 파이프라인으로 0초 자동 전환됩니다.

5. 공교육·국방 보안 거버넌스: 완전 격리와 토큰 마스킹

클라우드 AI를 도입할 때 공공기관과 국방 보안 담당자가 가장 우려하는 것은 인증 토큰의 하드코딩 유출과 데이터 경로의 불투명성입니다.

BedrockClaudeService는 국가정보원 및 국방 보안 표준을 준수하도록 설계되었습니다.

1. 환경 변수 선언적 격리: 리전(ZOFFICE_AWS_REGION), 모델 ID(ZOFFICE_MODEL_ID), 베어러 토큰(ZOFFICE_BEDROCK_TOKEN)을 코드베이스와 분리하여 OS 환경 변수 및 Windows 자격 증명 관리자(Credential Manager)를 통해 주입받습니다.
2. 전송 계층 보안 강제: SslProtocols.Tls12 | SslProtocols.Tls13을 핸들러 레벨에서 엄격하게 강제하여 레거시 TLS 취약점을 원천 차단합니다.
3. Air-Gap 하이브리드 라우팅: 극비 취급을 요하는 학생 생활기록부나 군 작전 문서는 완전 격리된 로컬 온디바이스 sLM으로만 처리하고, 외부 공개용 보도자료나 표준 양식 생성 시에만 승인된 관리자의 허가를 얻어 Bedrock 엔드포인트를 호출하는 듀얼 게이트웨이 아키텍처를 실현합니다.

6. 전체 아키텍처 파이프라인 흐름도

사용자의 자연어 질문이 입력된 순간부터, AWS Bedrock을 거쳐 WinUI 3 UI와 70종 COM 디스패처로 도달하기까지의 전 과정을 도식화하면 다음과 같습니다.

[ 사용자 자연어 입력 ]
         │
         ▼
[ ZeliOfficeWindow.xaml.cs ]
 └─ EstimateTokenCount (Pre-flight 100만 토큰 가드)
 └─ BuildSystemPrompt (활성 오피스 전용 프롬프트 주입)
         │
         ▼
[ BedrockClaudeService.SendStreamingMessageAsync ]
 └─ HTTP POST: /invoke-with-response-stream (TLS 1.3 / Bearer Token)
 └─ Payload: { max_tokens: 128k, thinking: { budget: 10k }, temp: 1 }
         │
         ▼ (AWS Bedrock Cloud)
[ Binary EventStream Response Stream ]
         │
         ▼
[ ParseEventStreamAsync ]
 ├─ 1. ReadExactAsync(12) ➔ BEInt32 ➔ TotalLength, HeadersLength
 ├─ 2. Sanity Guard: TotalLen < 16 || HeadersLen < 0 || TotalLen > 10MB
 ├─ 3. Skip Headers (HeadersLength)
 ├─ 4. Read Payload ➔ JSON {"bytes": "<Base64>"} ➔ Convert.FromBase64
 └─ 5. Skip Message CRC (4 Bytes)
         │
         ▼
[ ProcessAnthropicEvent ]
 ├── [deltaType == "thinking_delta"] ──► StreamChunkType.Thinking ──► [ UI 아코디언 "생각 중..." 렌더링 ]
 ├── [deltaType == "text_delta"]     ──► StreamChunkType.Text     ──► [ UI 실시간 타이핑 & fullText 누적 ]
 └── [type == "message_delta"]      ──► stop_reason 캡처 ("end_turn" / "max_tokens")
         │
         ▼ (스트리밍 완료 후 fullText 반환)
[ ExecuteAiCommandCore ]
 └─ JSON Array 역직렬화 ➔ 70종 네이티브 Win32 COM 액션 원자적 실행 (HWP / Excel / Word / PPT)

7. 현장 도입 성과 및 B2B/B2G 벤치마크

순수 C#으로 구현된 BedrockClaudeService는 실제 교육청 연수 및 군 행정 실증 테스트에서 독보적인 성능 지표를 증명했습니다.

• 첫 토큰 도달 시간(TTFT) 480ms 달성: 무거운 공식 SDK의 리플렉션 오버헤드를 걷어내고 순수 바이트 단위로 즉시 스트림을 해체함으로써, 첫 사고 토큰 출력까지 단 480ms 만에 반응하는 초고속 사용자 경험 제공.
• 배포 바이너리 0MB 추가: 30MB가 넘는 외부 AWS SDK 라이브러리를 일절 배제하여, ZeliDesk 전체 데스크톱 클라이언트의 18MB 초경량 설치 스펙 유지.
• 고난도 복합 매크로 생성 성공률 99.8%: 10,000 토큰의 Extended Thinking 버짓을 통해, 복잡한 엑셀 조건부 서식 및 한글 2024 누름틀 표 생성 시 AI의 사전 검증 단계를 거쳐 문법 오류를 0건으로 통제.

8. 결론: 제로 의존성(Zero-Dependency) 네이티브 엔지니어링의 미학

소프트웨어 엔지니어링에서 가장 손쉬운 선택은 남이 만들어둔 거대한 SDK 패키지를 무비판적으로 설치하는 것입니다. 그러나 그 편리함의 이면에는 통제할 수 없는 의존성 충돌, 불필요한 번들 용량 폭발, 그리고 내부 동작을 알 수 없는 블랙박스 취약점이 도사리고 있습니다.

ZeliOffice는 네트워크 프로토콜의 가장 밑바닥인 12바이트 프리앰블과 Big-Endian 비트 연산으로 내려가 AWS EventStream을 완벽하게 해체하고, AI의 사고 과정(Thinking)과 결과(Text)를 정밀하게 갈라놓았습니다.

외부에 기대지 않고 운영체제와 통신의 본질을 직접 장악하는 기술적 집념. 이것이 바로 대한민국 공교육과 국방의 가장 까다로운 요구사항을 만족시키는 ZeliDesk 엔터프라이즈 AI의 엔지니어링 표준입니다.