복잡한 설치 없는 초·중·고 온디바이스 sLM 구동: ZeliDesk LlamaRuntimeProvisioner의 90초 스톨 가드 스트리밍 및 포터블 llama-cli 무결성 프로비저닝 아키텍처

using System;
using System.IO;
using System.Net.Http;
using System.Threading;
using System.Threading.Tasks;

namespace ZeliDesk.Services
{
    public static class LlamaRuntimeProvisioner
    {
        public const string ModelId = "llama-runtime";
        public const string ZipFileName = "llama-runtime-win-x64.zip";
        private const int StallTimeoutMs = 90_000; // 90초 무응답 감시

        public static async Task<string> EnsureLlamaCliAsync(
            string baseDir, Action<string> status, CancellationToken ct)
        {
            string exe = Path.Combine(baseDir, "llama-cli.exe");
            // [패턴 1: 0ms 즉각 반환] 이미 바이너리가 있으면 네트워크 요청 0
            if (File.Exists(exe)) return exe;

            Directory.CreateDirectory(baseDir);
            // [패턴 2: 원자적 임시 파일] 다운로드 중에는 .downloading 확장자 강제
            string zipTemp = Path.Combine(baseDir, ZipFileName + ".downloading");
            string url = ModelHubConfig.FileUrl(ModelId, ZipFileName);

            status?.Invoke("⚙️ 실행 엔진(llama-cli) 다운로드 중...");

            try
            {
                using var http = new HttpClient { Timeout = TimeSpan.FromMinutes(30) };
                using var resp = await http.GetAsync(url, HttpCompletionOption.ResponseHeadersRead, ct);
                resp.EnsureSuccessStatusCode();
                long? total = resp.Content.Headers.ContentLength;
                long got = 0;

                using (var cs = await resp.Content.ReadAsStreamAsync(ct))
                using (var fs = new FileStream(zipTemp, FileMode.Create, FileAccess.Write, FileShare.None, 65536))
                using (var idleCts = CancellationTokenSource.CreateLinkedTokenSource(ct))
                {
                    var buf = new byte[65536];
                    int n;
                    // [패턴 3: 90초 스톨 워치독] 매 청크마다 유휴 시간 감시
                    while ((n = await ReadWithStallGuardAsync(cs, buf, idleCts, ct)) > 0)
                    {
                        await fs.WriteAsync(buf, 0, n, ct);
                        got += n;
                        if (total.HasValue && total.Value > 0)
                            status?.Invoke($"⚙️ 실행 엔진 다운로드 중... {got * 100 / total.Value}% ({got / 1048576.0:F1}/{total.Value / 1048576.0:F1} MB)");
                    }
                }

                // [패턴 4: Content-Length 완결성 검증] 단 1바이트라도 부족하면 손상으로 판정
                if (total.HasValue && got < total.Value)
                    throw new IOException($"네트워크 연결 끊김 (수신 {got} / 예상 {total.Value})");

                status?.Invoke("⚙️ 실행 엔진 추출 중...");
                // [패턴 5: 무설치 ZIP 자동 해제]
                System.IO.Compression.ZipFile.ExtractToDirectory(zipTemp, baseDir, overwriteFiles: true);
                try { File.Delete(zipTemp); } catch { } // 디스크 공간 즉시 환수

                // [패턴 6: 사후 바이너리 검증] 실제 파일 존재 최종 확인
                if (!File.Exists(exe))
                    throw new FileNotFoundException("추출 후에도 llama-cli.exe가 없습니다 (패키지 손상).");

                status?.Invoke("✅ 실행 엔진 설치 완료");
                return exe;
            }
            catch
            {
                try { if (File.Exists(zipTemp)) File.Delete(zipTemp); } catch { }
                throw;
            }
        }

        private static async Task<int> ReadWithStallGuardAsync(
            Stream stream, byte[] buffer, CancellationTokenSource idleCts, CancellationToken userToken)
        {
            idleCts.CancelAfter(StallTimeoutMs); // 90초 타이머 장전
            try
            {
                int n = await stream.ReadAsync(buffer, 0, buffer.Length, idleCts.Token);
                idleCts.CancelAfter(Timeout.Infinite); // 수신 성공 시 타이머 해제
                return n;
            }
            catch (OperationCanceledException) when (!userToken.IsCancellationRequested)
            {
                throw new IOException($"다운로드 정지 감지: {StallTimeoutMs / 1000}초간 데이터가 없어 중단합니다.");
            }
        }
    }
}

[사용자] ──(1. 질문 입력 및 질의 클릭)──> [yLM / zLM Window]
                                                  │
                                                  ▼
                                 [LlamaRuntimeProvisioner.EnsureLlamaCliAsync]
                                                  │
                ┌─────────────────────────────────┴─────────────────────────────────┐
                │                                                                   │
       [llama-cli.exe 존재함?]                                             [바이너리 없음 (최초 실행)]
                │                                                                   │
                ▼ (0ms)                                                             ▼
         [즉시 바이너리 반환]                                     [Azure Hub에서 zip 다운로드 스트리밍]
                │                                                  (90초 스톨 감시 + Content-Length 완결성)
                │                                                                   │
                │                                                                   ▼
                │                                                         [ZIP 원자적 추출 및 캐시 삭제]
                │                                                                   │
                └─────────────────────────────────┬─────────────────────────────────┘
                                                  │
                                                  ▼
                                 [Process.Start("llama-cli.exe", args)]
                                                  │
                                                  ▼
                                    [온디바이스 100% 로컬 sLM 추론]