초·중·고 AI 실습실 고성능 추론 가속: ZeliTensorRT의 TensorRT-LLM FP16/INT4 온디바이스 가속 엔진 및 원자적 모델 무결성 파이프라인 아키텍처

private async void BtnAction_Click(object sender, RoutedEventArgs e)
{
    if (sender is Button btn && btn.Tag is string modelId)
    {
        if (btn.Content.ToString() == Loc.Get("TensorRT_Load"))
        {
            // 재진입 가드: 로딩 도중 버튼 연타 시 VRAM 이중 할당 방어
            if (_isLoadingEngine) return;
            _isLoadingEngine = true;
            btn.IsEnabled = false;

            try
            {
                TxtStatus.Text = string.Format(Loc.Get("TensorRT_ModelLoading"), modelId);
                
                // 전용 추론 인터페이스 패널 확장 (1.5 Star 비율)
                InferencePanel.Visibility = Visibility.Visible;
                InferenceColumn.Width = new GridLength(1.5, GridUnitType.Star);

                // TRT-LLM 로컬 엔진 프로세스 비동기 기동
                await _engineManager.StartEngineAsync(modelId);

                TxtInferenceTitle.Text = $"{modelId} - TRT-LLM";
                TxtStatus.Text = Loc.Get("TensorRT_EngineLoaded");
                AddChatBubble(Loc.Get("TensorRT_SystemEngineLoaded"), false, true);
            }
            catch (Exception ex)
            {
                TxtStatus.Text = string.Format(Loc.Get("TensorRT_DownloadError"), ex.Message);
            }
            finally
            {
                _isLoadingEngine = false;
                btn.IsEnabled = true;
            }
        }
    }
}

private async Task DownloadModelFilesAsync(string modelId, TextBlock txtProgress, CancellationToken token)
{
    string targetDir = Path.Combine(_modelsDir, modelId);
    Directory.CreateDirectory(targetDir);
    string targetFull = Path.GetFullPath(targetDir);

    using var client = new HttpClient { Timeout = TimeSpan.FromHours(4) };
    var url = $"{ModelHubConfig.BaseUrl}/api/Models/{modelId}";
    var json = await client.GetStringAsync(url, token);
    using var doc = JsonDocument.Parse(json);

    if (doc.RootElement.TryGetProperty("files", out var filesArray))
    {
        int totalFiles = filesArray.GetArrayLength();
        int currentIndex = 0;

        foreach (var fileToken in filesArray.EnumerateArray())
        {
            token.ThrowIfCancellationRequested();
            currentIndex++;
            string fileName = fileToken.GetProperty("fileName").GetString();
            long expectedSize = fileToken.TryGetProperty("sizeBytes", out var szEl) && szEl.TryGetInt64(out var s) ? s : 0;

            string downloadUrl = $"{ModelHubConfig.BaseUrl}/api/Models/{modelId}/files/{fileName}";
            string filePath = Path.Combine(targetDir, fileName);

            // [L7 방어] 서버가 전달한 파일명이 targetDir를 벗어나는 경로 조작 공격(Path Traversal) 원천 차단
            string fileFull = Path.GetFullPath(filePath);
            if (!fileFull.StartsWith(targetFull, StringComparison.OrdinalIgnoreCase))
                throw new InvalidOperationException($"허용되지 않은 파일 경로 조작 감지: {fileName}");

            // [C3 검증] 최종 파일이 이미 존재하고 크기가 일치할 때만 스킵 (손상된 파일은 자동 재다운로드)
            if (File.Exists(fileFull) && (expectedSize <= 0 || new FileInfo(fileFull).Length == expectedSize))
                continue;

            Directory.CreateDirectory(Path.GetDirectoryName(fileFull)!);
            string tempPath = fileFull + ".downloading"; // 임시 격리 버퍼

            try
            {
                using (var response = await client.GetAsync(downloadUrl, HttpCompletionOption.ResponseHeadersRead, token))
                {
                    response.EnsureSuccessStatusCode();
                    long? contentLength = response.Content.Headers.ContentLength;

                    using (var fs = new FileStream(tempPath, FileMode.Create, FileAccess.Write, FileShare.None))
                    {
                        await response.Content.CopyToAsync(fs, token);
                    }

                    // [L6 크기 무결성 검증] 수신 바이트가 헤더 규격보다 작으면 즉시 예외 처리
                    long got = new FileInfo(tempPath).Length;
                    long want = contentLength ?? expectedSize;
                    if (want > 0 && got < want)
                        throw new Exception($"다운로드 데이터 절단 감지: {fileName} (수신 {got} / 기대치 {want})");
                }

                // [원자적 교체] 완전히 검증된 파일만 최종 경로로 이동 (중단 시 원본 불변)
                if (File.Exists(fileFull)) File.Delete(fileFull);
                File.Move(tempPath, fileFull);
            }
            catch
            {
                // 실패 시 불완전한 임시 파일 즉시 파기 (스토리지 오염 방지)
                try { if (File.Exists(tempPath)) File.Delete(tempPath); } catch { }
                throw;
            }
        }
    }
}

private void ZeliTensorRTWindow_Closed(object sender, WindowEventArgs e)
{
    // 1. 진행 중인 수 기가바이트(GB) 다운로드 태스크 즉시 취소 (학내망 병목 방어)
    try { _downloadCts?.Cancel(); } catch { }

    // 2. 실행 중인 TensorRT-LLM 엔진 프로세스 종료 및 VRAM 즉각 반환
    _engineManager?.StopEngine();
}

catch (Exception)
{
    TxtStatus.Text = Loc.Get("TensorRT_ServerConnFailed");
    ModelListContainer.Children.Clear();

    // 오프라인 폐쇄망 환경을 위한 사전 패키징 로컬 모델 카드 자동 바인딩
    AddModelCard("meta-llama-3-8b-instruct", "Llama 3 8B (TRT-LLM 4090)", "NVIDIA TensorRT-LLM 최적화", "4.5 GB", true);
    AddModelCard("microsoft-phi-3-mini-4k", "Phi-3 Mini 4K (TRT-LLM 3060)", "경량 언어 모델", "2.1 GB", false);
}