이 글은 운영 중인 시스템 소개가 아니라 지금 검토·설계 중인 R&D 구상을 정리한 기록이다. 결정된 것보다 고민하는 과정이 더 많다.
DevOps 업무에는 오류 로그 분석, 상태 점검, 보고서 작성처럼 반복적이고 정형화할 수 있는 작업이 많다. LLM을 활용한 운영 보조 체계를 검토하면서 가장 먼저 확인한 제약은 비용이었다. 이 글은 그 과정에서 정리한 2단계 구조를 설명한다.
왜 2단계인가
방대한 로그를 모두 고성능 모델에 전달하면 토큰 비용이 빠르게 증가한다. 이를 피하기 위해 분석 단계를 나눴다.
- 1단계 — 경량 모델로 데이터 정제. 원시 로그에서 반복되거나 분석과 무관한 내용을 제외하고 필요한 부분만 선별한다. 처리량이 많은 이 단계에는 비용이 낮은 모델을 사용한다.
- 2단계 — 고성능 모델로 심층 RCA. 정제된 데이터만 고성능 모델에 넘겨 원인 분석(Root Cause Analysis)을 시킨다.
1단계에서는 로그 처리 비용을 줄이고, 2단계에서는 고성능 모델을 사용해 분석 정확도를 확보한다. 데이터 정제와 원인 분석에 동일한 모델을 사용하지 않고 작업의 복잡도에 따라 모델을 분리하는 구조다.
데이터는 읽기만 한다
설계 원칙 가운데 하나는 이 시스템을 위한 별도 원천 데이터를 생성하거나 저장하지 않는 것이다. 분석 데이터는 기존 시스템에서 조회한다.
- 애플리케이션 로그(ELK), Azure Metric
- AKS event log, Istio access log
- Wiki, Jira (관련 문서·이슈 링크)
운영 보조 도구가 또 다른 데이터 사일로를 만들면 안 된다는 생각이었다.
무엇에 쓸 것인가 (적용 업무 후보)
적용 범위는 반복적이고 절차를 정형화할 수 있는 운영 업무부터 검토하고 있다.
- 에러 로그 원인 분석 — n8n과 LLM으로 Azure/AKS 오류 분석·보고서 자동화
- Ops Copilot — 사내 리소스(Azure/AKS/ELK) 조회, Wiki/Jira 문서 링크 찾기
- 장애 관리 봇 — 자동 진단·요약 리포트·조치 가이드, Teams 알람에 분석 댓글 달기
- 리스크 작업 관리 — 작업 전 체크리스트·작업계획서 작성 후 Wiki 업로드, 작업 전후 config dump
- Daily health report — AKS·Azure·ELK 상태 점검을 매일 자동 리포팅
도구 선택 — n8n을 OSS로 쓸까, Enterprise로 갈까
워크플로우 엔진으로 n8n을 검토하면서 오픈소스 에디션과 상용 에디션의 차이를 정리해 봤다. 선택의 핵심은 n8n이 워크플로우 실행 횟수 기반으로 과금한다는 점이었다.
| 구분 | OSS(Community) | 상용(Enterprise) |
|---|---|---|
| 인증 | 로컬 계정만 | SSO(SAML/OIDC), LDAP |
| 권한 | 미지원 | 프로젝트 기반 RBAC |
| 환경 분리(dev/stg/prod) | 미지원 | 내장 |
| 버전 관리 | 수동 export/import | 내장 |
| Secret 관리 | n8n DB 암호화 저장 | 외부 Secret Store(Vault 등) 연동 |
| 감사/로그 | 실행 로그만 | 로그 스트리밍(SIEM/Datadog), 감사 이벤트 |
| 고가용성 | Queue mode(단일 main) | Multi-main Queue mode |
OSS로도 자동화 기능(시각적 에디터, Webhook/스케줄 트리거, 조건 분기, HTTP 노드, 에러 핸들링)은 충분하다. 차이는 보안·거버넌스·확장성·협업에서 난다. 전사에서 쓰려면 SSO·RBAC·감사가 언젠가 필요해질 텐데 그게 상용 에디션에 묶여 있다는 점이 고민거리다.
확장성은 '모듈형'으로
확장성을 위해 팀 구성원이 기능을 추가할 수 있는 구조도 검토하고 있다. 분석 도구는 MCP(Model Context Protocol) 인터페이스로 연결하고, 워크플로는 재사용 가능한 단위로 분리하는 방식이다.
아직 고민 중인 것들
운영 주체와 유지보수 절차는 아직 확정하지 않았다. UI도 Open WebUI·LibreChat·Kagent 등을 비교하고 있다. 현재 정한 방향은 작업 단계를 분리해 비용과 정확도를 함께 관리하고, 별도 원천 데이터를 만들지 않은 채 기존 시스템의 정보를 조회해 분석하는 것이다. 진행 결과는 후속 글에서 공유할 예정이다.
참고