DevOps 에이전트 및 LLM을 통해 자동화된 사고 조사 구현

소개

오늘날 빠르게 변화하는 디지털 환경에서 DevOps 팀은 가능한 한 빨리 사고를 식별하고 해결해야 하는 점점 더 복잡한 과제에 직면해 있습니다. 수동 조사 방법은 시간이 많이 걸리고 인적 오류가 발생하기 쉬우므로 가동 중지 시간이 길어지고 고객 만족도가 낮아집니다. 이 문제를 해결하기 위해 우리는 AWS DevOps Agent 및 Copado Agentia와 같은 DevOps 도구를 향상시키는 데 있어 DevOps 자동화, AI 기반 사고 조사, LLM(대형 언어 모델)의 역할의 교차점을 탐색하고 있습니다.

사고 조사 현황

사고 조사는 소프트웨어 시스템에 영향을 미치는 문제의 식별, 분석 및 해결과 관련된 DevOps의 중요한 측면입니다. 기존 방법은 로그 분석, 오류 추적, 이해관계자와의 커뮤니케이션 등 수동 프로세스에 의존합니다. 이러한 방법은 효과적이지만 속도가 느리고 오류가 발생하기 쉬우므로 다음과 같은 문제가 발생할 수 있습니다.

가동 중지 시간 증가: 수동 조사 방법을 사용하면 사고 해결이 지연되어 가동 중지 시간이 길어지고 고객 만족도가 저하될 수 있습니다.
인적 오류: 수동 프로세스는 인적 오류에 취약하여 잘못된 진단 및 사고 해결로 이어질 수 있습니다.
확장성 문제: 시스템의 규모와 복잡성이 증가함에 따라 수동 조사 방법을 확장하기가 점점 더 어려워지고 있습니다.

사고 조사에서 DevOps 에이전트의 역할

AWS DevOps Agent 및 Copado Agentia와 같은 DevOps 에이전트는 사고 조사 자동화에 중요한 역할을 합니다. 이러한 에이전트는 다음을 수행할 수 있습니다.

로그 수집 및 분석: DevOps 에이전트는 다양한 소스에서 로그를 수집하고 분석하여 사고 원인에 대한 귀중한 통찰력을 제공할 수 있습니다.
오류 추적 자동화: 에이전트는 오류 추적을 자동화하여 수동 조사에 필요한 시간과 노력을 줄일 수 있습니다.
커뮤니케이션 강화: 상담원은 팀, 이해관계자, 시스템 간의 커뮤니케이션을 촉진하여 사건 정보가 효율적으로 공유되도록 할 수 있습니다.

사고 조사에서 LLM의 역할

LLM(대형 언어 모델)은 자연어 처리(NLP) 분야에 혁명을 일으켜 기계가 인간과 같은 텍스트를 이해하고 생성할 수 있게 해줍니다. 사건 조사의 맥락에서 LLM은 다음을 수행할 수 있습니다.

사고 보고서 분석: LLM은 사고 보고서를 분석하여 사고의 근본 원인을 나타낼 수 있는 주요 정보와 패턴을 식별할 수 있습니다.
사건 요약 생성: LLM은 사건 보고서의 간결한 요약을 생성하여 커뮤니케이션과 의사 결정을 촉진할 수 있습니다.
상황 인식 제안 제공: LLM은 관련된 특정 시스템, 환경 및 이해관계자를 고려하여 사건 해결을 위한 상황 인식 제안을 제공할 수 있습니다.

DevOps 에이전트 및 LLM을 통해 자동화된 사고 조사 구현

DevOps 에이전트 및 LLM을 사용하여 자동화된 사고 조사를 구현하기 위해 단계별 접근 방식을 따르겠습니다.

DevOps 에이전트 통합: AWS DevOps Agent 및 Copado Agentia와 같은 DevOps 에이전트를 사고 관리 시스템과 통합합니다.
로그 수집 및 분석: 다양한 소스에서 로그를 수집하고 분석하여 사고 원인에 대한 귀중한 통찰력을 제공하도록 DevOps 에이전트를 구성합니다.
LLM 모델 교육: 사고 보고서, 로그 및 기타 관련 정보의 데이터 세트에 대해 LLM 모델을 교육합니다.
LLM을 DevOps 에이전트와 통합: LLM 모델을 DevOps 에이전트와 통합하여 LLM이 사고 보고서를 분석하고 사고 해결을 위한 제안을 제공할 수 있도록 합니다.
솔루션 배포: 자동화된 사고 조사 솔루션을 배포하여 확장 가능하고 안정적이며 안전한지 확인합니다.

예제 코드: LLM을 DevOps 에이전트와 통합

다음은 LLM 모델을 DevOps 에이전트와 통합하는 방법을 보여주는 Python의 예제 코드 조각입니다. ``파이썬 수입 로깅 변환기에서 AutoModelForSequenceClassification, AutoTokenizer 가져오기 aws_devops_agent 가져오기 에이전트에서

모델 = AutoModelForSequenceClassification.from_pretrained("distilbert-base-uncased") tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased")

DevOps 에이전트를 초기화합니다.

에이전트 = 에이전트()

LLM 모델을 사용하여 사건 보고서를 분석하는 기능을 정의합니다.

def analyze_incident_report(보고): # 사건 보고서 전처리 입력 = tokenizer.encode_plus(보고서, add_special_tokens=참, 최대 길이=512, return_attention_mask=참, return_tensors='pt')

# LLM 모델을 사용하여 사건 보고서를 분석합니다.
출력 = 모델(inputs['input_ids'], attention_mask=inputs['attention_mask'])

# 예측된 클래스 라벨을 추출합니다.
예측_클래스 = torch.argmax(outputs.logits)

예측_클래스 반환

사건 해결을 위한 제안을 제공하는 함수를 정의합니다.

def 제공_제안(예측_클래스): # 예측된 클래스 라벨을 사용하여 사고 해결을 위한 제안 제공 예측_클래스 == 0인 경우: "시스템 로그에서 오류를 확인하세요"를 반환합니다. elif 예측_클래스 == 1: "네트워크 연결 확인"을 반환합니다. 그 외: "도움이 필요하면 개발팀에 문의하세요"를 반환하세요.

LLM 모델을 DevOps 에이전트와 통합

def Incident_investigation(): # DevOps 에이전트로부터 로그를 수집하고 분석합니다. 로그 = 에이전트.get_logs()

# LLM 모델을 사용하여 로그를 분석합니다.
Forecast_class = analyze_incident_report(로그)

# 사건 해결을 위한 제안 제공
제안 = 제공_제안(예측_클래스)

반환 제안

사건조사 솔루션 배포

사건_조사()

**가장 많이 사용되는 상위 5-10개 명령/조각**

다음은 이 기술에 가장 많이 사용되는 상위 5~10개 명령/스니펫입니다.

1. `aws devops 에이전트 get-logs`: DevOps 에이전트에서 로그를 수집합니다.
2. `transformers.AutoModelForSequenceClassification.from_pretrained()`: LLM 모델을 로드합니다.
3. `tokenizer.encode_plus()`: 사고 보고서를 전처리합니다.
4. `model(inputs['input_ids'], attention_mask=inputs['attention_mask'])`: LLM 모델을 사용하여 사고 보고서를 분석합니다.
5. `torch.argmax(outputs.logits)`: 예측된 클래스 라벨을 추출합니다.
6. `provide_suggestions(predicted_class)`: 사고 해결을 위한 제안을 제공합니다.
7. `agent.get_logs()`: DevOps 에이전트에서 로그를 수집합니다.
8. `analyze_incident_report(report)`: LLM 모델을 사용하여 사고 보고서를 분석합니다.
9. `incident_investigation()`: 사고 조사 솔루션을 배포합니다.
10. `torch.save(model.state_dict(), 'model.pth')`: LLM 모델을 저장합니다.

**시각화**

Chart.js를 사용한 자동화된 사건 조사 솔루션의 시각화는 다음과 같습니다.
``json
{
  "유형": "바",
  "데이터": {
    "labels": ["수동 조사", "자동 조사"],
    "데이터세트": [
      {
        "label": "해결 시간",
        "데이터": [10, 2],
        "배경색상": ["rgba(255, 99, 132, 0.2)", "rgba(54, 162, 235, 0.2)"],
        "borderColor": ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "테두리 폭": 1
      }
    ]
  },
  "옵션": {
    "제목": {
      "디스플레이": 사실,
      "text": "사고 해결 시간"
    },
    "비늘": {
      "yAxes": [
        {
          "틱": {
            "beginAtZero": 참
          }
        }
      ]
    }
  }
}

이 시각화는 수동 조사 방법과 DevOps 에이전트 및 LLM을 사용하는 자동 조사 방법을 사용하여 사고를 해결하는 데 걸리는 시간을 비교합니다.

결론

DevOps 에이전트 및 LLM을 통해 자동화된 사고 조사를 구현하면 사고 해결의 효율성과 효과가 크게 향상될 수 있습니다. DevOps 에이전트를 LLM과 통합함으로써 조직은 로그 분석을 자동화하고, 사고 해결을 위한 상황 인식 제안을 제공하고, 사고 해결 시간을 단축할 수 있습니다. 우리는 DevOps 자동화, AI 기반 사고 조사, 그리고 AWS DevOps Agent 및 Copado Agentia와 같은 DevOps 도구를 향상시키는 LLM의 역할의 교차점을 탐색했습니다. 이 문서에 설명된 단계별 접근 방식을 따르면 조직은 확장 가능하고 안정적이며 안전한 자동화된 사고 조사 솔루션을 배포할 수 있습니다.

LLM 모델 및 토크나이저 로드

DevOps 에이전트를 초기화합니다.

LLM 모델을 사용하여 사건 보고서를 분석하는 기능을 정의합니다.

사건 해결을 위한 제안을 제공하는 함수를 정의합니다.

LLM 모델을 DevOps 에이전트와 통합

사건조사 솔루션 배포

Have Questions?