Ներբեռնեք LLM մոդելը և նշանաբանը | B4N1

Ներբեռնեք LLM մոդելը և նշանաբանը

3 months ago · b4n1 Read time: 4 min

Իրականացնելով միջադեպերի ավտոմատ հետաքննություն DevOps գործակալների և LLM-ների հետ

Ներածություն

Այսօրվա արագընթաց թվային լանդշաֆտում DevOps-ի թիմերը բախվում են ավելի ու ավելի բարդ մարտահրավերի՝ հնարավորինս արագ բացահայտել և լուծել միջադեպերը: Ձեռնարկի հետաքննության մեթոդները կարող են ժամանակատար և հակված լինել մարդկային սխալի, ինչը հանգեցնում է երկարատև պարապուրդի և հաճախորդների բավարարվածության նվազմանը: Այս խնդիրը լուծելու համար մենք ուսումնասիրում ենք DevOps-ի ավտոմատացման, AI-ի վրա աշխատող միջադեպերի հետաքննության և Large Language Models (LLMs) դերը DevOps գործիքների կատարելագործման հարցում, ինչպիսիք են AWS DevOps Agent-ը և Copado Agentia-ն:

** Միջադեպի հետաքննության ներկա վիճակը**

Միջադեպերի հետաքննությունը DevOps-ի կարևոր կողմն է, որը ներառում է ծրագրային համակարգերի վրա ազդող խնդիրների նույնականացում, վերլուծություն և լուծում: Ավանդական մեթոդները հիմնվում են ձեռքով գործընթացների վրա, ինչպիսիք են մատյանների վերլուծությունը, սխալների հետևումը և շահագրգիռ կողմերի հետ շփումը: Չնայած այս մեթոդները արդյունավետ են, դրանք կարող են դանդաղ լինել և հակված լինել սխալների, ինչը հանգեցնում է.

  1. Աճող ժամանակի ավելացում. ձեռքով հետաքննության մեթոդները կարող են հետաձգել միջադեպի լուծումը, ինչը հանգեցնում է երկարատև պարապուրդի և նվազեցնում է հաճախորդների գոհունակությունը:
  2. Մարդկային սխալ. Ձեռնարկային գործընթացները ենթակա են մարդկային սխալի, ինչը կարող է հանգեցնել միջադեպերի սխալ ախտորոշման և լուծման:
  3. Ծավալայնության խնդիրներ. Քանի որ համակարգերի չափերն ու բարդությունը մեծանում են, ձեռքով հետազոտության մեթոդներն ավելի ու ավելի դժվար են դառնում մասշտաբային:

** DevOps գործակալների դերը միջադեպերի հետաքննության մեջ**

DevOps գործակալները, ինչպիսիք են AWS DevOps Agent-ը և Copado Agentia-ն, վճռորոշ դեր են խաղում միջադեպերի հետաքննության ավտոմատացման գործում: Այս գործակալները կարող են.

  1. Հավաքել և վերլուծել տեղեկամատյանները. DevOps գործակալները կարող են հավաքել և վերլուծել տեղեկամատյանները տարբեր աղբյուրներից՝ տրամադրելով արժեքավոր պատկերացումներ միջադեպերի պատճառների վերաբերյալ:
  2. Սխալների ավտոմատ հետևում. Գործակալները կարող են ավտոմատացնել սխալների հետևումը՝ նվազեցնելով ձեռքով հետաքննության համար պահանջվող ժամանակը և ջանքերը:
  3. Ընդլայնել հաղորդակցությունը. Գործակալները կարող են հեշտացնել հաղորդակցությունը թիմերի, շահագրգիռ կողմերի և համակարգերի միջև՝ ապահովելով, որ միջադեպի մասին տեղեկատվությունը արդյունավետորեն տարածվի:

ՏԿԱ-ների դերը միջադեպերի հետաքննության մեջ

Լեզուների խոշոր մոդելները (LLM) հեղափոխել են բնական լեզվի մշակման (NLP) ոլորտը՝ հնարավորություն տալով մեքենաներին հասկանալ և ստեղծել մարդու նման տեքստ: Միջադեպի հետաքննության համատեքստում LLM-ները կարող են.

  1. Վերլուծել միջադեպերի մասին հաշվետվությունները. LLM-ները կարող են վերլուծել միջադեպերի հաշվետվությունները՝ բացահայտելով հիմնական տեղեկությունները և օրինաչափությունները, որոնք կարող են ցույց տալ միջադեպի բուն պատճառը:
  2. Ստեղծեք միջադեպերի ամփոփագրեր. LLM-ները կարող են ստեղծել միջադեպերի հաշվետվությունների հակիրճ ամփոփագրեր՝ հեշտացնելով հաղորդակցությունը և որոշումների կայացումը:
  3. Տրամադրել համատեքստին ծանոթ առաջարկներ. LLM-ները կարող են կոնտեքստից տեղեկացված առաջարկներ տրամադրել միջադեպի լուծման համար՝ հաշվի առնելով կոնկրետ համակարգը, միջավայրը և ներգրավված շահագրգիռ կողմերը:

Իրականացնելով միջադեպերի ավտոմատ հետաքննություն DevOps գործակալների և LLM-ների հետ

DevOps գործակալների և LLM-ների հետ միջադեպերի ավտոմատ հետաքննություն իրականացնելու համար մենք քայլ առ քայլ կհետևենք.

  1. Ինտեգրեք DevOps գործակալներին. Ինտեգրեք DevOps գործակալներին, ինչպիսիք են AWS DevOps Agent-ը և Copado Agentia-ն, ձեր միջադեպերի կառավարման համակարգի հետ:
  2. Հավաքել և վերլուծել տեղեկամատյանները. Կարգավորել DevOps գործակալները՝ հավաքելու և վերլուծելու տեղեկամատյանները տարբեր աղբյուրներից՝ տրամադրելով արժեքավոր պատկերացումներ միջադեպերի պատճառների վերաբերյալ:
  3. Ուսուցանել LLM մոդելը. Վարժեցնել LLM մոդելը միջադեպերի հաշվետվությունների, տեղեկամատյանների և այլ համապատասխան տեղեկատվության տվյալների բազայի վրա:
  4. Ինտեգրել LLM-ը DevOps գործակալների հետ. LLM մոդելը ինտեգրել DevOps գործակալների հետ՝ հնարավորություն տալով LLM-ին վերլուծել միջադեպերի հաշվետվությունները և առաջարկներ տրամադրել միջադեպերի լուծման համար:
  5. Տեղադրեք լուծումը. տեղակայեք միջադեպերի հետաքննության ավտոմատացված լուծումը՝ ապահովելով, որ այն մասշտաբային է, հուսալի և անվտանգ:

Օրինակ կոդը. LLM-ի ինտեգրում DevOps գործակալների հետ

Ահա Python-ում կոդի հատվածի օրինակ, որը ցույց է տալիս, թե ինչպես կարելի է ինտեգրել LLM մոդելը DevOps գործակալի հետ. «Պիթոն». ներմուծման անտառահատումներ տրանսֆորմատորներից ներմուծում AutoModelForSequenceClassification, AutoTokenizer aws_devops_agent ներմուծման գործակալից

model = AutoModelForSequenceClassification.from_pretrained("distilbert-base-uncased") tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased")

Նախաձեռնեք DevOps գործակալը

գործակալ = Գործակալ ()

Սահմանեք գործառույթ՝ միջադեպերի հաշվետվությունները վերլուծելու համար՝ օգտագործելով LLM մոդելը

def analyzy_incident_report(report): # Նախապես մշակեք միջադեպի զեկույցը inputs = tokenizer.encode_plus (հաշվետվություն, add_special_tokens=Ճիշտ է, max_length=512, return_attention_mask=Ճիշտ է, return_tensors='pt')

# Վերլուծեք միջադեպի հաշվետվությունը՝ օգտագործելով LLM մոդելը
ելքեր = մոդել (մուտքեր['input_ids'], ուշադրության_mask=մուտքեր['attention_mask'])

# Հանեք կանխատեսված դասի պիտակը
predicted_class = torch.argmax(outputs.logits)

վերադարձնել predicted_class

Սահմանեք գործառույթ՝ միջադեպերի լուծման համար առաջարկություններ տրամադրելու համար

def provide_suggestions(predicted_class): # Օգտագործեք կանխատեսված դասի պիտակը միջադեպի լուծման համար առաջարկներ տրամադրելու համար եթե predicted_class == 0: վերադարձեք «Ստուգեք համակարգի մատյանները սխալների համար» elif predicted_class == 1: վերադարձեք «Ստուգեք ցանցային կապը» ուրիշ: վերադարձ «Օգնության համար դիմեք զարգացման թիմին»

Ինտեգրել LLM մոդելը DevOps գործակալի հետ

def incident_investigation(): # Հավաքեք և վերլուծեք տեղեկամատյանները DevOps գործակալից տեղեկամատյաններ = agent.get_logs()

# Վերլուծեք տեղեկամատյանները՝ օգտագործելով LLM մոդելը
predicted_class = analyly_incident_report(logs)

# Տրամադրել առաջարկություններ միջադեպի լուծման համար
առաջարկներ = provide_suggestions (կանխատեսված_դաս)

վերադարձի առաջարկներ

Տեղադրեք միջադեպի հետաքննության լուծումը

միջադեպ_հետաքննություն ()

**Թոփ 5-10 ամենաշատ օգտագործվող հրամաններ/հատվածներ**

Ահա այս տեխնոլոգիայի համար ամենաշատ օգտագործվող 5-10 հրամանները/հատվածները.

1. «aws devops agent get-logs»: Հավաքեք տեղեկամատյանները DevOps գործակալից:
2. «transformers.AutoModelForSequenceClassification.from_pretrained()»: Բեռնել LLM մոդելը:
3. «tokenizer.encode_plus()»: Նախապես մշակեք միջադեպի հաշվետվությունը:
4. «model(inputs['input_ids'], focus_mask=inputs['attention_mask']): Վերլուծեք միջադեպի հաշվետվությունը՝ օգտագործելով LLM մոդելը:
5. `torch.argmax(outputs.logits)`` հանեք կանխատեսված դասի պիտակը:
6. «տրամադրել_առաջարկություններ (կանխատեսված_դաս)»: Տրամադրել առաջարկներ միջադեպի լուծման համար:
7. «agent.get_logs()»: Հավաքեք տեղեկամատյանները DevOps գործակալից:
8. «analyze_incident_report(report)»: Վերլուծեք միջադեպի հաշվետվությունը՝ օգտագործելով LLM մոդելը:
9. «Incident_investigation()»: Գործարկել միջադեպի հետաքննության լուծումը:
10. «torch.save(model.state_dict(), «model.pth»)»: Պահպանեք LLM մոդելը:

**Վիզուալիզացիա**

Ահա Chart.js-ի միջոցով միջադեպերի հետաքննության ավտոմատացված լուծման վիզուալիզացիան.
```ջսոն
{
  «տեսակ»՝ «բար»,
  "տվյալներ": {
    «պիտակներ»: [«Ձեռքի հետաքննություն», «Ավտոմատացված հետաքննություն»],
    «տվյալների հավաքածուներ»:
      {
        "label": "Ժամանակն է լուծել",
        «տվյալներ»: [10, 2],
        "backgroundColor"՝ ["rgba(255, 99, 132, 0.2)", "rgba(54, 162, 235, 0.2)"],
        "borderColor"՝ ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        «սահմանի լայնություն»՝ 1
      }
    ]
  },
  «Ընտրանքներ»: {
    «վերնագիր»: {
      «ցուցադրում»՝ ճշմարիտ,
      "text": "Միջադեպերը լուծելու ժամանակն է"
    },
    «կշեռքներ»: {
      «yAxes»:
        {
          "ticks": {
            «beginAtZero»: ճիշտ է
          }
        }
      ]
    }
  }
}

Այս վիզուալիզացիան համեմատում է միջադեպերը լուծելու ժամանակը ձեռքով հետաքննության մեթոդների և ավտոմատացված հետաքննության մեթոդների հետ՝ օգտագործելով DevOps գործակալները և LLM-ները:

Եզրակացություն

Դեպքերի ավտոմատ հետաքննության իրականացումը DevOps գործակալների և LLM-ների հետ կարող է զգալիորեն բարելավել միջադեպերի լուծման արդյունավետությունն ու արդյունավետությունը: Ինտեգրելով DevOps գործակալները LLM-ների հետ՝ կազմակերպությունները կարող են ավտոմատացնել տեղեկամատյանների վերլուծությունը, տրամադրել կոնտեքստից տեղեկացված առաջարկներ միջադեպերի լուծման համար և կրճատել միջադեպերը լուծելու ժամանակը: Մենք ուսումնասիրել ենք DevOps ավտոմատացման խաչմերուկը, AI-ի վրա աշխատող միջադեպերի հետաքննությունը և LLM-ների դերը DevOps գործիքների կատարելագործման գործում, ինչպիսիք են AWS DevOps Agent-ը և Copado Agentia-ն: Հետևելով այս հոդվածում նկարագրված քայլ առ քայլ մոտեցմանը, կազմակերպությունները կարող են կիրառել մասշտաբային, հուսալի և անվտանգ միջադեպերի հետաքննության ավտոմատացված լուծում:


Have Questions?

Let's Talk

Contact me on LinkedIn