ჩატვირთეთ LLM მოდელი და ტოკენიზატორი | B4N1

ჩატვირთეთ LLM მოდელი და ტოკენიზატორი

6 months ago · b4n1 Read time: 4 min

** ინციდენტების ავტომატური გამოძიების განხორციელება DevOps აგენტებთან და LLM-ებთან ერთად**

შესავალი

დღევანდელ ციფრულ ლანდშაფტში, DevOps-ის გუნდები სულ უფრო რთული გამოწვევის წინაშე დგანან: ინციდენტების რაც შეიძლება სწრაფად იდენტიფიცირება და მოგვარება. Manual investigation methods can be time-consuming and prone to human error, leading to prolonged downtime and decreased customer satisfaction. ამ საკითხის გადასაჭრელად, ჩვენ ვიკვლევთ DevOps ავტომატიზაციის, AI-ზე მომუშავე ინციდენტების გამოძიების კვეთას და Large Language Models (LLMs) როლს DevOps ინსტრუმენტების გაძლიერებაში, როგორიცაა AWS DevOps Agent და Copado Agentia.

ინციდენტის გამოძიების ამჟამინდელი მდგომარეობა

ინციდენტის გამოძიება DevOps-ის კრიტიკული ასპექტია, რომელიც მოიცავს პროგრამულ სისტემებზე მოქმედი საკითხების იდენტიფიკაციას, ანალიზს და გადაწყვეტას. Traditional methods rely on manual processes, such as log analysis, error tracking, and communication with stakeholders. მიუხედავად იმისა, რომ ეს მეთოდები ეფექტურია, ისინი შეიძლება იყოს ნელი და მიდრეკილი შეცდომებისკენ, რაც იწვევს:

  1. გაზრდილი შეფერხების დრო: მექანიკური გამოკვლევის მეთოდებმა შეიძლება შეაფერხოს ინციდენტის მოგვარება, რაც გამოიწვევს ხანგრძლივ მუშაობას და ამცირებს მომხმარებელთა კმაყოფილებას.
  2. ადამიანური შეცდომა: მექანიკური პროცესები ექვემდებარება ადამიანურ შეცდომებს, რამაც შეიძლება გამოიწვიოს ინციდენტების არასწორი დიაგნოზი და გადაწყვეტა.
  3. მასშტაბიანობის საკითხები: სისტემების ზომისა და სირთულის ზრდასთან ერთად, სახელმძღვანელო გამოკვლევის მეთოდები სულ უფრო რთულდება მასშტაბირება.

The Role of DevOps Agents in Incident Investigation

DevOps agents, such as AWS DevOps Agent and Copado Agentia, play a crucial role in automating incident investigation. ამ აგენტებს შეუძლიათ:

  1. ** ჟურნალების შეგროვება და ანალიზი **: DevOps-ის აგენტებს შეუძლიათ შეაგროვონ და გააანალიზონ ჟურნალები სხვადასხვა წყაროდან, რაც უზრუნველყოფს ინციდენტის მიზეზების შესახებ მნიშვნელოვან ინფორმაციას.
  2. შეცდომის ავტომატური თვალყურის დევნება: აგენტებს შეუძლიათ შეცდომის თვალყურის დევნების ავტომატიზაცია, რაც შეამცირებს ხელით გამოკვლევისთვის საჭირო დროსა და ძალისხმევას.
  3. გააძლიეროს კომუნიკაცია: აგენტებს შეუძლიათ ხელი შეუწყონ კომუნიკაციას გუნდებს, დაინტერესებულ მხარეებს და სისტემებს შორის, რაც უზრუნველყოფს ინციდენტის ინფორმაციის ეფექტურად გაზიარებას.

LLM-ების როლი ინციდენტების გამოძიებაში

ენის დიდმა მოდელებმა (LLMs) მოახდინა რევოლუცია ბუნებრივი ენის დამუშავების სფეროში (NLP), რაც მანქანებს საშუალებას აძლევს გაიგონ და შექმნან ადამიანის მსგავსი ტექსტი. ინციდენტის გამოძიების კონტექსტში, LLM-ებს შეუძლიათ:

  1. ინციდენტის ანგარიშების ანალიზი: LLM-ებს შეუძლიათ ინციდენტის მოხსენებების ანალიზი, ძირითადი ინფორმაციისა და შაბლონების იდენტიფიცირება, რომლებიც შეიძლება მიუთითებდეს ინციდენტის ძირეულ მიზეზზე.
  2. შექმენით ინციდენტის რეზიუმეები: LLM-ებს შეუძლიათ შექმნან ინციდენტის ანგარიშების მოკლე რეზიუმეები, რაც ხელს უწყობს კომუნიკაციას და გადაწყვეტილების მიღებას.
  3. შეთავაზეთ კონტექსტში გაცნობიერებული წინადადებები: LLM-ებს შეუძლიათ წარმოადგინონ ინციდენტის გადაჭრის კონტექსტური წინადადებები კონკრეტული სისტემის, გარემოს და ჩართული დაინტერესებული მხარეების გათვალისწინებით.

** ინციდენტების ავტომატური გამოძიების განხორციელება DevOps აგენტებთან და LLM-ებთან ერთად**

To implement automated incident investigation with DevOps agents and LLMs, we'll follow a step-by-step approach:

  1. ** DevOps აგენტების ინტეგრირება **: ინტეგრირება DevOps აგენტები, როგორიცაა AWS DevOps Agent და Copado Agentia, ინციდენტების მართვის სისტემასთან.
  2. ** ჟურნალების შეგროვება და ანალიზი **: DevOps აგენტების კონფიგურაცია, რათა შეაგროვონ და გააანალიზონ ჟურნალები სხვადასხვა წყაროდან, რაც უზრუნველყოფს ინციდენტის მიზეზების შესახებ მნიშვნელოვან ინფორმაციას.
  3. Train an LLM model: Train an LLM model on a dataset of incident reports, logs, and other relevant information.
  4. ** LLM-ის ინტეგრირება DevOps აგენტებთან**: LLM მოდელის ინტეგრირება DevOps აგენტებთან, რაც საშუალებას მისცემს LLM-ს გააანალიზოს ინციდენტის ანგარიშები და მიაწოდოს წინადადებები ინციდენტის გადაწყვეტისთვის.
  5. **განათავსეთ გადაწყვეტა **: განათავსეთ ინციდენტების გამოძიების ავტომატური გადაწყვეტა, რათა უზრუნველყოფილი იყოს მისი მასშტაბირებადი, საიმედო და უსაფრთხო.

Example Code: Integrating LLM with DevOps Agents

აქ მოცემულია პითონში კოდის ფრაგმენტის მაგალითი, რომელიც აჩვენებს, თუ როგორ უნდა მოხდეს LLM მოდელის ინტეგრირება DevOps აგენტთან: ``პითონი იმპორტის ხე ტრანსფორმატორებიდან იმპორტი AutoModelForSequenceClassification, AutoTokenizer aws_devops_agent იმპორტის აგენტიდან

model = AutoModelForSequenceClassification.from_pretrained("distilbert-base-uncased") tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased")

DevOps აგენტის ინიციალიზაცია

აგენტი = აგენტი ()

განსაზღვრეთ ფუნქცია ინციდენტის მოხსენებების გასაანალიზებლად LLM მოდელის გამოყენებით

def analysis_incident_report(report): # ინციდენტის ანგარიშის წინასწარ დამუშავება inputs = tokenizer.encode_plus(ანგარიში, add_special_tokens=მართალია, max_length=512, return_attention_mask=მართალია, return_tensors='pt')

# გაანალიზეთ ინციდენტის ანგარიში LLM მოდელის გამოყენებით
outputs = მოდელი (შეყვანები ['input_ids'], focus_mask=inputs ['ყურადღება_ნიღაბი'])

# ამოიღეთ პროგნოზირებული კლასის ეტიკეტი
predicted_class = torch.argmax(outputs.logits)

დაბრუნება პროგნოზირებული_კლასი

განსაზღვრეთ ფუნქცია ინციდენტის მოგვარების წინადადებების მოსაწოდებლად

def provide_suggestions(predicted_class): # გამოიყენეთ პროგნოზირებული კლასის ეტიკეტი ინციდენტის გადაჭრის წინადადებების მისაღებად თუ პროგნოზირებული_კლასი == 0: დააბრუნეთ "შეამოწმეთ სისტემის ჟურნალები შეცდომებზე" elif predicted_class == 1: დააბრუნეთ "ქსელის კავშირის შემოწმება" სხვა: დაბრუნება "დახმარებისთვის დაუკავშირდით განვითარების გუნდს"

LLM მოდელის ინტეგრირება DevOps აგენტთან

Def incident_investigation(): # შეაგროვეთ და გაანალიზეთ ჟურნალები DevOps აგენტიდან logs = agent.get_logs()

# გაანალიზეთ ჟურნალები LLM მოდელის გამოყენებით
პროგნოზირებული_კლასი = ანალიზი_ინციდენტის_მოხსენება( ჟურნალები)

# მიეცით წინადადებები ინციდენტის მოგვარებისთვის
წინადადებები = მიწოდების_წინადადებები (პროგნოზირებული_კლასი)

დაბრუნების წინადადებები

განათავსეთ ინციდენტის გამოძიების გამოსავალი

ინციდენტი_გამოძიება()

** ტოპ 5-10 ყველაზე ხშირად გამოყენებული ბრძანება/ნაწყვეტი**

აქ არის ტოპ 5-10 ყველაზე ხშირად გამოყენებული ბრძანება/სნიპეტი ამ ტექნოლოგიისთვის:

1. `aws devops agent get-logs`: შეაგროვეთ ჟურნალები DevOps აგენტიდან.
2. `transformers.AutoModelForSequenceClassification.from_pretrained()`: ჩატვირთეთ LLM მოდელი.
3. `tokenizer.encode_plus()`: ინციდენტის ანგარიშის წინასწარ დამუშავება.
4. `model(inputs['input_ids'], focus_mask=inputs['attention_mask']): ინციდენტის ანგარიშის ანალიზი LLM მოდელის გამოყენებით.
5. `torch.argmax(outputs.logits)`: ამოიღეთ პროგნოზირებული კლასის ლეიბლი.
6. `proide_suggestions(predicted_class)`: მოგვაწოდეთ წინადადებები ინციდენტის გადასაჭრელად.
7. `agent.get_logs()`: შეაგროვეთ ჟურნალები DevOps აგენტიდან.
8. `ანალიზის_ინციდენტის_ანგარიში(ანგარიში)`: გაანალიზეთ ინციდენტის ანგარიში LLM მოდელის გამოყენებით.
9. `ინციდენტის_გამოძიება()`: განათავსეთ ინციდენტის გამოძიების გამოსავალი.
10. `torch.save(model.state_dict(), 'model.pth')`: შეინახეთ LLM მოდელი.

** ვიზუალიზაცია **

აქ მოცემულია ინციდენტების გამოძიების ავტომატური გადაწყვეტის ვიზუალიზაცია Chart.js-ის გამოყენებით:
``ჯსონ
{
  "ტიპი": "ბარი",
  "მონაცემები": {
    "labels": ["მექანიკური გამოძიება", "ავტომატური გამოძიება"],
    "მონაცემთა ნაკრები": [
      {
        "label": "გადაჭრის დრო",
        "მონაცემები": [10, 2],
        "backgroundColor": ["rgba(255, 99, 132, 0.2)", "rgba(54, 162, 235, 0.2)"],
        "borderColor": ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "საზღვრის სიგანე": 1
      }
    ]
  },
  "ოფციები": {
    "სათაური": {
      "ჩვენება": მართალია,
      "text": "დროა მოგვარდეს ინციდენტები"
    },
    "სასწორები": {
      "yAxes": [
        {
          "ტკიპები": {
            "beginAtZero": მართალია
          }
        }
      ]
    }
  }
}

ეს ვიზუალიზაცია ადარებს ინციდენტების გადაჭრის დროს ხელით გამოძიების მეთოდებით და ავტომატური გამოძიების მეთოდებთან DevOps აგენტებისა და LLM-ების გამოყენებით.

დასკვნა

ინციდენტების ავტომატური გამოძიების დანერგვა DevOps აგენტებთან და LLM-ებთან ერთად შეიძლება მნიშვნელოვნად გააუმჯობესოს ინციდენტის მოგვარების ეფექტურობა და ეფექტურობა. DevOps აგენტების LLM-ებთან ინტეგრაციით, ორგანიზაციებს შეუძლიათ ავტომატიზირება მოახდინონ ჟურნალების ანალიზის ავტომატიზირებაზე, უზრუნველყონ ინციდენტების გადაჭრის კონტექსტში გააზრებული წინადადებები და შეამცირონ ინციდენტების გადაჭრის დრო. ჩვენ გამოვიკვლიეთ DevOps ავტომატიზაციის კვეთა, AI-ზე მომუშავე ინციდენტების გამოძიება და LLM-ების როლი DevOps ინსტრუმენტების გაძლიერებაში, როგორიცაა AWS DevOps Agent და Copado Agentia. ამ სტატიაში აღწერილი ნაბიჯ-ნაბიჯ მიდგომის დაცვით, ორგანიზაციებს შეუძლიათ განათავსონ მასშტაბური, საიმედო და უსაფრთხო ინციდენტების გამოძიების ავტომატური გადაწყვეტა.


Have Questions?

Let's Talk

Contact me on LinkedIn