Вчитајте го моделот LLM и токенизаторот | B4N1

Вчитајте го моделот LLM и токенизаторот

6 months ago · b4n1 Read time: 5 min

Спроведување автоматска истрага на инциденти со DevOps агенти и LLM

Вовед

Во денешниот брз дигитален пејзаж, тимовите на DevOps се соочуваат со сè покомплексен предизвик: идентификување и решавање инциденти што е можно побрзо. Методите на рачна истрага може да одземат време и да бидат склони кон човечки грешки, што доведува до продолжено време на застој и намалено задоволство на клиентите. За да го решиме овој проблем, го истражуваме пресекот на автоматизацијата на DevOps, истрагата за инциденти напојувана со вештачка интелигенција и улогата на моделите на големи јазици (LLM) во подобрувањето на алатките за DevOps како AWS DevOps Agent и Copado Agentia.

Тековната состојба на истрагата на инцидентот

Истражувањето на инцидентот е критичен аспект на DevOps, кој вклучува идентификација, анализа и решавање на проблеми кои влијаат на софтверските системи. Традиционалните методи се потпираат на рачни процеси, како што се анализа на дневници, следење на грешки и комуникација со засегнатите страни. Иако овие методи се ефективни, тие можат да бидат бавни и склони кон грешки, што доведува до:

  1. Зголемено време на застој: методите за рачна истрага може да го одложат решавањето на инцидентот, што резултира со продолжено застој и намалено задоволство на клиентите.
  2. Човечка грешка: Рачните процеси се подложни на човечка грешка, што може да доведе до неточна дијагноза и разрешување на инцидентите.
  3. Прашања со приспособливост: Како што расте големината и сложеноста на системите, методите на рачна истрага стануваат сè потешко да се размерат.

Улогата на агентите на DevOps во истрагата за инциденти

Агентите на DevOps, како што се AWS DevOps Agent и Copado Agentia, играат клучна улога во автоматизирањето на истрагата за инциденти. Овие агенти можат:

  1. Собирајте и анализирајте дневници: агентите на DevOps можат да собираат и анализираат дневници од различни извори, обезбедувајќи вредни сознанија за причините за инциденти.
  2. Автоматско следење на грешки: Агентите можат да го автоматизираат следењето на грешките, намалувајќи го времето и напорот потребни за рачно истражување.
  3. Подобрување на комуникацијата: Агентите можат да ја олеснат комуникацијата помеѓу тимовите, засегнатите страни и системите, осигурувајќи дека информациите за инцидентот се споделуваат ефикасно.

Улогата на LLM во истрагата за инциденти

Големите јазични модели (LLM) го револуционизираа полето на обработка на природни јазици (NLP), овозможувајќи им на машините да разберат и генерираат текст сличен на човекот. Во контекст на истрагата за инцидентот, LLM може:

  1. Анализирајте извештаи за инциденти: LLM може да ги анализираат извештаите за инцидентот, идентификувајќи клучни информации и обрасци што може да ја наведат основната причина за инцидентот.
  2. Генерирајте резимеа за инциденти: LLMs може да генерираат концизни резимеа на извештаи за инциденти, олеснувајќи ја комуникацијата и донесувањето одлуки.
  3. Обезбедете предлози кои се свесни за контекстот: LLMs може да дадат предлози за решавање на инцидентот свесни за контекстот, земајќи го предвид специфичниот систем, животната средина и вклучените засегнати страни.

Спроведување автоматска истрага на инциденти со DevOps агенти и LLM

За да спроведеме автоматска истрага за инциденти со агенти и LLM на DevOps, ќе следиме пристап чекор-по-чекор:

  1. Интегрирајте ги DevOps агентите: Интегрирајте ги DevOps агентите, како што се AWS DevOps Agent и Copado Agentia, со вашиот систем за управување со инциденти.
  2. Собирајте и анализирајте дневници: Конфигурирајте ги агентите на DevOps да собираат и анализираат дневници од различни извори, обезбедувајќи вредни сознанија за причините за инциденти.
  3. Обучете LLM модел: Обучете LLM модел на база на податоци од извештаи за инциденти, дневници и други релевантни информации.
  4. Интегрирајте го LLM со агентите на DevOps: Интегрирајте го моделот LLM со агентите на DevOps, овозможувајќи му на LLM да анализира извештаи за инциденти и да дава предлози за решавање инциденти.
  5. Споредете го решението: распоредете го автоматското решение за истрага на инциденти, осигурувајќи дека е скалабилно, доверливо и безбедно.

Пример код: Интегрирање на LLM со DevOps Agents

Еве пример фрагмент од код во Python, демонстрирајќи како да се интегрира LLM модел со DevOps агент:

увоз на сеча
од трансформатори увезуваат AutoModelForSequenceClassification, AutoTokenizer
од агент за увоз на aws_devops_agent


model = AutoModelForSequenceClassification.from_pretrained("distilbert-base-uncased")
tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased")

# Иницијализирајте го агентот DevOps
агент = Агент()

# Дефинирајте функција за анализа на извештаи за инциденти користејќи го моделот LLM
def analyse_incident_report(report):
    # Претходна обработка на извештајот за инцидентот
    влезови = tokenizer.encode_plus (извештај, 
                                    add_special_tokens=Точно, 
                                    max_length=512, 
                                    return_attention_mask=Точно, 
                                    return_tensors='pt')
    
    # Анализирајте го извештајот за инцидентот користејќи го моделот LLM
    излези = модел(влезови['input_ids'], внимание_маска=влезови ['внимание_маска'])
    
    # Извлечете ја предвидената ознака на класата
    предвидена_класа = torch.argmax(outputs.logits)
    
    врати предвидена_класа

# Дефинирајте функција за давање предлози за решавање инциденти
def provide_suggestions (предвидена_класа):
    # Користете ја предвидената ознака за класа за да дадете предлози за решавање на инцидентот
    ако предвидена_класа == 0:
        врати „Проверете ги системските дневници за грешки“
    elif predicted_class == 1:
        врати „Потврди го мрежното поврзување“
    друго:
        врати "Контактирајте го тимот за развој за помош"

# Интегрирајте го моделот LLM со агентот DevOps
def incident_investigation():
    # Соберете и анализирајте дневници од агентот DevOps
    логови = agent.get_logs()
    
    # Анализирајте ги дневниците користејќи го моделот LLM
    предвидена_класа = анализа на_извештај_инцидент (логови)
    
    # Обезбедете предлози за решавање на инцидентот
    предлози = обезбеди_предлози (предвидена_класа)
    
    предлози за враќање

# Распоредете го решението за истрага на инцидентот
incident_investigation()

** Топ 5-10 најкористени команди/парчиња**

Еве ги првите 5-10 најкористени команди/парчиња за оваа технологија:

  1. aws devops agent get-logs: собирајте дневници од агентот DevOps.
  2. transformers.AutoModelForSequenceClassification.from_pretrained(): Вчитај го моделот LLM.
  3. tokenizer.encode_plus(): Претходна обработка на извештајот за инцидентот.
  4. `model(inputs['input_ids'], focus_mask=inputs['attention_mask']): Анализирајте го извештајот за инцидентот користејќи го моделот LLM.
  5. torch.argmax(outputs.logits): Извлечете ја предвидената ознака на класата.
  6. обезбеди_предлози(предвидена_класа): Обезбедете предлози за решавање на инцидентот.
  7. agent.get_logs(): собира логови од агентот DevOps.
  8. analyze_incident_report(report): Анализирајте го извештајот за инцидентот користејќи го моделот LLM.
  9. incident_investigation(): распоредете го решението за истрага на инцидентот.
  10. torch.save(model.state_dict(), 'model.pth'): Зачувајте го моделот LLM.

Визуелизација

Еве визуелизација на автоматското решение за истрага на инциденти користејќи Chart.js:

{
  "тип": "бар",
  "податоци": {
    "етикети": ["Рачна истрага", "Автоматска истрага"],
    "збирки на податоци": [
      {
        "label": "Време да се реши",
        "податоци": [10, 2],
        "Боја на позадина": ["rgba(255, 99, 132, 0.2)", "rgba(54, 162, 235, 0.2)"],
        "borderColor": ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        „Ширина на границата“: 1
      }
    ]
  },
  "опции": {
    "наслов": {
      „екран“: точно,
      "text": "Време е да се решат инцидентите"
    },
    "вага": {
      „yOxes“: [
        {
          "крлежи": {
            "beginAtZero": точно
          }
        }
      ]
    }
  }
}

Оваа визуелизација го споредува времето за разрешување инциденти со помош на методи на рачна истрага наспроти методите на автоматска истрага што користат DevOps агенти и LLM.

Заклучок

Спроведувањето на автоматско истражување на инциденти со DevOps агенти и LLM може значително да ја подобри ефикасноста и ефективноста на разрешувањето инциденти. Со интегрирање на агентите на DevOps со LLM, организациите можат да ја автоматизираат анализата на дневниците, да дадат предлози за разрешување инциденти свесни за контекстот и да го намалат времето за решавање инциденти. Го истражувавме пресекот на автоматизацијата на DevOps, истрагата за инциденти напојувана со вештачка интелигенција и улогата на LLM во подобрувањето на алатките за DevOps како AWS DevOps Agent и Copado Agentia. Следејќи го чекор-по-чекор пристапот наведен во овој напис, организациите можат да распоредат скалабилно, сигурно и безбедно автоматско решение за истрага на инциденти.

Have Questions?

Let's Talk

Contact me on LinkedIn