Загрузіце мадэль LLM і токенизатор | B4N1

Загрузіце мадэль LLM і токенизатор

6 months ago · b4n1 Read time: 4 min

Укараненне аўтаматызаванага расследавання інцыдэнтаў з дапамогай агентаў DevOps і LLM

Уводзіны

У сучасным імклівым лічбавым ландшафце каманды DevOps сутыкаюцца з усё больш складанай задачай: як мага хутчэй выяўляць і вырашаць інцыдэнты. Ручныя метады расследавання могуць заняць шмат часу і могуць прывесці да чалавечых памылак, што прывядзе да працяглага прастою і зніжэння задаволенасці кліентаў. Каб вырашыць гэтую праблему, мы даследуем ўзаемасувязь аўтаматызацыі DevOps, расследавання інцыдэнтаў на базе штучнага інтэлекту і ролі вялікіх моўных мадэляў (LLM) ва ўдасканаленні такіх інструментаў DevOps, як AWS DevOps Agent і Copado Agentia.

Бягучы стан расследавання інцыдэнтаў

Расследаванне інцыдэнтаў з'яўляецца найважнейшым аспектам DevOps, які ўключае выяўленне, аналіз і вырашэнне праблем, якія ўплываюць на праграмныя сістэмы. Традыцыйныя метады абапіраюцца на ручныя працэсы, такія як аналіз часопісаў, адсочванне памылак і зносіны з зацікаўленымі бакамі. Хоць гэтыя метады эфектыўныя, яны могуць быць павольнымі і схільнымі да памылак, якія прыводзяць да:

  1. Павелічэнне часу прастою: ручныя метады расследавання могуць затрымаць вырашэнне інцыдэнту, што прывядзе да працяглага часу прастою і зніжэння задаволенасці кліентаў.
  2. Чалавечая памылка: Ручныя працэсы ўспрымальныя да чалавечых памылак, якія могуць прывесці да няправільнай дыягностыкі і вырашэння інцыдэнтаў.
  3. Праблемы маштабаванасці: па меры росту памеру і складанасці сістэм ручныя метады расследавання становяцца ўсё цяжэй маштабаваць.

Роля агентаў DevOps у расследаванні інцыдэнтаў

Агенты DevOps, такія як AWS DevOps Agent і Copado Agentia, гуляюць вырашальную ролю ў аўтаматызацыі расследавання інцыдэнтаў. Гэтыя агенты могуць:

  1. Збірайце і аналізуйце журналы: агенты DevOps могуць збіраць і аналізаваць журналы з розных крыніц, даючы каштоўную інфармацыю аб прычынах інцыдэнтаў.
  2. Аўтаматызаваць адсочванне памылак: агенты могуць аўтаматызаваць адсочванне памылак, скарачаючы час і намаганні, неабходныя для расследавання ўручную.
  3. Паляпшэнне камунікацыі: агенты могуць садзейнічаць камунікацыі паміж камандамі, зацікаўленымі бакамі і сістэмамі, забяспечваючы эфектыўны абмен інфармацыяй аб інцыдэнтах.

Роля LLMs у расследаванні інцыдэнтаў

Вялікія моўныя мадэлі (LLM) зрабілі рэвалюцыю ў галіне апрацоўкі натуральнай мовы (NLP), дазволіўшы машынам разумець і ствараць чалавечы тэкст. У кантэксце расследавання інцыдэнтаў LLM могуць:

  1. Аналіз справаздач аб інцыдэнтах: магістры LLM могуць аналізаваць справаздачы аб інцыдэнтах, выяўляючы ключавую інфармацыю і заканамернасці, якія могуць паказваць на першапрычыну інцыдэнту.
  2. Стварэнне зводак аб інцыдэнтах: магістры LLM могуць ствараць кароткія зводкі справаздач аб інцыдэнтах, палягчаючы зносіны і прыняцце рашэнняў.
  3. Прадастаўленне кантэкстна-арыентаваных прапаноў: LLM могуць даваць кантэкстна-арыентаваныя прапановы па вырашэнні інцыдэнтаў з улікам канкрэтнай сістэмы, асяроддзя і зацікаўленых бакоў.

Укараненне аўтаматызаванага расследавання інцыдэнтаў з дапамогай агентаў DevOps і LLM

Каб рэалізаваць аўтаматызаванае расследаванне інцыдэнтаў з дапамогай агентаў DevOps і LLM, мы будзем прытрымлівацца паэтапнага падыходу:

  1. Інтэграцыя агентаў DevOps: інтэграцыя агентаў DevOps, такіх як AWS DevOps Agent і Copado Agentia, з вашай сістэмай кіравання інцыдэнтамі.
  2. Збірайце і аналізуйце журналы: наладзьце агентаў DevOps для збору і аналізу журналаў з розных крыніц, даючы каштоўную інфармацыю аб прычынах інцыдэнтаў.
  3. Навучанне мадэлі LLM: навучанне мадэлі LLM на наборы даных справаздач аб інцыдэнтах, журналах і іншай адпаведнай інфармацыі.
  4. Інтэграцыя LLM з агентамі DevOps: інтэграцыя мадэлі LLM з агентамі DevOps, што дазваляе LLM аналізаваць справаздачы аб інцыдэнтах і даваць прапановы па вырашэнні інцыдэнтаў.
  5. Разгарніце рашэнне: разгарніце аўтаматызаванае рашэнне для расследавання інцыдэнтаў, пераканаўшыся, што яно маштабуецца, надзейна і бяспечна.

Прыклад кода: інтэграцыя LLM з агентамі DevOps

Вось прыклад фрагмента кода ў Python, які дэманструе, як інтэграваць мадэль LLM з агентам DevOps:

запіс імпарту
з трансфарматараў імпартаваць AutoModelForSequenceClassification, AutoTokenizer
з aws_devops_agent Імпарт агента


мадэль = AutoModelForSequenceClassification.from_pretrained("distilbert-base-uncased")
tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased")

# Ініцыялізуйце агент DevOps
агент = агент()

# Вызначэнне функцыі для аналізу справаздач аб інцыдэнтах з выкарыстаннем мадэлі LLM
дэф analysis_incident_report(справаздача):
    # Папярэдняя апрацоўка справаздачы аб інцыдэнце
    inputs = tokenizer.encode_plus(справаздача, 
                                    add_special_tokens=Праўда, 
                                    максімальная_даўжыня=512, 
                                    return_attention_mask=Праўда, 
                                    return_tensors='pt')
    
    # Прааналізуйце справаздачу аб інцыдэнце з дапамогай мадэлі LLM
    выхады = мадэль(уваходы['input_ids'], focus_mask=inputs['attention_mask'])
    
    # Выняць прагназаваную метку класа
    прадказаны_клас = torch.argmax(outputs.logits)
    
    вярнуць прадказаны_клас

# Вызначце функцыю для прадастаўлення прапаноў па вырашэнні інцыдэнтаў
def provide_suggestions(predicted_class):
    # Выкарыстоўвайце метку прадказанага класа, каб даць прапановы па вырашэнні інцыдэнту
    калі прадказаны_клас == 0:
        return "Праверыць сістэмныя журналы на наяўнасць памылак"
    elif predicted_class == 1:
        вярнуць "Праверце падключэнне да сеткі"
    яшчэ:
        вярнуцца "Звярнуцца да каманды распрацоўшчыкаў па дапамогу"

# Інтэграцыя мадэлі LLM з агентам DevOps
def incident_investigation():
    # Збірайце і аналізуйце журналы ад агента DevOps
    часопісы = agent.get_logs()
    
    # Прааналізуйце часопісы з дапамогай мадэлі LLM
    прадказаны_клас = аналіз_справаздачы_інцыдэнту(журналы)
    
    # Дайце прапановы па вырашэнні інцыдэнту
    прапановы = provide_suggestions(predicted_class)
    
    зваротныя прапановы

# Разгарніце рашэнне для расследавання інцыдэнтаў
incident_investigation()

Топ-5-10 найбольш часта выкарыстоўваюцца каманд/фрагментаў

Вось 5-10 найбольш часта выкарыстоўваюцца каманд/фрагментаў для гэтай тэхналогіі:

  1. aws devops agent get-logs: збярыце журналы ад агента DevOps.
  2. transformers.AutoModelForSequenceClassification.from_pretrained(): загрузіць мадэль LLM.
  3. tokenizer.encode_plus(): папярэдняя апрацоўка справаздачы аб інцыдэнце.
  4. model(inputs['input_ids'], attention_mask=inputs['attention_mask']): прааналізуйце справаздачу аб інцыдэнце з дапамогай мадэлі LLM.
  5. torch.argmax(outputs.logits): выняць прагназаваную метку класа.
  6. provide_suggestions(predicted_class): Дайце прапановы па вырашэнні інцыдэнту.
  7. agent.get_logs(): Збірайце журналы ад агента DevOps.
  8. analyze_incident_report(report): прааналізуйце справаздачу аб інцыдэнце з дапамогай мадэлі LLM.
  9. incident_investigation(): Разгарніце рашэнне для расследавання інцыдэнтаў.
  10. torch.save(model.state_dict(), 'model.pth'): захавайце мадэль LLM.

Візуалізацыя

Вось візуалізацыя рашэння аўтаматызаванага расследавання інцыдэнтаў з выкарыстаннем Chart.js:

{
  "тып": "бар",
  "дадзеныя": {
    "labels": ["Расследаванне ўручную", "Аўтаматызаванае расследаванне"],
    "наборы дадзеных": [
      {
        "label": "Час вырашыць",
        "дадзеныя": [10, 2],
        "backgroundColor": ["rgba(255, 99, 132, 0,2)", "rgba(54, 162, 235, 0,2)"],
        "borderColor": ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "borderWidth": 1
      }
    ]
  },
  "параметры": {
    "назва": {
      "дысплей": праўда,
      "text": "Час вырашаць інцыдэнты"
    },
    "шалі": {
      "yAxes": [
        {
          "цікі": {
            "beginAtZero": праўда
          }
        }
      ]
    }
  }
}

Гэтая візуалізацыя параўноўвае час на вырашэнне інцыдэнтаў з выкарыстаннем ручных метадаў расследавання з аўтаматызаванымі метадамі расследавання з выкарыстаннем агентаў DevOps і LLM.

Выснова

Укараненне аўтаматызаванага расследавання інцыдэнтаў з дапамогай агентаў DevOps і LLM можа значна павысіць эфектыўнасць і дзейснасць вырашэння інцыдэнтаў. Дзякуючы інтэграцыі агентаў DevOps з LLM, арганізацыі могуць аўтаматызаваць аналіз часопісаў, прадастаўляць кантэкстна-залежныя прапановы па вырашэнні інцыдэнтаў і скараціць час на вырашэнне інцыдэнтаў. Мы даследавалі ўзаемасувязь аўтаматызацыі DevOps, расследавання інцыдэнтаў з дапамогай штучнага інтэлекту і ролі магістраў права ў паляпшэнні такіх інструментаў DevOps, як AWS DevOps Agent і Copado Agentia. Прытрымліваючыся пакрокавага падыходу, выкладзенага ў гэтым артыкуле, арганізацыі могуць разгарнуць маштабаванае, надзейнае і бяспечнае рашэнне для аўтаматызаванага расследавання інцыдэнтаў.


Have Questions?

Let's Talk

Contact me on LinkedIn