Laadige LLM-mudel ja tokenisaator

Intsidentide automatiseeritud uurimise rakendamine DevOpsi agentide ja LLM-idega

Sissejuhatus

Tänapäeva kiire tempoga digimaastikul seisavad DevOpsi meeskonnad silmitsi üha keerulisema väljakutsega: vahejuhtumite võimalikult kiire tuvastamine ja lahendamine. Manuaalsed uurimismeetodid võivad olla aeganõudvad ja altid inimlikele eksimustele, mis toob kaasa pikema seisaku ja klientide rahulolu vähenemise. Selle probleemi lahendamiseks uurime DevOpsi automatiseerimise, tehisintellekti toel intsidentide uurimise ja suurte keelemudelite (LLM) rolli ristumiskohta DevOpsi tööriistade, nagu AWS DevOps Agent ja Copado Agentia, täiustamisel.

Intsidendi uurimise hetkeseis

Juhtumi uurimine on DevOpsi kriitiline aspekt, mis hõlmab tarkvarasüsteeme mõjutavate probleemide tuvastamist, analüüsi ja lahendamist. Traditsioonilised meetodid põhinevad käsitsi protsessidel, nagu logianalüüs, vigade jälgimine ja suhtlus sidusrühmadega. Kuigi need meetodid on tõhusad, võivad need olla aeglased ja altid vigadele, mis toob kaasa:

1. Pikenenud seisakuaega: käsitsi uurimismeetodid võivad intsidendi lahendamist edasi lükata, mille tulemuseks on seisakute pikenemine ja klientide rahulolu vähenemine.
2. Inimlik viga: käsitsi tehtud protsessid võivad põhjustada inimlikke eksimusi, mis võivad viia vale diagnoosimiseni ja vahejuhtumite lahendamiseni.
3. Skaleeritavusega seotud probleemid: süsteemide suuruse ja keerukuse kasvades muutub käsitsi uurimismeetodeid järjest raskemaks skaleerida.

DevOpsi agentide roll vahejuhtumite uurimisel

DevOpsi agendid, nagu AWS DevOps Agent ja Copado Agentia, mängivad intsidentide uurimise automatiseerimisel otsustavat rolli. Need ained võivad:

1. Koguge ja analüüsige logisid: DevOpsi agendid saavad koguda ja analüüsida logisid erinevatest allikatest, pakkudes väärtuslikku teavet intsidentide põhjuste kohta.
2. Automatiseerige vigade jälgimine: agendid saavad vigade jälgimise automatiseerida, vähendades käsitsi uurimiseks kuluvat aega ja vaeva.
3. Suhtlemise tõhustamine: agendid võivad hõlbustada suhtlust meeskondade, sidusrühmade ja süsteemide vahel, tagades juhtumiteabe tõhusa jagamise.

LLM-ide roll intsidentide uurimisel

Suured keelemudelid (LLM-id) on muutnud loomuliku keele töötlemise (NLP) valdkonna, võimaldades masinatel mõista ja luua inimsarnast teksti. Juhtumi uurimise kontekstis saavad LLM-id:

1. Intsidendiaruannete analüüsimine: LLM-id saavad analüüsida juhtumite aruandeid, tuvastades põhiteabe ja mustrid, mis võivad viidata intsidendi algpõhjusele.
2. Koosta vahejuhtumite kokkuvõtteid: LLM-id saavad koostada vahejuhtumite aruannete kokkuvõtteid, hõlbustades suhtlemist ja otsuste tegemist.
3. Esitage kontekstiteadlikke soovitusi: LLM-id saavad anda kontekstipõhiseid soovitusi juhtumite lahendamiseks, võttes arvesse konkreetset süsteemi, keskkonda ja kaasatud sidusrühmi.

Intsidentide automatiseeritud uurimise rakendamine koos DevOpsi agentide ja LLM-idega

Intsidentide automatiseeritud uurimise rakendamiseks DevOpsi agentide ja LLM-idega järgime samm-sammult lähenemist:

1. Integreerige DevOpsi agendid: integreerige oma juhtumihaldussüsteemiga DevOpsi agendid, nagu AWS DevOps Agent ja Copado Agentia.
2. Koguge ja analüüsige logisid: konfigureerige DevOpsi agendid erinevatest allikatest logide kogumiseks ja analüüsimiseks, pakkudes väärtuslikku teavet intsidentide põhjuste kohta.
3. LLM-mudeli koolitamine: koolitage LLM-mudelit juhtumiaruannete, logide ja muu asjakohase teabe andmestiku põhjal.
4. Integreerige LLM DevOpsi agentidega: integreerige LLM-mudel DevOpsi agentidega, võimaldades LLM-il analüüsida juhtumite aruandeid ja anda soovitusi juhtumite lahendamiseks.
5. Lahendus juurutamine: juurutage automaatne intsidentide uurimise lahendus, tagades selle skaleeritavuse, töökindluse ja turvalisuse.

Näidiskood: LLM-i integreerimine DevOpsi agentidega

Siin on Pythoni koodilõigu näide, mis näitab, kuidas integreerida LLM-mudelit DevOpsi agendiga:

metsaraie import
trafodest import AutoModelForSequenceClassification, AutoTokenenizer
aws_devops_agent impordiagendilt


model = AutoModelForSequenceClassification.from_pretrained("distilbert-base-uncased")
tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased")

# Initsialiseerige DevOpsi agent
agent = Agent()

# Määratlege funktsioon juhtumiaruannete analüüsimiseks, kasutades LLM-mudelit
def analysis_incident_report(report):
    # Töötle juhtumiaruanne ette
    sisendid = tokenizer.encode_plus(aruanne, 
                                    add_special_tokens=Tõsi, 
                                    max_length=512, 
                                    return_attention_mask=Tõsi, 
                                    return_tensors='pt')
    
    # Analüüsige juhtumiaruannet LLM-mudeli abil
    väljundid = mudel(sisendid['sisend_id'], tähelepanu_mask=sisendid['tähelepanu_mask'])
    
    # Ekstraheerige ennustatud klassi silt
    ennustatud_klass = tõrvik.argmax(väljundid.logits)
    
    tagasi ennustatud_klass

# Määratlege funktsioon, mis annab soovitusi juhtumi lahendamiseks
def provide_suggestions(predicted_class):
    # Kasutage ennustatud klassi silti, et anda soovitusi vahejuhtumite lahendamiseks
    kui ennustatud_klass == 0:
        tagastab "Kontrollige süsteemi logisid vigade suhtes"
    elif ennustatud_klass == 1:
        tagasta "Kinnitage võrguühendust"
    muu:
        tagasta "Abi saamiseks võtke ühendust arendusmeeskonnaga"

# Integreerige LLM-mudel DevOpsi agendiga
def incident_investigation():
    # Koguge ja analüüsige DevOpsi agendi logisid
    logid = agent.get_logs()
    
    # Analüüsige logisid LLM-mudeli abil
    ennustatud_klass = analüüsi_juhtumiaruanne(logid)
    
    # Esitage soovitusi juhtumi lahendamiseks
    soovitused = pakkuda_soovitusi(ennustatud_klass)
    
    soovitused tagasi

# Rakendage juhtumi uurimise lahendus
incident_investigation()

5–10 enimkasutatavat käsku/lõigu

Siin on selle tehnoloogia 5–10 enim kasutatud käsku/juppi:

1. "aws devops agent get-logs": koguge logisid DevOpsi agendilt.
2. transformers.AutoModelForSequenceClassification.from_pretrained(): laadige LLM-mudel.
3. "tokenizer.encode_plus()": intsidendi aruande eeltöötlemine.
4. `model(inputs['input_ids'], attention_mask=inputs['attention_mask'])': analüüsige juhtumiaruannet LLM-mudeli abil.
5. "torch.argmax(outputs.logits)": ekstraheerige ennustatud klassi silt.
6. provide_suggestions(predicted_class): esitage soovitusi vahejuhtumite lahendamiseks.
7. "agent.get_logs()": koguge logisid DevOpsi agendilt.
8. "analyze_incident_report(report)": analüüsige juhtumiaruannet LLM-mudeli abil.
9. "Incident_investigation()": juurutage juhtumi uurimise lahendus.
10. `torch.save(model.state_dict(), 'model.pth')': salvestage LLM-mudel.

Visualiseerimine

Siin on Chart.js-i kasutava juhtumite automaatse uurimise lahenduse visualiseerimine.

{
  "type": "bar",
  "andmed": {
    "labels": ["Manual Investigation", "Automated Investigation"],
    "andmestikud": [
      {
        "label": "Aeg lahendada",
        "andmed": [10, 2],
        "backgroundColor": ["rgba(255, 99, 132, 0.2)", "rgba(54, 162, 235, 0.2)"],
        "borderColor": ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "borderWidth": 1
      }
    ]
  },
  "valikud": {
    "pealkiri": {
      "ekraan": tõsi,
      "text": "Intsidentide lahendamise aeg"
    },
    "kaalud": {
      "yAxes": [
        {
          "puugid": {
            "beginAtZero": tõsi
          }
        }
      ]
    }
  }
}

See visualiseerimine võrdleb käsitsi uurimismeetodite abil vahejuhtumite lahendamise aega ja DevOpsi agente ja LLM-e kasutavaid automatiseeritud uurimismeetodeid.

Järeldus

Intsidentide automatiseeritud uurimise rakendamine DevOpsi agentide ja LLM-idega võib oluliselt parandada intsidentide lahendamise tõhusust ja tulemuslikkust. Integreerides DevOpsi agente LLM-idega, saavad organisatsioonid automatiseerida logide analüüsi, pakkuda kontekstipõhiseid soovitusi juhtumite lahendamiseks ja vähendada juhtumite lahendamise aega. Oleme uurinud DevOpsi automatiseerimise, AI-toega juhtumite uurimise ja LLM-ide rolli DevOpsi tööriistade (nt AWS DevOps Agent ja Copado Agentia) täiustamisel. Järgides selles artiklis kirjeldatud samm-sammulist lähenemisviisi, saavad organisatsioonid juurutada skaleeritavat, usaldusväärset ja turvalist automatiseeritud juhtumite uurimise lahendust.