Lataa LLM-malli ja tokenizer

Automaattisen tapahtumatutkinnan käyttöönotto DevOps-agenttien ja LLM:n kanssa

Esittely

Nykypäivän nopeatempoisessa digitaalisessa ympäristössä DevOps-tiimien edessä on yhä monimutkaisempi haaste: tapausten tunnistaminen ja ratkaiseminen mahdollisimman nopeasti. Manuaaliset tutkimusmenetelmät voivat olla aikaa vieviä ja alttiita inhimillisille virheille, mikä johtaa pitkittyneisiin seisokkeihin ja asiakastyytyväisyyden laskuun. Tämän ongelman ratkaisemiseksi tutkimme DevOps-automaation, tekoälyn avulla tapahtuvien tapausten tutkinnan ja Large Language Models (LLM:n) roolia DevOps-työkalujen, kuten AWS DevOps Agentin ja Copado Agentian, parantamisessa.

Tapahtuman tutkinnan nykytila

Tapahtuman tutkinta on DevOpsin kriittinen osa, joka sisältää ohjelmistojärjestelmiin vaikuttavien ongelmien tunnistamisen, analysoinnin ja ratkaisemisen. Perinteiset menetelmät perustuvat manuaalisiin prosesseihin, kuten lokianalyysiin, virheiden seurantaan ja viestintään sidosryhmien kanssa. Vaikka nämä menetelmät ovat tehokkaita, ne voivat olla hitaita ja alttiita virheille, mikä johtaa:

1. Pidentynyt seisokkiaika: Manuaaliset tutkintamenetelmät voivat viivästyttää tapausten ratkaisemista, mikä johtaa pitkittyneisiin seisokkeihin ja heikentää asiakastyytyväisyyttä.
2. Inhimillinen virhe: Manuaaliset prosessit ovat alttiita inhimillisille virheille, jotka voivat johtaa virheelliseen diagnoosiin ja tapahtumien ratkaisemiseen.
3. Skaalautuvuusongelmat: Kun järjestelmien koko ja monimutkaisuus kasvavat, manuaalisia tutkimusmenetelmiä on yhä vaikeampi skaalata.

DevOps-agenttien rooli tapausten tutkinnassa

DevOps-agentit, kuten AWS DevOps Agent ja Copado Agentia, ovat ratkaisevassa roolissa tapausten tutkinnan automatisoinnissa. Nämä agentit voivat:

1. Kerää ja analysoi lokeja: DevOps-agentit voivat kerätä ja analysoida lokeja eri lähteistä, mikä tarjoaa arvokasta tietoa tapahtumien syistä.
2. Automatisoi virheiden seuranta: Agentit voivat automatisoida virheiden seurannan, mikä vähentää manuaaliseen tutkimiseen tarvittavaa aikaa ja vaivaa.
3. Paranna viestintää: Agentit voivat helpottaa ryhmien, sidosryhmien ja järjestelmien välistä viestintää varmistaen, että tapahtumatietoja jaetaan tehokkaasti.

LLM:n rooli tapausten tutkinnassa

Suuret kielimallit (LLM) ovat mullistaneet luonnollisen kielenkäsittelyn (NLP) alan, mikä mahdollistaa koneet ymmärtämään ja luomaan ihmisen kaltaista tekstiä. Tapahtumatutkinnan yhteydessä LLM:t voivat:

1. Analysoi tapahtumaraportit: LLM:t voivat analysoida tapausraportteja ja tunnistaa keskeiset tiedot ja mallit, jotka voivat viitata tapahtuman perimmäiseen syyn.
2. Luo tapahtumayhteenvedot: LLM:t voivat luoda tiiviitä yhteenvetoja tapahtumaraporteista, mikä helpottaa viestintää ja päätöksentekoa.
3. Anna kontekstitietoisia ehdotuksia: LLM:t voivat antaa kontekstitietoisia ehdotuksia tapausten ratkaisemiseksi ottaen huomioon tietyn järjestelmän, ympäristön ja asiaan liittyvät sidosryhmät.

Automaattisen tapahtumatutkinnan toteuttaminen DevOps-agenttien ja LLM:n kanssa

Ottaaksemme käyttöön automaattisen tapausten tutkinnan DevOps-agenttien ja LLM:iden kanssa noudatamme vaiheittaista lähestymistapaa:

1. Integoi DevOps-agentit: Integroi DevOps-agentit, kuten AWS DevOps Agent ja Copado Agentia, tapaustenhallintajärjestelmääsi.
2. Kerää ja analysoi lokeja: Määritä DevOps-agentit keräämään ja analysoimaan lokeja eri lähteistä, mikä tarjoaa arvokasta tietoa tapahtumien syistä.
3. Kokeile LLM-malli: Kouluta LLM-malli tapahtumaraporttien, lokien ja muiden asiaankuuluvien tietojen tietojoukon perusteella.
4. Integoi LLM DevOps-agenttien kanssa: Integroi LLM-malli DevOps-agenttien kanssa, jolloin LLM voi analysoida tapausraportteja ja antaa ehdotuksia tapausten ratkaisemiseksi.
5. Ota ratkaisu käyttöön: Ota automaattinen tapausten tutkintaratkaisu käyttöön ja varmista, että se on skaalautuva, luotettava ja turvallinen.

Esimerkkikoodi: LLM:n integrointi DevOps-agenttien kanssa

Tässä on esimerkki koodinpätkästä Pythonissa, joka osoittaa kuinka LLM-malli integroidaan DevOps-agentin kanssa:

tuoda kirjaa
muuntajista tuonti AutoModelForSequenceClassification, AutoTokenenizer
aws_devops_agent tuontiagentista


model = AutoModelForSequenceClassification.from_pretrained("distilbert-base-uncased")
tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased")

# Alusta DevOps-agentti
agentti = agentti()

# Määritä toiminto tapahtumaraporttien analysoimiseksi LLM-mallin avulla
def analysis_incident_report(raportti):
    # Esikäsittele tapahtumaraportti
    inputs = tokenizer.encode_plus(raportti, 
                                    add_special_tokens = Totta, 
                                    max_length=512, 
                                    return_attention_mask = Totta, 
                                    return_tensors='pt')
    
    # Analysoi tapahtumaraportti käyttämällä LLM-mallia
    ulostulot = malli(tulot['input_ids'], attention_mask=tulot['attention_mask'])
    
    # Pura ennustettu luokan etiketti
    ennustettu_luokka = taskulamppu.argmax(outputs.logits)
    
    paluu ennustettu_luokka

# Määritä toiminto, joka antaa ehdotuksia tapahtuman ratkaisemiseksi
def provide_suggestions(predicted_class):
    # Käytä ennakoitua luokkamerkintää antaaksesi ehdotuksia tapauksen ratkaisemiseksi
    jos ennustettu_luokka == 0:
        palauttaa "Tarkista järjestelmän lokit virheiden varalta"
    elif ennustettu_luokka == 1:
        palauttaa "Tarkista verkkoyhteys"
    muu:
        palauta "Ota yhteyttä kehitystiimiin saadaksesi apua"

# Integroi LLM-malli DevOps-agentin kanssa
def incident_investigation():
    # Kerää ja analysoi lokit DevOps-agentista
    lokit = agent.get_logs()
    
    # Analysoi lokit käyttämällä LLM-mallia
    ennustettu_luokka = analysoi_tapahtumaraportti(lokit)
    
    # Tarjoa ehdotuksia tapauksen ratkaisemiseksi
    ehdotukset = tarjoa_ehdotuksia(ennustettu_luokka)
    
    palauttaa ehdotuksia

# Ota tapauksen tutkintaratkaisu käyttöön
tapahtuman_tutkimus()

5–10 eniten käytettyä komentoa/katkelmaa

Tässä on tämän tekniikan 5–10 eniten käytettyä komentoa/katkelmaa:

1. "aws devops agentti get-logs": Kerää lokit DevOps-agentista.
2. transformers.AutoModelForSequenceClassification.from_pretrained(): Lataa LLM-malli.
3. "tokenizer.encode_plus()": Esikäsittele tapahtumaraportti.
4. `model(inputs['input_ids'], attention_mask=inputs['attention_mask'])': Analysoi tapahtumaraportti käyttämällä LLM-mallia.
5. torch.argmax(outputs.logits): Pura ennustettu luokkanimike.
6. provide_suggestions(predicted_class): Tarjoa ehdotuksia tapahtuman ratkaisemiseksi.
7. "agent.get_logs()": Kerää lokit DevOps-agentista.
8. "analyze_incident_report(report)": Analysoi tapahtumaraportti käyttämällä LLM-mallia.
9. "Incident_investigation()": Ota tapauksen tutkintaratkaisu käyttöön.
10. `torch.save(model.state_dict(), 'model.pth')': Tallenna LLM-malli.

Visualisointi

Tässä on visualisointi automaattisesta tapausten tutkintaratkaisusta Chart.js:n avulla:

{
  "tyyppi": "palkki",
  "data": {
    "labels": ["Manual Investigation", "Automated Investigation"],
    "tietojoukot": [
      {
        "label": "Aika ratkaista",
        "data": [10, 2],
        "backgroundColor": ["rgba(255, 99, 132, 0.2)", "rgba(54, 162, 235, 0.2)"],
        "borderColor": ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "borderWidth": 1
      }
    ]
  },
  "vaihtoehdot": {
    "otsikko": {
      "näyttö": totta,
      "text": "Aika ratkaista tapaukset"
    },
    "vaa'at": {
      "yAxes": [
        {
          "ticks": {
            "beginAtZero": totta
          }
        }
      ]
    }
  }
}

Tässä visualisoinnissa verrataan tapausten ratkaisemiseen kuluvaa aikaa manuaalisilla tutkintamenetelmillä verrattuna automaattisiin tutkintamenetelmiin, joissa käytetään DevOps-agentteja ja LLM:itä.

Johtopäätös

Automatisoidun tapausten tutkinnan käyttöönotto DevOps-agenttien ja LLM:ien kanssa voi merkittävästi parantaa tapausten ratkaisemisen tehokkuutta ja vaikuttavuutta. Integroimalla DevOps-agentit LLM:ien kanssa organisaatiot voivat automatisoida lokien analysoinnin, tarjota kontekstitietoisia ehdotuksia tapausten ratkaisemiseksi ja lyhentää tapausten ratkaisemiseen kuluvaa aikaa. Olemme tutkineet DevOps-automaation, tekoälyn käyttämien tapausten tutkinnan ja LLM:ien roolia DevOps-työkalujen, kuten AWS DevOps Agentin ja Copado Agentian, parantamisessa. Noudattamalla tässä artikkelissa kuvattua vaiheittaista lähestymistapaa organisaatiot voivat ottaa käyttöön skaalautuvan, luotettavan ja suojatun automatisoidun tapausten tutkintaratkaisun.