Íoslódáil an múnla LLM agus tokenizer | B4N1

Íoslódáil an múnla LLM agus tokenizer

6 months ago · b4n1 Read time: 6 min

Imscrúdú Teagmhais Uathoibrithe a chur i bhfeidhm le Gníomhairí DevOps agus LLManna

Réamhrá

I dtírdhreach digiteach luas tapa an lae inniu, tá dúshlán níos casta le sárú ag foirne DevOps: teagmhais a aithint agus a réiteach chomh tapa agus is féidir. Is féidir le modhanna imscrúdaithe láimhe a bheith am-íditheach agus seans maith d’earráid dhaonna, rud a fhágann go mbíonn aga neamhfhónaimh fada ann agus go laghdaítear sásamh an chustaiméara. Chun dul i ngleic leis an tsaincheist seo, táimid ag iniúchadh a dtrasnaíonn uathoibriú DevOps, imscrúdú teagmhais faoi thiomáint AI, agus ról na Múnlaí Teanga Móra (LLManna) chun uirlisí DevOps a fheabhsú mar AWS DevOps Agent agus Copado Agentia.

Staid Reatha Imscrúdaithe Teagmhais

Is gné ríthábhachtach de DevOps é imscrúdú teagmhais, lena mbaineann sainaithint, anailísiú agus réiteach saincheisteanna a mbíonn tionchar acu ar chórais bogearraí. Bíonn modhanna traidisiúnta ag brath ar phróisis láimhe, mar anailís loga, rianú earráidí, agus cumarsáid le geallsealbhóirí. Cé go bhfuil na modhanna seo éifeachtach, is féidir leo a bheith mall agus seans maith go hearráidí, rud a fhágann:

  1. Aga neamhfhónaimh mhéadaithe: Is féidir le modhanna imscrúdaithe láimhe moill a chur ar réiteach teagmhais, rud a fhágann go mbeidh aga neamhfhónaimh fada ann agus laghdaítear sástacht na gcustaiméirí.
  2. Earráid dhaonna: Tá próisis láimhe so-ghabhálach i leith earráid dhaonna, rud a d’fhéadfadh diagnóis mhícheart agus teagmhais a réiteach.
  3. Saincheisteanna Inscálaithe: De réir mar a thagann méadú ar mhéid agus ar chastacht na gcóras, éiríonn níos deacra modhanna imscrúdaithe láimhe a scála.

Ról Gníomhairí DevOps in Imscrúdú Teagmhais

Tá ról ríthábhachtach ag gníomhairí DevOps, amhail Gníomhaire AWS DevOps agus Copado Agentia, maidir le himscrúdú teagmhais a uathoibriú. Is féidir leis na gníomhairí seo:

  1. Logaí a bhailiú agus a anailísiú: Is féidir le gníomhairí DevOps logaí a bhailiú agus a anailísiú ó fhoinsí éagsúla, ag tabhairt léargais luachmhara ar chúiseanna teagmhais.
  2. Uath-rianú earráide: Is féidir le gníomhairí rianú earráide a uathoibriú, rud a laghdóidh an t-am agus an iarracht is gá don imscrúdú láimhe.
  3. Feabhas a chur ar an gcumarsáid: Is féidir le gníomhairí cumarsáid idir foirne, geallsealbhóirí agus córais a éascú, ag cinntiú go roinntear faisnéis teagmhais go héifeachtach.

Ról LLManna in Imscrúdú Teagmhais

Tá Samhlacha Móra Teanga (LLManna) tar éis réimse na próiseála teanga nádúrtha (NLP) a réabhlóidiú, rud a chuir ar chumas meaisíní téacs cosúil le daonna a thuiscint agus a ghiniúint. I gcomhthéacs imscrúdú teagmhais, is féidir le LLManna:

  1. Anailís a dhéanamh ar thuairiscí teagmhais: Is féidir le LLManna anailís a dhéanamh ar thuairiscí teagmhais, ag aithint príomhfhaisnéis agus patrúin a d'fhéadfadh bunchúis an teagmhais a léiriú.
  2. Achoimrí teagmhais a ghiniúint: Is féidir le LLManna achoimrí achomair ar thuarascálacha teagmhais a ghiniúint, rud a éascaíonn cumarsáid agus cinnteoireacht.
  3. Moltaí atá feasach ar an gcomhthéacs a sholáthar: Is féidir le LLManna moltaí a sholáthar atá feasach ar an gcomhthéacs maidir le réiteach teagmhais, agus an córas sonrach, an comhshaol agus na geallsealbhóirí lena mbaineann á gcur san áireamh.

Imscrúdú Teagmhais Uathoibrithe a chur i bhfeidhm le Gníomhairí DevOps agus LLManna

Chun imscrúdú teagmhais uathoibrithe a chur i bhfeidhm le gníomhairí DevOps agus LLManna, leanfaimid cur chuige céim ar chéim:

  1. Comhtháthaigh gníomhairí DevOps: Comhtháthaigh gníomhairí DevOps, amhail Gníomhaire AWS DevOps agus Copado Agentia, le do chóras bainistithe teagmhais.
  2. Logaí a bhailiú agus a anailísiú: Cumraigh gníomhairí DevOps chun logaí ó fhoinsí éagsúla a bhailiú agus a anailísiú, ag tabhairt léargais luachmhara ar chúiseanna teagmhais.
  3. Samhail LLM a oiliúint: Cuir oiliúint ar mhúnla LLM ar thacar sonraí de thuairiscí teagmhais, logaí agus faisnéis ábhartha eile.
  4. Comhtháthaigh LLM le gníomhairí DevOps: Comhtháthaigh an tsamhail LLM le gníomhairí DevOps, ag cur ar chumas an LLM anailís a dhéanamh ar thuairiscí teagmhais agus moltaí a sholáthar maidir le réiteach teagmhais.
  5. Imscaradh an réiteach: Imscaradh an réiteach um imscrúdú teagmhais uathoibrithe, ag cinntiú go bhfuil sé inscálaithe, iontaofa agus slán.

Cód Samplach: LLM a chomhtháthú le Gníomhairí DevOps

Seo sampla de bhlúire cód i Python, a thaispeánann conas samhail LLM a chomhtháthú le gníomhaire DevOps:

logáil allmhairiú
ó claochladáin allmhairiú AutoModelForSequenceClassification, AutoTokenizer
ó Gníomhaire Iompórtála aws_devops_agent


model = AutoModelForSequenceClassification.from_pretrained ("distilbert-base-gan chás")
tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased")

# Cuir gníomhaire DevOps ar dtús
gníomhaire = Gníomhaire()

# Sainmhínigh feidhm chun tuairiscí teagmhais a anailísiú ag baint úsáide as samhail LLM
Def analyze_incident_report(tuarascáil):
    # An tuairisc teagmhais a réamhphróiseáil
    ionchuir = tokenizer.encode_plus(tuairisc, 
                                    add_special_tokens=Fíor, 
                                    uas_fhad=512, 
                                    return_attention_mask=Fíor, 
                                    return_tensors='pt')
    
    # Déan anailís ar an tuairisc teagmhais ag baint úsáide as samhail LLM
    aschuir = samhail(ionchuir['input_ids'], attention_mask=ionchuir['attention_mask'])
    
    # Bain an lipéad ranga tuartha
    predicted_class = tóirse.argmax(aschuir.logits)
    
    tuairisceán_rang tuartha

# Sainmhínigh feidhm chun moltaí a sholáthar maidir le réiteach teagmhais
def provide_suggestions(rang_tuartha):
    # Úsáid an lipéad ranga tuartha le moltaí a thabhairt maidir le réiteach teagmhais
    má thuar_rang == 0:
        ar ais "Seiceáil logaí an chórais le haghaidh earráidí"
    elif predicted_class == 1:
        ar ais "Fíoraigh an nascacht líonra"
    eile:
        ar ais "Déan teagmháil leis an bhfoireann forbartha le haghaidh cúnaimh"

# Comhtháthaigh an tsamhail LLM leis an ngníomhaire DevOps
def eachtra_imscrúdú():
    # Logaí ón ngníomhaire DevOps a bhailiú agus a anailísiú
    logs = agent.get_logs()
    
    # Déan anailís ar na logaí ag baint úsáide as an tsamhail LLM
    predicted_class = anailís_eachtra_tuairisc(logaí)
    
    # Moltaí a sholáthar maidir le réiteach teagmhais
    moltaí = provide_suggestions(predicted_class)
    
    moltaí ar ais

# Imscaradh an réiteach imscrúdaithe teagmhais
imscrúdú_eachtra()

Na 5-10 nOrd/Blúire is Mó Úsáidte

Seo iad na 5-10 n-orduithe/blúine is mó a úsáidtear don teicneolaíocht seo:

  1. aws devops agent get-logs: Bailigh logaí ón ngníomhaire DevOps.
  2. transformers.AutoModelForSequenceClassification.from_pretrained(): Luchtaigh an tsamhail LLM.
  3. tokenizer.encode_plus(): Réamhphróiseáil an tuairisc teagmhais.
  4. múnla(ionchuir['input_ids'], attention_mask=ionchuir['attention_mask']): Déan anailís ar an tuairisc teagmhais ag baint úsáide as an tsamhail LLM.
  5. torch.argmax(outputs.logits): Bain amach an lipéad ranga tuartha.
  6. provide_suggestions(predicted_class): Cuir moltaí ar fáil maidir le réiteach teagmhais.
  7. agent.get_logs(): Bailigh logaí ón ngníomhaire DevOps.
  8. analyze_incident_report(report): Déan anailís ar an tuairisc teagmhais ag baint úsáide as an tsamhail LLM.
  9. teagmhas_imscrúdú(): Imscaradh an réiteach imscrúdaithe teagmhais.
  10. torch.save(model.state_dict(), 'model.pth'): Sábháil an tsamhail LLM.

Amharcléiriú

Seo léirshamhlú den réiteach uathoibrithe um imscrúdú teagmhais ag baint úsáide as Chart.js:

{
  "cineál": "barra",
  "sonraí": {
    "labels": ["Imscrúdú de Láimh", "Imscrúdú Uathoibrithe"],
    "tacair sonraí": [
      {
        " label " : " Am le Réiteach",
        "sonraí": [10, 2],
        "backgroundColor": [ "rgba(255, 99, 132, 0.2)", "rgba(54, 162, 235, 0.2)"],
        "BorderColor": [ "rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "leithead teorann": 1
      }
    ]
  },
  "roghanna": {
    "teideal": {
      "taispeáint": fíor,
      "text": "Am chun Teagmhais a Réiteach"
    },
    "scálaí": {
      "yAiseanna": [
        {
          "ticeanna": {
            "beginAtZero": fíor
          }
        }
      ]
    }
  }
}

Déanann an léirshamhlú seo comparáid idir an t-am chun teagmhais a réiteach ag baint úsáide as modhanna imscrúdaithe láimhe agus modhanna imscrúdaithe uathoibrithe ag baint úsáide as gníomhairí DevOps agus LLManna.

Conclúid

Is féidir feabhas suntasach a chur ar éifeachtúlacht agus ar éifeachtacht réiteach teagmhais trí imscrúdú uathoibrithe teagmhais a chur i bhfeidhm le gníomhairí DevOps agus LLManna. Trí ghníomhairí DevOps a chomhtháthú le LLManna, is féidir le heagraíochtaí anailís na logaí a uathoibriú, moltaí atá feasach ar an gcomhthéacs a sholáthar maidir le réiteach teagmhais, agus an t-am chun teagmhais a réiteach a laghdú. Tá iniúchadh déanta againn ar a dtrasnaíonn uathoibriú DevOps, imscrúdú teagmhais faoi thiomáint AI, agus ról LLManna chun uirlisí DevOps a fheabhsú mar AWS DevOps Agent agus Copado Agentia. Tríd an gcur chuige céim ar chéim a leagtar amach san Airteagal seo a leanúint, féadfaidh eagraíochtaí réiteach uathoibrithe um imscrúdú teagmhais atá inscálaithe, iontaofa agus slán a úsáid.

Have Questions?

Let's Talk

Contact me on LinkedIn