Kojọpọ awoṣe LLM ati tokenizer | B4N1

Kojọpọ awoṣe LLM ati tokenizer

6 months ago · b4n1 Read time: 6 min

** Ṣiṣe Iwadii Iṣẹlẹ Aifọwọyi pẹlu Awọn Aṣoju DevOps ati LLMs ***

Ibere

Ni ala-ilẹ oni-nọmba ti o yara ti ode oni, awọn ẹgbẹ DevOps dojukọ ipenija idiju ti o pọ si: idamo ati ipinnu awọn iṣẹlẹ ni yarayara bi o ti ṣee. Awọn ọna iwadii afọwọṣe le jẹ akoko-n gba ati ni itara si aṣiṣe eniyan, ti o yori si idinku gigun ati idinku itẹlọrun alabara. Lati koju ọrọ yii, a n ṣawari ni ikorita ti adaṣe DevOps, iwadii iṣẹlẹ ti agbara AI, ati ipa ti Awọn awoṣe Ede nla (LLMs) ni imudara awọn irinṣẹ DevOps bii AWS DevOps Agent ati Copado Agentia.

**Ipinlẹ lọwọlọwọ ti Iwadii Iṣẹlẹ ***

Iwadii iṣẹlẹ jẹ abala pataki ti DevOps, pẹlu idamọ, itupalẹ, ati ipinnu awọn ọran ti o kan awọn eto sọfitiwia. Awọn ọna atọwọdọwọ gbarale awọn ilana afọwọṣe, gẹgẹbi itupalẹ log, ipasẹ aṣiṣe, ati ibaraẹnisọrọ pẹlu awọn ti o kan. Lakoko ti awọn ọna wọnyi jẹ doko, wọn le lọra ati itara si awọn aṣiṣe, ti o yori si:

  1. ** Alekun akoko isinmi ***: Awọn ọna iwadii afọwọṣe le ṣe idaduro ipinnu iṣẹlẹ, ti o mu ki akoko idaduro pẹ ati idinku itẹlọrun alabara.
  2. ** Aṣiṣe eniyan ***: Awọn ilana afọwọṣe jẹ ifaragba si aṣiṣe eniyan, eyiti o le ja si ayẹwo ti ko tọ ati ipinnu awọn iṣẹlẹ.
  3. ** Awọn ọran iwọntunwọnsi ***: Bi iwọn ati idiju ti awọn ọna ṣiṣe n dagba, awọn ọna iwadii afọwọṣe di pupọ sii nira lati ṣe iwọn.

** Ipa ti Awọn aṣoju DevOps ni Iwadi Iṣẹlẹ ***

Awọn aṣoju DevOps, gẹgẹbi AWS DevOps Aṣoju ati Copado Agentia, ṣe ipa pataki ni adaṣe adaṣe iṣẹlẹ. Awọn aṣoju wọnyi le:

  1. ** Gba ati itupalẹ awọn akọọlẹ ***: Awọn aṣoju DevOps le gba ati ṣe itupalẹ awọn akọọlẹ lati awọn orisun oriṣiriṣi, pese awọn oye ti o niyelori si awọn idi iṣẹlẹ.
  2. ** Titele aṣiṣe aifọwọyi ***: Awọn aṣoju le ṣe adaṣe titele aṣiṣe, dinku akoko ati igbiyanju ti o nilo fun iwadii afọwọṣe.
  3. ** Imudara ibaraẹnisọrọ ***: Awọn aṣoju le dẹrọ ibaraẹnisọrọ laarin awọn ẹgbẹ, awọn alabaṣepọ, ati awọn ọna ṣiṣe, ni idaniloju pe alaye iṣẹlẹ ti pin daradara.

** Ipa ti LLMs ni Iwadi Isẹlẹ ***

Awọn awoṣe Ede nla (LLMs) ti ṣe iyipada aaye ti sisẹ ede abinibi (NLP), ṣiṣe awọn ẹrọ lati loye ati ṣe agbekalẹ ọrọ ti o dabi eniyan. Ni agbegbe ti iwadii iṣẹlẹ, LLMs le:

  1. **Ṣayẹwo awọn ijabọ iṣẹlẹ ***: Awọn LLM le ṣe itupalẹ awọn ijabọ iṣẹlẹ, idamo alaye bọtini ati awọn ilana ti o le tọkasi idi ti isẹlẹ kan.
  2. ** Ṣe ipilẹṣẹ awọn akopọ isẹlẹ ***: Awọn LLM le ṣe agbekalẹ awọn akopọ ṣoki ti awọn ijabọ iṣẹlẹ, irọrun ibaraẹnisọrọ ati ṣiṣe ipinnu.
  3. ** Pese awọn imọran ti o mọ ọrọ-ọrọ ***: LLM le pese awọn imọran agbegbe-imọ-ọrọ fun ipinnu iṣẹlẹ, ni akiyesi eto kan pato, agbegbe, ati awọn alakan ti o kan.

** Ṣiṣe Iwadii Iṣẹlẹ Aifọwọyi pẹlu Awọn Aṣoju DevOps ati LLMs ***

Lati ṣe iwadii iṣẹlẹ adaṣe adaṣe pẹlu awọn aṣoju DevOps ati LLM, a yoo tẹle ọna-igbesẹ-igbesẹ kan:

  1. ** Ṣepọ awọn aṣoju DevOps ***: Ṣepọ awọn aṣoju DevOps, gẹgẹbi AWS DevOps Agent ati Copado Agentia, pẹlu eto iṣakoso iṣẹlẹ rẹ.
  2. ** Gba ati ṣe itupalẹ awọn akọọlẹ ***: Tunto awọn aṣoju DevOps lati gba ati itupalẹ awọn akọọlẹ lati awọn orisun oriṣiriṣi, pese awọn oye ti o niyelori si awọn idi iṣẹlẹ.
  3. ** Kọkọ awoṣe LLM kan ***: Kọ awoṣe LLM kan lori data ti awọn ijabọ iṣẹlẹ, awọn akọọlẹ, ati alaye miiran ti o yẹ.
  4. ** Ṣepọ LLM pẹlu awọn aṣoju DevOps ***: Ṣepọ awoṣe LLM pẹlu awọn aṣoju DevOps, ṣiṣe LLM lati ṣe itupalẹ awọn iroyin iṣẹlẹ ati pese awọn imọran fun ipinnu iṣẹlẹ.
  5. ** Mu ojutu naa lọ ***: Fi ojuutu iwadii iṣẹlẹ adaṣe ṣiṣẹ, ni idaniloju pe o jẹ iwọn, igbẹkẹle, ati aabo.

** Koodu apẹẹrẹ: Iṣajọpọ LLM pẹlu Awọn aṣoju DevOps ***

Eyi ni snippet koodu apẹẹrẹ ni Python, ti n ṣe afihan bi o ṣe le ṣepọ awoṣe LLM kan pẹlu aṣoju DevOps kan: `` Python wọle wọle lati awọn Ayirapada gbe wọle AutoModelForSequenceClassification, AutoTokenizer lati aws_devops_agent agbewọle Aṣoju

awoṣe = AutoModelForSequenceClassification.from_pretrained ("distilbert-base-uncased") tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased")

Bibẹrẹ aṣoju DevOps

aṣoju = Aṣoju ()

Ṣetumo iṣẹ kan lati ṣe itupalẹ awọn ijabọ iṣẹlẹ nipa lilo awoṣe LLM

def analyze_incident_iroyin(iroyin): # Tẹsiwaju ijabọ iṣẹlẹ naa awọn igbewọle = tokenizer.encode_plus(iroyin, add_special_tokens=Otitọ, max_length=512, return_attention_mask=Otitọ, return_tensors='pt')

# Ṣe itupalẹ ijabọ iṣẹlẹ naa nipa lilo awoṣe LLM
awọn igbejade = awoṣe(awọn igbewọle['input_ids'], attention_mask=awọn igbewọle['attention_mask'])

# Jade aami kilasi asọtẹlẹ
predicted_class = ògùṣọ.argmax(outputs.logits)

pada asọtẹlẹ_class

Ṣetumo iṣẹ kan lati pese awọn imọran fun ipinnu iṣẹlẹ

def pese_awọn aba(isọtẹlẹ_kilasi): # Lo aami kilasi asọtẹlẹ lati pese awọn imọran fun ipinnu iṣẹlẹ ti o ba jẹ asọtẹlẹ_kilasi == 0: pada "Ṣayẹwo awọn igbasilẹ eto fun awọn aṣiṣe" elif asọtẹlẹ_kilasi == 1: pada "Ṣe daju asopọ nẹtiwọki" miran: pada "Kan si ẹgbẹ idagbasoke fun iranlọwọ"

Ṣepọ awoṣe LLM pẹlu aṣoju DevOps

def iṣẹlẹ_investigation(): # Gba ati itupalẹ awọn akọọlẹ lati ọdọ aṣoju DevOps logs = agent.get_logs()

# Ṣe itupalẹ awọn akọọlẹ nipa lilo awoṣe LLM
predicted_class = analyze_incident_report(awọn akọọlẹ)

# Pese awọn didaba fun ipinnu iṣẹlẹ
awọn imọran = pese_awọn imọran (awọn asọtẹlẹ_kilasi)

pada awọn didaba

Mu ojutu iwadii iṣẹlẹ naa ṣiṣẹ

isẹlẹ_iwadi()

** Top 5-10 Awọn aṣẹ ti a lo julọ / awọn snippets ***

Eyi ni awọn pipaṣẹ 5-10 ti o lo julọ / awọn snippets fun imọ-ẹrọ yii:

1. `aws devops oluranlowo gba-logs`: Gba awọn àkọọlẹ lati DevOps oluranlowo.
2. `transformers.AutoModelForSequenceClassification.from_pretrained ()`: Fifuye LLM awoṣe.
3. `tokenizer.encode_plus()`: Ṣaju ijabọ iṣẹlẹ naa.
4. `awoṣe(awọn igbewọle['input_ids'], attention_mask=awọn igbewọle['attention_mask'])`: Ṣe itupalẹ ijabọ iṣẹlẹ nipa lilo awoṣe LLM.
5. `torch.argmax (outputs.logits)`: Jade awọn ti anro kilasi aami.
6. `Pipese_Aba(prodicted_kilasi)`: Pese awọn didaba fun ipinnu isẹlẹ.
7. `agent.get_logs ()`: Gba awọn akọọlẹ lati ọdọ aṣoju DevOps.
8. `ayẹwo_incident_iroyin(iroyin)`: Ṣe itupalẹ ijabọ isẹlẹ naa nipa lilo awoṣe LLM.
9. `iṣẹlẹ_investigation()`: Ran awọn isẹlẹ iwadi ojutu.
10. `torch.save (model.state_dict (), 'model.pth')`: Fi LLM awoṣe.

** Iworan ***

Eyi ni iwoye ti ojutu iwadii iṣẹlẹ adaṣe adaṣe nipa lilo Chart.js:
`` json
{
  "type": "ọgọ",
  "data": {
    "labels": ["Iwadii Afọwọṣe", "Iwadii Aifọwọyi"],
    "awọn ipilẹ data": [
      {
        "label": "Àkókò láti yanjú",
        "data": [10, 2],
        "backgroundColor": ["rgba (255, 99, 132, 0.2)", "rgba (54, 162, 235, 0.2)"],
        "BorderColor": ["rgba (255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "AalaWidth": 1
      }
    ]
  },
  "awọn aṣayan": {
    "akọle": {
      "ifihan": otitọ,
      "text": "Àkókò láti yanjú àwọn ìṣẹ̀lẹ̀"
    },
    "iwọn": {
      "yAxes": [
        {
          "awọn ami": {
            "beginAtZero": otitọ
          }
        }
      ]
    }
  }
}

Iwoye yii ṣe afiwe akoko lati yanju awọn iṣẹlẹ nipa lilo awọn ọna iwadii afọwọṣe dipo awọn ọna iwadii adaṣe ni lilo awọn aṣoju DevOps ati LLMs.

Ipari

Ṣiṣe iwadii isẹlẹ adaṣe adaṣe pẹlu awọn aṣoju DevOps ati awọn LLM le ṣe ilọsiwaju imunadoko ati imunadoko ipinnu iṣẹlẹ. Nipa iṣakojọpọ awọn aṣoju DevOps pẹlu LLMs, awọn ajo le ṣe adaṣe adaṣe ti awọn akọọlẹ, pese awọn aba mimọ-ọrọ fun ipinnu iṣẹlẹ, ati dinku akoko lati yanju awọn iṣẹlẹ. A ti ṣawari ikorita ti adaṣe DevOps, iwadii iṣẹlẹ ti agbara AI, ati ipa ti LLMs ni imudara awọn irinṣẹ DevOps bii AWS DevOps Agent ati Copado Agentia. Nipa titẹle ọna igbese-nipasẹ-igbesẹ ti a ṣe ilana rẹ ninu nkan yii, awọn ẹgbẹ le ran iwọn, igbẹkẹle, ati ojutu iwadii iṣẹlẹ adaṣe adaṣe ni aabo.


Have Questions?

Let's Talk

Contact me on LinkedIn