Ampidiro ny modely LLM sy ny tokenizer | B4N1

Ampidiro ny modely LLM sy ny tokenizer

3 months ago · b4n1 Tiempo de lectura: 6 min

Fampiharana ny fanadihadiana momba ny tranga mandeha ho azy miaraka amin'ny DevOps Agents sy LLMs

Fampidirana

Ao anatin'ny tontolon'ny nomerika haingana ankehitriny, miatrika fanamby mihasarotra hatrany ny ekipan'ny DevOps: mamantatra sy mamaha ireo trangan-javatra haingana araka izay azo atao. Ny fomba famotopotorana amin'ny tanana dia mety handany fotoana sy mora amin'ny fahadisoan'ny olombelona, ​​​​izay mitarika amin'ny fotoana maharitra maharitra ary mihena ny fahafaham-pon'ny mpanjifa. Mba hamahana ity olana ity dia mikaroka ny fihaonan'ny automatique DevOps izahay, ny fanadihadiana momba ny trangan'ny AI, ary ny andraikitry ny Large Language Models (LLMs) amin'ny fanatsarana ny fitaovana DevOps toa ny AWS DevOps Agent sy Copado Agentia.

Ny fanadihadiana momba ny zava-nitranga amin'izao fotoana izao

Ny fanadihadiana momba ny trangan-javatra dia lafiny manan-danja amin'ny DevOps, ahitana ny famantarana, ny famakafakana ary ny famahana ireo olana mahakasika ny rafitra rindrambaiko. Ny fomba nentim-paharazana dia miankina amin'ny fizotran'ny tanana, toy ny famakafakana diary, ny fanaraha-maso ny fahadisoana, ary ny fifandraisana amin'ireo mpandray anjara. Na dia mahomby aza ireo fomba ireo, dia mety ho miadana sy mora lesoka izy ireo, ka miteraka:

  1. Mitombo ny fe-potoana fiatoana: Ny fomba fanadihadiana amin'ny tanana dia mety hanemotra ny famahana ny trangan-javatra, ka miteraka fiatoana maharitra ary mampihena ny fahafaham-pon'ny mpanjifa.
  2. ** Fahadisoan'ny olombelona**: Ny fizotry ny tanana dia mora tratran'ny fahadisoan'ny olombelona, ​​izay mety hitarika amin'ny fitiliana diso sy ny famahana ireo trangan-javatra.
  3. Olan'ny scalability: Rehefa mitombo ny haben'ny rafitra sy ny fahasarotan'ny rafitra, dia mihasarotra ny fampitomboana ny fomba fanadihadiana amin'ny tanana.

Ny andraikitry ny DevOps agents amin'ny fanadihadiana ny zava-nitranga

Ny mpiasan'ny DevOps, toa ny AWS DevOps Agent sy Copado Agentia, dia manana anjara toerana lehibe amin'ny fanaovana automatique ny fanadihadiana tranga. Ireo agents ireo dia afaka:

  1. Manangona sy manadihady ny diary: Afaka manangona sy mamakafaka ny diary avy amin'ny loharano isan-karazany ny mpiasan'ny DevOps, manome fanazavana sarobidy momba ny anton-javatra.
  2. Mandeha ho azy ny fanaraha-maso ny hadisoana: Azon'ny mpiasa atao ny manara-maso ny fahadisoana, mampihena ny fotoana sy ny ezaka ilaina amin'ny fanadihadiana amin'ny tanana.
  3. Manatsara ny fifandraisana: Afaka manamora ny fifampiresahana eo amin'ny ekipa, ny mpandray anjara ary ny rafitra ny mpiasa, mba hahazoana antoka fa zaraina amin'ny fomba mahomby ny vaovao momba ny zava-nitranga.

Ny andraikitry ny LLM amin'ny fanadihadiana ny zava-nitranga

Ny Large Language Models (LLMs) dia nanova ny sehatry ny fanodinana fiteny voajanahary (NLP), ahafahan'ny milina mahazo sy mamorona lahatsoratra mitovy amin'ny olombelona. Ao anatin'ny tontolon'ny fanadihadiana tranga, ny LLM dia afaka:

  1. Mamakafaka ny tatitra momba ny zava-nitranga: Ny LLM dia afaka mamakafaka ny tatitra momba ny zava-nitranga, mamantatra ireo fampahalalana fototra sy lamina izay mety manondro ny fototry ny tranga iray.
  2. Mamorona famintinana tranga: Ny LLM dia afaka mamorona famintinana fohy momba ny tatitra momba ny zava-nitranga, manamora ny fifandraisana sy ny fandraisana fanapahan-kevitra.
  3. Manomeza soso-kevitra mifanentana amin'ny teny manodidina: Ny LLM dia afaka manome soso-kevitra mifanaraka amin'ny teny manodidina momba ny famahana ny zava-mitranga, amin'ny fiheverana ny rafitra manokana, ny tontolo iainana ary ny mpandray anjara voakasika.

Fampiharana ny fanadihadiana momba ny tranga mandeha ho azy miaraka amin'ny DevOps Agents sy LLMs

Mba hampiharana ny fanadihadiana momba ny zava-nitranga mandeha ho azy miaraka amin'ireo mpiasan'ny DevOps sy LLM, dia hanaraka ny dingana manaraka isika:

  1. Ampifandraiso ireo mpiasan'ny DevOps: Ampifandraiso amin'ny rafi-pitantananao zava-nitranga ireo mpiasan'ny DevOps, toy ny AWS DevOps Agent sy Copado Agentia.
  2. Manangona sy manadihady logs: Ampifanaraho ireo mpiasan'ny DevOps hanangona sy hamakafaka ireo diary avy amin'ny loharano isan-karazany, manome fanazavana sarobidy momba ny anton-javatra.
  3. Manofana modely LLM: Mampiofana maodely LLM amin'ny angon-drakitra misy tatitra momba ny zava-nitranga, diary, ary fampahalalana hafa mifandraika.
  4. Ampifandraiso amin'ny mpiasan'ny DevOps ny LLM: Ampifandraiso amin'ny mpiasan'ny DevOps ny maodely LLM, ahafahan'ny LLM mamakafaka ny tatitra momba ny zava-nitranga sy manome soso-kevitra momba ny famahana ny zava-nitranga.
  5. Alefaso ny vahaolana: Ampidiro ny vahaolana fanadihadiana momba ny tranga mandeha ho azy, hiantohana fa azo ampitomboina, azo ianteherana ary azo antoka.

Kaody ohatra: Fampidirana ny LLM miaraka amin'ny AgenOps DevOps

Ity misy snippet kaody ohatra amin'ny Python, mampiseho ny fomba fampidirana modely LLM amin'ny mpandraharaha DevOps:

import logging
avy amin'ny transformer manafatra AutoModelForSequenceClassification, AutoTokenizer
avy amin'ny aws_devops_agent import Agent


model = AutoModelForSequenceClassification.from_pretrained("distilbert-base-uncased")
tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased")

# Atombohy ny mpandraharaha DevOps
agent = Agent()

# Famaritana fiasa handinihana ny tatitra momba ny zava-nitranga tamin'ny alàlan'ny modely LLM
def analyse_incident_report(report):
    # Ataovy mialoha ny tatitra momba ny zava-nitranga
    fidirana = tokenizer.encode_plus(report, 
                                    add_special_tokens=Marina, 
                                    lava_beny=512, 
                                    return_attention_mask=Marina, 
                                    return_tensors='pt')
    
    # Famakafakana ny tatitra momba ny zava-nitranga tamin'ny fampiasana ny maodely LLM
    outputs = modely(fampidirana['input_ids'], attention_mask=inputs['attention_mask'])
    
    # Esory ny mari-pamantarana kilasy voalaza mialoha
    predicted_class = torch.argmax(outputs.logits)
    
    miverena predicted_class

# Farito asa iray hanomezana soso-kevitra momba ny famahana ny tranga
def manome_ soso-kevitra (classe_prédict):
    # Ampiasao ny mari-pamantarana vinavinaina mba hanomezana soso-kevitra momba ny famahana ny tranga
    raha vinavina_kilasy == 0:
        miverina "Jereo ny logs system raha misy lesoka"
    elif predicted_class == 1:
        miverina "Verify the network connectivity"
    hafa:
        miverina "Mifandraisa amin'ny ekipan'ny fampandrosoana raha mila fanampiana"

# Ampidiro ny modely LLM miaraka amin'ny mpandraharaha DevOps
def incident_investigation():
    # Angony sy hamakafaka ny logs avy amin'ny mpandraharaha DevOps
    logs = agent.get_logs()
    
    # Famakafakana ireo diary mampiasa ny maodely LLM
    predicted_class = analy_incident_report(logs)
    
    # Manome soso-kevitra amin'ny famahana ny zava-nitranga
    soso-kevitra = manome soso-kevitra (kilasy_vinavina)
    
    mamerina soso-kevitra

# Ampidiro ny vahaolana fanadihadiana momba ny tranga
incident_investigation()

Didy/Snippet 5-10 ambony indrindra

Ireto ny baiko/snippet 5-10 ambony indrindra amin'ity teknolojia ity:

  1. aws devops agent get-logs: Angony ny logs avy amin'ny mpandraharaha DevOps.
  2. transformers.AutoModelForSequenceClassification.from_pretrained(): Ampidiro ny modely LLM.
  3. tokenizer.encode_plus(): Ataovy mialoha ny tatitra momba ny zava-nitranga.
  4. modely(inputs['input_ids'], attention_mask=inputs['attention_mask']): Fakafakao ny tatitra momba ny zava-nitranga tamin'ny fampiasana ny maodely LLM.
  5. torch.argmax(outputs.logits): Esory ny mari-pamantarana vinavinaina.
  6. manome soso-kevitra(class_provide): Manome soso-kevitra momba ny famahana ny tranga.
  7. agent.get_logs(): Manangona diary avy amin'ny mpandraharaha DevOps.
  8. analyze_incident_report(report): Fakafakao ny tatitra momba ny zava-nitranga tamin'ny fampiasana ny maodely LLM.
  9. Incident_investigation(): Ampiharo ny vahaolana amin'ny fanadihadiana tranga.
  10. torch.save(model.state_dict(), 'model.pth'): Tehirizo ny modely LLM.

Visualization

Ity misy sary momba ny vahaolana fanadihadiana momba ny tranga mandeha ho azy amin'ny fampiasana Chart.js:

{
  "type": "bar",
  "data": {
    "labels": ["Fanadihadiana an-tànana", "Fanadihadiana mandeha ho azy"],
    "datasets": [
      {
        "label": "Fotoana handaminana",
        "data": [10, 2],
        "Locground": ["rgba(255, 99, 132, 0.2)", "rgba(54, 162, 235, 0.2)"],
        "BorderColor": ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "BorderWidth": 1
      }
    ]
  },
  "safidy": {
    "lohateny": {
      "fampisehoana": marina,
      "text": "Fotoana handaminana trangan-javatra"
    },
    "mizana": {
      "yAxes": [
        {
          "tonga": {
            "beginAtZero": marina
          }
        }
      ]
    }
  }
}

Ity sary ity dia mampitaha ny fotoana hamahana ireo trangan-javatra amin'ny alàlan'ny fomba fanadihadiana amin'ny tanana mifanohitra amin'ny fomba fanadihadiana mandeha ho azy amin'ny alàlan'ny mpiasan'ny DevOps sy LLM.

Famaranana

Ny fampiharana ny fanadihadiana momba ny tranga mandeha ho azy miaraka amin'ireo mpiasan'ny DevOps sy LLM dia afaka manatsara ny fahombiazany sy ny fahombiazan'ny famahana ny tranga. Amin'ny alàlan'ny fampidirana ireo mpiasan'ny DevOps amin'ny LLM, ny fikambanana dia afaka manao automatique ny famakafakana ny diary, manome soso-kevitra momba ny famahana ny zava-nitranga, ary mampihena ny fotoana hamahana ny zava-nitranga. Nandinika ny fihaonan'ny automatique DevOps izahay, ny fanadihadiana momba ny zava-nitranga tamin'ny AI, ary ny andraikitry ny LLM amin'ny fanatsarana ny fitaovana DevOps toa ny AWS DevOps Agent sy Copado Agentia. Amin'ny alàlan'ny fanarahana ny dingana manaraka izay voalaza ato amin'ity lahatsoratra ity, ny fikambanana dia afaka mametraka vahaolana fanadihadiana momba ny tranga mandeha ho azy, azo ianteherana ary azo antoka.


¿Tienes preguntas?

Hablemos

Contáctame en LinkedIn