E hoʻouka i ke kumu hoʻohālike LLM a me ka tokenizer | B4N1

E hoʻouka i ke kumu hoʻohālike LLM a me ka tokenizer

6 months ago · b4n1 Read time: 7 min

Ke hoʻokō nei i ka ʻimi noiʻi ʻokoʻa me nā DevOps Agents a me nā LLM

Hoʻolauna

I kēia lā wikiwiki wikiwiki, ʻo nā hui DevOps ke kū nei i kahi paʻakikī paʻakikī: ʻike a hoʻoponopono i nā hanana i ka hiki. Hiki i nā ʻano hana noiʻi lima ke hoʻopau i ka manawa a hiki i ka hewa kanaka, e alakaʻi ana i ka manawa hoʻomaha lōʻihi a hoʻemi i ka ʻoluʻolu o ka mea kūʻai aku. No ka hoʻoponopono ʻana i kēia pilikia, ke ʻimi nei mākou i ka intersection o DevOps automation, AI-powered incident investigation, a me ke kuleana o Large Language Models (LLMs) i ka hoʻonui ʻana i nā mea hana DevOps e like me AWS DevOps Agent a me Copado Agentia.

Ke Kūlana Kūlana Kūlana i kēia manawa

He ʻano koʻikoʻi o DevOps ka hoʻokolokolo ʻino, e pili ana i ka ʻike, ka nānā ʻana, a me ka hoʻonā ʻana i nā pilikia e pili ana i nā ʻōnaehana polokalamu. Ke hilinaʻi nei nā ʻano kuʻuna i nā kaʻina hana lima, e like me ka loiloi log, ka nānā ʻana i nā hewa, a me ke kamaʻilio ʻana me nā mea kuleana. ʻOiai maikaʻi kēia mau ʻano, hiki ke lohi a hiki i nā hewa, e alakaʻi ana i:

  1. Hoʻonui i ka wā haʻahaʻa: Hiki ke hoʻopaneʻe nā ʻano hana noiʻi lima i ka hoʻoholo ʻana i nā hanana, e hopena i ka wā hoʻomaha lōʻihi a me ka hōʻemi ʻana i ka ʻoluʻolu o ka mea kūʻai aku.
  2. Hāhewa kanaka: Hiki i nā kaʻina hana lima i ka hewa kanaka, hiki ke alakaʻi i ka ʻike hewa a me ka hoʻoholo ʻana i nā hanana.
  3. Nā pilikia hiki ke hoʻonui ʻia: Ke ulu nei ka nui a me ka paʻakikī o nā ʻōnaehana, ʻoi aku ka paʻakikī o nā hana noiʻi lima.

ʻO ke kuleana o nā DevOps Agents i ka ʻimi ʻimi ʻana

ʻO nā ʻelele DevOps, e like me AWS DevOps Agent a me Copado Agentia, he hana koʻikoʻi i ka hana ʻana i ka hoʻokolokolo hanana. Hiki i kēia mau mea hana ke:

  1. E hōʻiliʻili a hoʻopaʻa i nā moʻolelo: Hiki i nā ʻelele DevOps ke hōʻiliʻili a kālailai i nā lāʻau mai nā kumu like ʻole, e hāʻawi ana i nā ʻike koʻikoʻi i nā kumu hanana.
  2. E hoʻokolo i ka ʻimi hewa: Hiki i nā ʻelele ke hoʻokaʻawale i ka nānā ʻana i nā hewa, e hōʻemi ana i ka manawa a me ka hoʻoikaika ʻana no ka hoʻokolokolo lima.
  3. E hoʻonui i ke kamaʻilio ʻana: Hiki i nā ʻelele ke hoʻomaʻamaʻa i ke kamaʻilio ʻana ma waena o nā hui, nā mea kuleana, a me nā ʻōnaehana, e hōʻoia i ka hōʻike ʻia ʻana o ka ʻike hanana.

Ke kuleana o nā LLM i ka ʻimi ʻimi ʻana

Ua hoʻololi ka Large Language Models (LLMs) i ke kahua o ka hana ʻōlelo kūlohelohe (NLP), hiki i nā mīkini ke hoʻomaopopo a hoʻohua i ka kikokikona e like me ke kanaka. Ma ka pōʻaiapili o ka hoʻokolokolo hanana, hiki i nā LLM ke:

  1. E noʻonoʻo i nā hōʻike hanana: Hiki i nā LLM ke kālailai i nā hōʻike hanana, e ʻike ana i nā ʻike koʻikoʻi a me nā mamana e hōʻike ana i ke kumu kumu o kahi hanana.
  2. Hana i nā hōʻuluʻulu hanana: Hiki i nā LLM ke hoʻopuka i nā hōʻuluʻulu pōkole o nā hōʻike hanana, hoʻomaʻamaʻa i ke kamaʻilio ʻana a me ka hoʻoholo ʻana.
  3. Hāʻawi i nā manaʻo manaʻo pili i ka pōʻaiapili: Hiki i nā LLM ke hāʻawi i nā manaʻo ʻike pili i ka pōʻaiapili no ka hoʻonā hanana, me ka noʻonoʻo ʻana i ka ʻōnaehana kikoʻī, kaiapuni, a me nā mea pili i pili.

**Ke hoʻokō nei i ka ʻimi noiʻi ʻokoʻa me nā DevOps Agents a me LLM **

No ka hoʻokō ʻana i ka hoʻokolokolo hanana automated me nā ʻelele DevOps a me nā LLM, e hahai mākou i kahi ala i kēlā me kēia ʻanuʻu:

  1. Hoʻohui i nā ʻelele DevOps: Hoʻohui i nā ʻelele DevOps, e like me AWS DevOps Agent a me Copado Agentia, me kāu ʻōnaehana hoʻokele hanana.
  2. E hōʻiliʻili a hoʻopaʻa i nā moʻolelo: E hoʻonohonoho i nā ʻelele DevOps e hōʻiliʻili a hōʻiliʻili i nā lāʻau mai nā kumu like ʻole, e hāʻawi ana i nā ʻike waiwai i nā kumu hanana.
  3. E hoʻomaʻamaʻa i kahi hoʻohālike LLM: E hoʻomaʻamaʻa i kahi hiʻohiʻona LLM ma kahi papa helu o nā hōʻike hanana, nā moʻolelo, a me nā ʻike pili ʻē aʻe.
  4. Hoʻohui i ka LLM me nā ʻelele DevOps: Hoʻohui i ke kumu hoʻohālike LLM me nā ʻelele DevOps, e hiki ai i ka LLM ke kālailai i nā hōʻike hanana a hāʻawi i nā manaʻo no ka hoʻonā hanana.
  5. Hoʻomoe i ka hoʻonā: E hoʻopololei i ka hoʻonā ʻokoʻa no ka hoʻāʻo ʻana i nā hanana hanana, me ka hōʻoia ʻana he hiki ke hoʻonui ʻia, hilinaʻi, a palekana.

** Code Laʻana: Hoʻohui i LLM me nā Agena DevOps**

Eia kahi laʻana code snippet ma Python, e hōʻike ana pehea e hoʻohui ai i kahi hoʻohālike LLM me kahi mea hana DevOps:

hoʻopaʻa inoa hoʻokomo
mai nā mea hoʻololi e hoʻokomo iā AutoModelForSequenceClassification, AutoTokenizer
mai aws_devops_agent import Agent


kumu hoʻohālike = AutoModelForSequenceClassification.from_pretrained("distilbert-base-uncased")
tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased")

# Hoʻomaka i ka ʻelele DevOps
luna = Agena()

# E wehewehe i kahi hana e nānā i nā hōʻike hanana me ka hoʻohana ʻana i ke kumu hoʻohālike LLM
def analysis_incident_report(hōʻike):
    # E hana mua i ka hōʻike hanana
    nā mea hoʻokomo = tokenizer.encode_plus(hōʻike, 
                                    add_special_tokens=ʻOiaʻiʻo, 
                                    lōʻihi_nui=512, 
                                    return_attention_mask=ʻOiaʻiʻo, 
                                    return_tensors='pt')
    
    # Nānā i ka hōʻike hanana me ka hoʻohana ʻana i ke kumu hoʻohālike LLM
    nā huahana = kumu hoʻohālike (nā hoʻokomo ['input_ids'], attention_mask=inputs ['attention_mask'])
    
    # Wehe i ka lepili papa i wānana ʻia
    wānana_papa = torch.argmax(outputs.logits)
    
    hoʻi i wānana_papa

# E wehewehe i kahi hana e hāʻawi i nā manaʻo no ka hoʻonā hanana
def provide_suggestions(predicted_class):
    # E hoʻohana i ka lepili papa i wānana ʻia e hāʻawi i nā manaʻo no ka hoʻonā hanana
    inā wānana_class == 0:
        hoʻihoʻi "E nānā i nā logs system no nā hewa"
    elif predicted_class == 1:
        hoʻihoʻi "E hōʻoia i ka pili pūnaewele"
    ʻē aʻe:
        hoʻihoʻi "E kelepona i ka hui hoʻomohala no ke kōkua"

# Hoʻohui i ka hiʻohiʻona LLM me ka luna DevOps
def incident_investigation():
    # E hōʻiliʻili a nānā i nā lāʻau mai ka ʻoihana DevOps
    logs = agent.get_logs()
    
    # Nānā i nā lāʻau me ka hoʻohana ʻana i ke kumu hoʻohālike LLM
    predicted_class = analytics_incident_report(logs)
    
    # Hāʻawi i nā manaʻo no ka hoʻonā hanana
    manaʻo = hāʻawi_manaʻo(predicted_class)
    
    hoʻihoʻi manaʻo

# Hoʻopili i ka hoʻonā hoʻokolokolo hanana
hanana_mea noiʻi()

** 5-10 kiʻekiʻe loa i hoʻohana ʻia i nā kauoha/nā ʻāpana**

Eia ka 5-10 kiʻekiʻe loa i hoʻohana ʻia nā kauoha/snippets no kēia ʻenehana:

  1. 'aws devops agent get-logs': E hōʻiliʻili i nā moʻolelo mai ka ʻelele DevOps.
  2. transformers.AutoModelForSequenceClassification.from_pretrained(): Hoʻouka i ke kumu hoʻohālike LLM.
  3. tokenizer.encode_plus(): E hana mua i ka hōʻike hanana.
  4. 'Kōkohu(inputs['input_ids'], attention_mask=inputs['attention_mask'])`: E noʻonoʻo i ka hōʻike hanana me ka hoʻohana ʻana i ke kumu hoʻohālike LLM.
  5. torch.argmax(outputs.logits): Wehe i ka lepili papa i wānana ʻia.
  6. provide_suggestions(predicted_class): Hāʻawi i nā manaʻo manaʻo no ka hoʻonā hanana.
  7. agent.get_logs(): E hōʻiliʻili i nā moʻolelo mai ka luna DevOps.
  8. 'analyze_incident_report(report)`: E noʻonoʻo i ka hōʻike hanana me ka hoʻohana ʻana i ke kumu hoʻohālike LLM.
  9. incident_investigation(): E hoʻolālā i ka hoʻonā hoʻokolokolo hanana.
  10. torch.save(model.state_dict(), 'model.pth'): E mālama i ke kŘkohu LLM.

Hōʻikeʻike

Eia kahi hiʻohiʻona o ka hoʻonā hoʻokolokolo ʻokoʻa me ka hoʻohana ʻana iā Chart.js:

{
  "type": "pā",
  "ʻikepili": {
    "labels": ["Hōʻimi Manual", "Hōʻimi Aunoa"],
    "mau ʻikepili": [
      {
        "label": "Ka manawa e hoʻoholo ai",
        "ʻikepili": [10, 2],
        "backgroundColor": ["rgba(255, 99, 132, 0.2)", "rgba(54, 162, 235, 0.2)"],
        "BorderColor": ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "BorderWidth": 1
      }
    ]
  },
  "koho": {
    "poʻo inoa": {
      "hōʻike": ʻoiaʻiʻo,
      "text": "Ka manawa e hoʻoholo ai i nā hanana"
    },
    "nā unahi": {
      "yAxes": [
        {
          "kuʻi": {
            "beginAtZero": ʻoiaʻiʻo
          }
        }
      ]
    }
  }
}

Hoʻohālikelike kēia hiʻohiʻona i ka manawa e hoʻoholo ai i nā hanana me ka hoʻohana ʻana i nā ʻano noiʻi manual me nā ʻano noiʻi automated me ka hoʻohana ʻana i nā mea hana DevOps a me LLM.

Hoʻoholo

ʻO ka hoʻokō ʻana i ka hoʻokolokolo hanana automated me nā ʻelele DevOps a me nā LLM hiki ke hoʻomaikaʻi nui i ka pono a me ka pono o ka hoʻonā hanana. Ma ka hoʻohui ʻana i nā ʻelele DevOps me nā LLM, hiki i nā hui ke hoʻokaʻawale i ka nānā ʻana o nā lāʻau, hāʻawi i nā manaʻo ʻike pili i ka pōʻaiapili no ka hoʻonā hanana, a hoʻemi i ka manawa e hoʻoponopono ai i nā hanana. Ua ʻimi mākou i ka intersection o DevOps automation, AI-powered incident investigation, a me ke kuleana o LLM i ka hoʻonui ʻana i nā mea hana DevOps e like me AWS DevOps Agent a me Copado Agentia. Ma ka hahai ʻana i ka ʻanuʻu i hōʻike ʻia ma kēia ʻatikala, hiki i nā hui ke kau i kahi hoʻonā hoʻokolokolo hoʻokolohua scalable, hilinaʻi, a paʻa.

Have Questions?

Let's Talk

Contact me on LinkedIn