ໂຫລດຕົວແບບ LLM ແລະ tokenizer | B4N1

ໂຫລດຕົວແບບ LLM ແລະ tokenizer

3 months ago · b4n1 Read time: 2 min

ປະຕິບັດການສືບສວນເຫດການອັດຕະໂນມັດກັບຕົວແທນ DevOps ແລະ LLMs

ການ​ນໍາ​ສະ​ເຫນີ

ໃນພູມສັນຖານດິຈິຕອລທີ່ເລັ່ງດ່ວນຂອງມື້ນີ້, ທີມງານ DevOps ປະເຊີນກັບສິ່ງທ້າທາຍທີ່ສັບສົນຫຼາຍຂຶ້ນ: ການກໍານົດແລະການແກ້ໄຂເຫດການໄວເທົ່າທີ່ຈະໄວໄດ້. ວິທີການສືບສວນຄູ່ມືສາມາດໃຊ້ເວລາຫຼາຍແລະມີຄວາມສ່ຽງຕໍ່ຄວາມຜິດພາດຂອງມະນຸດ, ນໍາໄປສູ່ການຊັກຊ້າທີ່ຍາວນານແລະຄວາມພໍໃຈຂອງລູກຄ້າຫຼຸດລົງ. ເພື່ອແກ້ໄຂບັນຫານີ້, ພວກເຮົາກໍາລັງຄົ້ນຫາຈຸດຕັດກັນຂອງ DevOps ອັດຕະໂນມັດ, ການສືບສວນເຫດການທີ່ໃຊ້ AI, ແລະບົດບາດຂອງຕົວແບບພາສາຂະຫນາດໃຫຍ່ (LLMs) ໃນການເສີມຂະຫຍາຍເຄື່ອງມື DevOps ເຊັ່ນ AWS DevOps Agent ແລະ Copado Agentia.

ສະ​ຖາ​ນະ​ການ​ຂອງ​ການ​ສືບ​ສວນ​ໃນ​ປັດ​ຈຸ​ບັນ

ການສືບສວນເຫດການແມ່ນລັກສະນະທີ່ສໍາຄັນຂອງ DevOps, ກ່ຽວຂ້ອງກັບການກໍານົດ, ການວິເຄາະແລະການແກ້ໄຂບັນຫາທີ່ມີຜົນກະທົບຕໍ່ລະບົບຊອບແວ. ວິທີການແບບດັ້ງເດີມແມ່ນອີງໃສ່ຂະບວນການຄູ່ມື, ເຊັ່ນ: ການວິເຄາະບັນທຶກ, ການຕິດຕາມຄວາມຜິດພາດ, ແລະການສື່ສານກັບຜູ້ມີສ່ວນຮ່ວມ. ໃນຂະນະທີ່ວິທີການເຫຼົ່ານີ້ແມ່ນມີປະສິດຕິຜົນ, ພວກເຂົາສາມາດຊ້າແລະມີຄວາມສ່ຽງຕໍ່ຄວາມຜິດພາດ, ນໍາໄປສູ່:

  1. ເວລາຢຸດເຮັດວຽກທີ່ເພີ່ມຂຶ້ນ: ວິທີການສືບສວນດ້ວຍມືສາມາດຊັກຊ້າການແກ້ໄຂເຫດການ, ສົ່ງຜົນໃຫ້ເວລາຢຸດເຮັດວຽກຍາວນານ ແລະຄວາມພໍໃຈຂອງລູກຄ້າຫຼຸດລົງ.
  2. ** ຄວາມຜິດພາດຂອງມະນຸດ **: ຂະບວນການຄູ່ມືແມ່ນມີຄວາມອ່ອນໄຫວຕໍ່ກັບຄວາມຜິດພາດຂອງມະນຸດ, ເຊິ່ງສາມາດນໍາໄປສູ່ການວິນິດໄສທີ່ບໍ່ຖືກຕ້ອງແລະການແກ້ໄຂເຫດການ.
  3. ບັນຫາການປັບຂະ ໜາດ: ເມື່ອຂະໜາດ ແລະ ຄວາມຊັບຊ້ອນຂອງລະບົບເຕີບໃຫຍ່ຂຶ້ນ, ວິທີການສືບສວນດ້ວຍມືກາຍເປັນເລື່ອງຍາກໃນການຂະຫຍາຍຂະໜາດ.

ບົດບາດຂອງຕົວແທນ DevOps ໃນການສືບສວນເຫດການ

ຕົວແທນ DevOps, ເຊັ່ນ AWS DevOps Agent ແລະ Copado Agentia, ມີບົດບາດສໍາຄັນໃນການສືບສວນເຫດການອັດຕະໂນມັດ. ຕົວແທນເຫຼົ່ານີ້ສາມາດ:

  1. ເກັບ​ກຳ​ແລະ​ວິ​ເຄາະ​ບັນ​ທຶກ: ຕົວ​ແທນ DevOps ສາ​ມາດ​ເກັບ​ກຳ​ແລະ​ວິ​ເຄາະ​ບັນ​ທຶກ​ຈາກ​ແຫຼ່ງ​ຂໍ້​ມູນ​ຕ່າງໆ, ໂດຍ​ໃຫ້​ຂໍ້​ມູນ​ທີ່​ມີ​ຄ່າ​ກ່ຽວ​ກັບ​ເຫດ​ການ.
  2. ການຕິດຕາມຄວາມຜິດພາດອັດຕະໂນມັດ: ຕົວແທນສາມາດອັດຕະໂນມັດການຕິດຕາມຄວາມຜິດພາດ, ຫຼຸດຜ່ອນເວລາ ແລະຄວາມພະຍາຍາມທີ່ຕ້ອງການສໍາລັບການສືບສວນຄູ່ມື.
  3. ເສີມຂະຫຍາຍການສື່ສານ: ຕົວແທນສາມາດອຳນວຍຄວາມສະດວກໃນການສື່ສານລະຫວ່າງທີມງານ, ພາກສ່ວນກ່ຽວຂ້ອງ, ແລະ ລະບົບ, ຮັບປະກັນວ່າຂໍ້ມູນເຫດການຈະຖືກແບ່ງປັນຢ່າງມີປະສິດທິພາບ.

ບົດບາດຂອງ LLMs ໃນການສືບສວນເຫດການ

ຮູບແບບພາສາຂະຫນາດໃຫຍ່ (LLMs) ໄດ້ປະຕິວັດພາກສະຫນາມຂອງການປຸງແຕ່ງພາສາທໍາມະຊາດ (NLP), ເຮັດໃຫ້ເຄື່ອງຈັກສາມາດເຂົ້າໃຈແລະສ້າງຂໍ້ຄວາມທີ່ຄ້າຍຄືກັບມະນຸດ. ໃນສະພາບການຂອງການສືບສວນເຫດການ, LLMs ສາມາດ:

  1. ວິເຄາະລາຍງານເຫດການ: LLMs ສາມາດວິເຄາະລາຍງານເຫດການ, ການລະບຸຂໍ້ມູນຫຼັກ ແລະຮູບແບບທີ່ອາດຈະຊີ້ບອກສາເຫດຂອງເຫດການ.
  2. ສ້າງບົດສະຫຼຸບເຫດການ: LLMs ສາມາດສ້າງບົດສະຫຼຸບຫຍໍ້ຂອງບົດລາຍງານເຫດການ, ອໍານວຍຄວາມສະດວກໃນການສື່ສານ ແລະການຕັດສິນໃຈ.
  3. ໃຫ້ຄຳແນະນຳທີ່ຮັບຮູ້ບໍລິບົດ: LLMs ສາມາດໃຫ້ຄຳແນະນຳກ່ຽວກັບສະພາບການເພື່ອແກ້ໄຂເຫດການ, ໂດຍຄຳນຶງເຖິງລະບົບສະເພາະ, ສະພາບແວດລ້ອມ ແລະ ພາກສ່ວນທີ່ກ່ຽວຂ້ອງ.

ປະຕິບັດການສືບສວນເຫດການອັດຕະໂນມັດກັບຕົວແທນ DevOps ແລະ LLMs

ເພື່ອປະຕິບັດການສືບສວນເຫດການອັດຕະໂນມັດກັບຕົວແທນ DevOps ແລະ LLMs, ພວກເຮົາຈະປະຕິບັດຕາມຂັ້ນຕອນໂດຍຂັ້ນຕອນ:

  1. ລວມຕົວແທນ DevOps: ປະສົມປະສານຕົວແທນ DevOps ເຊັ່ນ: AWS DevOps Agent ແລະ Copado Agentia, ກັບລະບົບການຈັດການເຫດການຂອງທ່ານ.
  2. ເກັບກຳ ແລະວິເຄາະບັນທຶກ: ກຳນົດຄ່າຕົວແທນ DevOps ເພື່ອເກັບກຳ ແລະວິເຄາະບັນທຶກຈາກແຫຼ່ງຕ່າງໆ, ສະໜອງຄວາມເຂົ້າໃຈອັນລ້ຳຄ່າກ່ຽວກັບສາເຫດຂອງເຫດການ.
  3. Train an LLM model: ຝຶກອົບຮົມແບບ LLM ໃນຊຸດຂໍ້ມູນຂອງບົດລາຍງານເຫດການ, ບັນທຶກ, ແລະຂໍ້ມູນທີ່ກ່ຽວຂ້ອງອື່ນໆ.
  4. ລວມ LLM ກັບຕົວແທນ DevOps: ລວມຕົວແບບ LLM ກັບຕົວແທນ DevOps, ເຮັດໃຫ້ LLM ສາມາດວິເຄາະລາຍງານເຫດການ ແລະໃຫ້ຄຳແນະນຳໃນການແກ້ໄຂບັນຫາເຫດການ.
  5. ນຳໃຊ້ວິທີແກ້ໄຂ: ນຳໃຊ້ການແກ້ໄຂການສືບສວນເຫດການອັດຕະໂນມັດ, ຮັບປະກັນວ່າມັນສາມາດຂະຫຍາຍໄດ້, ເຊື່ອຖືໄດ້, ແລະປອດໄພ.

** ລະຫັດຕົວຢ່າງ: ການເຊື່ອມໂຍງ LLM ກັບຕົວແທນ DevOps**

ນີ້ແມ່ນຕົວຢ່າງລະຫັດຕົວຢ່າງໃນ Python, ສະແດງໃຫ້ເຫັນວິທີການລວມຕົວແບບ LLM ກັບຕົວແທນ DevOps: `` python ການຕັດໄມ້ນໍາເຂົ້າ ຈາກ transformers ນໍາເຂົ້າ AutoModelForSequenceClassification, AutoTokenizer ຈາກ aws_devops_agent ຕົວແທນນໍາເຂົ້າ

model = AutoModelForSequenceClassification.from_pretrained("distilbert-base-uncased") tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased")

ເລີ່ມຕົ້ນຕົວແທນ DevOps

ຕົວແທນ=ຕົວແທນ()

ກໍານົດຟັງຊັນເພື່ອວິເຄາະລາຍງານເຫດການໂດຍໃຊ້ຕົວແບບ LLM

def analysis_incident_report(ລາຍງານ): # ລາຍງານເຫດການລ່ວງໜ້າ inputs = tokenizer.encode_plus(ລາຍງານ, add_special_tokens=ຖືກຕ້ອງ, max_length=512, return_attention_mask=ຄວາມຈິງ, return_tensors='pt')

# ວິເຄາະລາຍງານເຫດການໂດຍໃຊ້ຕົວແບບ LLM
outputs = model(inputs['input_ids'], attention_mask=inputs['attention_mask'])

# ສະກັດປ້າຍຊັ້ນທີ່ຄາດຄະເນ
predicted_class = torch.argmax(outputs.logits)

ກັບຄືນ predicted_class

ກໍານົດຫນ້າທີ່ໃຫ້ຄໍາແນະນໍາສໍາລັບການແກ້ໄຂບັນຫາເຫດການ

def provide_suggestions(predicted_class): # ໃຊ້ປ້າຍກຳກັບຊັ້ນຮຽນທີ່ຄາດຄະເນໄວ້ເພື່ອໃຫ້ຄຳແນະນຳໃນການແກ້ໄຂບັນຫາເຫດການ ຖ້າຄາດຄະເນ == 0: ກັບຄືນ "ກວດເບິ່ງບັນທຶກລະບົບສໍາລັບຄວາມຜິດພາດ" elif predicted_class == 1: ກັບຄືນ "ກວດສອບການເຊື່ອມຕໍ່ເຄືອຂ່າຍ" ອື່ນ: ກັບຄືນ "ຕິດຕໍ່ທີມງານພັດທະນາເພື່ອການຊ່ວຍເຫຼືອ"

ລວມຕົວແບບ LLM ກັບຕົວແທນ DevOps

def events_investigation(): # ລວບລວມແລະວິເຄາະບັນທຶກຈາກຕົວແທນ DevOps ບັນທຶກ = agent.get_logs()

# ວິເຄາະບັນທຶກໂດຍໃຊ້ຕົວແບບ LLM
predicted_class = ການວິເຄາະ_incident_report(ບັນທຶກ)

# ໃຫ້ຄໍາແນະນໍາສໍາລັບການແກ້ໄຂບັນຫາເຫດການ
ຄຳແນະນຳ = provide_suggestions(predicted_class)

ກັບຄືນຄໍາແນະນໍາ

ປະຕິບັດການແກ້ໄຂການສືບສວນເຫດການ

ການສືບສວນເຫດການ ()

** 5-10 ຄໍາສັ່ງທີ່ໃຊ້ຫຼາຍທີ່ສຸດ / ສະນິບເພັດ **

ນີ້ແມ່ນ 5-10 ຄໍາສັ່ງທີ່ໃຊ້ຫຼາຍທີ່ສຸດ / snippets ສໍາລັບເຕັກໂນໂລຢີນີ້:

1. `aws devops agent get-logs`: ເກັບກຳບັນທຶກຈາກຕົວແທນ DevOps.
2. `transformers.AutoModelForSequenceClassification.from_pretrained()`: ໂຫຼດຕົວແບບ LLM.
3. `tokenizer.encode_plus()`: ປະມວນຜົນລາຍງານເຫດການກ່ອນ.
4. `model(inputs['input_ids'], attention_mask=inputs['attention_mask'])`: ວິເຄາະລາຍງານເຫດການໂດຍໃຊ້ຕົວແບບ LLM.
5. `torch.argmax(outputs.logits)`: ສະກັດປ້າຍກຳກັບທີ່ຄາດຄະເນໄວ້.
6. `provide_suggestions(predicted_class)`: ໃຫ້ຄຳແນະນຳສຳລັບການແກ້ໄຂບັນຫາເຫດການ.
7. `agent.get_logs()`: ເກັບກຳບັນທຶກຈາກຕົວແທນ DevOps.
8. `analyze_incident_report(ລາຍງານ)`: ວິເຄາະລາຍງານເຫດການໂດຍໃຊ້ຕົວແບບ LLM.
9. `incident_investigation()`: ນຳໃຊ້ການແກ້ໄຂການສືບສວນເຫດການ.
10. `torch.save(model.state_dict(), 'model.pth')`: ບັນທຶກຮູບແບບ LLM.

** ການສະແດງພາບ **

ນີ້ແມ່ນການສະແດງພາບຂອງການແກ້ໄຂການສືບສວນເຫດການອັດຕະໂນມັດໂດຍໃຊ້ Chart.js:
```json
{
  "type": "ແຖບ",
  "ຂໍ້ມູນ": {
    "labels": ["ການສືບສວນດ້ວຍມື", "ການສືບສວນອັດຕະໂນມັດ"],
    "ຊຸດຂໍ້ມູນ": [
      {
        "label": "ເວລາທີ່ຈະແກ້ໄຂ",
        "ຂໍ້ມູນ": [10, 2],
        "backgroundColor": ["rgba(255, 99, 132, 0.2)", "rgba(54, 162, 235, 0.2)"],
        "borderColor": ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "ຄວາມກວ້າງຊາຍແດນ": 1
      }
    ]
  },
  "ທາງເລືອກ": {
    "ຫົວຂໍ້": {
      "ສະແດງ": ຄວາມຈິງ,
      "text": "ເວລາທີ່ຈະແກ້ໄຂເຫດການ"
    },
    "ເກັດ": {
      "yAxes": [
        {
          "ຫມາຍຕິກ": {
            "beginAtZero": ແທ້
          }
        }
      ]
    }
  }
}

ການເບິ່ງເຫັນພາບນີ້ປຽບທຽບເວລາໃນການແກ້ໄຂເຫດການໂດຍໃຊ້ວິທີການສືບສວນດ້ວຍຕົນເອງທຽບກັບວິທີການສືບສວນອັດຕະໂນມັດໂດຍໃຊ້ຕົວແທນ DevOps ແລະ LLMs.

** ສະ​ຫຼຸບ **

ການປະຕິບັດການສືບສວນເຫດການອັດຕະໂນມັດກັບຕົວແທນ DevOps ແລະ LLMs ສາມາດປັບປຸງປະສິດທິພາບແລະປະສິດທິຜົນຂອງການແກ້ໄຂເຫດການຢ່າງຫຼວງຫຼາຍ. ໂດຍການເຊື່ອມໂຍງຕົວແທນ DevOps ກັບ LLMs, ອົງການຈັດຕັ້ງສາມາດອັດຕະໂນມັດການວິເຄາະບັນທຶກ, ສະຫນອງຂໍ້ສະເຫນີແນະກ່ຽວກັບສະພາບການສໍາລັບການແກ້ໄຂບັນຫາເຫດການ, ແລະຫຼຸດຜ່ອນເວລາໃນການແກ້ໄຂເຫດການ. ພວກເຮົາໄດ້ຄົ້ນຫາຈຸດຕັດກັນຂອງລະບົບອັດຕະໂນມັດ DevOps, ການສືບສວນເຫດການທີ່ຂັບເຄື່ອນດ້ວຍ AI, ແລະບົດບາດຂອງ LLMs ໃນການເສີມຂະຫຍາຍເຄື່ອງມື DevOps ເຊັ່ນ AWS DevOps Agent ແລະ Copado Agentia. ໂດຍປະຕິບັດຕາມຂັ້ນຕອນໂດຍຂັ້ນຕອນທີ່ໄດ້ລະບຸໄວ້ໃນບົດຄວາມນີ້, ອົງການຈັດຕັ້ງສາມາດປະຕິບັດການແກ້ໄຂການສືບສວນເຫດການອັດຕະໂນມັດທີ່ສາມາດຂະຫຍາຍໄດ້, ເຊື່ອຖືໄດ້, ແລະປອດໄພ.


Have Questions?

Let's Talk

Contact me on LinkedIn