LLM modelini va tokenizerni yuklang | B4N1

LLM modelini va tokenizerni yuklang

6 months ago · b4n1 Read time: 5 min

DevOps agentlari va LLMlar bilan avtomatik hodisalarni tekshirishni amalga oshirish

Kirish

Bugungi tezkor raqamli landshaftda DevOps jamoalari tobora murakkab muammoga duch kelishmoqda: hodisalarni imkon qadar tezroq aniqlash va hal qilish. Qo'lda tekshirish usullari ko'p vaqt talab qilishi va inson xatosiga moyil bo'lishi mumkin, bu esa uzoq vaqt ishlamay qolishiga va mijozlar ehtiyojini qondirishning pasayishiga olib keladi. Ushbu muammoni hal qilish uchun biz DevOps avtomatizatsiyasi, sun'iy intellektga asoslangan hodisalarni tekshirish va AWS DevOps Agent va Copado Agentia kabi DevOps vositalarini takomillashtirishda Katta til modellarining (LLM) rolini o'rganmoqdamiz.

Hodisa tergovining hozirgi holati

Voqealarni tekshirish DevOps-ning muhim jihati bo'lib, dasturiy ta'minot tizimlariga ta'sir qiluvchi muammolarni aniqlash, tahlil qilish va hal qilishni o'z ichiga oladi. An'anaviy usullar jurnallarni tahlil qilish, xatolarni kuzatish va manfaatdor tomonlar bilan aloqa qilish kabi qo'lda jarayonlarga tayanadi. Ushbu usullar samarali bo'lsa-da, ular sekin va xatolarga moyil bo'lishi mumkin, bu quyidagilarga olib keladi:

  1. To‘xtab qolish vaqtini oshirish: Qo‘lda tekshirish usullari hodisani hal qilishni kechiktirishi mumkin, natijada uzilishlar uzoq davom etadi va mijozlar qoniqishini kamaytiradi.
  2. Inson xatosi: Qo'lda bajariladigan jarayonlar inson xatosiga moyil bo'lib, bu noto'g'ri tashxis qo'yish va hodisalarni hal qilishga olib kelishi mumkin.
  3. Mashq qilish muammolari: Tizimlarning hajmi va murakkabligi oshgani sayin, qo'lda tekshirish usullarini masshtablash tobora qiyinlashib bormoqda.

DevOps agentlarining hodisalarni tekshirishdagi roli

AWS DevOps Agent va Copado Agentia kabi DevOps agentlari hodisalarni tekshirishni avtomatlashtirishda hal qiluvchi rol o'ynaydi. Ushbu agentlar:

  1. Jurnallarni to‘plash va tahlil qilish: DevOps agentlari turli manbalardan jurnallarni to‘plashi va tahlil qilishi, voqea sabablari haqida qimmatli tushunchalar berishi mumkin.
  2. Xatolarni kuzatishni avtomatlashtirish: Agentlar xatolarni kuzatishni avtomatlashtirishi mumkin, bu esa qo‘lda tekshirish uchun zarur bo‘lgan vaqt va harakatni kamaytiradi.
  3. Muloqotni yaxshilash: Agentlar jamoalar, manfaatdor tomonlar va tizimlar o‘rtasidagi aloqani osonlashtirib, voqea ma’lumotlarini samarali almashishini ta’minlashi mumkin.

** Voqealarni tekshirishda LLMlarning roli**

Katta til modellari (LLM) tabiiy tilni qayta ishlash (NLP) sohasida inqilob qildi, bu esa mashinalarga insonga o'xshash matnni tushunish va yaratish imkonini berdi. Voqealarni tekshirish kontekstida LLMlar:

  1. Hodisa hisobotlarini tahlil qilish: LLMlar hodisaning asosiy sababini ko'rsatishi mumkin bo'lgan asosiy ma'lumotlar va naqshlarni aniqlagan holda voqea hisobotlarini tahlil qilishi mumkin.
  2. Vodisalar haqida xulosalar yaratish: LLMlar voqea haqida hisobotlarning qisqacha xulosalarini yaratishi mumkin, bu aloqa va qaror qabul qilishni osonlashtiradi.
  3. Kontekstdan xabardor takliflarni taqdim eting: LLMlar muayyan tizim, atrof-muhit va jalb qilingan manfaatdor tomonlarni hisobga olgan holda hodisani hal qilish uchun kontekstdan xabardor takliflarni taqdim etishi mumkin.

DevOps agentlari va LLMlar bilan avtomatik hodisalarni tekshirishni amalga oshirish

DevOps agentlari va LLMlar bilan hodisalarni avtomatlashtirilgan tekshirishni amalga oshirish uchun biz bosqichma-bosqich yondashuvga amal qilamiz:

  1. DevOps agentlarini integratsiyalash: AWS DevOps Agent va Copado Agentia kabi DevOps agentlarini hodisalarni boshqarish tizimi bilan integratsiyalash.
  2. Jurnallarni to‘plash va tahlil qilish: DevOps agentlarini turli manbalardan jurnallarni yig‘ish va tahlil qilish uchun sozlang, voqea sabablari haqida qimmatli ma’lumotlarni taqdim eting.
  3. LLM modelini o‘rgating: LLM modelini hodisa hisobotlari, jurnallar va boshqa tegishli ma’lumotlar to‘plamiga o‘rgating.
  4. LLMni DevOps agentlari bilan integratsiyalash: LLM modelini DevOps agentlari bilan integratsiyalash, LLMga voqea hisobotlarini tahlil qilish va hodisalarni hal qilish bo‘yicha takliflar berish imkonini beradi.
  5. Yechimni qo‘llash: Avtomatlashtirilgan hodisalarni tekshirish yechimini o‘rnating, uning kengaytirilishi mumkin, ishonchli va xavfsiz ekanligiga ishonch hosil qiling.

Misol kod: LLMni DevOps agentlari bilan integratsiyalash

LLM modelini DevOps agenti bilan qanday integratsiya qilishni ko'rsatuvchi Python-da misol kod parchasi:

import jurnali
transformatorlardan AutoModelForSequenceClassification, AutoTokenizer import qilinadi
aws_devops_agent import agentidan


model = AutoModelForSequenceClassification.from_pretrained("distilbert-base-uncased")
tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased")

# DevOps agentini ishga tushiring
agent = Agent()

# LLM modelidan foydalangan holda voqea hisobotlarini tahlil qilish funktsiyasini belgilang
def tahlili_hodisa_hisoboti (hisobot):
    # Voqea haqida hisobotni oldindan ishlab chiqish
    kirishlar = tokenizer.encode_plus (hisobot, 
                                    add_special_tokens=To'g'ri, 
                                    maksimal_uzunlik=512, 
                                    return_attention_mask=To'g'ri, 
                                    return_tensors = 'pt')
    
    # LLM modelidan foydalangan holda voqea hisobotini tahlil qiling
    chiqishlar = model(kirishlar['input_ids'], diqqat_mask=kirishlar['diqqat_mask'])
    
    # Bashorat qilingan sinf yorlig'ini chiqarib oling
    bashorat qilingan_sinf = torch.argmax (outputs.logits)
    
    bashorat qilingan_sinfni qaytaring

# Voqealarni hal qilish bo'yicha takliflar berish funksiyasini belgilang
def ta'minlovchi_suggestions(baxsh qilingan_sinf):
    # Voqealarni hal qilish bo'yicha takliflar berish uchun taxmin qilingan sinf yorlig'idan foydalaning
    agar bashorat qilingan_sinf == 0:
        Qaytish "Tizim jurnallarida xatolar mavjudligini tekshirish"
    elif taxmin qilingan_sinf == 1:
        Qaytish "Tarmoq ulanishini tekshirish"
    boshqa:
        qaytish "Yordam uchun ishlab chiqish guruhi bilan bog'laning"

# LLM modelini DevOps agenti bilan integratsiyalash
def insident_investigation():
    # DevOps agentidan jurnallarni to'plang va tahlil qiling
    jurnallar = agent.get_logs()
    
    # LLM modeli yordamida jurnallarni tahlil qiling
    bashorat qilingan_sinf = tahlil_hodisa_hisoboti (jurnallar)
    
    # Voqealarni hal qilish bo'yicha takliflar bering
    takliflar = taqdim_takliflar (taxmin qilingan_sinf)
    
    takliflarni qaytarish

# Voqealarni tekshirish yechimini qo'llang
insident_investigation()

Eng koʻp ishlatiladigan 5-10 ta buyruq/parchalar

Ushbu texnologiya uchun eng ko'p ishlatiladigan 5-10 ta buyruq/parchalar:

  1. aws devops agent get-logs: DevOps agentidan jurnallarni yig'ing.
  2. transformers.AutoModelForSequenceClassification.from_pretrained(): LLM modelini yuklang.
  3. tokenizer.encode_plus(): Hodisa hisobotini oldindan qayta ishlash.
  4. model(inputs['input_ids'], notice_mask=inputs['attention_mask']): LLM modeli yordamida hodisa hisobotini tahlil qiling.
  5. torch.argmax(outputs.logits): bashorat qilingan sinf yorlig'ini chiqarib oling.
  6. `suggestions(predicted_class)': Voqealarni hal qilish bo'yicha takliflar bering.
  7. agent.get_logs(): DevOps agentidan jurnallarni yig'ing.
  8. analyze_indent_report(report): LLM modelidan foydalanib voqea hisobotini tahlil qiling.
  9. incident_investigation(): Voqealarni tekshirish yechimini qo'llang.
  10. torch.save(model.state_dict(), 'model.pth'): LLM modelini saqlang.

Vizualizatsiya

Mana Chart.js yordamida hodisani tekshirishning avtomatlashtirilgan yechimining vizualizatsiyasi:

{
  "turi": "bar",
  "ma'lumotlar": {
    "labels": ["Qo'lda tekshirish", "Avtomatlashtirilgan tekshirish"],
    "ma'lumotlar to'plami": [
      {
        "label": "Hal qilish vaqti",
        "ma'lumotlar": [10, 2],
        "backgroundColor": ["rgba(255, 99, 132, 0.2)", "rgba(54, 162, 235, 0.2)"],
        "borderColor": ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "borderWidth": 1
      }
    ]
  },
  "variantlar": {
    "sarlavha": {
      "displey": rost,
      "text": "Voqealarni hal qilish vaqti"
    },
    "tarozi": {
      "yAxes": [
        {
          "tiklash": {
            "beginAtZero": rost
          }
        }
      ]
    }
  }
}

Ushbu vizualizatsiya hodisalarni qo'lda tekshirish usullari yordamida hal qilish vaqtini DevOps agentlari va LLMlar yordamida avtomatlashtirilgan tergov usullari bilan taqqoslaydi.

Xulosa

DevOps agentlari va LLMlar bilan avtomatlashtirilgan hodisalarni tekshirishni amalga oshirish hodisalarni hal qilish samaradorligi va samaradorligini sezilarli darajada oshirishi mumkin. DevOps agentlarini LLMlar bilan integratsiyalashgan holda, tashkilotlar jurnallar tahlilini avtomatlashtirishi, hodisalarni hal qilish uchun kontekstdan xabardor takliflarni taqdim etishi va hodisalarni hal qilish vaqtini qisqartirishi mumkin. Biz DevOps avtomatizatsiyasi, sun'iy intellektga asoslangan hodisalarni tekshirish va AWS DevOps Agent va Copado Agentia kabi DevOps vositalarini takomillashtirishda LLMlarning rolini o'rganib chiqdik. Ushbu maqolada tavsiflangan bosqichma-bosqich yondashuvga rioya qilgan holda, tashkilotlar kengayadigan, ishonchli va xavfsiz avtomatlashtirilgan hodisalarni tekshirish echimini o'rnatishi mumkin.

Have Questions?

Let's Talk

Contact me on LinkedIn