LLM моделин жана токенизаторду жүктөңүз | B4N1

LLM моделин жана токенизаторду жүктөңүз

3 months ago · b4n1 Read time: 4 min

** DevOps агенттери жана LLMлер менен автоматташтырылган инциденттерди иликтөөнү ишке ашыруу**

Танышуу

Бүгүнкү санариптик ландшафттын тез темпинде DevOps командалары барган сайын татаал көйгөйгө туш болушат: инциденттерди мүмкүн болушунча тезирээк аныктоо жана чечүү. Кол менен иликтөө ыкмалары көп убакытты талап кылат жана адам катасына дуушар болушу мүмкүн, бул узакка токтоп калууга жана кардарлардын канааттануусунун төмөндөшүнө алып келет. Бул көйгөйдү чечүү үчүн биз DevOps автоматташтырылышынын кесилишин, AI менен иштеген инциденттерди иликтөөнү жана AWS DevOps Agent жана Copado Agentia сыяктуу DevOps куралдарын өркүндөтүүдөгү Чоң тил моделдеринин (LLMs) ролун изилдеп жатабыз.

** Окуяны иликтөөнүн учурдагы абалы**

Окуяларды иликтөө - DevOps программасынын маанилүү аспектиси, программалык камсыздоо тутумдарына таасир этүүчү маселелерди аныктоону, талдоону жана чечүүнү камтыйт. Салттуу ыкмалар журналды талдоо, каталарды көзөмөлдөө жана кызыкдар тараптар менен байланыш сыяктуу кол процесстерине таянат. Бул ыкмалар натыйжалуу болгону менен, алар жай жана каталарга жакын болушу мүмкүн, натыйжада:

  1. Токтоо убактысынын көбөйүшү: Кол менен иликтөө ыкмалары инцидентти чечүүнү кечеңдетиши мүмкүн, натыйжада узакка токтоп калуу жана кардарлардын канааттануусу төмөндөйт.
  2. Адамдын катасы: Кол менен жасалган процесстер адамдын катасына дуушар болуп, туура эмес диагноз коюуга жана инциденттерди чечүүгө алып келиши мүмкүн.
  3. Өлчөмдүүлүк маселелери: Системалардын көлөмү жана татаалдыгы өскөн сайын, кол менен изилдөө ыкмаларын масштабдоо барган сайын кыйындай баштайт.

Инциденттерди иликтөөдө DevOps агенттеринин ролу

AWS DevOps Agent жана Copado Agentia сыяктуу DevOps агенттери инциденттерди иликтөөнү автоматташтырууда чечүүчү ролду ойношот. Бул агенттер:

  1. Жыйноо жана журналдарды талдоо: DevOps агенттери ар кандай булактардан журналдарды чогултуп, талдап, окуянын себептери боюнча баалуу түшүнүктөрдү камсыздай алышат.
  2. Катага көз салууну автоматташтыруу: Агенттер каталарды көзөмөлдөөнү автоматташтыра алат, бул кол менен иликтөө үчүн талап кылынган убакытты жана күчтү азайтат.
  3. Байланышты өркүндөтүңүз: Агенттер командалар, кызыкдар тараптар жана системалар ортосундагы байланышты жеңилдетип, инцидент тууралуу маалыматтын натыйжалуу бөлүштүрүлүшүн камсыздай алат.

Инциденттерди иликтөөдө LLMдердин ролу

Чоң тил моделдери (LLMs) табигый тилди иштетүү (NLP) тармагында революция кылып, машиналарга адамга окшош текстти түшүнүүгө жана түзүүгө мүмкүндүк берди. Окуяны иликтөөнүн контекстинде LLMs төмөнкүлөрдү жасай алат:

  1. Инцидент отчетторун талдоо: LLMлер инцидент тууралуу отчетторду талдап, инциденттин негизги себебин көрсөтүүчү негизги маалыматты жана үлгүлөрдү аныктай алышат.
  2. Окуялардын корутундусун түзүңүз: LLMлер инциденттер жөнүндө отчеттордун кыскача корутундусун түзө алат, бул байланышты жана чечим кабыл алууну жеңилдетет.
  3. Контексттен кабардар болгон сунуштарды бериңиз: LLMs конкреттүү системаны, айлана-чөйрөнү жана тартылган кызыкдар тараптарды эске алуу менен инциденттерди чечүү үчүн контекстти эске алган сунуштарды бере алат.

** DevOps агенттери жана LLMлер менен автоматташтырылган инциденттерди иликтөөнү ишке ашыруу**

DevOps агенттери жана LLMлер менен инциденттерди автоматташтырылган иликтөөнү ишке ашыруу үчүн биз кадам-кадам ыкманы колдонобуз:

  1. DevOps агенттерин интеграциялаңыз: AWS DevOps Agent жана Copado Agentia сыяктуу DevOps агенттерин инциденттерди башкаруу тутумуңуз менен интеграциялаңыз.
  2. Жыйноо жана журналдарды талдоо: Окуянын себептери боюнча баалуу түшүнүктөрдү берүү менен, ар кандай булактардан журналдарды чогултуу жана талдоо үчүн DevOps агенттерин конфигурациялаңыз.
  3. LLM моделин үйрөтүү: LLM моделин инциденттер жөнүндө отчеттордун, журналдардын жана башка тиешелүү маалыматтардын маалымат топтому боюнча үйрөтүңүз.
  4. LLMди DevOps агенттери менен интеграциялоо: LLM моделин DevOps агенттери менен интеграциялоо, LLMге инциденттер жөнүндө отчетторду талдоо жана инциденттерди чечүү боюнча сунуштарды берүү.
  5. Чечимди жайылтыңыз: Инциденттерди иликтөөнүн автоматташтырылган чечимин жайылтыңыз, анын масштабдуу, ишенимдүү жана коопсуз болушуна кепилдик бериңиз.

Мисалы код: LLMди DevOps агенттери менен интеграциялоо

Бул жерде LLM моделин DevOps агенти менен кантип интеграциялоону көрсөткөн Python тилиндеги мисал код үзүндүсү:

импорттук журнал
трансформаторлордон AutoModelForSequenceClassification, AutoTokenizer импорттоо
aws_devops_agent импорт агентинен


model = AutoModelForSequenceClassification.from_pretrained("distilbert-base-uncased")
tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased")

# DevOps агентин инициализациялоо
агент = Агент()

# LLM моделин колдонуу менен окуя отчетторун талдоо үчүн функцияны аныктоо
def анализ_окуя_отчет (отчет):
    # Окуя тууралуу отчетту алдын ала иштеп чыгуу
    inputs = tokenizer.encode_plus(отчет, 
                                    add_special_tokens=Туура, 
                                    max_length=512, 
                                    return_attention_mask=Туура, 
                                    return_tensors = 'pt')
    
    # LLM моделин колдонуу менен окуянын отчетун талдоо
    жыйынтыктар = модель(киргизүүлөр['input_ids'], diqqət_mask=киргизүүлөр['көңүл_маск'])
    
    # Болжолдонгон класс белгисин чыгарып алыңыз
    болжолдонгон_класс = torch.argmax(outputs.logits)
    
    болжолдонгон_классты кайтаруу

# Окуяны чечүү боюнча сунуштарды берүү функциясын аныктаңыз
def камсыз кылуу_сунуштары(болжолдонгон_класс):
    # Окуяны чечүү боюнча сунуштарды берүү үчүн болжолдонгон класс белгисин колдонуңуз
    эгерде болжолдонгон_класс == 0:
        кайтаруу "Тутум журналдарын каталар үчүн текшерүү"
    elif tahmin_class == 1:
        кайтаруу "Тармак байланышын текшерүү"
    башка:
        кайтуу "Жардам алуу үчүн өнүктүрүү тобуна кайрылыңыз"

# LLM моделин DevOps агенти менен интеграциялаңыз
def insident_investigation():
    # DevOps агентинен журналдарды чогултуп, талдаңыз
    logs = agent.get_logs()
    
    # LLM моделин колдонуу менен журналдарды талдоо
    болжолдонгон_класс = анализ_окуя_отчет (логдор)
    
    # Окуяны чечүү боюнча сунуштарды бериңиз
    сунуштар = камсыз кылуу_сунуштар (болжолдонгон_класс)
    
    сунуштарды кайтаруу

# Окуяны иликтөө боюнча чечимди колдонуңуз
insident_investigation()

Эң көп колдонулган 5-10 буйруктар/үзүндүлөр

Бул жерде бул технология үчүн эң көп колдонулган 5-10 буйруктар/үзүндүлөр:

  1. aws devops agent get-logs: DevOps агентинен журналдарды чогултуңуз.
  2. transformers.AutoModelForSequenceClassification.from_pretrained(): LLM моделин жүктөө.
  3. tokenizer.encode_plus(): Окуя тууралуу отчетту алдын ала иштетиңиз.
  4. model(inputs['input_ids'], focus_mask=inputs['attention_mask']): LLM моделин колдонуу менен окуянын отчетун талдоо.
  5. torch.argmax(outputs.logits): Болжолдонгон класс белгисин чыгарыңыз.
  6. сунуштарды_камсыз кылуу(болжолдонгон_класс): Окуяны чечүү боюнча сунуштарды бериңиз.
  7. agent.get_logs(): DevOps агентинен журналдарды чогултуңуз.
  8. analyze_incident_report(report): LLM моделин колдонуу менен окуянын отчетун талдоо.
  9. incident_investigation(): Окуяны иликтөө боюнча чечимди колдонуңуз.
  10. torch.save(model.state_dict(), 'model.pth'): LLM моделин сактаңыз.

Визуализация

Бул жерде Chart.js аркылуу инциденттерди иликтөөнүн автоматташтырылган чечиминин визуализациясы келтирилген:

{
  "type": "бар",
  "маалымат": {
    "labels": ["Кол менен иликтөө", "Автоматташтырылган иликтөө"],
    "маалымат топтомдору": [
      {
        "label": "Чечүү убактысы",
        "data": [10, 2],
        "backgroundColor": ["rgba(255, 99, 132, 0.2)", "rgba(54, 162, 235, 0.2)"],
        "borderColor": ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "borderWidth": 1
      }
    ]
  },
  "опциялар": {
    "аталышы": {
      "дисплей": чын,
      "text": "Инциденттерди чечүүгө убакыт келди"
    },
    "тараза": {
      "yAxes": [
        {
          "кенелер": {
            "beginAtZero": чын
          }
        }
      ]
    }
  }
}

Бул визуализация инциденттерди кол менен иликтөө ыкмаларын колдонуу менен чечүү убактысын DevOps агенттерин жана LLMлерди колдонуу менен автоматташтырылган иликтөө ыкмаларын салыштырат.

Корутунду

DevOps агенттери жана LLMлер менен автоматташтырылган инциденттерди иликтөөнү ишке ашыруу инциденттерди чечүүнүн натыйжалуулугун жана натыйжалуулугун бир топ жакшыртат. DevOps агенттерин LLM менен интеграциялоо менен уюмдар журналдардын анализин автоматташтыра алат, инциденттерди чечүү үчүн контекстти эске алган сунуштарды бере алат жана инциденттерди чечүү үчүн убакытты кыскарта алат. Биз DevOps автоматташтырылышынын кесилишин, AI менен иштеген инциденттерди иликтөөнү жана AWS DevOps Agent жана Copado Agentia сыяктуу DevOps куралдарын өркүндөтүүдөгү LLMдердин ролун изилдедик. Бул макалада айтылган кадам-кадам ыкманы колдонуу менен, уюмдар масштабдуу, ишенимдүү жана коопсуз автоматташтырылган инциденттерди иликтөө чечимин колдоно алышат.

Have Questions?

Let's Talk

Contact me on LinkedIn