Учитајте ЛЛМ модел и токенизер | B4N1

Учитајте ЛЛМ модел и токенизер

6 months ago · b4n1 Read time: 4 min

Имплементација аутоматизоване истраге инцидената са ДевОпс агентима и ЛЛМ

Увод

У данашњем брзом дигиталном окружењу, ДевОпс тимови се суочавају са све сложенијим изазовом: идентификовањем и решавањем инцидената што је брже могуће. Ручне методе истраживања могу да одузимају много времена и да су подложне људској грешци, што доводи до продуженог застоја и смањеног задовољства купаца. Да бисмо решили овај проблем, истражујемо пресек ДевОпс аутоматизације, истраге инцидената заснованих на вештачкој интелигенцији и улоге великих језичких модела (ЛЛМ) у побољшању ДевОпс алата као што су АВС ДевОпс Агент и Цопадо Агентиа.

Тренутно стање истраге инцидената

Истрага инцидената је критичан аспект ДевОпс-а, који укључује идентификацију, анализу и решавање проблема који утичу на софтверске системе. Традиционалне методе се ослањају на ручне процесе, као што су анализа дневника, праћење грешака и комуникација са заинтересованим странама. Иако су ове методе ефикасне, могу бити споре и склоне грешкама, што доводи до:

  1. Повећано време застоја: Ручне методе истраге могу да одложе решавање инцидената, што резултира продуженим застојем и смањеним задовољством корисника.
  2. Људска грешка: Ручни процеси су подложни људским грешкама, што може довести до нетачне дијагнозе и решавања инцидената.
  3. Проблеми скалабилности: Како величина и сложеност система расту, ручне методе истраживања постају све теже скалирати.

Улога ДевОпс агената у истрази инцидената

ДевОпс агенти, као што су АВС ДевОпс Агент и Цопадо Агентиа, играју кључну улогу у аутоматизацији истраге инцидената. Ови агенти могу:

  1. Прикупљајте и анализирајте евиденције: ДевОпс агенти могу да прикупљају и анализирају евиденције из различитих извора, пружајући вредан увид у узроке инцидента.
  2. Аутоматско праћење грешака: Агенти могу да аутоматизују праћење грешака, смањујући време и труд који су потребни за ручну истрагу.
  3. Побољшајте комуникацију: Агенти могу олакшати комуникацију између тимова, заинтересованих страна и система, обезбеђујући да се информације о инцидентима ефикасно деле.

Улога ЛЛМ у истрази инцидената

Велики језички модели (ЛЛМ) су направили револуцију у пољу обраде природног језика (НЛП), омогућавајући машинама да разумеју и генеришу текст сличан човеку. У контексту истраге инцидента, ЛЛМ могу:

  1. Анализирајте извештаје о инцидентима: ЛЛМ могу анализирати извештаје о инцидентима, идентификујући кључне информације и обрасце који могу указивати на основни узрок инцидента.
  2. Генерисање резимеа инцидената: ЛЛМ могу генерисати сажете резимее извештаја о инцидентима, олакшавајући комуникацију и доношење одлука.
  3. Пружити сугестије које су свесне контекста: ЛЛМ могу да дају сугестије за решавање инцидената на основу контекста, узимајући у обзир специфичан систем, окружење и укључене заинтересоване стране.

Имплементација аутоматизоване истраге инцидената са ДевОпс агентима и ЛЛМ

Да бисмо применили аутоматизовану истрагу инцидената са ДевОпс агентима и ЛЛМ, следићемо корак по корак:

  1. Интегришите ДевОпс агенте: Интегришите ДевОпс агенте, као што су АВС ДевОпс Агент и Цопадо Агентиа, са својим системом за управљање инцидентима.
  2. Прикупљајте и анализирајте евиденције: Конфигуришите ДевОпс агенте да прикупљају и анализирају евиденције из различитих извора, пружајући вредан увид у узроке инцидента.
  3. Обучите ЛЛМ модел: Обучите ЛЛМ модел на скупу података извештаја о инцидентима, евиденције и других релевантних информација.
  4. Интегришите ЛЛМ са ДевОпс агентима: Интегришите ЛЛМ модел са ДевОпс агентима, омогућавајући ЛЛМ-у да анализира извештаје о инцидентима и даје предлоге за решавање инцидената.
  5. Примените решење: примените аутоматизовано решење за истрагу инцидента, обезбеђујући да је скалабилно, поуздано и безбедно.

Пример кода: Интеграција ЛЛМ са ДевОпс агентима

Ево примера исечка кода у Питхон-у, који показује како да интегришете ЛЛМ модел са ДевОпс агентом:

увоз сече
из трансформатора импорт АутоМоделФорСекуенцеЦлассифицатион, АутоТокенизер
из авс_девопс_агент импорт Агент


модел = АутоМоделФорСекуенцеЦлассифицатион.фром_претраинед("дистилберт-басе-унцасед")
токенизер = АутоТокенизер.фром_претраинед("дистилберт-басе-унцасед")

# Иницијализујте ДевОпс агента
агент = Агент()

# Дефинишите функцију за анализу извештаја о инцидентима користећи ЛЛМ модел
деф анализа_инцидент_репорт(извештај):
    # Предобрадите извештај о инциденту
    инпутс = токенизер.енцоде_плус(репорт, 
                                    адд_специал_токенс=Тачно, 
                                    мак_ленгтх=512, 
                                    ретурн_аттентион_маск=Тачно, 
                                    ретурн_тенсорс='пт')
    
    # Анализирајте извештај о инциденту користећи ЛЛМ модел
    излази = модел(уноси['инпут_идс'], маска пажње=уноси['аттентион_маск'])
    
    # Извуците предвиђену ознаку класе
    предвиђена_класа = торцх.аргмак(оутпутс.логитс)
    
    врати предвиђену_класу

# Дефинишите функцију за пружање предлога за решавање инцидената
деф провиде_суггестионс(предицтед_цласс):
    # Користите предвиђену ознаку класе да пружите предлоге за решавање инцидента
    ако је предвиђена_класа == 0:
        ретурн "Проверите системске евиденције за грешке"
    елиф предицтед_цласс == 1:
        врати "Провери мрежну повезаност"
    остало:
        врати "Контактирајте развојни тим за помоћ"

# Интегришите ЛЛМ модел са ДевОпс агентом
деф инцидент_истрага():
    # Прикупите и анализирајте евиденције од ДевОпс агента
    логс = агент.гет_логс()
    
    # Анализирајте дневнике користећи ЛЛМ модел
    предвиђена_класа = анализа_извештаја_инцидента(дневници)
    
    # Дајте предлоге за решавање инцидента
    сугестије = обезбеди_суггестионс(предвиђена_класа)
    
    повратне предлоге

# Примените решење за истрагу инцидента
инцидент_истрага()

Топ 5-10 најчешће коришћених команди/исјечака

Ево 5-10 најчешће коришћених команди/исјечака за ову технологију:

  1. авс девопс агент гет-логс: Прикупите евиденцију од ДевОпс агента.
  2. трансформерс.АутоМоделФорСекуенцеЦлассифицатион.фром_претраинед(): Учитајте ЛЛМ модел.
  3. токенизер.енцоде_плус(): Предобрадите извештај о инциденту.
  4. модел(инпутс['инпут_идс'], аттентион_маск=инпутс['аттентион_маск']): Анализирајте извештај о инциденту користећи ЛЛМ модел.
  5. торцх.аргмак(оутпутс.логитс): Извуците ознаку предвиђене класе.
  6. провиде_суггестионс(предицтед_цласс): Дајте предлоге за решавање инцидената.
  7. агент.гет_логс(): Прикупите евиденцију од ДевОпс агента.
  8. анализе_инцидент_репорт(репорт): Анализирајте извештај о инциденту користећи ЛЛМ модел.
  9. инцидент_инвестигатион(): примените решење за истрагу инцидента.
  10. торцх.саве(модел.стате_дицт(), 'модел.птх'): Сачувајте ЛЛМ модел.

Визуелизација

Ево визуелног приказа решења за аутоматизовану истрагу инцидента помоћу Цхарт.јс:

{
  "тип": "бар",
  "подаци": {
    „ознаке“: [„Ручна истрага“, „Аутоматизована истрага“],
    "сетови података": [
      {
        "лабел": "Време за решавање",
        "подаци": [10, 2],
        "бацкгроундЦолор": ["ргба(255, 99, 132, 0.2)", "ргба(54, 162, 235, 0.2)"],
        "бордерЦолор": ["ргба(255, 99, 132, 1)", "ргба(54, 162, 235, 1)"],
        "бордерВидтх": 1
      }
    ]
  },
  "опције": {
    "наслов": {
      "приказ": истина,
      "тект": "Време је за решавање инцидената"
    },
    "вага": {
      "иАкес": [
        {
          "крпељи": {
            "бегинАтЗеро": истина
          }
        }
      ]
    }
  }
}

Ова визуелизација упоређује време за решавање инцидената коришћењем ручних метода истраге са аутоматизованим методама истраге које користе ДевОпс агенте и ЛЛМ.

Закључак

Примена аутоматизоване истраге инцидената са ДевОпс агентима и ЛЛМ-овима може значајно да побољша ефикасност и ефективност решавања инцидената. Интеграцијом ДевОпс агената са ЛЛМ-овима, организације могу да аутоматизују анализу евиденције, дају предлоге за решавање инцидената у зависности од контекста и смање време за решавање инцидената. Истражили смо пресек ДевОпс аутоматизације, истраге инцидената заснованих на вештачкој интелигенцији и улогу ЛЛМ-а у побољшању ДевОпс алата као што су АВС ДевОпс Агент и Цопадо Агентиа. Пратећи приступ корак по корак који је описан у овом чланку, организације могу да примене скалабилно, поуздано и безбедно решење за аутоматизовану истрагу инцидената.


Have Questions?

Let's Talk

Contact me on LinkedIn