Загрузите модель LLM и токенизатор | B4N1

Загрузите модель LLM и токенизатор

3 months ago · b4n1 Tiempo de lectura: 4 min

Внедрение автоматического расследования инцидентов с помощью агентов DevOps и LLM

Введение

В современном быстро меняющемся цифровом мире команды DevOps сталкиваются со все более сложной задачей: как можно быстрее выявлять и устранять инциденты. Ручные методы расследования могут отнимать много времени и могут привести к человеческим ошибкам, что приводит к длительным простоям и снижению удовлетворенности клиентов. Чтобы решить эту проблему, мы изучаем взаимодействие автоматизации DevOps, расследования инцидентов с помощью искусственного интеллекта и роль моделей большого языка (LLM) в совершенствовании инструментов DevOps, таких как AWS DevOps Agent и Copado Agentia.

Текущее состояние расследования инцидентов

Расследование инцидентов — важнейший аспект DevOps, включающий выявление, анализ и решение проблем, влияющих на программные системы. Традиционные методы полагаются на ручные процессы, такие как анализ журналов, отслеживание ошибок и общение с заинтересованными сторонами. Хотя эти методы эффективны, они могут быть медленными и подвержены ошибкам, что приводит к:

  1. Увеличенное время простоя. Методы ручного расследования могут задерживать разрешение инцидентов, что приводит к увеличению времени простоя и снижению удовлетворенности клиентов.
  2. Человеческая ошибка. Ручные процессы подвержены человеческим ошибкам, которые могут привести к неправильной диагностике и устранению инцидентов.
  3. Проблемы масштабируемости. По мере роста размера и сложности систем ручные методы расследования становятся все труднее масштабировать.

Роль агентов DevOps в расследовании инцидентов

Агенты DevOps, такие как AWS DevOps Agent и Copado Agentia, играют решающую роль в автоматизации расследования инцидентов. Эти агенты могут:

  1. Сбор и анализ журналов. Агенты DevOps могут собирать и анализировать журналы из различных источников, предоставляя ценную информацию о причинах инцидентов.
  2. Автоматическое отслеживание ошибок. Агенты могут автоматизировать отслеживание ошибок, сокращая время и усилия, необходимые для расследования вручную.
  3. Улучшение коммуникации. Агенты могут облегчить взаимодействие между командами, заинтересованными сторонами и системами, гарантируя эффективный обмен информацией об инцидентах.

Роль LLM в расследовании инцидентов

Модели большого языка (LLM) произвели революцию в области обработки естественного языка (NLP), позволив машинам понимать и генерировать текст, похожий на человеческий. В контексте расследования инцидентов LLM могут:

  1. Анализ отчетов об инцидентах. LLM могут анализировать отчеты об инцидентах, выявляя ключевую информацию и закономерности, которые могут указывать на основную причину инцидента.
  2. Создание сводок об инцидентах. Студенты LLM могут создавать краткие сводки отчетов об инцидентах, что облегчает общение и принятие решений.
  3. Предлагайте контекстно-зависимые предложения: LLM могут предоставлять контекстно-зависимые предложения по разрешению инцидентов с учетом конкретной системы, среды и вовлеченных заинтересованных сторон.

Внедрение автоматического расследования инцидентов с помощью агентов DevOps и LLM

Чтобы реализовать автоматическое расследование инцидентов с помощью агентов DevOps и LLM, мы будем следовать пошаговому подходу:

  1. Интегрируйте агенты DevOps. Интегрируйте агенты DevOps, такие как AWS DevOps Agent и Copado Agentia, в свою систему управления инцидентами.
  2. Сбор и анализ журналов. Настройте агенты DevOps для сбора и анализа журналов из различных источников, предоставляя ценную информацию о причинах инцидентов.
  3. Обучение модели LLM. Обучите модель LLM на наборе данных отчетов об инцидентах, журналов и другой соответствующей информации.
  4. Интегрируйте LLM с агентами DevOps. Интегрируйте модель LLM с агентами DevOps, что позволит LLM анализировать отчеты об инцидентах и ​​предоставлять предложения по их устранению.
  5. Разверните решение. Разверните решение для автоматического расследования инцидентов, обеспечив его масштабируемость, надежность и безопасность.

Пример кода: интеграция LLM с агентами DevOps

Вот пример фрагмента кода на Python, демонстрирующий, как интегрировать модель LLM с агентом DevOps:

журнал импорта
из импорта преобразователей AutoModelForSequenceClassification, AutoTokenizer
из агента импорта aws_devops_agent


model = AutoModelForSequenceClassification.from_pretrained("distilbert-base-uncased")
tokenizer = AutoTokenizer.from_pretrained("distilbert-base-uncased")

# Инициализируем агент DevOps
агент = Агент()

# Определите функцию для анализа отчетов об инцидентах с использованием модели LLM.
защита Analysis_incident_report (отчет):
    # Предварительная обработка отчета об инциденте
    входы = tokenizer.encode_plus(отчет, 
                                    add_special_tokens = Верно, 
                                    максимальная_длина = 512, 
                                    return_attention_mask=Истина, 
                                    return_tensors = 'пт')
    
    # Анализ отчета об инциденте с использованием модели LLM.
    выходные данные = модель (входные данные ['input_ids'], focus_mask = входные данные ['attention_mask'])
    
    # Извлекаем предсказанную метку класса
    предсказанный_класс = torch.argmax(outputs.logits)
    
    вернуть предсказанный_класс

# Определите функцию для предоставления предложений по разрешению инцидентов
защита Provide_suggestions (predicted_class):
    # Используйте прогнозируемую метку класса, чтобы предоставить предложения по разрешению инцидентов.
    если предсказанный_класс == 0:
        return «Проверьте системные журналы на наличие ошибок»
    элиф предсказанный_класс == 1:
        вернуть «Проверьте подключение к сети»
    еще:
        return «Обратиться к команде разработчиков за помощью»

# Интегрируйте модель LLM с агентом DevOps.
защита инцидента_investigation():
    # Собирайте и анализируйте журналы агента DevOps.
    журналы = агент.get_logs()
    
    # Анализируем логи с помощью модели LLM
    предсказанный_класс = анализ_инцидент_отчет (журналы)
    
    # Предоставление предложений по разрешению инцидентов
    предложения = Provide_suggestions (predicted_class)
    
    возвращать предложения

# Развертывание решения по расследованию инцидентов
инцидент_расследование()

Топ-5–10 наиболее часто используемых команд/фрагментов

Вот 5-10 наиболее часто используемых команд/фрагментов для этой технологии:

  1. aws DevOps Agent get-logs: собирает журналы агента DevOps.
  2. transformers.AutoModelForSequenceClassification.from_pretrained(): загрузите модель LLM.
  3. tokenizer.encode_plus(): предварительная обработка отчета об инциденте.
  4. model(inputs['input_ids'], alert_mask=inputs['attention_mask']): проанализируйте отчет об инциденте с использованием модели LLM.
  5. torch.argmax(outputs.logits): извлеките прогнозируемую метку класса.
  6. provide_suggestions(predicted_class): предоставить предложения по разрешению инцидентов.
  7. agent.get_logs(): сбор журналов от агента DevOps.
  8. analyze_incident_report(report): анализируйте отчет об инциденте с использованием модели LLM.
  9. incident_investigation(): разверните решение по расследованию инцидентов.
  10. torch.save(model.state_dict(), 'model.pth'): сохраните модель LLM.

Визуализация

Вот визуализация решения для автоматического расследования инцидентов с использованием Chart.js:

{
  "тип": "бар",
  "данные": {
    "labels": ["Ручное расследование", "Автоматическое расследование"],
    "наборы данных": [
      {
        "label": "Время решать",
        «данные»: [10, 2],
        "backgroundColor": ["rgba(255, 99, 132, 0,2)", "rgba(54, 162, 235, 0,2)"],
        "borderColor": ["rgba(255, 99, 132, 1)", "rgba(54, 162, 235, 1)"],
        "borderWidth": 1
      }
    ]
  },
  "варианты": {
    "название": {
      «дисплей»: правда,
      "text": "Время разрешать инциденты"
    },
    "весы": {
      "yAxes": [
        {
          "тикает": {
            «beginAtZero»: правда
          }
        }
      ]
    }
  }
}

В этой визуализации сравнивается время разрешения инцидентов с использованием ручных методов расследования и автоматизированных методов расследования с использованием агентов DevOps и LLM.

Заключение

Внедрение автоматического расследования инцидентов с помощью агентов DevOps и LLM может значительно повысить эффективность и результативность разрешения инцидентов. Интегрируя агентов DevOps с LLM, организации могут автоматизировать анализ журналов, предоставлять контекстно-зависимые предложения по разрешению инцидентов и сокращать время разрешения инцидентов. Мы изучили взаимодействие автоматизации DevOps, расследования инцидентов с помощью искусственного интеллекта и роль LLM в совершенствовании инструментов DevOps, таких как AWS DevOps Agent и Copado Agentia. Следуя пошаговому подходу, изложенному в этой статье, организации могут развернуть масштабируемое, надежное и безопасное решение для автоматического расследования инцидентов.

¿Tienes preguntas?

Hablemos

Contáctame en LinkedIn