Організація агентського штучного інтелекту в конвеєрах DevOps за допомогою DSPy і LangChain для вдосконалених ZeroOps | B4N1

Організація агентського штучного інтелекту в конвеєрах DevOps за допомогою DSPy і LangChain для вдосконалених ZeroOps

8 months ago · b4n1 Read time: 3 min

Оркестрування агентського штучного інтелекту в конвеєрах DevOps за допомогою DSPy і LangChain для покращених ZeroOps

Вступ

Інтеграція штучного інтелекту (ШІ) у конвеєри DevOps революціонізувала спосіб розробки, тестування та розгортання програмного забезпечення. Агентський штучний інтелект, підмножина штучного інтелекту, яка дозволяє автономно приймати рішення та вживати заходів, має потенціал для подальшого підвищення ефективності та результативності процесів DevOps. У цій статті ми розглянемо концепцію організації агентського штучного інтелекту в конвеєрах DevOps за допомогою DSPy і LangChain і обговоримо переваги цього підходу для досягнення ZeroOps.

Що таке Agentic AI?

Агентний штучний інтелект відноситься до типу штучного інтелекту, який має здатність приймати рішення та виконувати дії автономно, без втручання людини. Це досягається завдяки використанню вдосконалених алгоритмів машинного навчання, обробки природної мови та когнітивних архітектур. Системи Agentic AI можуть вчитися на досвіді, адаптуватися до нових ситуацій і взаємодіяти з людьми більш природним та інтуїтивно зрозумілим способом.

Що таке ZeroOps?

ZeroOps — це філософія DevOps, спрямована на усунення потреби втручання людини в розробку, розгортання та обслуговування програмного забезпечення. Це досягається за рахунок використання автоматизації, оркестровки та прийняття рішень на основі ШІ. ZeroOps дозволяє організаціям розгортати програмне забезпечення швидше, з вищою якістю та з меншими витратами.

Оркестрування Agentic AI у DevOps Pipelines

Щоб організувати агентський штучний інтелект у конвеєрах DevOps, нам потрібно інтегрувати в конвеєр процес прийняття рішень і вжиття дій на основі штучного інтелекту. Цього можна досягти за допомогою DSPy та LangChain, двох популярних фреймворків для створення та розгортання додатків на основі ШІ.

DSPy

DSPy — це структура Python для створення та розгортання додатків на основі ШІ. Він надає набір інструментів і бібліотек для обробки даних, машинного навчання та обробки природної мови. DSPy розроблено для бездоганної роботи з такими популярними фреймворками, як LangChain і FastAPI.

LangChain

LangChain — це платформа Python для створення та розгортання додатків на основі ШІ. Він надає набір інструментів і бібліотек для обробки природної мови, машинного навчання та когнітивних архітектур. LangChain розроблено для бездоганної роботи з такими популярними фреймворками, як DSPy і FastAPI.

Технічна реалізація

Щоб продемонструвати технічну реалізацію організації агентського ШІ в конвеєрах DevOps за допомогою DSPy і LangChain, розглянемо простий приклад. Припустімо, ми хочемо автоматизувати розгортання веб-додатку за допомогою конвеєра DevOps. Ми можемо використовувати DSPy для побудови керованої штучним інтелектом системи прийняття рішень, яка визначає оптимальну стратегію розгортання на основі таких факторів, як продуктивність програми, відгуки користувачів і системні ресурси.

імпорт dspy
від langchain import LLM


def deployment_strategy(app_performance, user_feedback, system_resources):
    # Використовуйте DSPy для обробки даних і прийняття рішень
    data = dspy.Data(app_performance, user_feedback, system_resources)
    рішення = dspy.DecisionMaker(дані)
    
    # Використовуйте LangChain для створення плану розгортання
    llm = LLM("text-davinci-003")
    plan = llm.generate_text(f"Розгорнути {app_performance} із {user_feedback} і ресурсами {system_resources}")
    
    план повернення

# Визначте конвеєр DevOps
def pipeline(app_performance, user_feedback, system_resources):
    # Використовуйте DSPy для оркестрування конвеєра
    pipeline = dspy.Pipeline()
    pipeline.add_task(deployment_strategy, app_performance, user_feedback, system_resources)
    pipeline.add_task(dspytasks.Deploy, plan)
    
    # Запустити конвеєр
    pipeline.run()

# Запустити конвеєр
трубопровід (90, 4.5, 80)

5-10 найбільш часто використовуваних команд/фрагментів

Ось 5-10 найбільш використовуваних команд/фрагментів для DSPy і LangChain:

  1. dspy.Data(): створює об’єкт даних для обробки та прийняття рішень.
  2. dspy.DecisionMaker(): приймає рішення на основі даних і контексту.
  3. LLM.generate_text(): генерує текст на основі підказок введення.
  4. dspytasks.Deploy(): розгортає програму на основі плану розгортання.
  5. dspy.Pipeline(): керує конвеєром DevOps.
  6. pipeline.add_task(): додає завдання до конвеєра.
  7. pipeline.run(): запускає конвеєр.
  8. dspy.Data.process(): обробляє дані для прийняття рішень.
  9. dspy.DecisionMaker.decide(): приймає рішення на основі даних і контексту.
  10. LLM.generate_text(prompt): генерує текст на основі підказок введення.

Візуалізація

Ось візуалізація агентського конвеєра DevOps, керованого штучним інтелектом, за допомогою Chart.js:

{
  "type": "бар",
  "дані": {
    "labels": ["Обробка даних", "Прийняття рішень", "Розгортання"],
    "набори даних": [
      {
        "label": "Agentic AI",
        "дані": [10, 20, 30],
        "backgroundColor": "rgba(255, 99, 132, 0,2)",
        "borderColor": "rgba(255, 99, 132, 1)",
        "borderWidth": 1
      }
    ]
  },
  "параметри": {
    "ваги": {
      "yAxes": [
        {
          "галочки": {
            "beginAtZero": вірно
          }
        }
      ]
    }
  }
}

Ця візуалізація показує три етапи конвеєра DevOps, керованого агентами ШІ: обробка даних, прийняття рішень і розгортання.

Висновок

У цій статті ми досліджували концепцію організації агентського штучного інтелекту в конвеєрах DevOps за допомогою DSPy і LangChain. Ми продемонстрували простий приклад того, як автоматизувати розгортання веб-додатку за допомогою системи прийняття рішень на основі ШІ. Ми також надали візуалізацію конвеєра DevOps, керованого агентами AI, за допомогою Chart.js. Завдяки інтеграції агентського штучного інтелекту в конвеєри DevOps організації можуть досягти ZeroOps і розгортати програмне забезпечення швидше, з вищою якістю та з меншими витратами.


Have Questions?

Let's Talk

Contact me on LinkedIn