Арганізацыя штучнага інтэлекту Agentic у канвеерах DevOps з DSPy і LangChain для Enhanced ZeroOps | B4N1

Арганізацыя штучнага інтэлекту Agentic у канвеерах DevOps з DSPy і LangChain для Enhanced ZeroOps

8 months ago · b4n1 Read time: 3 min

Аркестрацыя Agentic AI у DevOps Pipelines з DSPy і LangChain для Enhanced ZeroOps

Уводзіны

Інтэграцыя штучнага інтэлекту (AI) у канвееры DevOps зрабіла рэвалюцыю ў распрацоўцы, тэсціраванні і разгортванні праграмнага забеспячэння. Agentic AI, падмноства AI, які забяспечвае аўтаномнае прыняцце рашэнняў і дзеянні, мае патэнцыял для далейшага павышэння эфектыўнасці і дзейснасці працэсаў DevOps. У гэтым артыкуле мы вывучым канцэпцыю арганізацыі агентурнага штучнага інтэлекту ў канвеерах DevOps з выкарыстаннем DSPy і LangChain і абмяркуем перавагі гэтага падыходу ў дасягненні ZeroOps.

Што такое Agentic AI?

Agentic AI адносіцца да тыпу AI, які валодае здольнасцю прымаць рашэнні і выконваць дзеянні аўтаномна, без умяшання чалавека. Гэта дасягаецца за кошт выкарыстання перадавых алгарытмаў машыннага навучання, апрацоўкі натуральнай мовы і кагнітыўных архітэктур. Сістэмы Agentic AI могуць вучыцца на вопыце, адаптавацца да новых сітуацый і ўзаемадзейнічаць з людзьмі больш натуральным і інтуітыўна зразумелым спосабам.

Што такое ZeroOps?

ZeroOps - гэта філасофія DevOps, якая накіравана на ліквідацыю неабходнасці ўмяшання чалавека ў распрацоўку, разгортванне і абслугоўванне праграмнага забеспячэння. Гэта дасягаецца за кошт выкарыстання аўтаматызацыі, аркестроўкі і прыняцця рашэнняў на аснове штучнага інтэлекту. ZeroOps дазваляе арганізацыям разгортваць праграмнае забеспячэнне хутчэй, з больш высокай якасцю і з меншымі выдаткамі.

Аркестрацыя Agentic AI у DevOps Pipelines

Каб арганізаваць агентурны штучны інтэлект у канвееры DevOps, нам неабходна інтэграваць у канвеер працэс прыняцця рашэнняў і дзеянняў на аснове штучнага інтэлекту. Гэта можа быць дасягнута шляхам выкарыстання DSPy і LangChain, двух папулярных фрэймворкаў для стварэння і разгортвання прыкладанняў, якія кіруюцца штучным інтэлектам.

DSPy

DSPy - гэта структура Python для стварэння і разгортвання праграм, якія кіруюцца штучным інтэлектам. Ён забяспечвае набор інструментаў і бібліятэк для апрацоўкі даных, машыннага навучання і апрацоўкі натуральнай мовы. DSPy распрацаваны для бесперашкоднай працы з такімі папулярнымі фрэймворкамі, як LangChain і FastAPI.

LangChain

LangChain - гэта фреймворк Python для стварэння і разгортвання праграм, якія кіруюцца штучным інтэлектам. Ён забяспечвае набор інструментаў і бібліятэк для апрацоўкі натуральнай мовы, машыннага навучання і кагнітыўных архітэктур. LangChain распрацаваны для бесперашкоднай працы з такімі папулярнымі фрэймворкамі, як DSPy і FastAPI.

Тэхнічная рэалізацыя

Каб прадэманстраваць тэхнічную рэалізацыю арганізацыі агентскага штучнага інтэлекту ў канвеерах DevOps з выкарыстаннем DSPy і LangChain, давайце разгледзім просты прыклад. Выкажам здагадку, што мы хочам аўтаматызаваць разгортванне вэб-праграмы з дапамогай канвеера DevOps. Мы можам выкарыстоўваць DSPy для стварэння сістэмы прыняцця рашэнняў на аснове штучнага інтэлекту, якая вызначае аптымальную стратэгію разгортвання на аснове такіх фактараў, як прадукцыйнасць прыкладання, водгукі карыстальнікаў і сістэмныя рэсурсы.

імпарт dspy
ад langchain import LLM


def deployment_strategy(app_performance, user_feedback, system_resources):
    # Выкарыстоўвайце DSPy для апрацоўкі дадзеных і прыняцця рашэнняў
    даныя = dspy.Data(прадукцыйнасць_праграмы, зваротная_сувязь_карыстальніка, сістэмныя_рэсурсы)
    рашэнне = dspy.DecisionMaker(дадзеныя)
    
    # Выкарыстоўвайце LangChain для стварэння плана разгортвання
    llm = LLM("text-davinci-003")
    plan = llm.generate_text(f"Разгортванне {app_performance} з {user_feedback} і {system_resources} рэсурсамі")
    
    план вяртання

# Вызначце канвеер DevOps
канвеер вызначэння (прадукцыйнасць_праграмы, зваротная_сувязь_з_карыстальнікамі, сістэмныя_рэсурсы):
    # Выкарыстоўвайце DSPy для арганізацыі канвеера
    канвеер = dspy.Pipeline()
    pipeline.add_task(стратэгія_разгортвання, прадукцыйнасць_прыкладання, зваротная_сувязь_з_карыстальнікамі, сістэмныя_рэсурсы)
    pipeline.add_task(dspytasks.Deploy, план)
    
    # Запусціце канвеер
    pipeline.run()

# Запусціце канвеер
трубаправод (90, 4.5, 80)

Топ-5-10 найбольш часта выкарыстоўваюцца каманд/фрагментаў

Вось 5-10 найбольш часта выкарыстоўваюцца каманд/фрагментаў для DSPy і LangChain:

  1. dspy.Data(): стварае аб'ект дадзеных для апрацоўкі і прыняцця рашэнняў.
  2. dspy.DecisionMaker(): прымае рашэнні на аснове даных і кантэксту.
  3. LLM.generate_text(): Стварае тэкст на аснове ўводных падказак.
  4. dspytasks.Deploy(): разгортвае прыкладанне на аснове плана разгортвання.
  5. dspy.Pipeline(): кіруе канвеерам DevOps.
  6. pipeline.add_task(): дадае задачу ў канвеер.
  7. pipeline.run(): Запускае канвеер.
  8. dspy.Data.process(): апрацоўвае дадзеныя для прыняцця рашэнняў.
  9. dspy.DecisionMaker.decide(): прымае рашэнне на аснове даных і кантэксту.
  10. LLM.generate_text(prompt): Стварае тэкст на аснове ўводных падказак.

Візуалізацыя

Вось візуалізацыя агентскага канвеера DevOps, кіраванага AI, з выкарыстаннем Chart.js:

{
  "тып": "бар",
  "дадзеныя": {
    "labels": ["Апрацоўка даных", "Прыняцце рашэнняў", "Разгортванне"],
    "наборы дадзеных": [
      {
        "label": "Agentic AI",
        "дадзеныя": [10, 20, 30],
        "backgroundColor": "rgba(255, 99, 132, 0,2)",
        "borderColor": "rgba(255, 99, 132, 1)",
        "borderWidth": 1
      }
    ]
  },
  "параметры": {
    "шалі": {
      "yAxes": [
        {
          "цікі": {
            "beginAtZero": праўда
          }
        }
      ]
    }
  }
}

Гэтая візуалізацыя паказвае тры этапы агентскага канвеера DevOps, які кіруецца штучным інтэлектам: апрацоўка даных, прыняцце рашэнняў і разгортванне.

Выснова

У гэтым артыкуле мы даследавалі канцэпцыю арганізацыі агентурнага штучнага інтэлекту ў канвеерах DevOps з выкарыстаннем DSPy і LangChain. Мы прадэманстравалі просты прыклад таго, як аўтаматызаваць разгортванне вэб-праграмы з дапамогай сістэмы прыняцця рашэнняў, кіраванай штучным інтэлектам. Мы таксама прадставілі візуалізацыю агентскага канвеера DevOps, які кіруецца штучным інтэлектам, з выкарыстаннем Chart.js. Дзякуючы інтэграцыі агентскага штучнага інтэлекту ў канвееры DevOps, арганізацыі могуць дасягнуць ZeroOps і разгарнуць праграмнае забеспячэнне хутчэй, з больш высокай якасцю і з меншымі выдаткамі.


Have Questions?

Let's Talk

Contact me on LinkedIn