Стварыце карыстальніцкага агента з дапамогай LangChain

Укараненне аптымізацыі якасці агента з дапамогай LangChain і DSPy для аўтаматызацыі DevOps на базе AI

Уводзіны

Рост складанасці сучасных праграмных сістэм прывёў да росту патрэбы ў эфектыўнай і эфектыўнай аўтаматызацыі DevOps. Сістэмы на аснове агентаў сталі перспектыўным падыходам для дасягнення гэтай мэты, выкарыстоўваючы штучны інтэлект (AI) і машыннае навучанне (ML) для аптымізацыі прадукцыйнасці сістэмы і паляпшэння якасці. У гэтым артыкуле мы вывучым тэхнічную рэалізацыю аптымізацыі якасці агента ў AgentCore з выкарыстаннем LangChain і DSPy для аўтаматызацыі DevOps на базе AI.

AgentCore: аснова для аўтаматызацыі DevOps на базе AI

AgentCore - гэта фрэймворк з адкрытым зыходным кодам для стварэння сістэм аўтаматызацыі DevOps на базе AI. Ён забяспечвае модульную архітэктуру, якая дазваляе распрацоўшчыкам ствараць карыстальніцкія агенты для розных задач, такіх як маніторынг, разгортванне і тэставанне. Асноўныя функцыі AgentCore ўключаюць:

Модульная архітэктура: архітэктура AgentCore распрацавана як модульная, што дазваляе распрацоўшчыкам ствараць карыстальніцкія агенты і лёгка інтэграваць іх у асноўную структуру.
Прыняцце рашэнняў на аснове AI: AgentCore выкарыстоўвае алгарытмы AI і ML для прыняцця абгрунтаваных рашэнняў аб прадукцыйнасці і якасці сістэмы.
Маніторынг у рэжыме рэальнага часу: AgentCore забяспечвае маніторынг у рэжыме рэальнага часу, дазваляючы распрацоўшчыкам адсочваць прадукцыйнасць сістэмы і выяўляць магчымыя праблемы, перш чым яны стануць сур'ёзнымі.

LangChain: структура для стварэння размоўных агентаў AI

LangChain - гэта структура Python для стварэння размоўных агентаў AI. Ён забяспечвае шэраг інструментаў і бібліятэк для стварэння ўласных агентаў, якія могуць удзельнічаць у размовах з карыстальнікамі на натуральнай мове. Асноўныя функцыі LangChain ўключаюць:

Размоўны штучны інтэлект: LangChain дазваляе распрацоўшчыкам ствараць індывідуальныя размоўныя агенты штучнага інтэлекту, якія могуць размаўляць з карыстальнікамі на натуральнай мове.
Модульная архітэктура: архітэктура LangChain распрацавана так, каб быць вельмі модульнай, што дазваляе распрацоўшчыкам ствараць карыстальніцкія агенты і плаўна інтэграваць іх у асноўную структуру.
Інтэграцыя з DSPy: LangChain забяспечвае бясшвоўную інтэграцыю з DSPy, што дазваляе распрацоўшчыкам выкарыстоўваць магчымасці AI і ML DSPy у сваіх размоўных агентах AI.

DSPy: структура для стварэння мадэляў AI і ML

DSPy - гэта структура Python для стварэння мадэляў AI і ML. Ён забяспечвае шэраг інструментаў і бібліятэк для стварэння ўласных мадэляў, якія можна выкарыстоўваць у розных праграмах, уключаючы аўтаматызацыю DevOps. Асноўныя функцыі DSPy ўключаюць:

Мадэляванне AI і ML: DSPy дазваляе распрацоўшчыкам ствараць карыстальніцкія мадэлі AI і ML, якія можна выкарыстоўваць у розных праграмах, уключаючы аўтаматызацыю DevOps.
Інтэграцыя з LangChain: DSPy забяспечвае бясшвоўную інтэграцыю з LangChain, дазваляючы распрацоўшчыкам выкарыстоўваць магчымасці размоўнага AI LangChain у сваіх мадэлях AI і ML.
Прагнастычная аналітыка ў рэжыме рэальнага часу: DSPy забяспечвае магчымасці прагназаванай аналітыкі ў рэальным часе, што дазваляе распрацоўшчыкам прымаць абгрунтаваныя рашэнні аб прадукцыйнасці і якасці сістэмы.

Укараненне аптымізацыі якасці агента з дапамогай LangChain і DSPy

Каб рэалізаваць аптымізацыю якасці агента з дапамогай LangChain і DSPy, нам трэба выканаць наступныя дзеянні:

Стварыце карыстальніцкага агента: стварыце карыстальніцкага агента з дапамогай LangChain, які можа весці размовы з карыстальнікамі на натуральнай мове.
Інтэграваць DSPy: інтэграваць DSPy з карыстальніцкім агентам, каб выкарыстоўваць магчымасці AI і ML DSPy.
Навучанне мадэлі: навучанне мадэлі AI і ML з дапамогай DSPy для аптымізацыі якасці агента.
Разгортванне агента: разгарніце карыстальніцкі агент з навучанай мадэллю для аптымізацыі якасці агента.

Вось просты блок кода, які дэманструе, як стварыць уласны агент з дапамогай LangChain і інтэграваць DSPy:

імпарт Langchain
з langchain імпартаваць LLMChain
з langchain.chains імпартаваць ConversationalChain
з langchain.embeddings імпартаваць убудовы
з langchain.llms імпартаваць LLM


агент = LLMChain(
    llm=LLM(
        model="text-davinci-003",
        тэмпература=0,7,
        max_tokens=100,
        min_tokens=10,
    ),
    input_format="тэкст",
    output_format="тэкст",
)

# Інтэграцыя DSPy
dsp = DSPy(
    мадэль = "dspb",
    тэмпература=0,7,
    max_tokens=100,
    min_tokens=10,
)

# Навучыце мадэль з дапамогай DSPy
dsp.train(
    агент,
    даныя=[
        {"input": "Якая цяпер тэмпература?", "output": "Бягучая тэмпература 25°C."},
        {"input": "Якая цяпер вільготнасць?", "output": "Бягучая вільготнасць 60%."},
    ],
)

# Разгортванне агента з падрыхтаванай мадэллю
agent.deploy(dsp)

Уплыў на распрацоўку праграмнага забеспячэння і архітэктуру

Укараненне аптымізацыі якасці агента з дапамогай LangChain і DSPy некалькі ўплывае на распрацоўку і архітэктуру праграмнага забеспячэння:

Палепшаная прадукцыйнасць сістэмы: аптымізацыя якасці агентаў дазваляе распрацоўшчыкам ствараць карыстальніцкія агенты, якія могуць аптымізаваць прадукцыйнасць сістэмы і палепшыць якасць.
Палепшаны карыстацкі досвед: размоўныя агенты штучнага інтэлекту могуць забяспечыць карыстальнікам больш персаналізаваны і прывабны вопыт.
Павышаная эфектыўнасць: аптымізацыя якасці агента дазваляе распрацоўшчыкам аўтаматызаваць паўтаральныя задачы і засяродзіцца на больш складаных і творчых задачах.

Топ-5-10 найбольш часта выкарыстоўваюцца каманд/фрагментаў

Вось 5-10 найбольш часта выкарыстоўваюцца каманд/фрагментаў для LangChain і DSPy:

langchain.LLMChain(): стварае карыстальніцкі агент з выкарыстаннем LangChain.
langchain.Embeddings(): стварае аб'ект убудавання для выкарыстання ў карыстальніцкім агенце.
langchain.LLM(): Стварае аб'ект моўнай мадэлі для выкарыстання ў карыстальніцкім агенце.
dsp.DSPy(): стварае аб'ект DSPy для выкарыстання ў карыстальніцкім агенце.
dsp.train(): навучанне мадэлі AI і ML з дапамогай DSPy.
dsp.deploy(): разгортвае карыстальніцкі агент з навучанай мадэллю.
langchain.ConversationalChain(): Стварае размоўнага агента AI з дапамогай LangChain.
langchain.chains.ConversationalChain(): Стварае размоўнага агента AI з дапамогай LangChain.
langchain.embeddings.Embeddings(): стварае аб'ект убудавання для выкарыстання ў карыстальніцкім агенце.
langchain.llms.LLM(): Стварае аб'ект моўнай мадэлі для выкарыстання ў карыстальніцкім агенце.

Візуалізацыя

Вось простая візуалізацыя з выкарыстаннем Chart.js, якая дэманструе ўплыў аптымізацыі якасці агента на прадукцыйнасць сістэмы:

{
    "тып": "бар",
    "дадзеныя": {
        "labels": ["Да аптымізацыі", "Пасля аптымізацыі"],
        "наборы дадзеных": [
            {
                "label": "Прадукцыйнасць сістэмы",
                "дадзеныя": [80, 95],
                "backgroundColor": "rgba(255, 99, 132, 0,2)",
                "borderColor": "rgba(255, 99, 132, 1)",
                "borderWidth": 1
            }
        ]
    },
    "параметры": {
        "назва": {
            "дысплей": праўда,
            "text": "Прадукцыйнасць сістэмы да і пасля аптымізацыі"
        },
        "шалі": {
            "yAxes": [
                {
                    "цікі": {
                        "beginAtZero": праўда
                    }
                }
            ]
        }
    }
}

Гэтая візуалізацыя дэманструе ўплыў аптымізацыі якасці агента на прадукцыйнасць сістэмы, паказваючы значнае паляпшэнне прадукцыйнасці сістэмы пасля аптымізацыі.

Выснова

Укараненне аптымізацыі якасці агента з дапамогай LangChain і DSPy мае некалькі пераваг, уключаючы павышэнне прадукцыйнасці сістэмы, паляпшэнне карыстальніцкага досведу і павышэнне эфектыўнасці. Выкарыстоўваючы магчымасці LangChain і DSPy, распрацоўшчыкі могуць ствараць карыстальніцкія агенты, якія могуць аптымізаваць прадукцыйнасць сістэмы і палепшыць якасць. Прадстаўлены блок кода і візуалізацыя дэманструюць тэхнічную рэалізацыю аптымізацыі якасці агента і яе ўплыў на распрацоўку і архітэктуру праграмнага забеспячэння.

Стварыце карыстальніцкага агента з дапамогай LangChain

Have Questions?