LangChain арқылы реттелетін агент жасаңыз

AI-мен жұмыс істейтін DevOps автоматтандыруы үшін LangChain және DSPy көмегімен агент сапасын оңтайландыруды енгізу

Кіріспе

Заманауи бағдарламалық жүйелердің күрделене түсуі тиімді және тиімді DevOps автоматтандыру қажеттілігінің артуына әкелді. Жүйенің өнімділігін оңтайландыру және сапаны жақсарту үшін жасанды интеллект (AI) және машиналық оқытуды (ML) қолдана отырып, осы мақсатқа жетудің перспективалы тәсілі ретінде агент негізіндегі жүйелер пайда болды. Бұл мақалада біз AI-мен жұмыс істейтін DevOps автоматтандыруы үшін LangChain және DSPy пайдалана отырып, AgentCore жүйесінде агент сапасын оңтайландырудың техникалық орындалуын зерттейміз.

AgentCore: AI-мен жұмыс істейтін DevOps автоматтандыру негізі

AgentCore - бұл AI-мен жұмыс істейтін DevOps автоматтандыру жүйелерін құруға арналған ашық бастапқы негіз. Ол әзірлеушілерге бақылау, орналастыру және тестілеу сияқты әртүрлі тапсырмалар үшін теңшелетін агенттерді жасауға мүмкіндік беретін модульдік архитектураны қамтамасыз етеді. AgentCore негізгі мүмкіндіктеріне мыналар кіреді:

Модульдік архитектура: AgentCore архитектурасы жоғары модульдік етіп жасалған, бұл әзірлеушілерге реттелетін агенттерді жасауға және оларды негізгі құрылыммен біркелкі біріктіруге мүмкіндік береді.
AI күші бар шешім қабылдау: AgentCore жүйе өнімділігі мен сапасы туралы негізделген шешімдер қабылдау үшін AI және ML алгоритмдерін пайдаланады.
Нақты уақыттағы бақылау: AgentCore нақты уақыттағы бақылау мүмкіндіктерін қамтамасыз етеді, бұл әзірлеушілерге жүйенің өнімділігін бақылауға және ықтимал мәселелерді негізгі проблемаларға айналмас бұрын анықтауға мүмкіндік береді.

LangChain: сөйлесетін AI агенттерін құруға арналған негіз

LangChain - сөйлесетін AI агенттерін құруға арналған Python негізі. Ол пайдаланушылармен табиғи тілде сөйлесе алатын реттелетін агенттерді жасауға арналған құралдар мен кітапханалардың ауқымын ұсынады. LangChain негізгі мүмкіндіктеріне мыналар жатады:

Сөйлесу AI: LangChain әзірлеушілерге пайдаланушылармен табиғи тілде сөйлесе алатын теңшелетін AI агенттерін жасауға мүмкіндік береді.
Модульдік архитектура: LangChain архитектурасы жоғары модульдік етіп жасалған, бұл әзірлеушілерге реттелетін агенттерді жасауға және оларды негізгі құрылыммен біркелкі біріктіруге мүмкіндік береді.
DSPy-мен интеграция: LangChain DSPy-мен үздіксіз интеграцияны қамтамасыз етеді, бұл әзірлеушілерге сөйлесу AI агенттерінде DSPy AI және ML мүмкіндіктерін пайдалануға мүмкіндік береді.

DSPy: AI және ML үлгілерін құруға арналған құрылым

DSPy — AI және ML үлгілерін құруға арналған Python негізі. Ол әртүрлі қолданбаларда, соның ішінде DevOps автоматтандыруында пайдалануға болатын реттелетін үлгілерді жасауға арналған бірқатар құралдар мен кітапханаларды ұсынады. DSPy негізгі мүмкіндіктеріне мыналар жатады:

AI және ML модельдеу: DSPy әзірлеушілерге әртүрлі қолданбаларда, соның ішінде DevOps автоматтандыруында пайдалануға болатын реттелетін AI және ML үлгілерін жасауға мүмкіндік береді.
LangChain-пен интеграция: DSPy LangChain-пен үздіксіз интеграцияны қамтамасыз етеді, бұл әзірлеушілерге өздерінің AI және ML үлгілерінде LangChain-тың сөйлесу AI мүмкіндіктерін пайдалануға мүмкіндік береді.
Нақты уақыттағы болжамды талдау: DSPy нақты уақыттағы болжамды талдау мүмкіндіктерін қамтамасыз етеді, бұл әзірлеушілерге жүйе өнімділігі мен сапасы туралы негізделген шешім қабылдауға мүмкіндік береді.

LangChain және DSPy көмегімен агент сапасын оңтайландыруды енгізу

LangChain және DSPy көмегімен агент сапасын оңтайландыруды жүзеге асыру үшін біз мына қадамдарды орындауымыз керек:

Теңшелетін агент жасау: пайдаланушылармен табиғи тілде сөйлесе алатын LangChain көмегімен теңшелетін агент жасаңыз.
DSPy біріктіру: DSPy AI және ML мүмкіндіктерін пайдалану үшін DSPy қолданбасын пайдаланушы агентімен біріктіріңіз.
Модельді жаттықтырыңыз: агент сапасын оңтайландыру үшін DSPy арқылы AI және ML үлгісін жаттықтырыңыз.
Агентті қолдану: агент сапасын оңтайландыру үшін оқытылған үлгімен теңшелетін агентті орналастырыңыз.

Міне, LangChain көмегімен реттелетін агентті жасау және DSPy біріктіру жолын көрсететін қарапайым код блогы:

langchain импорттау
langchain импортынан LMChain
langchain.chains сайтынан ConversationalChain импорттаңыз
langchain.embeddings ішінен Енгізулерді импорттау
langchain.llms импорттау LLM


агент = LMCchain(
    llm=LLM(
        модель = "text-davinci-003",
        температура=0,7,
        max_tokens=100,
        min_tokens=10,
    ),
    енгізу_пішімі = "мәтін",
    шығыс_пішімі = "мәтін",
)

# DSPy біріктіру
dsp = DSPy(
    үлгі = "dspb",
    температура=0,7,
    max_tokens=100,
    min_tokens=10,
)

# DSPy көмегімен модельді жаттықтырыңыз
dsp.train(
    агент,
    деректер=[
        {"input": "Ағымдағы температура қандай?", "output": "Ағымдағы температура 25°C."},
        {"input": "Ағымдағы ылғалдылық қандай?", "output": "Ағымдағы ылғалдылық 60%."},
    ],
)

# Агентті оқытылған үлгімен орналастырыңыз
agent.deploy(dsp)

Бағдарламалық қамтамасыз етуді әзірлеуге және архитектураға әсері

LangChain және DSPy көмегімен агент сапасын оңтайландыруды енгізу бағдарламалық жасақтаманы әзірлеуге және архитектураға бірнеше әсер етеді:

Жақсартылған жүйе өнімділігі: Агент сапасын оңтайландыру әзірлеушілерге жүйе өнімділігін оңтайландыратын және сапаны жақсартатын реттелетін агенттерді жасауға мүмкіндік береді.
Жақсартылған пайдаланушы тәжірибесі: сөйлесетін AI агенттері пайдаланушыларға жекелендірілген және тартымды тәжірибе бере алады.
Тиімділікті арттыру: Агент сапасын оңтайландыру әзірлеушілерге қайталанатын тапсырмаларды автоматтандыруға және күрделірек және шығармашылық тапсырмаларға назар аударуға мүмкіндік береді.

Ең көп қолданылатын 5-10 пәрмендер/үзінділер

Міне, LangChain және DSPy үшін ең көп қолданылатын 5-10 командалар/үзінділер:

langchain.LLMCain(): LangChain көмегімен реттелетін агент жасайды.
langchain.Embeddings(): пайдаланушы агентінде пайдалану үшін ендіру нысанын жасайды.
langchain.LLM(): теңшелетін агентте пайдалану үшін тіл үлгісі нысанын жасайды.
dsp.DSPy(): теңшелетін агентте пайдалану үшін DSPy нысанын жасайды.
dsp.train(): AI және ML үлгісін DSPy арқылы үйретеді.
dsp.deploy(): үйретілген үлгімен теңшелетін агентті орналастырады.
langchain.ConversationalChain(): LangChain арқылы сөйлесетін AI агентін жасайды.
langchain.chains.ConversationalChain(): LangChain арқылы сөйлесетін AI агентін жасайды.
langchain.embeddings.Embeddings(): пайдаланушы агентінде пайдалану үшін ендіру нысанын жасайды.
langchain.llms.LLM(): теңшелетін агентте пайдалану үшін тіл үлгісі нысанын жасайды.

визуализация

Міне, агент сапасын оңтайландырудың жүйе өнімділігіне әсерін көрсететін Chart.js көмегімен қарапайым визуализация:

{
    "түрі": "бар",
    «деректер»: {
        "labels": ["Оңтайландыруға дейін", "Оңтайландырудан кейін"],
        "деректер жинағы": [
            {
                "label": "Жүйе өнімділігі",
                "деректер": [80, 95],
                "backgroundColor": "rgba(255, 99, 132, 0.2)",
                "borderColor": "rgba(255, 99, 132, 1)",
                "borderWidth": 1
            }
        ]
    },
    "опциялар": {
        «атауы»: {
            "дисплей": шын,
            "text": "Оңтайландыруға дейінгі және одан кейінгі жүйе өнімділігі"
        },
        «таразы»: {
            "yAxes": [
                {
                    «кенелер»: {
                        "beginAtZero": шын
                    }
                }
            ]
        }
    }
}

Бұл визуализация агент сапасын оңтайландырудың жүйе өнімділігіне әсерін көрсетеді, оңтайландырудан кейін жүйе өнімділігінің айтарлықтай жақсарғанын көрсетеді.

Қорытынды

LangChain және DSPy көмегімен агент сапасын оңтайландыруды жүзеге асыру жүйе өнімділігін арттыру, пайдаланушы тәжірибесін жақсарту және тиімділікті арттыру сияқты бірнеше артықшылықтарға ие. LangChain және DSPy мүмкіндіктерін пайдалана отырып, әзірлеушілер жүйе өнімділігін оңтайландыратын және сапаны жақсартатын реттелетін агенттерді жасай алады. Берілген код блогы мен визуализация агент сапасын оңтайландырудың техникалық орындалуын және оның бағдарламалық жасақтаманы әзірлеуге және архитектураға әсерін көрсетеді.

LangChain арқылы реттелетін агент жасаңыз

Have Questions?