Sukurkite pasirinktinį agentą naudodami „LangChain“.

Agento kokybės optimizavimo įgyvendinimas naudojant „LangChain“ ir „DSPy“, skirtą dirbtinio intelekto valdomai „DevOps“ automatizacijai

Įvadas

Didėjantis šiuolaikinių programinės įrangos sistemų sudėtingumas padidino veiksmingo ir efektyvaus „DevOps“ automatizavimo poreikį. Agentais pagrįstos sistemos pasirodė kaip perspektyvus būdas pasiekti šį tikslą, pasitelkiant dirbtinį intelektą (AI) ir mašininį mokymąsi (ML), siekiant optimizuoti sistemos veikimą ir pagerinti kokybę. Šiame straipsnyje mes išnagrinėsime techninį agento kokybės optimizavimo įgyvendinimą „AgentCore“, naudojant „LangChain“ ir DSPy, skirtą dirbtinio intelekto valdomai „DevOps“ automatizavimui.

AgentCore: dirbtinio intelekto pagrįsto DevOps automatizavimo pagrindas

„AgentCore“ yra atvirojo kodo sistema, skirta dirbtiniu intelektu valdomoms „DevOps“ automatizavimo sistemoms kurti. Ji suteikia modulinę architektūrą, leidžiančią kūrėjams kurti pasirinktinius agentus įvairioms užduotims, tokioms kaip stebėjimas, diegimas ir testavimas. Pagrindinės „AgentCore“ funkcijos:

Modulinė architektūra: „AgentCore“ architektūra sukurta taip, kad būtų labai modulinė, todėl kūrėjai gali kurti pasirinktinius agentus ir juos sklandžiai integruoti į pagrindinę sistemą.
Puikus dirbtinio intelekto sprendimų priėmimas: „AgentCore“ naudoja AI ir ML algoritmus, kad priimtų pagrįstus sprendimus dėl sistemos našumo ir kokybės.
Stebėjimas realiuoju laiku: „AgentCore“ teikia stebėjimo realiuoju laiku galimybes, leidžiančias kūrėjams stebėti sistemos našumą ir nustatyti galimas problemas, kol jos netampa didelėmis problemomis.

LangChain: pokalbių AI agentų kūrimo sistema

„LangChain“ yra „Python“ sistema, skirta kurti pokalbio AI agentus. Jame yra įvairių įrankių ir bibliotekų, skirtų sukurti pasirinktinius agentus, kurie gali dalyvauti natūralios kalbos pokalbiuose su vartotojais. Pagrindinės „LangChain“ funkcijos:

Pokalbio AI: „LangChain“ leidžia kūrėjams sukurti pasirinktinius pokalbio AI agentus, kurie gali bendrauti su vartotojais natūralia kalba.
Modulinė architektūra: „LangChain“ architektūra sukurta taip, kad būtų labai modulinė, todėl kūrėjai gali kurti pasirinktinius agentus ir juos sklandžiai integruoti į pagrindinę sistemą.
Integracija su DSPy: „LangChain“ užtikrina sklandų integravimą su DSPy, leidžiantį kūrėjams panaudoti DSPy AI ir ML galimybes savo pokalbio AI agentuose.

DSPy: AI ir ML modelių kūrimo sistema

DSPy yra Python sistema, skirta AI ir ML modeliams kurti. Jame yra daugybė įrankių ir bibliotekų, skirtų sukurti pasirinktinius modelius, kurie gali būti naudojami įvairiose programose, įskaitant „DevOps“ automatizavimą. Pagrindinės DSPy funkcijos:

AI ir ML modeliavimas: DSPy leidžia kūrėjams kurti pasirinktinius AI ir ML modelius, kurie gali būti naudojami įvairiose programose, įskaitant „DevOps“ automatizavimą.
Integracija su LangChain: DSPy užtikrina sklandų integravimą su LangChain, leidžiantį kūrėjams panaudoti LangChain pokalbio AI galimybes savo AI ir ML modeliuose.
Realiojo laiko nuspėjamoji analizė: DSPy suteikia nuspėjamosios analizės realiuoju laiku galimybes, leidžiančias kūrėjams priimti pagrįstus sprendimus dėl sistemos našumo ir kokybės.

Agento kokybės optimizavimo įgyvendinimas naudojant „LangChain“ ir „DSPy“

Norėdami įdiegti agento kokybės optimizavimą su LangChain ir DSPy, turime atlikti šiuos veiksmus:

Sukurkite tinkintą agentą: sukurkite tinkintą agentą naudodami „LangChain“, kuris gali dalyvauti pokalbiuose su vartotojais natūralia kalba.
Integruokite DSPy: integruokite DSPy su pasirinktiniu agentu, kad išnaudotumėte DSPy AI ir ML galimybes.
Išmokykite modelį: mokykite AI ir ML modelį naudodami DSPy, kad optimizuotumėte agento kokybę.
Įdiekite agentą: įdiekite pasirinktinį agentą su išmokytu modeliu, kad optimizuotumėte agento kokybę.

Čia yra paprastas kodo blokas, rodantis, kaip sukurti pasirinktinį agentą naudojant „LangChain“ ir integruoti DSPy:

importuoti langchain
iš langchain importo LLMChain
iš langchain.chains importuoti ConversationalChain
iš langchain.embeddings importuoti įterpimus
iš langchain.llms importuoti LLM


agentas = LLMchain(
    llm=LLM(
        model="text-davinci-003",
        temperatūra = 0,7,
        max_tokens=100,
        min_tokens=10,
    ),
    input_format="tekstas",
    output_format="tekstas",
)

# Integruoti DSPy
dsp = DSPy(
    modelis = "dspb",
    temperatūra = 0,7,
    max_tokens=100,
    min_tokens=10,
)

# Treniruokite modelį naudodami DSPy
dsp.train(
    agentas,
    data=[
        {"input": "Kokia dabartinė temperatūra?", "output": "Dabartinė temperatūra yra 25°C."},
        {"input": "Kokia yra dabartinė drėgmė?", "output": "Dabartinė drėgmė yra 60 %."},
    ],
)

# Įdiekite agentą su apmokytu modeliu
agent.deploy(dsp)

Poveikis programinės įrangos kūrimui ir architektūrai

Agento kokybės optimizavimas naudojant „LangChain“ ir „DSPy“ turi keletą įtakos programinės įrangos kūrimui ir architektūrai:

Patobulintas sistemos našumas: agento kokybės optimizavimas leidžia kūrėjams sukurti pasirinktinius agentus, kurie gali optimizuoti sistemos našumą ir pagerinti kokybę.
Patobulinta naudotojo patirtis: pokalbio AI agentai gali suteikti vartotojams labiau suasmenintą ir patrauklesnę patirtį.
Padidėjęs efektyvumas: agento kokybės optimizavimas leidžia kūrėjams automatizuoti pasikartojančias užduotis ir sutelkti dėmesį į sudėtingesnes ir kūrybiškesnes užduotis.

5–10 dažniausiai naudojamų komandų / fragmentų

Čia yra 5–10 dažniausiai naudojamų „LangChain“ ir „DSPy“ komandų / fragmentų:

langchain.LLMChain(): sukuria pasirinktinį agentą naudojant LangChain.
langchain.Embeddings(): sukuria įterpimo objektą, skirtą naudoti tinkintoje priemonėje.
langchain.LLM(): sukuria kalbos modelio objektą, skirtą naudoti pasirinktinėje priemonėje.
dsp.DSPy(): sukuria DSPy objektą, skirtą naudoti pasirinktinėje priemonėje.
dsp.train(): lavina AI ir ML modelį naudojant DSPy.
dsp.deploy(): diegia pasirinktinį agentą su išmokytu modeliu.
langchain.ConversationalChain(): sukuria pokalbio AI agentą naudojant LangChain.
langchain.chains.ConversationalChain(): sukuria pokalbio AI agentą naudojant LangChain.
langchain.embeddings.Embeddings(): sukuria įterpimo objektą, skirtą naudoti tinkintoje priemonėje.
langchain.llms.LLM(): sukuria kalbos modelio objektą, skirtą naudoti pasirinktinėje priemonėje.

Vizualizacija

Štai paprasta vizualizacija naudojant Chart.js, kuri parodo agento kokybės optimizavimo įtaką sistemos veikimui:

{
    "tipas": "juosta",
    "duomenys": {
        "etiketės": ["Prieš optimizavimą", "Po optimizavimo"],
        "duomenų rinkiniai": [
            {
                "label": "Sistemos našumas",
                "duomenys": [80, 95],
                "backgroundColor": "rgba(255, 99, 132, 0.2)",
                "borderColor": "rgba(255, 99, 132, 1)",
                "borderWidth": 1
            }
        ]
    },
    "parinktys": {
        "pavadinimas": {
            "display": tiesa,
            "text": "Sistemos našumas prieš ir po optimizavimo"
        },
        "svarstyklės": {
            „yAxes“: [
                {
                    "erkės": {
                        "beginAtZero": tiesa
                    }
                }
            ]
        }
    }
}

Ši vizualizacija parodo agento kokybės optimizavimo įtaką sistemos veikimui, parodydama reikšmingą sistemos našumo pagerėjimą po optimizavimo.

Išvada

Agento kokybės optimizavimas naudojant „LangChain“ ir „DSPy“ turi keletą privalumų, įskaitant geresnį sistemos našumą, geresnę vartotojo patirtį ir didesnį efektyvumą. Išnaudodami „LangChain“ ir „DSPy“ galimybes, kūrėjai gali sukurti pasirinktinius agentus, kurie gali optimizuoti sistemos našumą ir pagerinti kokybę. Pateiktas kodo blokas ir vizualizacija parodo agentų kokybės optimizavimo techninį įgyvendinimą ir jo įtaką programinės įrangos kūrimui ir architektūrai.

Sukurkite pasirinktinį agentą naudodami „LangChain“.

Have Questions?