Trefnu Asiantau AI gyda LangChain a DSPy ar gyfer Pensaernïaeth Meddalwedd Uwch

Cerddorfa Asiantau AI gyda LangChain a DSPy ar gyfer Pensaernïaeth Meddalwedd Uwch

Cyflwyniad

Yn y dirwedd ddigidol gyflym heddiw, mae systemau meddalwedd yn dod yn fwyfwy cymhleth, gydag integreiddio galluoedd Deallusrwydd Artiffisial (AI) a Dysgu Peiriant (ML). O ganlyniad, mae dylunio systemau graddadwy a gwydn a all drefnu asiantau AI yn effeithiol wedi dod yn bryder dybryd i beirianwyr meddalwedd. Mae'r erthygl hon yn archwilio croestoriad AI, peirianneg meddalwedd, ac offer cerddorfaol i ddylunio pensaernïaeth meddalwedd effeithlon, gyda ffocws ar weithredu asiantau AI gan ddefnyddio LangChain a DSPy.

Yr Angen am Gerddorfa AI

Mae systemau meddalwedd traddodiadol yn aml yn cael eu dylunio gyda phensaernïaeth monolithig, lle mae'r holl gydrannau wedi'u cysylltu'n dynn ac yn gweithio gyda'i gilydd mewn modd llinol. Fodd bynnag, gyda dyfodiad AI ac ML, mae systemau meddalwedd yn cael eu dosbarthu a'u datganoli fwyfwy, gydag asiantau lluosog yn gweithio gyda'i gilydd i gyflawni nod cyffredin. Mae hyn wedi arwain at yr angen am offeryniaeth AI, sy'n cynnwys dylunio systemau a all reoli a chydlynu'r rhyngweithiadau rhwng asiantau AI lluosog yn effeithiol.

LangChain: Fframwaith ar gyfer Adeiladu Asiantau AI

Mae LangChain yn fframwaith Python ar gyfer adeiladu asiantau AI a all ryngweithio â'i gilydd a chyda systemau allanol. Mae'n darparu set o offer a llyfrgelloedd sy'n galluogi datblygwyr i greu asiantau sy'n gallu rhesymu, dysgu ac addasu i amgylcheddau newidiol. Mae LangChain wedi'i adeiladu ar ben yr iaith raglennu Rust ac mae'n darparu API lefel uchel ar gyfer adeiladu asiantau AI.

DSPy: Fframwaith ar gyfer Cerddorfa

Mae DSPy yn fframwaith Python ar gyfer adeiladu systemau gwasgaredig a all drefnu nifer o asiantau AI. Mae'n darparu set o offer a llyfrgelloedd sy'n galluogi datblygwyr i ddylunio a defnyddio systemau graddadwy a gwydn a all reoli rhyngweithiadau cymhleth rhwng asiantau lluosog. Mae DSPy wedi'i adeiladu ar ben system negeseuon Apache Kafka ac mae'n darparu API lefel uchel ar gyfer adeiladu systemau dosbarthedig.

Gweithredu Asiantau AI gyda LangChain a DSPy

Er mwyn gweithredu asiantau AI gan ddefnyddio LangChain a DSPy, mae angen i ni ddilyn y camau hyn:

Diffinio Pensaernïaeth yr Asiant: Diffiniwch saernïaeth yr asiant AI, gan gynnwys y mewnbynnau, yr allbynnau, a'r rhyngweithiadau ag asiantau eraill.
Gweithredu Rhesymeg yr Asiant: Gweithredu rhesymeg yr asiant AI gan ddefnyddio LangChain, gan gynnwys y mecanweithiau rhesymu, dysgu ac addasu.
Cerddorfa'r Rhyngweithiadau Asiant: Defnyddio DSPy i drefnu'r rhyngweithiadau rhwng asiantau AI lluosog, gan gynnwys y protocolau cyfathrebu a'r mecanweithiau cyfnewid data.
Defnyddio'r System: Defnyddio'r system gan ddefnyddio llwyfan cwmwl neu fframwaith cynhwysyddion, fel Docker.

Enghraifft o God: Gweithredu Asiant AI Syml gyda LangChain

Dyma enghraifft cod syml sy'n dangos sut i weithredu asiant AI gan ddefnyddio LangChain:

mewnforio langchain
o langchain.chains mewnforio LLMChain


asiant = langchain.Agent(
    mewnbwn_schema={ "testun": str},
    output_schema={ "testun": str},
    cadwyn=LLMChain(
        model="davinci:instructix",
        max_length=2048,
        tymheredd=0.7,
    ),
)

# Gweithredu'r rhesymeg asiant
def agent_logic(mewnbwn_testun):
    output_text = asiant.run(mewnbwn_testun)
    dychwelyd allbwn_testun

# Profwch yr asiant
input_text = "Beth yw ystyr bywyd?"
allbwn_text = asiant_logic(mewnbwn_testun)
argraffu (allbwn_testun)

Mae'r enghraifft god hon yn dangos sut i ddiffinio asiant AI gan ddefnyddio LangChain, gan gynnwys y sgemâu mewnbwn ac allbwn, a rhesymeg yr asiant. Mae'r asiant yn cael ei weithredu gan ddefnyddio cadwyn Model Iaith Fawr (LLM), sef math o asiant AI sy'n gallu rhesymu a chynhyrchu testun.

** 5-10 Gorchymyn / Pigion a Ddefnyddir fwyaf ar gyfer LangChain a DSPy**

Dyma'r 5-10 gorchymyn / pytiau mwyaf poblogaidd ar gyfer LangChain a DSPy:

langchain.Agent(): Yn creu enghraifft asiant AI newydd.

asiant = langchain.Agent(
    mewnbwn_schema={ "testun": str},
    output_schema={ "testun": str},
    cadwyn=LLMChain(
        model="davinci:instructix",
        max_length=2048,
        tymheredd=0.7,
    ),
)

agent.run(): Yn rhedeg yr asiant AI gyda mewnbwn penodol.

output_text = asiant.run(mewnbwn_testun)

DSPy.create_cluster(): Yn creu clwstwr newydd o nodau ar gyfer y system ddosbarthedig.

clwstwr = DSPy.create_cluster(
    num_nodes=5,
    node_type = "gweithiwr",
)

DSPy.create_agent(): Yn creu enghraifft asiant AI newydd ar gyfer y system ddosbarthedig.

asiant = DSPy.create_agent(
    clwstwr = clwstwr,
    agent_type = "LLM",
)

DSPy.deploy_agent(): Yn defnyddio'r asiant AI i'r system ddosbarthedig.

DSPy.deploy_agent(
    asiant = asiant,
    clwstwr = clwstwr,
)

DSPy.get_agent_status(): Yn adennill statws yr asiant AI.

statws = DSPy.get_agent_status(
    asiant = asiant,
    clwstwr = clwstwr,
)

DSPy.update_agent(): Yn diweddaru'r asiant AI gyda data neu baramedrau newydd.

DSPy.update_agent(
    asiant = asiant,
    clwstwr = clwstwr,
    new_data={ "testun": "testun mewnbwn newydd"},
)

DSPy.delete_agent(): Yn dileu'r asiant AI o'r system ddosbarthedig.

DSPy.delete_agent(
    asiant = asiant,
    clwstwr = clwstwr,
)

DSPy.create_chain(): Yn creu cadwyn newydd o asiantau AI ar gyfer y system ddosbarthedig.

cadwyn = DSPy.create_chain(
    asiantau=[asiant1, asiant2, asiant3],
)

DSPy.deploy_chain(): Yn defnyddio'r gadwyn o asiantau AI i'r system ddosbarthedig.

DSPy.deploy_chain(
    cadwyn = cadwyn,
    clwstwr = clwstwr,
)

ddelweddu

Dyma ddelweddiad o bensaernïaeth LangChain a DSPy gan ddefnyddio Chart.js:

{
  "math": "siar cylch",
  "data": {
    "labels": [ "LangChain", "DSPy"],
    "setiau data": [
      {
        " label " : " Asiantau AI",
        "data": [50, 50],
        "backgroundColor": ["#4CAF50", "#FF9800"]
      }
    ]
  },
  "opsiynau": {
    "title": {
      "arddangos": gwir,
      " text " : " Pensaernïaeth LangChain a DSPy "
    },
    "chwedl": {
      "arddangos": gwir
    }
  }
}

Mae'r delweddu hwn yn dangos dosbarthiad asiantau AI rhwng LangChain a DSPy, gyda 50% o'r asiantau yn rhedeg ar LangChain a 50% yn rhedeg ar DSPy.

Casgliad

Mae LangChain a DSPy yn darparu fframwaith pwerus ar gyfer adeiladu a threfnu asiantau AI, gan alluogi datblygwyr i ddylunio systemau graddadwy a gwydn a all reoli rhyngweithio cymhleth rhwng asiantau lluosog yn effeithiol. Trwy ddilyn y camau a amlinellir yn yr erthygl hon, gall datblygwyr weithredu asiantau AI gan ddefnyddio LangChain a DSPy, a'u defnyddio i system ddosbarthedig gan ddefnyddio DSPy. Mae'r enghreifftiau cod a'r delweddu a ddarperir yn dangos galluoedd LangChain a DSPy, ac mae'r 5-10 gorchymyn / pytiau a ddefnyddir fwyaf yn darparu cyfeiriad cyflym i ddatblygwyr.

Trefnu Asiantau AI gyda LangChain a DSPy ar gyfer Pensaernïaeth Meddalwedd Uwch

Have Questions?