Orchestrating AI Awọn aṣoju pẹlu LangChain ati DSPy fun Imudara Software faaji | B4N1

Orchestrating AI Awọn aṣoju pẹlu LangChain ati DSPy fun Imudara Software faaji

8 months ago · b4n1 Read time: 5 min

** Orchestrating AI Awọn aṣoju pẹlu LangChain ati DSPy fun Imudara faaji sọfitiwia ***

Ibere

Ninu iwoye oni-nọmba ti o yara ti ode oni, awọn ọna ṣiṣe sọfitiwia n di idiju pupọ sii, pẹlu iṣọpọ ti Imọye Oríkĕ (AI) ati awọn agbara Ẹkọ Ẹrọ (ML). Bi abajade, ṣiṣe apẹrẹ iwọn ati awọn eto resilient ti o le ṣe adaṣe awọn aṣoju AI ni imunadoko ti di ibakcdun titẹ fun awọn onimọ-ẹrọ sọfitiwia. Nkan yii ṣawari ikorita ti AI, imọ-ẹrọ sọfitiwia, ati awọn irinṣẹ orchestration lati ṣe apẹrẹ awọn ayaworan sọfitiwia daradara, pẹlu idojukọ lori imuse awọn aṣoju AI nipa lilo LangChain ati DSPy.

** iwulo fun Orchestration AI ***

Awọn ọna ṣiṣe sọfitiwia ti aṣa jẹ apẹrẹ nigbagbogbo pẹlu faaji monolithic kan, nibiti gbogbo awọn paati ti wa ni asopọ ni wiwọ ati ṣiṣẹ papọ ni aṣa laini kan. Bibẹẹkọ, pẹlu dide AI ati ML, awọn eto sọfitiwia ti n pin kaakiri ati ipinpinpin, pẹlu ọpọlọpọ awọn aṣoju ṣiṣẹ papọ lati ṣaṣeyọri ibi-afẹde ti o wọpọ. Eyi ti yori si iwulo fun orchestration AI, eyiti o pẹlu awọn eto ṣiṣe apẹrẹ ti o le ṣakoso ni imunadoko ati ipoidojuko awọn ibaraenisepo laarin awọn aṣoju AI pupọ.

** LangChain: Ilana kan fun Ilé Awọn aṣoju AI ***

LangChain jẹ ilana Python fun kikọ awọn aṣoju AI ti o le ṣe ajọṣepọ pẹlu ara wọn ati pẹlu awọn eto ita. O pese eto awọn irinṣẹ ati awọn ile-ikawe ti o jẹ ki awọn olupilẹṣẹ ṣẹda awọn aṣoju ti o le ronu, kọ ẹkọ, ati ni ibamu si awọn agbegbe iyipada. LangChain ti wa ni itumọ ti lori oke ti ede siseto Rust ati pese API ti o ga julọ fun kikọ awọn aṣoju AI.

** DSPy: Ilana kan fun Orchestration ***

DSPy jẹ ilana Python fun kikọ awọn eto pinpin ti o le ṣe agbekalẹ awọn aṣoju AI pupọ. O pese eto awọn irinṣẹ ati awọn ile-ikawe ti o jẹ ki awọn olupilẹṣẹ ṣe apẹrẹ ati mu awọn ọna ṣiṣe iwọn ati ti o ni agbara ti o le ṣakoso awọn ibaraenisepo eka laarin awọn aṣoju pupọ. DSPy ti wa ni itumọ ti lori oke ti Apache Kafka fifiranṣẹ eto ati ki o pese a ga-ipele API fun kikọ awọn ọna šiše pin.

** Ṣiṣe awọn aṣoju AI pẹlu LangChain ati DSPy ***

Lati ṣe awọn aṣoju AI ni lilo LangChain ati DSPy, a nilo lati tẹle awọn igbesẹ wọnyi:

  1. ** Ṣetumo Itumọ Aṣoju Aṣoju ***: Ṣetumo faaji ti oluranlowo AI, pẹlu awọn igbewọle, awọn abajade, ati awọn ibaraẹnisọrọ pẹlu awọn aṣoju miiran.
  2. ** Ṣe Iṣaṣe Aṣoju Aṣoju ***: Ṣe imudara ọgbọn ti oluranlowo AI nipa lilo LangChain, pẹlu ero, ẹkọ, ati awọn ilana imudọgba.
  3. ** Orchestrate Awọn ibaraẹnisọrọ Aṣoju ***: Lo DSPy lati ṣe agbekalẹ awọn ibaraẹnisọrọ laarin awọn aṣoju AI pupọ, pẹlu awọn ilana ibaraẹnisọrọ ati awọn ilana paṣipaarọ data.
  4. ** Mu Eto naa ṣiṣẹ ***: Fi eto naa ṣiṣẹ nipa lilo ipilẹ awọsanma tabi ilana imudani, gẹgẹbi Docker.

** Apẹẹrẹ koodu: Ṣiṣe Aṣoju AI Rọrun pẹlu LangChain ***

Eyi ni apẹẹrẹ koodu ti o rọrun ti o ṣe afihan bi o ṣe le ṣe imuse aṣoju AI kan nipa lilo LangChain: `` Python gbe wọle langchain lati langchain.chains gbe wọle LLMChain

oluranlowo = langchain.Agent ( input_schema={"ọrọ": str}, output_schema={"ọrọ": str}, pq=LLMChain( awoṣe = "davinci: instructix", max_length=2048, otutu = 0.7, ), )

Ṣe imuse ọgbọn aṣoju

def agent_logic(input_text): output_text = agent.run(input_text) pada output_text

Ṣe idanwo aṣoju naa

input_text = "Kini itumo aye?" output_text = agent_logic(input_text) tite(output_text)

Apeere koodu yii ṣe afihan bi o ṣe le ṣalaye aṣoju AI kan nipa lilo LangChain, pẹlu awọn igbewọle ati awọn eto igbejade, ati ọgbọn ti aṣoju naa. Aṣoju naa ni imuse nipa lilo ẹwọn Awoṣe Ede Tobi (LLM), eyiti o jẹ iru aṣoju AI ti o le ronu ati ṣe ipilẹṣẹ ọrọ.

** Top 5-10 Awọn Aṣẹ Ti A Lo Julọ/Awọn Snippets fun LangChain ati DSPy ***

Eyi ni awọn pipaṣẹ 5-10 ti o lo julọ / awọn snippets fun LangChain ati DSPy:

1. ** langchain.Agent () ***: Ṣẹda apẹẹrẹ aṣoju AI tuntun kan.
`` Python
oluranlowo = langchain.Agent (
    input_schema={"ọrọ": str},
    output_schema={"ọrọ": str},
    pq=LLMChain(
        awoṣe = "davinci: instructix",
        max_length=2048,
        otutu = 0.7,
    ),
)
  1. ** agent.run ()**: Ṣiṣe aṣoju AI pẹlu titẹ sii ti a fun. `` Python output_text = agent.run(input_text)
3. ** DSPy.create_cluster () ***: Ṣẹda titun kan iṣupọ ti apa fun awọn pin eto.
`` Python
iṣupọ = DSPy.create_cluster (
    num_nodes=5,
    node_type = "Osise",
)
  1. ** DSPy.create_agent () ***: Ṣẹda apẹẹrẹ aṣoju AI tuntun fun eto pinpin. `` Python oluranlowo = DSPy.create_agent ( iṣupọ = iṣupọ, aṣoju_type = "LLM", )
5. ** DSPy.deploy_agent () ***: Nfi oluranlowo AI si eto ti a pin.
`` Python
DSPy.deploy_agent(
    aṣoju = aṣoju,
    iṣupọ = iṣupọ,
)
  1. ** DSPy.get_agent_status ()**: Gba awọn ipo ti AI oluranlowo. `` Python ipo = DSPy.get_agent_status( aṣoju = aṣoju, iṣupọ = iṣupọ, )
7. ** DSPy.update_agent () ***: Ṣe imudojuiwọn aṣoju AI pẹlu data tuntun tabi awọn ayeraye.
`` Python
DSPy.update_agent(
    aṣoju = aṣoju,
    iṣupọ = iṣupọ,
    new_data={"text": "ọrọ igbewọle tuntun",},
)
  1. ** DSPy.delete_agent ()**: Npa oluranlowo AI kuro ninu eto pinpin. `` Python DSPy.delete_agent( aṣoju = aṣoju, iṣupọ = iṣupọ, )
9. ** DSPy.create_chain () ***: Ṣẹda titun pq ti AI òjíṣẹ fun awọn pin eto.
`` Python
pq = DSPy.create_chain (
    awọn aṣoju =[aṣoju1, aṣoju2, aṣoju3],
)
  1. ** DSPy.deploy_chain () ***: Ṣiṣe awọn pq ti awọn aṣoju AI si eto ti a pin. `` Python DSPy.deploy_chain( ẹwọn = ẹwọn, iṣupọ = iṣupọ, )
** Iworan ***

Eyi ni iworan ti LangChain ati DSPy faaji nipa lilo Chart.js:
`` json
{
  "type": "pieChart",
  "data": {
    "labels": ["LangChain", "DSPy"],
    "awọn ipilẹ data": [
      {
        "label": "AI Aṣojú",
        "data": [50, 50],
        "backgroundColor": ["#4CAF50", "#FF9800"]
      }
    ]
  },
  "awọn aṣayan": {
    "akọle": {
      "ifihan": otitọ,
      "text": "LangChain ati DSPy Architecture"
    },
    "Àlàyé": {
      "ifihan": otitọ
    }
  }
}

Iwoye yii ṣe afihan pinpin awọn aṣoju AI laarin LangChain ati DSPy, pẹlu 50% ti awọn aṣoju nṣiṣẹ lori LangChain ati 50% nṣiṣẹ lori DSPy.

Ipari

LangChain ati DSPy pese ilana ti o lagbara fun kikọ ati siseto awọn aṣoju AI, ṣiṣe awọn olupilẹṣẹ lati ṣe apẹrẹ iwọn ati awọn ọna ṣiṣe resilient ti o le ṣakoso imunadoko awọn ibaraenisọrọ eka laarin awọn aṣoju pupọ. Nipa titẹle awọn igbesẹ ti a ṣe alaye ninu nkan yii, awọn olupilẹṣẹ le ṣe awọn aṣoju AI ni lilo LangChain ati DSPy, ati gbe wọn lọ si eto pinpin nipa lilo DSPy. Awọn apẹẹrẹ koodu ati iworan ti a pese ṣe afihan awọn agbara ti LangChain ati DSPy, ati oke 5-10 awọn aṣẹ/snippets ti a lo julọ n pese itọkasi iyara fun awọn olupilẹṣẹ.


Have Questions?

Let's Talk

Contact me on LinkedIn