Hoʻonohonoho ʻana i nā Agents AI me LangChain a me DSPy no ka Hoʻolālā Pūnaewele Hoʻonui | B4N1

Hoʻonohonoho ʻana i nā Agents AI me LangChain a me DSPy no ka Hoʻolālā Pūnaewele Hoʻonui

8 months ago · b4n1 Read time: 6 min

**Ka hoʻonohonoho ʻana i nā Agents AI me LangChain a me DSPy no ka Hoʻolālā Pūnaewele Hoʻonui **

Hoʻolauna

I loko o ka ʻāina kikohoʻe wikiwiki o kēia mau lā, ʻoi aku ka paʻakikī o nā ʻōnaehana polokalamu, me ka hoʻohui ʻana i nā mana Artificial Intelligence (AI) a me Machine Learning (ML). ʻO ka hopena, ʻo ka hoʻolālā ʻana i nā ʻōnaehana scalable a me nā ʻōnaehana hiki ke hoʻonohonoho pono i nā mea hana AI ua lilo i mea hopohopo nui no nā mea ʻenehana polokalamu. Ke ʻimi nei kēia ʻatikala i ka hui ʻana o AI, ʻenekinia lako polokalamu, a me nā mea hana orchestration no ka hoʻolālā ʻana i nā hoʻolālā polokalamu maikaʻi, me ka nānā ʻana i ka hoʻokō ʻana i nā mea hana AI me ka hoʻohana ʻana iā LangChain a me DSPy.

Ka Pono no AI Orchestration

Hoʻolālā pinepine ʻia nā ʻōnaehana polokalamu kuʻuna me kahi hoʻolālā monolithic, kahi i hoʻopili paʻa ʻia nā ʻāpana āpau a hana pū i kahi ʻano laina. Eia nō naʻe, me ka hiki ʻana mai o AI a me ML, ua hoʻolaha nui ʻia nā ʻōnaehana polokalamu a hoʻokaʻawale ʻia, me nā mea hana he nui e hana pū ana e hoʻokō i kahi pahuhopu like. Ua alakaʻi kēia i ka pono o AI orchestration, e pili ana i ka hoʻolālā ʻana i nā ʻōnaehana hiki ke hoʻokele pono a hoʻonohonoho pono i nā pilina ma waena o nā mea hana AI he nui.

LangChain: He Kūlana no ke kūkulu ʻana i nā ʻĀpana AI

ʻO LangChain kahi hoʻolālā Python no ke kūkulu ʻana i nā mea hana AI hiki ke launa pū kekahi me kekahi a me nā ʻōnaehana waho. Hāʻawi ia i kahi pūʻulu o nā mea hana a me nā hale waihona puke e hiki ai i nā mea hoʻomohala ke hana i nā mea hana hiki ke noʻonoʻo, aʻo, a hoʻololi i nā kaiapuni hoʻololi. Kūkulu ʻia ʻo LangChain ma luna o ka ʻōlelo papahana Rust a hāʻawi i kahi API kiʻekiʻe no ke kūkulu ʻana i nā mea hana AI.

DSPy: He Kiʻi no ka hoʻokani ʻana

ʻO DSPy kahi hoʻolālā Python no ke kūkulu ʻana i nā ʻōnaehana puʻupuʻu i hiki ke hoʻonohonoho i nā ʻoihana AI he nui. Hāʻawi ia i kahi pūʻulu o nā mea hana a me nā hale waihona puke e hiki ai i nā mea hoʻomohala ke hoʻolālā a kau i nā ʻōnaehana scalable a paʻa i hiki ke hoʻokele i nā pilina paʻakikī ma waena o nā mea hana lehulehu. Kūkulu ʻia ʻo DSPy ma luna o ka ʻōnaehana memo Apache Kafka a hāʻawi i kahi API kiʻekiʻe no ke kūkulu ʻana i nā ʻōnaehana hoʻolaha.

Ke hoʻokō nei i nā Agents AI me LangChain a me DSPy

No ka hoʻokō ʻana i nā mea hana AI e hoʻohana ana iā LangChain a me DSPy, pono mākou e hahai i kēia mau ʻanuʻu:

  1. E wehewehe i ka Agent Architecture: E wehewehe i ka hoʻolālā ʻana o ka ʻelele AI, me nā mea hoʻokomo, nā mea hoʻopuka, a me nā pilina me nā mea hana ʻē aʻe.
  2. E hoʻokō i ka Logic Agent: E hoʻokō i ka loiloi o ka mea hoʻohana AI me ka hoʻohana ʻana iā LangChain, me nā ʻano kumu noʻonoʻo, aʻo, a me ka hoʻololi ʻana.
  3. Orchest the Agent Interactions: E hoʻohana i ka DSPy no ka hoʻonohonoho ʻana i nā pilina ma waena o nā ʻelele AI he nui, me nā kuʻina kamaʻilio a me nā mīkini hoʻololi ʻikepili.
  4. Hoʻolālā i ka Pūnaehana: E hoʻolālā i ka ʻōnaehana me ka hoʻohana ʻana i kahi paepae kapuaʻi a i ʻole kahi pahu pahu pahu, e like me Docker.

Ka Laʻana Code: Hoʻokō i kahi Agena AI maʻalahi me LangChain

Eia kahi laʻana code maʻalahi e hōʻike ana pehea e hoʻokō ai i kahi mea hoʻohana AI me LangChain:

lawe mai i ka lanchain
mai langchain.chains lawe mai LLMChain


luna = langchain.Agent(
    input_schema={"text": str},
    output_schema={"text": str},
    kaulahao=LLMChain(
        model="davinci:instructix",
        lōʻihi_nui=2048,
        mahana=0.7,
    ),
)

# E hoʻokō i ka loiloi agent
def agent_logic(input_text):
    huaʻōlelo = agent.run(input_text)
    hoʻihoʻi i ka huaʻōlelo

# E hoʻāʻo i ka ʻelele
input_text = "He aha ke ʻano o ke ola?"
huaʻōlelo_huaʻōlelo = agent_logic(input_text)
paʻi(puka_huaʻōlelo)

Hōʻike kēia hiʻohiʻona code pehea e wehewehe ai i kahi mea hoʻohana AI me LangChain, me ka hoʻokomo a me ka hoʻopuka schemas, a me ka loiloi o ka luna. Hoʻokō ʻia ka ʻelele me kahi kaulahao Large Language Model (LLM), ʻo ia ke ʻano o ka mea hana AI hiki ke noʻonoʻo a hoʻopuka i nā kikokikona.

5-10 kiʻekiʻe loa i hoʻohana ʻia i nā kauoha / Snippets no LangChain a me DSPy

Eia nā 5-10 kiʻekiʻe loa i hoʻohana ʻia i nā kauoha / snippets no LangChain a me DSPy:

  1. langchain.Agent(): Hoʻokumu i kahi mea hana hou AI.
luna = langchain.Agent(
    input_schema={"text": str},
    output_schema={"text": str},
    kaulahao=LLMChain(
        model="davinci:instructix",
        lōʻihi_nui=2048,
        mahana=0.7,
    ),
)
  1. agent.run(): Holo i ka ʻelele AI me kahi hoʻokomo i hāʻawi ʻia.
huaʻōlelo = agent.run(input_text)
  1. DSPy.create_cluster(): Hoʻokumu i kahi hui hou o nā node no ka ʻōnaehana puʻunaue.
pūʻulu = DSPy.create_cluster(
    helu_nodes=5,
    node_type="mea hana",
)
  1. DSPy.create_agent(): Hoʻokumu i kahi mea hoʻohana AI hou no ka ʻōnaehana puʻunaue.
luna = DSPy.create_agent(
    pūʻulu = pūʻulu,
    agent_type="LLM",
)
  1. DSPy.deploy_agent(): Hoʻomoe i ka ʻelele AI i ka ʻōnaehana puʻunaue.
DSPy.deploy_agent(
    luna=ʻelele,
    pūʻulu = pūʻulu,
)
  1. DSPy.get_agent_status(): Hoʻihoʻi i ke kūlana o ka ʻelele AI.
kūlana = DSPy.get_agent_status(
    luna=ʻelele,
    pūʻulu = pūʻulu,
)
  1. DSPy.update_agent(): Hoʻohou i ka ʻelele AI me ka ʻikepili hou a i ʻole nā ʻāpana.
DSPy.update_agent(
    luna=ʻelele,
    pūʻulu = pūʻulu,
    new_data={"text": "He kikokikona hookomo hou"},
)
  1. DSPy.delete_agent(): Holoi i ka ʻelele AI mai ka ʻōnaehana puʻunaue.
DSPy.delete_agent(
    luna=ʻelele,
    pūʻulu = pūʻulu,
)
  1. DSPy.create_chain(): Hoʻokumu i kahi kaulahao hou o nā ʻelele AI no ka ʻōnaehana puʻunaue.
kaulahao = DSPy.create_chain(
    nā ʻelele=[agent1, agent2, agent3],
)
  1. DSPy.deploy_chain(): Hoʻolaha i ke kaulahao o nā ʻelele AI i ka ʻōnaehana puʻunaue.
DSPy.deploy_chain(
    kaulahao = kaulahao,
    pūʻulu = pūʻulu,
)

Hōʻikeʻike

Eia kahi hiʻohiʻona o ka hoʻolālā LangChain a me DSPy me ka hoʻohana ʻana iā Chart.js:

{
  "type": "Paʻi pai",
  "ʻikepili": {
    "labels": ["LangChain", "DSPy"],
    "mau ʻikepili": [
      {
        "label": "AI Agents",
        "ʻikepili": [50, 50],
        "ʻulaʻula": ["#4CAF50", "#FF9800"]
      }
    ]
  },
  "koho": {
    "poʻo inoa": {
      "hōʻike": ʻoiaʻiʻo,
      "text": "LangChain a me DSPy Architecture"
    },
    "kaʻao": {
      "hōʻike": ʻoiaʻiʻo
    }
  }
}

Hōʻike kēia hiʻohiʻona i ka hāʻawi ʻana o nā mea hana AI ma waena o LangChain a me DSPy, me 50% o nā mea hana e holo ana ma LangChain a me 50% e holo ana ma DSPy.

Hoʻoholo

Hāʻawi ʻo LangChain a me DSPy i kahi hoʻolālā ikaika no ke kūkulu ʻana a me ka hoʻonohonoho ʻana i nā mea hana AI, e hiki ai i nā mea hoʻomohala ke hoʻolālā i nā ʻōnaehana scalable a hiki ke hoʻokele pono i nā pilina paʻakikī ma waena o nā mea he nui. Ma ka hahai ʻana i nā ʻanuʻu i hōʻike ʻia ma kēia ʻatikala, hiki i nā mea hoʻomohala ke hoʻokō i nā mea hana AI me ka hoʻohana ʻana iā LangChain a me DSPy, a kau iā lākou i kahi ʻōnaehana puʻupuʻu me DSPy. ʻO nā hiʻohiʻona code a me nā hiʻohiʻona i hāʻawi ʻia e hōʻike i nā hiki o LangChain a me DSPy, a ʻo ka 5-10 kiʻekiʻe loa i hoʻohana ʻia nā kauoha / snippets e hāʻawi i kahi kuhikuhi wikiwiki no nā mea hoʻomohala.

Have Questions?

Let's Talk

Contact me on LinkedIn