Te Whakaritea i nga Kaitohu AI me LangChain me DSPy mo te Hanganga Pūmanawa Whakanui | B4N1

Te Whakaritea i nga Kaitohu AI me LangChain me DSPy mo te Hanganga Pūmanawa Whakanui

8 months ago · b4n1 Read time: 6 min

Whakaahua i nga Kaitohu AI me LangChain me DSPy mo te Hanganga Rorohiko Whakanuia

Whakataki

I roto i te tere tere o te ao matihiko o enei ra, kei te piki haere te uaua o nga punaha rorohiko, me te whakaurunga o nga pukenga Artificial Intelligence (AI) me te Ako Miihini (ML). Ko te mutunga mai, ko te hoahoa i nga punaha tauineine me te pakari ka taea te whakariterite i nga kaihoko AI kua waiho hei awangawanga nui mo nga miihini rorohiko. Ka tirotirohia e tenei tuhinga te whakawhitinga o AI, te hangarau rorohiko, me nga taputapu whakahiato hei hoahoa i nga hanganga rorohiko pai, me te arotahi ki te whakatinana i nga kaihoko AI ma te whakamahi i te LangChain me te DSPy.

Ko te Hiahia mo te AI Orchestration

He maha nga wa i hangaia ai nga punaha rorohiko tawhito me te hoahoanga monolithic, kei reira nga waahanga katoa e hono pai ana, e mahi tahi ana i roto i te ahua raina. Heoi, i te taenga mai o AI me ML, kei te tohatoha haere nga punaha rorohiko me te whakaheke, me te maha o nga kaihoko e mahi tahi ana ki te whakatutuki i te kaupapa kotahi. Na tenei i puta te hiahia mo te whakahiato AI, e uru ana ki te hoahoa i nga punaha ka taea te whakahaere tika me te whakarite i nga taunekeneke i waenga i nga kaihoko AI maha.

LangChain: He Anga mo te Hanga i nga Kaitohu AI

Ko LangChain he anga Python mo te hanga i nga kaihoko AI ka taea te taunekeneke ki a ratau me nga punaha o waho. Ka whakaratohia he huinga taputapu me nga whare pukapuka e taea ai e nga kaiwhakawhanake te hanga i nga kaihoko ka taea te whakaaro, te ako, me te urutau ki nga taiao rereke. He mea hanga a LangChain ki runga ake o te reo hotaka Rust me te whakarato i te API taumata teitei mo te hanga i nga kaihoko AI.

DSPy: He Anga mo te Orchestration

Ko DSPy he anga Python mo te hanga i nga punaha tohatoha ka taea te whakarite i nga kaihoko AI maha. Ka whakaratohia he huinga taputapu me nga whare pukapuka e taea ai e nga kaiwhakawhanake te hoahoa me te tuku i nga punaha whakahiato me te kaha e taea ai te whakahaere i nga taunekeneke uaua i waenga i nga kaihoko maha. Ka hangaia a DSPy ki runga ake o te punaha korero a Apache Kafka me te whakarato i te API taumata teitei mo te hanga i nga punaha tohatoha.

** Te whakatinana i nga Kaitohu AI me LangChain me DSPy**

Hei whakatinana i nga kaihoko AI ma te whakamahi i te LangChain me te DSPy, me whai i enei mahi:

  1. Whakatauhia te Hangahanga Agent: Tautuhia te hoahoanga o te kaihoko AI, tae atu ki nga whakaurunga, nga putanga, me nga taunekeneke ki etahi atu kaihoko.
  2. Whakamahia te Agent Logic: Whakatinanahia te arorau o te kaihoko AI ma te whakamahi i te LangChain, tae atu ki nga tikanga whakaaro, ako, me nga tikanga urutau.
  3. Whakaahua i nga Whakawhitiwhiti Agent: Whakamahia te DSPy ki te whakarite i nga taunekeneke i waenga i nga kaihoko AI maha, tae atu ki nga tikanga whakawhitiwhiti korero me nga tikanga whakawhiti raraunga.
  4. Tukuhia te Pūnaha: Tukuna te punaha ma te whakamahi i te papaahi kapua, i te anga mahi ipu, penei i a Docker.

Tauira Waehere: Te Whakatinana i tetahi Kaihokohoko AI ngawari me te LangChain

Anei he tauira waehere ngawari e whakaatu ana me pehea te whakatinana i tetahi kaihoko AI ma te whakamahi i te LangChain:

kawemai langchain
mai i langchain.chains kawemai LLMChain


kaihoko = langchain.Agent(
    input_schema="{"text": str},
    output_schema={"kuputuhi": str},
    mekameka=LLMCchain(
        model="davinci:instructix",
        morahi_roa=2048,
        pāmahana=0.7,
    ),
)

# Whakatinanahia te arorau kaihoko
def agent_logic(whakauru_kuputuhi):
    kupu_puta = agent.run(kupu_whakauru)
    whakahokia putanga_kuputuhi

# Whakamatauhia te kaihoko
input_text = "He aha te tikanga o te oranga?"
kupu_puta = agent_logic(whakauru_kupu)
tā(kupu_puta)

Ko tenei tauira waehere e whakaatu ana me pehea te tautuhi i tetahi kaihoko AI ma te whakamahi i te LangChain, tae atu ki nga kaupapa whakauru me te whakaputa, me te arorau o te kaihoko. Ka whakatinanahia te kaihoko ma te whakamahi i te mekameka Tauira Reo Nui (LLM), he momo kaihoko AI ka taea te whakaaro me te whakaputa tuhinga.

Tiki 5-10 Nga Tono Whakamahinga/Snippets mo LangChain me DSPy

Anei nga tono 5-10 e tino whakamahia ana mo LangChain me DSPy:

  1. langchain.Agent(): Hangaia he tauira kaihoko AI hou.
kaihoko = langchain.Agent(
    input_schema="{"text": str},
    output_schema={"kuputuhi": str},
    mekameka=LLMCchain(
        model="davinci:instructix",
        morahi_roa=2048,
        pāmahana=0.7,
    ),
)
  1. agent.run(): Whakahaerehia te kaihoko AI me te whakaurunga.
kupu_puta = agent.run(kupu_whakauru)
  1. DSPy.create_cluster(): Waihangahia he huinga pona hou mo te punaha toha.
tautau = DSPy.create_cluster(
    num_nodes=5,
    node_type="kaimahi",
)
  1. DSPy.create_agent(): Waihangahia he tauira kaihoko AI hou mo te punaha toha.
kaihoko = DSPy.create_agent(
    kāhui = kāhui,
    agent_type="LLM",
)
  1. DSPy.deploy_agent(): Ka tukuna te kaihoko AI ki te punaha tohatoha.
DSPy.deploy_agent(
    māngai = māngai,
    kāhui = kāhui,
)
  1. DSPy.get_agent_status(): Tikina te mana o te kaihoko AI.
tūnga = DSPy.get_agent_status(
    māngai = māngai,
    kāhui = kāhui,
)
  1. DSPy.update_agent(): Whakahoutia te kaihoko AI me nga raraunga hou, tawhā ranei.
DSPy.update_agent(
    māngai = māngai,
    kāhui = kāhui,
    new_data="text": "kuputuhi tāuru hōu"},
)
  1. DSPy.delete_agent(): Ka muku i te kaihoko AI mai i te punaha toha.
DSPy.delete_agent(
    māngai = māngai,
    kāhui = kāhui,
)
  1. DSPy.create_chain(): Ka hanga he mekameka hou o nga kaihoko AI mo te punaha tohatoha.
mekameka = DSPy.create_chain(
    māngai=[agent1, agent2, agent3],
)
  1. DSPy.deploy_chain(): Ka tukuna te mekameka o nga kaihoko AI ki te punaha tohatoha.
DSPy.deploy_chain(
    mekameka = mekameka,
    kāhui = kāhui,
)

Whakakitenga

Anei he tirohanga mo te hangahanga LangChain me DSPy ma te whakamahi i te Chart.js:

{
  "type": "Tutohi porowhita",
  "raraunga": {
    "labels": ["LangChain", "DSPy"],
    "raunga raraunga": [
      {
        "label": "Kaiwhakahaere AI",
        "raraunga": [50, 50],
        "Tae papamuri": ["#4CAF50", "#FF9800"]
      }
    ]
  },
  "kōwhiringa": {
    "taitara": {
      "whakaatu": pono,
      "text": "LangChain me DSPy Architecture"
    },
    "korero": {
      "whakaatu": pono
    }
  }
}

Ko tenei tirohanga e whakaatu ana i te tohatoha o nga kaitohutohu AI i waenganui i LangChain me DSPy, me te 50% o nga kaitohutohu e rere ana i runga i LangChain me te 50% e rere ana i runga i te DSPy.

Whakamutunga

Ka whakaratohia e LangChain me DSPy he anga kaha mo te hanga me te whakarite i nga kaihoko AI, ka taea e nga kaihanga ki te hoahoa i nga punaha tauine me te kaha e taea ai te whakahaere i nga taunekeneke uaua i waenga i nga kaihoko maha. Ma te whai i nga waahanga kua tuhia i roto i tenei tuhinga, ka taea e nga kaiwhakawhanake te whakatinana i nga kaihoko AI ma te whakamahi i te LangChain me te DSPy, ka tukuna atu ki tetahi punaha tohatoha ma te whakamahi i te DSPy. Ko nga tauira waehere me te tirohanga e whakaratohia ana e whakaatu ana i nga kaha o LangChain me DSPy, a ko te 5-10 te nuinga o nga whakahau / snippets e whakarato ana i te tohutoro tere mo nga kaihanga.


Have Questions?

Let's Talk

Contact me on LinkedIn