Whakaahua i nga Kaitohu AI me LangChain me DSPy mo te Hanganga Rorohiko Whakanuia
Whakataki
I roto i te tere tere o te ao matihiko o enei ra, kei te piki haere te uaua o nga punaha rorohiko, me te whakaurunga o nga pukenga Artificial Intelligence (AI) me te Ako Miihini (ML). Ko te mutunga mai, ko te hoahoa i nga punaha tauineine me te pakari ka taea te whakariterite i nga kaihoko AI kua waiho hei awangawanga nui mo nga miihini rorohiko. Ka tirotirohia e tenei tuhinga te whakawhitinga o AI, te hangarau rorohiko, me nga taputapu whakahiato hei hoahoa i nga hanganga rorohiko pai, me te arotahi ki te whakatinana i nga kaihoko AI ma te whakamahi i te LangChain me te DSPy.
Ko te Hiahia mo te AI Orchestration
He maha nga wa i hangaia ai nga punaha rorohiko tawhito me te hoahoanga monolithic, kei reira nga waahanga katoa e hono pai ana, e mahi tahi ana i roto i te ahua raina. Heoi, i te taenga mai o AI me ML, kei te tohatoha haere nga punaha rorohiko me te whakaheke, me te maha o nga kaihoko e mahi tahi ana ki te whakatutuki i te kaupapa kotahi. Na tenei i puta te hiahia mo te whakahiato AI, e uru ana ki te hoahoa i nga punaha ka taea te whakahaere tika me te whakarite i nga taunekeneke i waenga i nga kaihoko AI maha.
LangChain: He Anga mo te Hanga i nga Kaitohu AI
Ko LangChain he anga Python mo te hanga i nga kaihoko AI ka taea te taunekeneke ki a ratau me nga punaha o waho. Ka whakaratohia he huinga taputapu me nga whare pukapuka e taea ai e nga kaiwhakawhanake te hanga i nga kaihoko ka taea te whakaaro, te ako, me te urutau ki nga taiao rereke. He mea hanga a LangChain ki runga ake o te reo hotaka Rust me te whakarato i te API taumata teitei mo te hanga i nga kaihoko AI.
DSPy: He Anga mo te Orchestration
Ko DSPy he anga Python mo te hanga i nga punaha tohatoha ka taea te whakarite i nga kaihoko AI maha. Ka whakaratohia he huinga taputapu me nga whare pukapuka e taea ai e nga kaiwhakawhanake te hoahoa me te tuku i nga punaha whakahiato me te kaha e taea ai te whakahaere i nga taunekeneke uaua i waenga i nga kaihoko maha. Ka hangaia a DSPy ki runga ake o te punaha korero a Apache Kafka me te whakarato i te API taumata teitei mo te hanga i nga punaha tohatoha.
** Te whakatinana i nga Kaitohu AI me LangChain me DSPy**
Hei whakatinana i nga kaihoko AI ma te whakamahi i te LangChain me te DSPy, me whai i enei mahi:
- Whakatauhia te Hangahanga Agent: Tautuhia te hoahoanga o te kaihoko AI, tae atu ki nga whakaurunga, nga putanga, me nga taunekeneke ki etahi atu kaihoko.
- Whakamahia te Agent Logic: Whakatinanahia te arorau o te kaihoko AI ma te whakamahi i te LangChain, tae atu ki nga tikanga whakaaro, ako, me nga tikanga urutau.
- Whakaahua i nga Whakawhitiwhiti Agent: Whakamahia te DSPy ki te whakarite i nga taunekeneke i waenga i nga kaihoko AI maha, tae atu ki nga tikanga whakawhitiwhiti korero me nga tikanga whakawhiti raraunga.
- Tukuhia te Pūnaha: Tukuna te punaha ma te whakamahi i te papaahi kapua, i te anga mahi ipu, penei i a Docker.
Tauira Waehere: Te Whakatinana i tetahi Kaihokohoko AI ngawari me te LangChain
Anei he tauira waehere ngawari e whakaatu ana me pehea te whakatinana i tetahi kaihoko AI ma te whakamahi i te LangChain:
kawemai langchain
mai i langchain.chains kawemai LLMChain
kaihoko = langchain.Agent(
input_schema="{"text": str},
output_schema={"kuputuhi": str},
mekameka=LLMCchain(
model="davinci:instructix",
morahi_roa=2048,
pāmahana=0.7,
),
)
# Whakatinanahia te arorau kaihoko
def agent_logic(whakauru_kuputuhi):
kupu_puta = agent.run(kupu_whakauru)
whakahokia putanga_kuputuhi
# Whakamatauhia te kaihoko
input_text = "He aha te tikanga o te oranga?"
kupu_puta = agent_logic(whakauru_kupu)
tā(kupu_puta)
Ko tenei tauira waehere e whakaatu ana me pehea te tautuhi i tetahi kaihoko AI ma te whakamahi i te LangChain, tae atu ki nga kaupapa whakauru me te whakaputa, me te arorau o te kaihoko. Ka whakatinanahia te kaihoko ma te whakamahi i te mekameka Tauira Reo Nui (LLM), he momo kaihoko AI ka taea te whakaaro me te whakaputa tuhinga.
Tiki 5-10 Nga Tono Whakamahinga/Snippets mo LangChain me DSPy
Anei nga tono 5-10 e tino whakamahia ana mo LangChain me DSPy:
- langchain.Agent(): Hangaia he tauira kaihoko AI hou.
kaihoko = langchain.Agent(
input_schema="{"text": str},
output_schema={"kuputuhi": str},
mekameka=LLMCchain(
model="davinci:instructix",
morahi_roa=2048,
pāmahana=0.7,
),
)
- agent.run(): Whakahaerehia te kaihoko AI me te whakaurunga.
kupu_puta = agent.run(kupu_whakauru)
- DSPy.create_cluster(): Waihangahia he huinga pona hou mo te punaha toha.
tautau = DSPy.create_cluster(
num_nodes=5,
node_type="kaimahi",
)
- DSPy.create_agent(): Waihangahia he tauira kaihoko AI hou mo te punaha toha.
kaihoko = DSPy.create_agent(
kāhui = kāhui,
agent_type="LLM",
)
- DSPy.deploy_agent(): Ka tukuna te kaihoko AI ki te punaha tohatoha.
DSPy.deploy_agent(
māngai = māngai,
kāhui = kāhui,
)
- DSPy.get_agent_status(): Tikina te mana o te kaihoko AI.
tūnga = DSPy.get_agent_status(
māngai = māngai,
kāhui = kāhui,
)
- DSPy.update_agent(): Whakahoutia te kaihoko AI me nga raraunga hou, tawhā ranei.
DSPy.update_agent(
māngai = māngai,
kāhui = kāhui,
new_data="text": "kuputuhi tāuru hōu"},
)
- DSPy.delete_agent(): Ka muku i te kaihoko AI mai i te punaha toha.
DSPy.delete_agent(
māngai = māngai,
kāhui = kāhui,
)
- DSPy.create_chain(): Ka hanga he mekameka hou o nga kaihoko AI mo te punaha tohatoha.
mekameka = DSPy.create_chain(
māngai=[agent1, agent2, agent3],
)
- DSPy.deploy_chain(): Ka tukuna te mekameka o nga kaihoko AI ki te punaha tohatoha.
DSPy.deploy_chain(
mekameka = mekameka,
kāhui = kāhui,
)
Whakakitenga
Anei he tirohanga mo te hangahanga LangChain me DSPy ma te whakamahi i te Chart.js:
{
"type": "Tutohi porowhita",
"raraunga": {
"labels": ["LangChain", "DSPy"],
"raunga raraunga": [
{
"label": "Kaiwhakahaere AI",
"raraunga": [50, 50],
"Tae papamuri": ["#4CAF50", "#FF9800"]
}
]
},
"kōwhiringa": {
"taitara": {
"whakaatu": pono,
"text": "LangChain me DSPy Architecture"
},
"korero": {
"whakaatu": pono
}
}
}
Ko tenei tirohanga e whakaatu ana i te tohatoha o nga kaitohutohu AI i waenganui i LangChain me DSPy, me te 50% o nga kaitohutohu e rere ana i runga i LangChain me te 50% e rere ana i runga i te DSPy.
Whakamutunga
Ka whakaratohia e LangChain me DSPy he anga kaha mo te hanga me te whakarite i nga kaihoko AI, ka taea e nga kaihanga ki te hoahoa i nga punaha tauine me te kaha e taea ai te whakahaere i nga taunekeneke uaua i waenga i nga kaihoko maha. Ma te whai i nga waahanga kua tuhia i roto i tenei tuhinga, ka taea e nga kaiwhakawhanake te whakatinana i nga kaihoko AI ma te whakamahi i te LangChain me te DSPy, ka tukuna atu ki tetahi punaha tohatoha ma te whakamahi i te DSPy. Ko nga tauira waehere me te tirohanga e whakaratohia ana e whakaatu ana i nga kaha o LangChain me DSPy, a ko te 5-10 te nuinga o nga whakahau / snippets e whakarato ana i te tohutoro tere mo nga kaihanga.