Te Rarangi Paipa LLM Tauine Nui me te DSPy me te LangChain mo nga DevOps Pai ake | B4N1

Te Rarangi Paipa LLM Tauine Nui me te DSPy me te LangChain mo nga DevOps Pai ake

6 months ago · b4n1 Read time: 6 min

Whakaahua i nga Paipa LLM Tauine Nui me te DSPy me te LangChain mo nga DevOps Pai ake

Whakataki

Ko te taenga mai o nga Tauira Reo Nui (LLMs) kua huri i te mara o te Tukatuka Reo Maori (NLP) me te Matauranga Artificial (AI). Heoi, i te mea ka piki ake te uaua me te rahi o nga punaha-a-LLM, ka piki ake te hiahia mo nga taputapu whakahiato me nga taputapu aunoa. I roto i tenei tuhinga, ka rukuhia e matou te ao o DSPy me LangChain, e rua nga angamahi kaha e taea ai te hanga i nga punaha rorohiko pakari me te tauine i te tau o AI.

Te Wero o nga Paipa LLM Tauine Nui

Ko nga paipa LLM nui-nui he maha nga waahanga, tae atu ki te tukatuka raraunga, whakangungu tauira, me te whakatau. He uaua enei paipa, he maha nga whakawhirinakitanga me nga taunekeneke i waenga i nga waahanga rereke. I te pikinga o te rahi o enei paipa, ka piki ake te tupono o nga hapa, te whakaroa, me nga kohanga puna.

Whakauruhia DSPy me LangChain

Ko te DSPy me te LangChain e rua nga anga e whai ana ki te whakangawari i te whakahiato me te aunoatanga o nga paipa LLM nui. Ko te DSPy he anga-a-Python e whakarato ana i te huarahi ngawari me te whai hua ki te hanga me te whakahaere i nga pipeline raraunga matatini, i te mea ko LangChain he anga e taea ai te hanga i nga punaha AI tauine me te kaha.

DSPy: He Anga Hangaia i te Python mo nga Raraunga Pipeline

Ko DSPy he anga-a-Python e whakarato ana i te huarahi ngawari me te whai hua ki te hanga me te whakahaere i nga paipa raraunga uaua. Ma te DSPy, ka taea e nga kaiwhakawhanake te hanga i nga pipeline raraunga e tauineine ana, e kaha ana, e ngawari ana ki te pupuri.

Anei tetahi tauira o te paipa raraunga ngawari i hangaia me DSPy:

kawemai i te dspy hei dsp


puna_raraunga = dsp.Source(
    name="my_data_source",
    momo = "csv",
    path="/path/to/data.csv"
)

# Tautuhia he tukatuka raraunga
pūtukatuka_raraunga = dsp.Tukatuka(
    name="my_data_processor",
    momo="pandas",
    func=lambda x: x.dropna()
)

# Tautuhia he totohu raraunga
totohu_raraunga = dsp.Totohu(
    name="my_data_sink",
    momo = "csv",
    path="/path/to/output.csv"
)

# Waihangahia he paipa raraunga
paipa = dsp.Pipeline(
    name="my_pipeline",
    puna=[puna_raraunga],
    pūtukatuka=[tukatuka_raraunga],
    totohu=[tuku_raraunga]
)

# Whakahaerehia te paipa
pipeline.run()

I tenei tauira, ka tautuhia he puna raraunga, he tukatuka raraunga, he totohu raraunga, katahi ka hangaia he paipa raraunga hei hono i enei waahanga. Ka whakahaerehia te paipa ma te whakamahi i te tikanga run().

LangChain: He Anga mo nga Pūnaha AI Whakanuia me te Maamaa

Ko te LangChain he anga e taea ai te hanga i nga punaha AI whakahiato me te kaha. Ma te LangChain, ka taea e nga kaiwhakawhanake te hanga i nga punaha AI he ngawari ki te pupuri, ki te tauine, me te kaha ki nga rahunga.

Anei tetahi tauira o te punaha AI ngawari i hangaia me LangChain:

kawemai i te langchain hei lc

# Tautuhia he tauira
tauira = lc.Model(
    name="my_model",
    momo="whakahuri",
    ara="/ara/ki/tauira"
)

# Tautuhia he tere
wawe = lc.Aki(
    name="my_prompt",
    text="He tauira wawe tenei"
)

# Waihangahia he punaha AI
ai_system = lc.AISystem(
    name="my_ai_system",
    tauira = tauira,
    prompt=prompt
)

# Whakahaerehia te punaha AI
ai_system.run()

I tenei tauira, ka tautuhia he tauira, he tere, katahi ka hanga he punaha AI e hono ana i enei waahanga. Ka whakahaerehia te punaha AI ma te whakamahi i te tikanga run().

Whakaahua i nga Paipa LLM Tauine Nui me DSPy me LangChain

Hei whakarite i nga paipa LLM nui-nui me DSPy me LangChain, ka taea e taatau te whakamahi i te huarahi e whai ake nei:

  1. Tautuhia he paipa raraunga ma te whakamahi i te DSPy e hono ana i nga puna raraunga maha, nga tukatuka, me nga totohu.
  2. Tautuhia he punaha AI ma te whakamahi i te LangChain e hono ana i nga tauira maha, nga akiaki, me nga putanga.
  3. Whakamahia te DSPy ki te whakahaere i te pipeline raraunga me te LangChain ki te whakahaere i te punaha AI.
  4. Whakamahia he kaihōtaka penei i a Apache Airflow, Kubernetes ranei hei whakarite i te mahinga o te paipa raraunga me te punaha AI.

Anei tetahi tauira o te tuhi tuhi ngawari e whakamahi ana i te DSPy me te LangChain:

kawemai i te dspy hei dsp
kawemai i te langchain hei lc
kawemai apache_airflow rite af

# Tautuhia he paipa raraunga
raraunga_pipeline = dsp.Pipeline(
    name="my_data_pipeline",
    puna=[dsp.Source(ingoa="my_data_source", momo="csv", path="/path/to/data.csv")],
    pūtukatuka=[dsp.Processor(ingoa="my_data_processor", momo="pandas", func=lambda x: x.dropna())],
    totohu=[dsp.Totohu(ingoa = "my_data_sink", momo = "csv", ara = "/path/to/output.csv")]
)

# Tautuhia he punaha AI
ai_system = lc.AISystem(
    name="my_ai_system",
    model=lc.Model(ingoa = "my_model", momo = "transformer", ara = "/ara/ki/tauira"),
    prompt=lc.Prompt(ingoa="my_prompt", text="He tauira wawe tenei")
)

# Whakaritea te mahinga o te paipa raraunga me te punaha AI
af.schedule_task(
    task_id="taku_mahi",
    dag_id="my_dag",
    pipeline=raraunga_pipeline,
    pūnaha=ai_system
)

I tenei tauira, ka tautuhia e matou he paipa raraunga me tetahi punaha AI ma te whakamahi i te DSPy me te LangChain, katahi ka whakarite i te mahinga o enei waahanga ma te whakamahi i te Apache Airflow.

Tiki 5-10 Nga Tono Whakamahinga/Momohipi

Anei nga tono 5-10 e tino whakamahia ana mo DSPy me LangChain:

' 2. lc.Model(ingoa = "taku_tauira", momo = "whakahuri", ara = "/ara/ki/tauira") 3. lc.Prompt(ingoa="my_prompt", text="He tauira wawe tenei") 4. dsp.Source(ingoa = "my_data_source", momo = "csv", path = "/path/to/data.csv") 5. dsp.Processor(ingoa = "my_data_processor", momo = "pandas", func=lambda x: x.dropna()) 6. dsp.Sink(ingoa = "my_data_sink", momo = "csv", ara = "/path/to/output.csv") 7. lc.AISystem(ingoa = "my_ai_system", model=model, prompt=prompt) 8. af.schedule_task(task_id="my_task", dag_id="my_dag", pipeline=pipeline, system=system) 9. dsp.run_pipeline(pipeline) 10. lc.run_system(system)

Whakakitenga

Anei he tirohanga o nga anga DSPy me LangChain ma te whakamahi i te Chart.js:

{
  "type": "pae",
  "raraunga": {
    "labels": ["DSPy", "LangChain"],
    "raunga raraunga": [
      {
        "label": "Ngā āhuatanga",
        "raraunga": [10, 15],
        "Tae papamuri": [
          "rgba(255, 99, 132, 0.2)",
          "rgba(54, 162, 235, 0.2)"
        ],
        "Taitapa Tae": [
          "rgba(255, 99, 132, 1)",
          "rgba(54, 162, 235, 1)"
        ],
        "BorderWidth": 1
      }
    ]
  },
  "kōwhiringa": {}
}

Ko tenei tirohanga e whakaatu ana i te maha o nga ahuatanga i DSPy me LangChain.

Whakamutunga

Ko DSPy me LangChain nga anga kaha e rua e taea ai te hanga i nga punaha rorohiko pakari me te tauine i te tau o AI. Ma te whakamahi i enei anga, ka taea e nga kaiwhakawhanake te hanga i nga raina paipa LLM nui-nui he ngawari ki te pupuri, ki te tauine, me te mauri ki nga rahunga. Ma te awhina o nga taputapu whakahiato me nga taputapu aunoa penei i a Apache Airflow me Kubernetes, ka taea e nga kaiwhakawhanake te whakarite i te mahinga o enei paipa me nga punaha, kia maamaa ake te whakahaere i nga punaha AI matatini.

Mahi a meake nei

Ko nga mahi a meake nei ko:

  1. Te whakawhanake i etahi atu waahanga mo DSPy me LangChain.
  2. Te whakapai ake i te mahi me te scalability o DSPy me LangChain.
  3. Te whakawhanake ake i nga taputapu whakahiato me nga taputapu aunoa mo DSPy me LangChain.
  4. Te hanga i etahi atu tirohanga me nga papatohu mo DSPy me LangChain.

Nga Tohutoro

  1. Tuhinga DSPy: https://dspy.readthedocs.io/en/latest/
  2. Tuhituhi LangChain: https://langchain.readthedocs.io/en/latest/
  3. Tuhinga Apache Airflow: https://airflow.apache.org/docs/apache-airflow/stable/index.html
  4. Tuhinga Kubernetes: https://kubernetes.io/docs/home/

Have Questions?

Let's Talk

Contact me on LinkedIn