Өркүндөтүлгөн программалык архитектура үчүн AI агенттерин LangChain жана DSPy менен уюштуруу | B4N1

Өркүндөтүлгөн программалык архитектура үчүн AI агенттерин LangChain жана DSPy менен уюштуруу

8 months ago · b4n1 Tiempo de lectura: 4 min

** LangChain жана DSPy менен AI агенттерин өркүндөтүлгөн программалык архитектура үчүн уюштуруу**

Танышуу

Бүгүнкү ылдам темпте санариптик пейзажда, программалык камсыздоо системалары Жасалма интеллект (AI) жана Machine Learning (ML) мүмкүнчүлүктөрүн интеграциялоо менен барган сайын татаал болуп баратат. Натыйжада, AI агенттерин эффективдүү башкара алган масштабдуу жана ийкемдүү системаларды долбоорлоо программалык камсыздоо инженерлери үчүн актуалдуу маселе болуп калды. Бул макалада LangChain жана DSPy аркылуу AI агенттерин ишке ашырууга басым жасоо менен эффективдүү программалык камсыздоонун архитектурасын иштеп чыгуу үчүн AI, программалык камсыздоо инженериясы жана оркестрлөө куралдарынын кесилишин изилдейт.

** AI оркестрине муктаждык**

Салттуу программалык камсыздоо тутумдары көбүнчө монолиттүү архитектура менен иштелип чыккан, мында бардык компоненттер тыгыз байланышта жана сызыктуу түрдө чогуу иштешет. Бирок, AI жана MLдин пайда болушу менен программалык камсыздоо тутумдары барган сайын бөлүштүрүлүп, борбордон ажыратылып, бир нече агенттер жалпы максатка жетүү үчүн бирге иштешет. Бул бир нече AI агенттеринин ортосундагы өз ара аракеттенүүнү натыйжалуу башкара жана координациялай турган системаларды долбоорлоону камтыган AI оркестринин зарылдыгына алып келди.

LangChain: AI агенттерин куруу үчүн негиз

LangChain бири-бири менен жана тышкы системалар менен өз ара аракеттене ала турган AI агенттерин куруу үчүн Python алкак болуп саналат. Ал иштеп чыгуучуларга ой жүгүртүүгө, үйрөнүүгө жана өзгөрүп жаткан чөйрөлөргө ыңгайлаша ала турган агенттерди түзүүгө мүмкүндүк берген куралдардын жана китепканалардын топтомун камсыз кылат. LangChain Rust программалоо тилинин үстүнө курулган жана AI агенттерин куруу үчүн жогорку деңгээлдеги API менен камсыз кылат.

DSPy: Оркестрация үчүн алкак

DSPy - бул бир нече AI агенттерин уюштура алган бөлүштүрүлгөн системаларды куруу үчүн Python алкагы. Ал иштеп чыгуучуларга бир нече агенттердин ортосундагы татаал өз ара аракеттенүүнү башкара ала турган масштабдуу жана ийкемдүү системаларды иштеп чыгууга жана жайылтууга мүмкүндүк берген куралдардын жана китепканалардын топтомун камсыз кылат. DSPy Apache Kafka билдирүү системасынын үстүнө курулган жана бөлүштүрүлгөн системаларды куруу үчүн жогорку деңгээлдеги API менен камсыз кылат.

LangChain жана DSPy менен AI агенттерин ишке ашыруу

LangChain жана DSPy аркылуу AI агенттерин ишке ашыруу үчүн биз төмөнкү кадамдарды жасашыбыз керек:

  1. Агенттин архитектурасын аныктаңыз: AI агентинин архитектурасын, анын ичинде киргизүүлөрдү, жыйынтыктарды жана башка агенттер менен өз ара аракеттенүүнү аныктаңыз.
  2. Агенттин логикасын ишке ашыруу: LangChain аркылуу AI агентинин логикасын ишке ашыруу, анын ичинде ой жүгүртүү, үйрөнүү жана адаптациялоо механизмдери.
  3. Агенттин өз ара аракеттенүүсүн жөнгө салыңыз: DSPy'ди колдонуп, бир нече AI агенттеринин, анын ичинде байланыш протоколдорун жана маалымат алмашуу механизмдерин ортосундагы өз ара аракеттенүүлөрдү уюштуруу.
  4. Системаны жайылтуу: Системаны булут платформасы же Docker сыяктуу контейнерлештирүү алкагы аркылуу жайылтыңыз.

Код мисалы: LangChain менен жөнөкөй AI агентин ишке ашыруу

Бул жерде LangChain аркылуу AI агентин кантип ишке ашырууну көрсөткөн жөнөкөй код мисалы:

импорттук langchain
langchain.chains импорттоо LMChain тартып


агент = langchain.Agent(
    input_schema={"текст": str},
    output_schema={"текст": str},
    чынжыр=LLMCчейн(
        модель="davinci:instructix",
        max_length=2048,
        температура = 0,7,
    ),
)

# Агент логикасын ишке ашыруу
def agent_logic(киргизүү_текст):
    output_text = agent.run(input_text)
    output_text кайтаруу

# Агентти сынаңыз
input_text = "Жашоонун мааниси эмнеде?"
output_text = agent_logic(киргизүү_текст)
басып чыгаруу(чыгаруу_текст)

Бул код мисалы LangChain аркылуу AI агентин кантип аныктоону көрсөтөт, анын ичинде киргизүү жана чыгаруу схемалары жана агенттин логикасы. Агент чоң тил модели (LLM) чынжырын колдонуу менен ишке ашырылат, ал AI агентинин бир түрү болуп саналат, ал текстти негиздеп, түзө алат.

** LangChain жана DSPy үчүн эң көп колдонулган 5-10 буйруктар/үзүндүлөр**

Бул жерде LangChain жана DSPy үчүн эң көп колдонулган 5-10 командалар/үзүндүлөр:

  1. langchain.Agent(): Жаңы AI агент инстанциясын түзөт.
агент = langchain.Agent(
    input_schema={"текст": str},
    output_schema={"текст": str},
    чынжыр=LLMCчейн(
        модель="davinci:instructix",
        max_length=2048,
        температура = 0,7,
    ),
)
  1. agent.run(): Берилген киргизүү менен AI агентин иштетет.
output_text = agent.run(input_text)
  1. DSPy.create_cluster(): Бөлүштүрүлгөн система үчүн түйүндөрдүн жаңы кластерин түзөт.
кластер = DSPy.create_cluster(
    түйүндөрдүн_саны=5,
    node_type = "жумушчу",
)
  1. DSPy.create_agent(): Бөлүштүрүлгөн система үчүн жаңы AI агент инстанциясын түзөт.
агент = DSPy.create_agent(
    кластер = кластер,
    agent_type = "LLM",
)
  1. DSPy.deploy_agent(): AI агентин бөлүштүрүлгөн системага жайгаштырат.
DSPy.deploy_agent(
    агент = агент,
    кластер = кластер,
)
  1. DSPy.get_agent_status(): AI агентинин статусун чыгарат.
статус = DSPy.get_agent_status(
    агент = агент,
    кластер = кластер,
)
  1. DSPy.update_agent(): AI агентин жаңы маалыматтар же параметрлер менен жаңыртат.
DSPy.update_agent(
    агент = агент,
    кластер = кластер,
    new_data={"text": "жаңы киргизүү тексти"},
)
  1. DSPy.delete_agent(): AI агентин бөлүштүрүлгөн системадан жок кылат.
DSPy.delete_agent(
    агент = агент,
    кластер = кластер,
)
  1. DSPy.create_chain(): Бөлүштүрүлгөн система үчүн AI агенттеринин жаңы чынжырын түзөт.
чынжыр = DSPy.create_chain(
    агенттер=[агент1, агент2, агент3],
)
  1. DSPy.deploy_chain(): AI агенттеринин чынжырын бөлүштүрүлгөн системага жайылтат.
DSPy.deploy_chain(
    чынжыр = чынжыр,
    кластер = кластер,
)

Визуализация

Бул жерде Chart.js аркылуу LangChain жана DSPy архитектурасынын визуализациясы:

{
  "type": "pieChart",
  "маалымат": {
    "labels": ["LangChain", "DSPy"],
    "маалымат топтомдору": [
      {
        "label": "AI агенттери",
        "data": [50, 50],
        "backgroundColor": ["#4CAF50", "#FF9800"]
      }
    ]
  },
  "опциялар": {
    "аталышы": {
      "дисплей": чын,
      "text": "LangChain жана DSPy архитектурасы"
    },
    "легенда": {
      "дисплей": чын
    }
  }
}

Бул визуализация AI агенттеринин LangChain жана DSPy ортосунда бөлүштүрүлүшүн көрсөтөт, агенттердин 50% LangChainде жана 50% DSPyде иштейт.

Корутунду

LangChain жана DSPy AI агенттерин куруу жана уюштуруу үчүн күчтүү негизди камсыздайт, бул иштеп чыгуучуларга бир нече агенттердин ортосундагы татаал өз ара аракеттенүүнү эффективдүү башкара алган масштабдуу жана ийкемдүү системаларды иштеп чыгууга мүмкүндүк берет. Бул макалада айтылган кадамдарды аткаруу менен, иштеп чыгуучулар LangChain жана DSPy аркылуу AI агенттерин ишке ашыра алышат жана аларды DSPy аркылуу бөлүштүрүлгөн системага орното алышат. Берилген код мисалдары жана визуализация LangChain жана DSPy мүмкүнчүлүктөрүн көрсөтөт жана эң көп колдонулган 5-10 команда/үзүндү иштеп чыгуучулар үчүн тез маалымдама берет.


¿Tienes preguntas?

Hablemos

Contáctame en LinkedIn