Сайжруулсан DevOps-д зориулж DSPy болон LangChain-тай хиймэл оюун ухаанаар ажилладаг найрал хөгжимийг хэрэгжүүлэх | B4N1

Сайжруулсан DevOps-д зориулж DSPy болон LangChain-тай хиймэл оюун ухаанаар ажилладаг найрал хөгжимийг хэрэгжүүлэх

3 months ago · b4n1 Read time: 4 min

Сайжруулсан DevOps-д зориулж DSPy болон LangChain-тай хиймэл оюун ухаанаар ажилладаг найрал хөгжим хийх нь

Танилцуулга

Өнөөгийн хурдацтай хөгжиж буй програм хангамж хөгжүүлэх орчинд DevOps-ийн багууд дамжуулах шугамаа оновчтой болгох, үр ашгийг дээшлүүлэх, зардлыг бууруулах арга замыг байнга хайж байдаг. Нэг ирээдүйтэй арга бол Хиймэл оюун ухаан (AI) болон Machine Learning (ML)-ийг DevOps ажлын урсгалд нэгтгэх явдал юм. Энэхүү нийтлэл нь хиймэл оюун ухаанд суурилсан програм хангамжийг дамжуулах шугам хоолойн өргөтгөх боломжтой, дасан зохицох архитектурыг зохион бүтээх боломжийг олгодог хамгийн сүүлийн үеийн хоёр хүрээ болох DSPy болон LangChain ашиглан хиймэл оюун ухаанаар ажилладаг зохион байгуулалтын хэрэгжилтийг судлах болно.

Арын дэвсгэр

DevOps нь програм хангамжийг хөгжүүлэх, байршуулах, засвар үйлчилгээ хийх аргад хувьсгал хийсэн. Гэсэн хэдий ч уламжлалт DevOps дамжуулах хоолой нь ихэвчлэн гарын авлагын процесс, скрипт, багаж хэрэгсэлд тулгуурладаг бөгөөд энэ нь үр ашиггүй байдал, алдаа, саатал үүсгэдэг. AI болон ML нь урьдчилан таамаглах аналитик, автоматжуулалт, оновчлолын чадавхийг хангаснаар эдгээр сорилтыг шийдвэрлэхэд тусална.

DSPy: AI-д суурилсан DevOps-д зориулсан хүрээ

DSPy нь AI-д суурилсан DevOps дамжуулах хоолойг хөгжүүлэх боломжийг олгодог нээлттэй эхийн хүрээ юм. Энэ нь AI загваруудыг бий болгох, ашиглах, удирдахад зориулсан номын сан, хэрэгслээр хангадаг бөгөөд тэдгээрийг DevOps хэрэгсэл, ажлын урсгалтай нэгтгэдэг.

DSPy-ийн гол онцлогууд

  • Загвар менежмент: DSPy нь төвлөрсөн загварын удирдлагын системээр хангадаг бөгөөд хөгжүүлэгчдэд хиймэл оюун ухааны загваруудыг олон орчинд үүсгэх, байрлуулах, удирдах боломжийг олгодог.
  • ** Дамжуулах хоолойн зохион байгуулалт**: DSPy нь туршилт, байршуулалт, хяналт зэрэг ажлуудыг автоматжуулдаг хиймэл оюун ухаанаар удирддаг дамжуулах хоолой үүсгэх боломжийг олгодог.
  • Интеграци: DSPy нь Jenkins, GitLab, Docker зэрэг алдартай DevOps хэрэгслүүдтэй нэгдэхийг дэмждэг.

LangChain: хиймэл оюун ухаанаар ажилладаг программуудыг бий болгох хүрээ

LangChain нь хиймэл оюун ухаанаар ажилладаг программуудыг хөгжүүлэх боломжийг олгодог нээлттэй эхийн хүрээ юм. Энэ нь AI загваруудыг бүтээх, ашиглах, удирдах, мөн тэдгээрийг вэб програмуудтай нэгтгэх номын сан, хэрэгслээр хангадаг.

LangChain-ийн гол онцлогууд

  • Загвар менежмент: LangChain нь загвар удирдлагын төвлөрсөн системээр хангадаг бөгөөд хөгжүүлэгчид олон орчинд хиймэл оюун ухааны загвар үүсгэх, байрлуулах, удирдах боломжийг олгодог.
  • API интеграцчлал: LangChain нь AI загвар болон үйлчилгээг вэб программуудад үзүүлэх RESTful API үүсгэх боломжийг олгодог.
  • Вэб хэрэглээний интеграцчлал: LangChain нь Django, Flask, FastAPI зэрэг алдартай вэб фреймворкуудтай нэгтгэхийг дэмждэг.

DSPy болон LangChain-тай хиймэл оюун ухаанаар ажилладаг найрал хөгжим хийх

DSPy болон LangChain-тай хиймэл оюун ухаанаар ажилладаг найрал дууг хэрэгжүүлэхийн тулд бид дараах алхмуудыг хийнэ.

  1. DSPy болон LangChain суулгах: pip ашиглан DSPy болон LangChain суулгана уу:

pip суулгах dspy langchain

2. **DSPy төсөл үүсгэх**: `dspy init` командыг ашиглан шинэ DSPy төсөл үүсгэнэ үү:
    ```баш
dspy my_project-ийг эхлүүлнэ үү
  1. LangChain төсөл үүсгэх: langchain init командыг ашиглан шинэ LangChain төсөл үүсгэнэ үү:

langchain init my_project

4. **AI загваруудыг тодорхойлох**: DSPy болон LangChain ашиглан AI загваруудыг тодорхойлох. Жишээлбэл, бид scikit-learn ашиглан энгийн машин сургалтын загварыг үүсгэж болно:
    ``` питон
sklearn.linear_model-аас импортлох LogisticRegression
dspy.models импортын загвараас

анги MyModel(Загвар):
    def __init__(өөрөө):
        super().__init__()
        self.model = LogisticRegression()

    def таамаглах (өөрийгөө, өгөгдөл):
        self.model.predict(өгөгдөл) буцаах
  1. ** Дамжуулах хоолой үүсгэх**: Туршилт хийх, байршуулах гэх мэт ажлуудыг автоматжуулах DSPy ашиглан дамжуулах хоолой үүсгэ. Жишээ нь:

dspy.pipeline-аас импортлох Дамжуулах хоолой

анги MyPipeline(Pipeline): def init(өөрөө): super().init() self.model = Миний загвар()

Def run(өөрөө):
    # Загварыг турших
    self.model.test()

    # Загварыг байрлуул
    self.model.deploy()
6. **LangChain-тай нэгтгэх**: `langchain` номын санг ашиглан дамжуулах хоолойг LangChain-тай нэгтгэнэ. Жишээ нь:
    ``` питон
langchain импортын API-аас

анги MyAPI(API):
    def __init__(өөрөө):
        super().__init__()
        self.pipeline = MyPipeline()

    Def run(өөрөө):
        self.pipeline.run()
  1. Програмыг байршуулах: AWS эсвэл Google Cloud гэх мэт үүлэн платформ ашиглан програмыг байрлуул.

Дүрслэл

Хиймэл оюун ухаанаар ажилладаг найрал дууны шугамыг дүрслэхийн тулд бид Neo4j гэх мэт график мэдээллийн санг ашиглаж болно. Бид хиймэл оюун ухааны загвар, даалгавар, ажлын урсгалыг багтаасан дамжуулах шугамыг харуулсан график загварыг үүсгэж болно.

Neo4j ашиглан график загварын жишээ энд байна:

CREATE (загвар:Загвар {нэр:"MyModel", төрөл:"MachineLearning"})
CREATE (дамжуулах хоолой: Дамжуулах хоолой {нэр:"MyPipeline", төрөл:"AI"})
ҮЗҮҮЛЭХ (даалгавар: Даалгавар {нэр:"TestModel", төрөл:"Тест"})
ҮЗҮҮЛЭХ (ажлын урсгал: Ажлын урсгал {нэр:"DeployModel", төрөл:"Байршуулах"})

ҮЗҮҮЛЭХ (загвар)-[:HAS_TASK]->(даалгавар)
CREATE (дамжуулах хоолой)-[:HAS_WORKFLOW]->(ажлын урсгал)
CREATE (дамжуулах хоолой)-[:HAS_MODEL]->(загвар)

График загварыг үзүүлэхийн тулд бид Graphviz гэх мэт дүрслэх хэрэгслийг ашиглаж болно.

Graphviz тохиргооны файлын жишээ энд байна:

диграф дамжуулах хоолой {
    зангилаа[хэлбэр=хайрцаг]
    загвар[шошго="Миний загвар"]
    дамжуулах хоолой[шошго="MyPipeline"]
    даалгавар[шошго="Туршилтын загвар"]
    ажлын урсгал[шошго="DeployModel"]

    загвар->даалгавар[шошго="HAS_TASK"]
    дамжуулах хоолой->ажлын урсгал[шошго="HAS_WORKFLOW"]
    дамжуулах хоолой->загвар[шошго="HAS_MODEL"]
}

Хамгийн их ашиглагддаг 5-10 тушаал/хэсэг

DSPy болон LangChain-д хамгийн их ашиглагддаг 5-10 тушаал/хэсэг энд байна:

  • DSPy
    • dspy init my_project: Шинэ DSPy төслийг эхлүүлэх.
    • dspy model my_model: DSPy ашиглан хиймэл оюун ухааны шинэ загвар үүсгэ.
    • dspy pipeline my_pipeline: DSPy ашиглан шинэ дамжуулах хоолой үүсгэ.
    • dspy deploy my_model: DSPy ашиглан AI загварыг байрлуул.
  • LangChain
    • langchain init my_project: Шинэ LangChain төслийг эхлүүлэх.
    • langchain api my_api: LangChain ашиглан шинэ API үүсгэнэ үү.
    • langchain загвар my_model: LangChain ашиглан хиймэл оюун ухааны шинэ загвар үүсгэ.
    • langchain deploy my_model: LangChain ашиглан AI загварыг байрлуул.

Дүгнэлт

Энэ нийтлэлд бид DSPy болон LangChain ашиглан хиймэл оюун ухаанаар ажилладаг найрал хөгжмийн хэрэгжилтийг судалсан. Бид хиймэл оюун ухаанд суурилсан програм хангамжийг дамжуулах шугам хоолойд зориулж өргөтгөх боломжтой, дасан зохицох архитектурыг зохион бүтээсэн бөгөөд хиймэл оюун ухаанаар ажилладаг зохион байгуулалтыг хэрэгжүүлэх алхам алхмаар зааварчилгааг өгсөн. Мөн бид график мэдээллийн сан ашиглан дамжуулах шугамыг дүрслэн үзүүлж, DSPy болон LangChain-д хамгийн их ашиглагддаг 5-10 тушаал/хэсгүүдийн жагсаалтыг гаргасан.

Энэхүү гарын авлагыг дагаснаар DevOps-ийн багууд AI болон ML-ийг ашиглан хүргэх шугамаа оновчтой болгож, үр ашгийг дээшлүүлж, зардлыг бууруулах боломжтой.


Have Questions?

Let's Talk

Contact me on LinkedIn