AI-ի վրա աշխատող նվագախմբի իրականացում DSPy-ի և LangChain-ի հետ ընդլայնված DevOps-ի համար | B4N1

AI-ի վրա աշխատող նվագախմբի իրականացում DSPy-ի և LangChain-ի հետ ընդլայնված DevOps-ի համար

3 months ago · b4n1 Read time: 4 min

Իրականացնելով AI-ի վրա աշխատող նվագախումբը DSPy-ի և LangChain-ի հետ՝ ընդլայնված DevOps-ի համար

Ներածություն

Այսօրվա արագ տեմպերով ծրագրային ապահովման մշակման լանդշաֆտում DevOps-ի թիմերը մշտապես ուղիներ են փնտրում իրենց առաքման խողովակաշարերը օպտիմալացնելու, արդյունավետությունը բարելավելու և ծախսերը նվազեցնելու համար: Խոստումնալից մոտեցումներից մեկը Արհեստական ​​ինտելեկտի (AI) և մեքենայական ուսուցման (ML) ինտեգրումն է DevOps-ի աշխատանքային հոսքերին: Այս հոդվածը ուսումնասիրում է AI-ի վրա աշխատող նվագախմբի իրականացումը DSPy-ի և LangChain-ի միջոցով՝ երկու առաջադեմ շրջանակներ, որոնք հնարավորություն են տալիս նախագծել ընդլայնելի և հարմարվողական ճարտարապետություն AI-ի վրա հիմնված ծրագրային ապահովման մատակարարման խողովակաշարերի համար:

Նախապատմություն

DevOps-ը հեղափոխել է ծրագրային ապահովման մշակման, տեղակայման և պահպանման ձևը: Այնուամենայնիվ, ավանդական DevOps խողովակաշարերը հաճախ հիմնվում են ձեռքով գործընթացների, սցենարների և գործիքների վրա, որոնք կարող են հանգեցնել անարդյունավետության, սխալների և ուշացումների: AI-ն և ML-ն կարող են օգնել հաղթահարել այս մարտահրավերները՝ տրամադրելով կանխատեսող վերլուծություն, ավտոմատացում և օպտիմալացման հնարավորություններ:

DSPy. Շրջանակ AI-ի վրա հիմնված DevOps-ի համար

DSPy-ն բաց կոդով շրջանակ է, որը հնարավորություն է տալիս զարգացնել AI-ի վրա հիմնված DevOps խողովակաշարերը: Այն տրամադրում է գրադարանների և գործիքների մի շարք՝ արհեստական ​​ինտելեկտի մոդելներ ստեղծելու, տեղակայելու և կառավարելու համար, ինչպես նաև դրանք ինտեգրելու DevOps գործիքների և աշխատանքային հոսքերի հետ:

DSPy-ի հիմնական առանձնահատկությունները

  • Model Management. DSPy-ն ապահովում է մոդելների կառավարման կենտրոնացված համակարգ, որը թույլ է տալիս ծրագրավորողներին ստեղծել, տեղակայել և կառավարել AI մոդելներ բազմաթիվ միջավայրերում:
  • Խողովակաշարերի կազմակերպում. DSPy-ն հնարավորություն է տալիս ստեղծել AI-ի վրա հիմնված խողովակաշարեր, որոնք ավտոմատացնում են առաջադրանքները, ինչպիսիք են փորձարկումը, տեղակայումը և մոնիտորինգը:
  • Ինտեգրում. DSPy-ն աջակցում է DevOps-ի հանրահայտ գործիքների ինտեգրմանը, ներառյալ Jenkins-ը, GitLab-ը և Docker-ը:

LangChain. AI-ի վրա աշխատող հավելվածներ ստեղծելու շրջանակ

LangChain-ը բաց կոդով շրջանակ է, որը հնարավորություն է տալիս զարգացնել AI-ով աշխատող հավելվածներ: Այն տրամադրում է գրադարանների և գործիքների մի շարք՝ արհեստական ​​ինտելեկտի մոդելներ ստեղծելու, տեղակայելու և կառավարելու, ինչպես նաև դրանք վեբ հավելվածների հետ ինտեգրելու համար:

LangChain-ի հիմնական առանձնահատկությունները

  • Մոդելների կառավարում. LangChain-ը տրամադրում է մոդելների կառավարման կենտրոնացված համակարգ, որը թույլ է տալիս ծրագրավորողներին ստեղծել, տեղակայել և կառավարել AI մոդելներ բազմաթիվ միջավայրերում:
  • API ինտեգրում. LangChain-ը հնարավորություն է տալիս ստեղծել RESTful API-ներ, որոնք բացահայտում են AI մոդելներն ու ծառայությունները վեբ հավելվածներին:
  • Վեբ հավելվածների ինտեգրում. LangChain-ն աջակցում է ինտեգրումը հանրաճանաչ վեբ շրջանակների հետ, ներառյալ Django, Flask և FastAPI:

Իրականացնելով AI-ի վրա աշխատող նվագախումբ DSPy-ի և LangChain-ի հետ

AI-ով աշխատող նվագախումբը DSPy-ի և LangChain-ի հետ իրականացնելու համար մենք կհետևենք հետևյալ քայլերին.

  1. Տեղադրեք DSPy և LangChain. Տեղադրեք DSPy և LangChain՝ օգտագործելով pip: Բաշ pip install dspy langchain
2. **Ստեղծեք DSPy նախագիծ**. Ստեղծեք նոր DSPy նախագիծ՝ օգտագործելով «dspy init» հրամանը.
    Բաշ
dspy init my_project
  1. Ստեղծեք LangChain նախագիծ. Ստեղծեք նոր LangChain նախագիծ՝ օգտագործելով «langchain init» հրամանը. Բաշ langchain init my_project
4. **Սահմանել AI մոդելները**. Սահմանել AI մոդելները՝ օգտագործելով DSPy և LangChain: Օրինակ, մենք կարող ենք ստեղծել պարզ մեքենայական ուսուցման մոդել՝ օգտագործելով scikit-learn:
    «Պիթոն».
sklearn.linear_model ներմուծման LogisticRegression-ից
dspy.models import Model-ից

դաս MyModel(Model):
    def __init__(self):
        super().__init__()
        self.model = LogisticRegression()

    def predict (ինքնուրույն, տվյալներ):
        return self.model.predict(տվյալներ)
  1. Ստեղծեք խողովակաշար. Ստեղծեք խողովակաշար DSPy-ի միջոցով, որն ավտոմատացնում է առաջադրանքները, ինչպիսիք են փորձարկումը և տեղակայումը: Օրինակ՝ «Պիթոն». dspy.pipeline ներմուծման խողովակաշարից

դաս MyPipeline (խողովակաշար): def init(self): super().init() self.model = MyModel()

def run(self):
    # Փորձարկեք մոդելը
    self.model.test()

    # Տեղադրեք մոդելը
    self.model.deploy()
6. **Ինտեգրում LangChain-ի հետ**. Ինտեգրել խողովակաշարը LangChain-ի հետ՝ օգտագործելով «langchain» գրադարանը: Օրինակ՝
    «Պիթոն».
langchain import API-ից

դասի MyAPI(API):
    def __init__(self):
        super().__init__()
        self.pipeline = MyPipeline()

    def run(self):
        self.pipeline.run()
  1. Տեղադրել հավելվածը. տեղակայել հավելվածը՝ օգտագործելով ամպային հարթակ, օրինակ՝ AWS կամ Google Cloud:

Վիզուալիզացիա

AI-ով աշխատող նվագախմբային խողովակաշարը պատկերացնելու համար մենք կարող ենք օգտագործել գրաֆիկական տվյալների բազա, ինչպիսին է Neo4j-ը: Մենք կարող ենք ստեղծել գրաֆիկի մոդել, որը ներկայացնում է խողովակաշարը, ներառյալ AI մոդելները, առաջադրանքները և աշխատանքային հոսքերը:

Ահա գրաֆիկական մոդելի օրինակ՝ օգտագործելով Neo4j.

CREATE (model:Model {name:"MyModel", type:"MachineLearning"})
ՍՏԵՂԾԵԼ (խողովակաշար:Խողովակաշար {name:"MyPipeline", տեսակ:"AI"})
ՍՏԵՂԾԵԼ (առաջադրանք:Առաջադրանք {name:"TestModel", տեսակ:"Testing"})
CREATE (աշխատանքային հոսք: Աշխատանքային հոսք {name:"DeployModel", տեսակ:"Deployment"})

ՍՏԵՂԾԵԼ (մոդել)-[:HAS_TASK]->(առաջադրանք)
CREATE (խողովակաշար)-[:HAS_WORKFLOW]->(աշխատանքային հոսք)
CREATE (խողովակաշար)-[:HAS_MODEL]->(մոդել)

Մենք կարող ենք օգտագործել վիզուալիզացիայի գործիք, ինչպիսին է Graphviz-ը, գրաֆիկի մոդելը ներկայացնելու համար:

Ահա Graphviz կազմաձևման ֆայլի օրինակ. «կետ դիգրաֆիկ խողովակաշար { հանգույց[ձև=արկղ] մոդել[label="MyModel"] խողովակաշար[label="MyPipeline"] առաջադրանք[label="TestModel"] աշխատանքային հոսք[label="DeployModel"]

մոդել->առաջադրանք[label="HAS_TASK"]
pipeline->աշխատանքային հոսք[label="HAS_WORKFLOW"]
pipeline->model[label="HAS_MODEL"]

}

**Թոփ 5-10 ամենաշատ օգտագործվող հրամաններ/հատվածներ**

Ահա 5-10 ամենաշատ օգտագործվող հրամանները/հատվածները DSPy-ի և LangChain-ի համար.

* **DSPy**
    * `dspy init my_project`. Նախաձեռնեք նոր DSPy նախագիծ:
    * «dspy model my_model»: Ստեղծեք նոր AI մոդել՝ օգտագործելով DSPy:
    * «dspy pipeline my_pipeline»: Ստեղծեք նոր խողովակաշար՝ օգտագործելով DSPy:
    * «dspy deploy my_model»: Տեղադրեք AI մոդելը՝ օգտագործելով DSPy:
* ** LangChain **
    * «langchain init my_project». Նախաձեռնեք նոր LangChain նախագիծը:
    * «langchain api my_api». Ստեղծեք նոր API՝ օգտագործելով LangChain:
    * «langchain model my_model». Ստեղծեք նոր AI մոդել՝ օգտագործելով LangChain:
    * «langchain deploy my_model»: Տեղադրեք AI մոդելը՝ օգտագործելով LangChain:

**Եզրակացություն**

Այս հոդվածում մենք ուսումնասիրեցինք AI-ի վրա աշխատող նվագախմբի իրականացումը DSPy-ի և LangChain-ի միջոցով: Մենք նախագծել ենք լայնածավալ և հարմարվողական ճարտարապետություն AI-ի վրա հիմնված ծրագրային ապահովման մատակարարման խողովակաշարերի համար և տրամադրել ենք քայլ առ քայլ ուղեցույց՝ AI-ով աշխատող նվագախմբում իրականացնելու համար: Մենք նաև պատկերացրեցինք խողովակաշարը՝ օգտագործելով գրաֆիկական տվյալների բազան և տրամադրեցինք 5-10 ամենաշատ օգտագործվող հրամանների/հատվածների ցանկը DSPy-ի և LangChain-ի համար:

Հետևելով այս ուղեցույցին՝ DevOps թիմերը կարող են օգտագործել AI և ML՝ իրենց առաքման խողովակաշարերը օպտիմալացնելու, արդյունավետությունը բարելավելու և ծախսերը նվազեցնելու համար:

Have Questions?

Let's Talk

Contact me on LinkedIn