Gowulandyrylan DevOps üçin DSPy we LangChain bilen Uly göwrümli LLM turbalaryny gurnamak

Giriş

Uly dil modelleriniň (LLM) peýda bolmagy Tebigy dilleri gaýtadan işlemek (NLP) we emeli intellekt (AI) pudagyny özgertdi. Şeýle-de bolsa, LLM esasly ulgamlaryň çylşyrymlylygy we gerimi artdygyça, berk we täsirli orkestr we awtomatlaşdyryş gurallaryna zerurlyk artýar. Bu makalada, AI döwründe çydamly we ulaldylan programma üpjünçilik ulgamlaryny gurmaga mümkinçilik berýän iki sany güýçli çarçuwaly DSPy we LangChain dünýäsine göz aýlarys.

Uly göwrümli LLM turbageçirijileriniň kynçylygy

Uly göwrümli LLM turbageçirijileri maglumatlary gaýtadan işlemek, model okuwy we gözleg ýaly birnäçe komponenti öz içine alýar. Bu turbalar dürli komponentleriň arasynda köp garaşlylyk we täsirleşmeler bilen çylşyrymly bolup biler. Bu turbageçirijileriň gerimi ulaldygyça ýalňyşlyklar, gijikdirmeler we çeşmeleriň päsgelçilikleri hem ýokarlanýar.

DSPy we LangChain giriň

DSPy we LangChain, uly göwrümli LLM turbageçirijileriniň orkestrini we awtomatlaşdyrylmagyny aňsatlaşdyrýan iki çarçuwadyr. DSPy, Python esasly çarçuwadyr, çylşyrymly maglumat turbageçirijilerini gurmagyň we dolandyrmagyň ýönekeý we täsirli usulyny üpjün edýär, LangChain bolsa ulalýan we çydamly AI ulgamlaryny gurmaga mümkinçilik berýän çarçuwadyr.

DSPy: Maglumat turbalary üçin Python esasly çarçuwa

DSPy, çylşyrymly maglumat turbageçirijilerini gurmagyň we dolandyrmagyň ýönekeý we täsirli usulyny üpjün edýän Python esasly çarçuwadyr. DSPy bilen işläp düzüjiler ulaldylyp bilinýän, çydamly we saklamak aňsat bolan maglumat turbalaryny döredip bilerler.

Ine, DSPy bilen gurlan ýönekeý maglumat turbasynyň mysaly: `` piton dspy dsp görnüşinde import ediň

data_source = dsp.Source ( ady = "my_data_source", tip = "csv", path = "/ path / to / data.csv" )

Maglumat prosessoryny kesgitläň

data_processor = dsp.Prosessor ( name = "my_data_processor", tip = "pandalar", funksiýa = lambda x: x.dropna () )

Maglumat liniýasyny kesgitläň

data_sink = dsp.Sink ( name = "my_data_sink", tip = "csv", path = "/ path / to / output.csv" )

Maglumat geçirijisini dörediň

turba = dsp. Turbageçiriji ( name = "my_pipeline", çeşmeler = [data_source], prosessorlar = [data_processor], lýubkalar = [data_sink] )

Turbageçirijini işlediň

turbage.run () `` Bu mysalda maglumat çeşmesini, maglumat prosessoryny we maglumat liniýasyny kesgitleýäris, soňra bolsa bu bölekleri birleşdirýän maglumat turbageçirijisini döredýäris. Turbageçiriji soňra "run ()" usuly bilen işleýär.

LangChain: Giňeldilip bilinýän we çydamly AI ulgamlary üçin çarçuwa

“LangChain” ulalýan we çydamly AI ulgamlaryny gurmaga mümkinçilik berýän çarçuwadyr. “LangChain” bilen işläp düzüjiler saklamak, ulalmak we şowsuzlyklara çydamly AI ulgamlaryny döredip bilerler.

LangChain bilen gurlan ýönekeý AI ulgamynyň mysaly: `` piton langchain lc görnüşinde import ediň

Bir modeli kesgitläň

model = lc.Model ( name = "my_model", görnüşi = "transformator", path = "/ path / to / model" )

Sorag kesgitläň

haýyş = lc.Prompt ( name = "my_prompt", text = "Bu mysal nusgasy" )

AI ulgamyny dörediň

ai_system = lc.AISystem ( name = "my_ai_system", model = model, haýyş = haýyş )

AI ulgamyny işlediň

ai_system.run () `` Bu mysalda bir modeli, gyssagly kesgitleýäris we soňra bu komponentleri birleşdirýän AI ulgamyny döredýäris. AI ulgamy soňra "run ()" usuly bilen işleýär.

DSPy we LangChain bilen Uly göwrümli LLM turbalaryny orkestrlemek

Uly göwrümli LLM turbageçirijilerini DSPy we LangChain bilen gurnamak üçin aşakdaky çemeleşmäni ulanyp bileris:

1. Birnäçe maglumat çeşmesini, prosessorlary we lýubkalary birleşdirýän DSPy ulanyp, maglumat geçirijisini kesgitläň.
2. Birnäçe modeli, teklipleri we netijeleri birleşdirýän LangChain ulanyp, AI ulgamyny kesgitläň.
3. Maglumat geçirijisini dolandyrmak üçin DSPy we AI ulgamyny dolandyrmak üçin LangChain ulanyň.
4. Maglumat turbageçirijisiniň we AI ulgamynyň ýerine ýetirilişini düzmek üçin Apache Howa akymy ýa-da Kubernetes ýaly meýilnama düzüň.

Ine, DSPy we LangChain ulanýan ýönekeý orkestr skriptiniň mysaly: `` piton dspy dsp görnüşinde import ediň langchain lc görnüşinde import ediň apache_airflow-y af ýaly import ediň

Maglumat geçirijisini kesgitläň

data_pipeline = dsp.Pipeline ( ady = "my_data_pipeline", çeşmeler = [dsp.Source (name = "my_data_source", tip = "csv", path = "/ path / to / data.csv")], prosessorlar = [dsp.Prosessor (ady = "my_data_processor", tip = "pandalar", funksiýa = lambda x: x.dropna ())], lýubkalar = [dsp.Sink (name = "my_data_sink", tip = "csv", path = "/ path / to / output.csv")] )

AI ulgamyny kesgitläň

ai_system = lc.AISystem ( name = "my_ai_system", model = lc.Model (ady = "my_model", görnüşi = "transformator", ýol = "/ ýol / to / model"), prompt = lc.Prompt (name = "my_prompt", text = "Bu mysal nusgasy") )

Maglumat geçirijisiniň we AI ulgamynyň ýerine ýetirilişini meýilleşdiriň

af.schedule_task ( task_id = "my_task", dag_id = "my_dag", turba = maglumat_ turbageçiriji, ulgam = ai_system ) `` Bu mysalda, DSPy we LangChain ulanyp, maglumat turbageçirijisini we AI ulgamyny kesgitleýäris we soňra Apache Airflow ulanyp bu komponentleriň ýerine ýetirilişini düzýäris.

Iň köp ulanylýan buýruklar / bölekler

DSPy we LangChain üçin iň köp ulanylýan 5-10 buýruk / bölek:

1. "dsp.Pipeline (name =" my_pipeline ", çeşmeler = [çeşme], prosessorlar = [prosessor], lýubkalar = [lýubka])"
2. "lc.Model (ady =" my_model ", tip =" transformator ", ýol =" / ýol / to / model ")"
3. "Lc.Prompt (name =" my_prompt ", text =" Bu mysal nusgasy ")"
4. "dsp.Source (name =" my_data_source ", tip =" csv ", path =" / path / to / data.csv ")"
5. "dsp.Prosessor (ady =" my_data_processor ", tip =" pandalar ", funksiýa = lambda x: x.dropna ())"
6. "dsp.Sink (name =" my_data_sink ", tip =" csv ", path =" / path / to / output.csv ")"
7. "lc.AISystem (name =" my_ai_system ", model = model, haýyş = haýyş)"
8. "af.schedule_task (task_id =" my_task ", dag_id =" my_dag ", turbageçiriji = turba, ulgam = ulgam)"
9. "Dsp.run_pipeline (turbageçiriji)"
10. "Lc.run_system (ulgam)"

Wizuallaşdyrma

Ine, Chart.js ulanyp, DSPy we LangChain çarçuwalaryny wizuallaşdyrmak: json { "tip": "bar", "maglumatlar": { "bellikler": ["DSPy", "LangChain"], "maglumat bazalary": [ { "bellik": "Aýratynlyklar", "maglumatlar": [10, 15], "backgroundColor": [ "rgba (255, 99, 132, 0.2)", "rgba (54, 162, 235, 0.2)" ], "borderColor": [ "rgba (255, 99, 132, 1)", "rgba (54, 162, 235, 1)" ], "borderWidth": 1 } ] }, "opsiýalar": {} } Bu wizuallaşdyrma DSPy we LangChain-de aýratynlyklaryň sanyny görkezýär.

Netije

DSPy we LangChain, AI döwründe çydamly we ulaldylan programma üpjünçilik ulgamlaryny gurmaga mümkinçilik berýän iki sany güýçli çarçuwadyr. Bu çarçuwalary ulanmak bilen, işläp düzüjiler saklamak aňsat, ulaldylyp bilinýän we şowsuzlyklara çydamly uly göwrümli LLM turbageçirijilerini döredip bilerler. “Apache Airflow” we “Kubernetes” ýaly orkestr we awtomatlaşdyryş gurallarynyň kömegi bilen döredijiler bu turbageçirijileriň we ulgamlaryň ýerine ýetirilişini tertipleşdirip, çylşyrymly AI ulgamlaryny dolandyrmagy aňsatlaşdyryp bilerler.

Geljekki iş

Geljekdäki işler şulary öz içine alýar:

1. DSPy we LangChain üçin has köp aýratynlyklary ösdürmek.
2. DSPy we LangChain-iň öndürijiligini we göwrümini ýokarlandyrmak.
3. DSPy we LangChain üçin has köp orkestr we awtomatlaşdyryş gurallaryny ösdürmek.
4. DSPy we LangChain üçin has köp wizuallaşdyrma we dolandyryş paneli döretmek.

Salgylar

1. DSPy resminamalary: https://dspy.readthedocs.io/en/latest/
2. LangChain resminamalary: https://langchain.readthedocs.io/en/latest/
3. Apache howa akymynyň resminamalary: https://airflow.apache.org/docs/apache-airflow/stable/index.html
4. Kubernetes resminamalary: https://kubernetes.io/docs/home/