AI bilen işleýän programma arhitekturasy üçin orkestr gurallaryny dolandyrmak

Giriş

AI bilen işleýän programma arhitekturasyna bolan islegiň artmagy, emeli intellekt (AI) we Machine Learning (ML) mümkinçiliklerini programma üpjünçilik ulgamlaryna bökdençsiz birleşdirmäge mümkinçilik berýän dürli orkestr gurallarynyň ösmegine sebäp boldy. Bu makalada, ulalmagy, öndürijiligi we howpsuzlygy ýokarlandyrmak üçin RAG (Reasoning and Action Graph) we LLM (Uly Dil Model) mümkinçiliklerini birleşdirmäge gönükdirilen LangChain we DSPy ýaly orkestr gurallaryny ulanyp, AI bilen dolandyrylýan programma arhitekturasynyň durmuşa geçirilişini öwreneris.

Orkestr gurallary näme?

Orkestr gurallary, birnäçe hyzmatlary, amaly programmalary we ulgamlary birleşdirip, çylşyrymly iş akymlaryny we amallaryny awtomatlaşdyrmaga mümkinçilik berýän programma üpjünçiligi çarçuwasydyr. Dürli komponentleriň arasyndaky täsirleri dolandyrmak we utgaşdyrmak, meseleleriň netijeli we göwrümli ýerine ýetirilmegini üpjün etmek üçin merkezleşdirilen platforma üpjün edýär.

LangChain: Python esasly orkestr guraly

LangChain, AI bilen işleýän programma arhitekturasyny gurmak üçin giňişleýin çarçuwany üpjün edýän açyk çeşme Python kitaphanasydyr. Birnäçe aýratynlygy hödürleýär, şol sanda:

• ** RAG.
• ** LLM (Uly dil modeli) integrasiýa **: LangChain, LLaMA we BERT ýaly LLM-leriň tebigy dilleri gaýtadan işlemek we öndürmek meseleleri üçin birleşmegini goldaýar.
• ** Göwrümlilik we öndürijilik **: LangChain, uly göwrümli AI iş ýüklerini dolandyrmak üçin niýetlenendir, meseleleriň netijeli we göwrümli ýerine ýetirilmegini üpjün edýär.

LangChain bilen AI bilen dolandyrylýan programma arhitekturasyny durmuşa geçirmek

“LangChain” -i ulanyp, AI bilen dolandyrylýan programma arhitekturasynyň ýerine ýetirilişini görkezmek üçin, geliň ulanyjylaryň soraglary barada pikirlenmek we jogap döretmek üçin RAG ulanýan chatbotyň ýönekeý bir mysalyna seredeliň.

`` piton langchain import ediň langchain.chains import llm

rag = langchain.RAG ( name = "chatbot_rag", düwünler = [ {"name": "salam", "text": "Salam, men size nädip kömek edip bilerin?"}, {"name": "hoşlaşyk", "tekst": "Hoş gal, seniň bilen söhbetdeşlik gowy boldy."}, ], gyralary = [ {"from": "salamlaşmak", "to": "hoşlaş", "şert": "user_says_goodbye"}, ], )

LLM dörediň

llm = llm.LLM ( name = "chatbot_llm", model = "llama", max_tokens = 100, )

Söhbet zynjyryny dörediň

zynjyr = langchain.Chain ( name = "chatbot_chain", llm = llm, rag = rag, )

Söhbetdeşligi synap görüň

user_input = "Salam, ýagdaýlaryňyz nähili?" jogap = zynjyr.run (ulanyjy_input) çap (jogap) ``

DSPy: Çygly esasly orkestr guraly

DSPy, AI bilen işleýän programma arhitekturasyny gurmak üçin ýokary öndürijilikli we ulaldylan çarçuwany üpjün edýän Rust esasly orkestr guralydyr. Birnäçe aýratynlygy hödürleýär, şol sanda:

• ** RAG.
• ** LLM (Uly dil modeli) integrasiýa **: DSPy LLaMA we BERT ýaly LLM-leriň tebigy dilleri gaýtadan işlemek we öndürmek meseleleri üçin birleşmegini goldaýar.
• ** Göwrümlilik we öndürijilik **: DSPy uly göwrümli AI iş ýüklerini dolandyrmak üçin niýetlenendir, meseleleriň netijeli we göwrümli ýerine ýetirilmegini üpjün edýär.

DSPy bilen AI bilen dolandyrylýan programma arhitekturasyny durmuşa geçirmek

DSPy ulanyp, AI bilen dolandyrylýan programma arhitekturasynyň durmuşa geçirilişini görkezmek üçin, ulanyjylaryň soraglary barada pikirlenmek we jogap döretmek üçin RAG ulanýan chatbotyň ýönekeý bir mysalyna seredeliň.

`pos dspy :: zynjyry ulanyň; dspy :: llm ulanyň;

// RAG dörediň rag = zynjyr :: RAG :: täze (goý ( "chatbot_rag", vec! [ zynjyr :: düwün :: täze ("salam", "Salam, size nädip kömek edip bilerin?"), zynjyr :: düwün :: täze ("hoşlaşyk", "Hoş gal, seniň bilen söhbetdeşlik gowy boldy."), ], vec! [ zynjyr :: Gyra :: täze ("salam", "hoşlaşyk", "ulanyjy_says_goodbye"), ], );

// LLM dörediň llm = llm :: LLM :: täze (goý ( "chatbot_llm", "llama", 100, );

// Çatbot zynjyryny dörediň zynjyr = zynjyr bolsun :: Zynjyr :: täze ( "chatbot_chain", llm, eşik, );

// Çatboty barlaň user_input = "Salam, ýagdaýlaryňyz nähili?"; jogap = zynjyr.run (ulanyjy_input) bolsun; println! ("{}", jogap); ``

Iň köp ulanylýan buýruklar / bölekler

LangChain we DSPy üçin iň köp ulanylýan buýruklar we bölekler:

• LangChain:
  • langchain.RAG (): Täze RAG mysal döredýär.
  • langchain.LLM (): Täze LLM mysal döredýär.
  • langchain.Chain (): Täze zynjyr mysalyny döredýär.
  • rag.run (): RAG-y işledýär we jogap berýär.
  • llm.run (): LLM-i işledýär we jogap döredýär.
• DSPy:
  • dspy :: zynjyr :: RAG :: täze (): Täze RAG mysal döredýär.
  • dspy :: llm :: LLM :: new (): Täze LLM mysal döredýär.
  • dspy :: zynjyr :: Zynjyr :: täze (): Täze zynjyr mysaly döredýär.
  • chain.run (): Zynjyry işledýär we jogap döredýär.

Wizuallaşdyrma

Ine, Chart.js ulanyp, RAG we LLM mümkinçiliklerini ýönekeý şekillendirmek:

javascript const ctx = document.getElementById ('myChart'). getContext ('2d'); const diagramma = täze diagramma (ctx, { görnüşi: 'bar', maglumatlar: { bellikleri: ['RAG', 'LLM'], maglumat bazalary: [{ belligi: 'Mümkinçilikler', maglumatlar: [10, 20], fon reňki: [ 'rgba (255, 99, 132, 0.2)', 'rgba (54, 162, 235, 0.2)', ], borderColor: [ 'rgba (255, 99, 132, 1)', 'rgba (54, 162, 235, 1)', ], serhet giňligi: 1 }] }, opsiýalar: { terezisi: { y: { startAtZero: dogry } } } });

Netije

LangChain we DSPy, RAG we LLM mümkinçiliklerini ulanyp, AI tarapyndan dolandyrylýan programma arhitekturasyny durmuşa geçirmäge mümkinçilik berýän güýçli orkestr gurallarydyr. Bu gurallary ulanmak bilen, döredijiler çylşyrymly AI iş ýüklerini dolandyryp bilýän ulalýan, ýerine ýetiriji we ygtybarly programma üpjünçilik ulgamlaryny döredip bilerler. Ulanyş aňsatlygy we çeýeligi bilen LangChain we DSPy, AI bilen işleýän programma arhitekturasyny gurmak üçin iň amatly saýlawdyr.

Teklipler

Bu makaladaky çekişmä esaslanyp, LangChain we DSPy ulanyp, AI tarapyndan dolandyrylýan programma arhitekturasyny durmuşa geçirmek isleýän döredijiler üçin käbir teklipler bar:

• LangChain we DSPy esaslaryny, şol sanda RAG we LLM mümkinçiliklerini öwrenmekden başlaň.
• Gurallaryň işleýşini duýmak üçin chatbot mysaly ýaly ýönekeý mysallar bilen synag ediň.
• Kem-kemden maslahat beriş ulgamyny ýa-da tebigy dili gaýtadan işleýän turbageçiriji gurmak ýaly has çylşyrymly taslamalara geçiň.
• Iň köp ulanylýan buýruklar / bölekler bölümini umumy buýruklar we parçalar üçin gollanma hökmünde ulanyň.
• Dürli komponentleriň arasyndaky gatnaşyklara has gowy düşünmek üçin Chart.js ulanyp, RAG we LLM mümkinçilikleriňizi göz öňüne getiriň.

Bu maslahatlary ýerine ýetirmek bilen, döredijiler LangChain we DSPy-nyň ähli mümkinçiliklerini açyp bilerler we çylşyrymly iş ýüklerini dolandyryp bilýän we ajaýyp öndürijiligi we göwrümliligini üpjün edip biljek AI bilen işleýän programma arhitekturasyny gurup bilerler.