ЯИ белән эшләнгән программа архитектурасы өчен оркестр коралларын куллану

Кереш

ЯИ белән эшләнгән программа архитектурасына сорау арту төрле оркестр коралларының үсешенә китерде, бу ясалма интеллект (AI) һәм Machine Learning (ML) мөмкинлекләрен программа системаларына берләштерергә мөмкинлек бирә. Бу мәкаләдә без киңәйтелгән масштаблылык, эш башкару, куркынычсызлык өчен RAG (Reasoning and Action Graph) һәм LLM (Зур тел моделе) мөмкинлекләрен интеграцияләүгә игътибар итеп, LangChain һәм DSPy кебек оркестр коралларын кулланып, AI белән идарә ителгән программа архитектурасын тормышка ашыруны тикшерәчәкбез.

Оркестр кораллары нәрсә ул?

Оркестр кораллары - программа тәэминаты, катлаулы хезмәт процессларын һәм процессларны автоматлаштырырга мөмкинлек бирә торган программалар, күп хезмәтләр, кушымталар һәм системаларны берләштереп. Алар төрле компонентлар арасындагы үзара бәйләнешне идарә итү һәм координацияләү, биремнәрнең нәтиҗәле һәм масштаблы үтәлешен тәэмин итү өчен үзәкләштерелгән мәйданчык бирәләр.

LangChain: Питонга нигезләнгән оркестр коралы

LangChain - ачык чыганаклы Python китапханәсе, ул AI белән эшләнгән программа архитектурасын төзү өчен комплекслы база бирә. Бу үзенчәлекләр тәкъдим итә, шул исәптән:

• ** RAG.
• ** LLM (Зур тел моделе) интеграция **: LangChain LLaMA һәм BERT кебек LLMларның табигый тел эшкәртү һәм буын биремнәре өчен интеграцияләнүен хуплый.
• ** Масштаблылык һәм Эшчәнлек **: LangChain зур масштаблы ЯИ эш йөкләрен эшкәртү өчен эшләнгән, биремнәрнең нәтиҗәле һәм масштаблы үтәлешен тәэмин итә.

LangChain белән AI белән идарә ителгән программа архитектурасын кертү

LangChain ярдәмендә AI белән идарә ителгән программа архитектурасын тормышка ашыруны күрсәтү өчен, әйдәгез, кулланучылар соравы турында уйлану һәм җаваплар тудыру өчен RAG кулланган чатботның гади мисалын карап чыгыйк.

"питон импорт лангчейн langchain.chains import llm

rag = langchain.RAG ( исем = "chatbot_rag", төеннәр = [ {"исем": "сәламләү", "текст": "Исәнмесез, мин сезгә ничек ярдәм итә алам?"}, {"исем": "саубуллашу", "текст": "Сау бул, сезнең белән аралашу рәхәт иде."}, ], кырлары = [ {"from": "сәламләү", "to": "саубуллашу", "шарт": "user_says_goodbye"}, ], )

LLM ясагыз

llm = llm.LLM ( исем = "chatbot_llm", модель = "ллама", max_tokens = 100, )

Чатбот чылбырын булдырыгыз

чылбыр = langchain.Chain ( исем = "chatbot_chain", llm = llm, чүпрәк = чүпрәк, )

Чатботны сынап кара

user_input = "Исәнмесез, хәлләрегез ничек?" җавап = chain.run (user_input) бастыру (җавап) "

DSPy: Рөстәмгә нигезләнгән оркестр коралы

DSPy - Рөстәмгә нигезләнгән оркестр коралы, ул AI белән эшләнгән программа архитектурасын төзү өчен югары җитештерүчәнлек һәм масштаблы база тәэмин итә. Бу үзенчәлекләр тәкъдим итә, шул исәптән:

• ** RAG.
• ** LLM (Зур тел моделе) интеграция **: DSPy LLaMA һәм BERT кебек LLMларның табигый тел эшкәртү һәм буын биремнәре өчен интеграцияләнүен хуплый.
• ** Масштаблылык һәм Эшчәнлек **: DSPy зур масштаблы ЯИ эш йөкләрен эшкәртү өчен эшләнгән, биремнәрнең эффектив һәм масштаблы үтәлешен тәэмин итә.

DSPy белән AI белән идарә ителгән программа архитектурасын кертү

DSPy ярдәмендә AI белән идарә ителгән программа архитектурасын тормышка ашыруны күрсәтү өчен, әйдәгез, кулланучылар соравы турында уйлану һәм җаваплар тудыру өчен RAG кулланган чатботның гади мисалын карап чыгыйк.

"дат dspy :: чылбыр кулланыгыз; dspy :: llm кулланыгыз;

// RAG ясагыз rag = чылбыр булсын :: RAG :: яңа ( "chatbot_rag", век! [ чылбыр :: Түен :: яңа ("сәламләү", "Сәлам, мин сезгә ничек ярдәм итә алам?"), чылбыр :: Түен :: яңа ("саубуллашу", "Сау бул, сезнең белән аралашу рәхәт иде."), ], век! [ чылбыр :: Кыр :: яңа ("сәламләү", "саубуллашу", "user_says_goodbye"), ], );

// LLM ясагыз llm = llm :: LLM :: яңа ( "chatbot_llm", "ллама", 100, );

// Чатбот чылбырын булдырыгыз чылбыр = чылбыр :: чылбыр :: яңа ( "chatbot_chain", llm, чүпрәк, );

// Чатботны сынап кара user_input = "Сәлам, хәлләрегез ничек?"; җавап = чылбыр.рун (кулланучы_инпут) булсын; println! ("{}", җавап); "

Иң күп кулланылган командалар / фрагментлар

LangChain һәм DSPy өчен иң еш кулланыла торган боерыклар һәм фрагментлар:

• LangChain:
  • "langchain.RAG ()": яңа RAG мисалын булдыра.
  • "langchain.LLM ()": яңа LLM мисалын булдыра.
  • "langchain.Chain ()": Яңа чылбыр үрнәге ясый.
  • rag.run (): RAG эшли һәм җавап бирә.
  • "llm.run ()": LLM эшли һәм җавап бирә.
• DSPy:
  • dspy :: чылбыр :: RAG :: яңа (): Яңа RAG мисалын булдыра.
  • dspy :: llm :: LLM :: new (): Яңа LLM мисалын булдыра.
  • dspy :: чылбыр :: Чылбыр :: яңа (): Яңа чылбыр үрнәге ясый.
  • chain.run (): чылбыр белән идарә итә һәм җавап бирә.

Визуализация

Chart.js ярдәмендә RAG һәм LLM мөмкинлекләрен гади визуализацияләү:

"javascript const ctx = document.getElementById ('myChart'). getContext ('2d'); const диаграмма = яңа диаграмма (ctx, { тибы: 'бар', мәгълүмат: { этикеткалар: ['RAG', 'LLM'], мәгълүматлар базасы: [{ ярлык: 'Мөмкинлекләр', мәгълүмат: [10, 20], backgroundColor: [ 'rgba (255, 99, 132, 0,2)', 'rgba (54, 162, 235, 0,2)', ], borderColor: [ 'rgba (255, 99, 132, 1)', 'rgba (54, 162, 235, 1)', ], чик киңлеге: 1 }] }, вариантлар: { тараза: { y: { startAtZero: дөрес } } } }); "

Йомгаклау

LangChain һәм DSPy - RAG һәм LLM мөмкинлекләрен кулланып AI белән идарә ителгән программа архитектурасын тормышка ашырырга мөмкинлек бирүче көчле оркестр кораллары. Бу коралларны кулланып, уйлап табучылар масштаблы, башкаручы һәм катлаулы AI эш йөкләрен эшкәртә алырлык программа системаларын булдыра алалар. Аларның куллану җиңеллеге һәм сыгылмалылыгы белән, LangChain һәм DSPy - AI белән эшләнгән программа архитектурасы өчен идеаль сайлау.

Тәкъдимнәр

Бу мәкаләдәге дискуссиягә нигезләнеп, LangChain һәм DSPy ярдәмендә AI белән идарә ителгән программа архитектурасын тормышка ашырырга теләүчеләр өчен берничә киңәш бар:

• LangChain һәм DSPy нигезләрен өйрәнегез, шул исәптән аларның RAG һәм LLM мөмкинлекләрен.
• Коралларның ничек эшләвен сизү өчен, чатбот мисалы кебек гади мисаллар белән эксперимент.
• Акрынлап катлаулы проектларга күчегез, мәсәлән, рекомендация системасы яки табигый тел эшкәртү торбасы.
• Иң күп кулланылган командалар / фрагментлар бүлеген гомуми командалар һәм фрагментлар өчен белешмәлек итеп кулланыгыз.
• Төрле компонентлар арасындагы мөнәсәбәтләрне яхшырак аңлау өчен Chart.js ярдәмендә RAG һәм LLM мөмкинлекләрегезне күз алдыгызга китерегез.

Бу рекомендацияләрне үтәп, уйлап табучылар LangChain һәм DSPy-ның тулы потенциалын ачып, катлаулы эш йөкләрен эшкәртә алырлык һәм гаҗәеп эш башкару һәм масштаблылык тәэмин итә алырлык AI белән эшләнгән программа архитектурасын төзи алалар.