Кереш
Ясалма интеллектның (AI) программа кушымталарына интеграцияләнүе безнең проблемаларны чишү, карарлар кабул итү һәм автоматлаштыру ысулын үзгәртте. Ләкин, ЯИ белән идарә итүче кушымталар көннән-көн катлаулана барган саен, куркынычсыз һәм масштаблы архитектура кирәклеге актуаль проблемага әйләнде. Бу мәкаләдә без AI агентларын DevOps торбаларына интеграцияләү өчен DSPy һәм LangChain кебек оркестр коралларын куллануга аеруча басым ясап, AI, программа инженериясе һәм DevOps киселешен тикшерәчәкбез.
ЯИ белән идарә ителгән программа архитектурасы проблемалары
ЯИ белән идарә итүче программа кушымталары программа инженерлары һәм DevOps коллективлары өчен уникаль кыенлыклар тудыра. Кайбер төп проблемалар:
- ** Масштаблылыгы **: ЯИ модельләре зур исәпләү ресурсларын таләп итәләр, бу җитештерү мохитендә масштаблылык проблемаларына китерергә мөмкин.
- ** Куркынычсызлык **: ЯИ модельләре һөҗүмнәргә бирелергә мөмкин, мәсәлән, агулану һәм модель инверсия һөҗүмнәре.
- ** Интеграция **: ЯИ модельләре булган программа системалары белән интеграцияләнергә тиеш, бу катлаулы эш булырга мөмкин.
- ** Мониторинг һәм хезмәт күрсәтү **: ЯИ модельләре төгәл һәм ышанычлы булып калсын өчен өзлексез мониторинг һәм хезмәт күрсәтүне таләп итәләр.
Оркестр кораллары: DSPy һәм LangChain
DSPy һәм LangChain кебек оркестр кораллары AI проблемаларын DevOps торбаларына интеграцияләү ярдәмендә бу проблемаларны чишүне тәэмин итә. Бу кораллар ЯИ модельләрен төзү, урнаштыру һәм идарә итү, ЯИ белән идарә итүче кушымталар өчен куркынычсыз һәм масштаблы архитектураны тәэмин итү өчен нигез бирә.
DSPy
DSPy - Python өстендә төзелгән ачык чыганаклы оркестр коралы. Бу AI модельләрен төзү, урнаштыру һәм идарә итү өчен гади һәм интуитив API белән тәэмин итә. DSPy TensorFlow, PyTorch һәм scikit-learn кебек AI формаларының киң ассортиментына ярдәм итә.
LangChain
LangChain - тагын бер ачык чыганаклы оркестр коралы, ул AI модельләрен төзү, урнаштыру һәм идарә итү өчен нигез бирә. LangChain Рөстәм өстендә төзелгән һәм AI агентларын DevOps торба үткәргечләренә интеграцияләү өчен югары җитештерүчән API тәэмин итә.
DSPy белән куркынычсыз һәм масштаблы AI белән идарә ителгән программа архитектурасын тормышка ашыру
Бу бүлектә без DSPy ярдәмендә куркынычсыз һәм масштаблы AI йөртүче программа архитектурасын тормышка ашыруның гади мисалын өйрәнербез.
Мисал: DSPy белән гади AI моделе төзү
DSPy ярдәмендә машина өйрәнү моделен төзүнең гади мисалын карап чыгыйк. Сызыклы регрессия моделе төзү өчен без скикит-өйрәнү китапханәсен кулланачакбыз.
"питон dspy импорт sklearn.linear_model импортыннан LinearRegression sklearn.datasets'тан load_diabetes импортлый
Диабет мәгълүматлар базасын йөкләгез
мәгълүматлар җыелмасы = йөк_ диабет ()
Мәгълүматлар базасын укыту һәм сынау комплектларына бүлегез
X_train, X_test, y_train, y_test = dsp.split_dataset (dataset.data, dataset.target, test_size = 0,2)
Сызыклы регрессия моделе төзегез
модель = LinearRegression ()
Модельне укыту мәгълүматлары буенча өйрәтегез
model.fit (X_train, y_train)
Тест мәгълүматларында модельне бәяләгез
төгәллек = model.score (X_test, y_test) бастыру (f "Модель төгәллеге: {төгәллек: .2f}") "
Бу код блок DSPy ярдәмендә гади машина өйрәнү моделен ничек төзергә икәнен күрсәтә. Без шикәр диабеты мәгълүматлар базасын йөклибез, аны тренинг һәм сынау комплектларына бүлеп, сызыклы регрессия моделен төзибез, аны укыту мәгълүматларына өйрәтәбез, һәм тест мәгълүматларында аның төгәллеген бәялибез.
LangChain белән куркынычсыз һәм масштаблы AI белән идарә ителгән программа архитектурасын тормышка ашыру
Бу бүлектә без LangChain белән куркынычсыз һәм масштаблы AI йөртүче программа архитектурасын тормышка ашыруның гади мисалын өйрәнербез.
Мисал: LangChain белән гади AI моделе төзү
LangChain ярдәмендә машина өйрәнү моделен төзүнең гади мисалын карап чыгыйк. Нейрон челтәр моделе төзү өчен без TensorFlow китапханәсен кулланачакбыз.
"дат langchain lc итеп кулланыгыз; tensorflow кулланыгыз :: prelude :: *;
// Гади нейрон челтәр моделен билгеләгез fn моделе (кертү: & Тензор) -> Тензор { чыгару = input.matmul (& Тензор :: яңа (1, 1)) булсын; чыгару }
// LangChain агентын булдырыгыз агент = lc :: агент :: яңа (модель) булсын;
// Мәгълүматлар базасын билгеләгез dataset = lc :: Dataset :: яңа (век!] булсын. lc :: Мисал :: яңа (век! [1.0, 2.0], век! [3.0]), lc :: Мисал :: яңа (век! [4.0, 5.0], век! [6.0]), ]);
// Модельне мәгълүматлар базасына өйрәтегез agent.train (& мәгълүматлар базасы);
// Мәгълүматлар базасында модельне бәяләгез төгәллек = агент. бәяләү (& мәгълүматлар базасы) булсын; println! ("Модель төгәллеге: {}", төгәллек); "
Бу код блок LangChain ярдәмендә гади машина өйрәнү моделен ничек төзергә икәнен күрсәтә. Без гади нейрон челтәр моделен билгелибез, LangChain агентын булдырабыз, мәгълүматлар базасын билгелибез, модельне мәгълүматлар базасында өйрәтәбез, һәм мәгълүматлар базасында аның төгәллеген бәялибез.
Иң күп кулланылган командалар / Сниппетлар
Менә DSPy һәм LangChain өчен иң күп кулланылган 5-10 командалар / фрагментлар:
DSPy
- "dsp.split_dataset (мәгълүматлар, максат, test_size = 0,2)": Мәгълүматлар базасын укыту һәм сынау комплектларына бүлеп бирү.
- "dsp.build_model (model_name, model_params)": күрсәтелгән модель исемен һәм параметрларын кулланып машина өйрәнү моделе төзи.
- "dsp.train_model (модель, мәгълүматлар)": Машина өйрәнү моделен күрсәтелгән мәгълүматларга өйрәтә.
- "dsp.evaluate_model (модель, мәгълүматлар)": күрсәтелгән мәгълүматларда машина өйрәнү моделенең эшләвен бәяли.
- "dsp.deploy_model (модель, server_url)": Машина өйрәнү моделен күрсәтелгән сервер URL'ына урнаштыра.
LangChain
- "lc :: Агент :: яңа (модель)": күрсәтелгән модель ярдәмендә LangChain агентын ясый.
lc :: Dataset :: new (мисаллар): күрсәтелгән мисалларны кулланып LangChain мәгълүматлар базасы ясый.- "lc :: поезд (агент, мәгълүматлар базасы)": LangChain агентын күрсәтелгән мәгълүматлар базасында өйрәтә.
- "lc :: бәяләү (агент, мәгълүматлар базасы)": LangChain агентының күрсәтелгән мәгълүматлар базасында эшләвен бәяли.
- "lc :: урнаштыру (агент, сервер_урл)": LangChain агентын күрсәтелгән сервер URL'ына урнаштыра.
Визуализация
Менә Chart.js ярдәмендә AI белән идарә ителгән программа архитектурасын гади визуализацияләү:
"javascript const ctx = document.getElementById ('myChart'). getContext ('2d'); const диаграмма = яңа диаграмма (ctx, { тибы: 'бар', мәгълүмат: { этикеткалар: ['Укыту вакыты', 'Белешмә вакыт', 'Модель төгәллеге'], мәгълүматлар базасы: [{ ярлык: 'DSPy', мәгълүмат: [10, 5, 90], backgroundColor: 'rgba (255, 99, 132, 0,2)', borderColor: 'rgba (255, 99, 132, 1)', чик киңлеге: 1 }, { ярлык: 'LangChain', мәгълүматлар: [8, 6, 92], backgroundColor: 'rgba (54, 162, 235, 0.2)', borderColor: 'rgba (54, 162, 235, 1)', чик киңлеге: 1 }] }, вариантлар: { тараза: { y: { startAtZero: дөрес } } } }); "
Бу код блок DSPy һәм LangChain эшләрен күз алдына китерү өчен Chart.js ярдәмендә гади схема схемасын ясый.
Йомгаклау
Бу мәкаләдә без AI, программа инженериясе һәм DevOps киселешен тикшердек, DSPy һәм LangChain кебек оркестр коралларын AI агентларын DevOps торбаларына интеграцияләүгә аеруча басым ясадык. DSPy һәм LangChain ярдәмендә куркынычсыз һәм масштаблы AI йөртүче программа архитектурасын ничек тормышка ашырырга икәнен күрсәттек, һәм һәр корал ярдәмендә машина өйрәнү моделен төзүнең гади мисалы китердек. Без шулай ук һәр корал өчен иң яхшы кулланылган 5-10 командалар / фрагментлар һәм Chart.js ярдәмендә AI белән идарә ителгән программа архитектурасын гади визуализацияләдек.