Оркестрация куралдары менен коопсуз жана масштабдуу AI менен башкарылган программалык архитектураны ишке ашыруу | B4N1

Оркестрация куралдары менен коопсуз жана масштабдуу AI менен башкарылган программалык архитектураны ишке ашыруу

3 months ago · b4n1 Read time: 4 min

Киришүү

Жасалма интеллектти (AI) программалык тиркемелерге интеграциялоо көйгөйлөрдү чечүүгө, чечимдерди кабыл алууга жана автоматташтырууга болгон мамилебизди өзгөрттү. Бирок, AI башкарган тиркемелер барган сайын татаалдашып бараткандыктан, коопсуз жана масштабдуу архитектурага муктаждык актуалдуу көйгөй болуп калды. Бул макалада биз AI агенттерин DevOps түтүктөрүнө интеграциялоо үчүн DSPy жана LangChain сыяктуу оркестрлөө куралдарын колдонууга өзгөчө басым жасоо менен AI, программалык камсыздоо инженериясы жана DevOps кесилишин изилдейбиз.

AI башкарган программалык архитектуранын көйгөйлөрү

AI башкарган программалык тиркемелер программалык камсыздоо инженерлерине жана DevOps командаларына уникалдуу кыйынчылыктарды жаратат. Негизги көйгөйлөрдүн айрымдары төмөнкүлөрдү камтыйт:

  • Масштабтоо: AI моделдери олуттуу эсептөө ресурстарын талап кылат, бул өндүрүш чөйрөлөрүндө масштабдуулук маселелерине алып келиши мүмкүн.
  • Коопсуздук: AI моделдери маалыматтарды уулантуу жана моделди инверсиялоо чабуулдары сыяктуу чабуулдарга дуушар болушу мүмкүн.
  • Интеграция: AI моделдери татаал иш болушу мүмкүн болгон учурдагы программалык камсыздоо тутумдары менен интеграцияланышы керек.
  • Мониторинг жана техникалык тейлөө: AI моделдери так жана ишенимдүү бойдон калуу үчүн үзгүлтүксүз мониторингди жана тейлөөнү талап кылат.

Оркестрация куралдары: DSPy жана LangChain

DSPy жана LangChain сыяктуу оркестрдик инструменттер AI агенттерин DevOps түтүктөрүнө интеграциялоо аркылуу бул көйгөйлөрдү чечүүнү камсыз кылат. Бул инструменттер AI моделдерин куруу, жайылтуу жана башкаруу үчүн негизди камсыздайт, AI башкарган колдонмолор үчүн коопсуз жана масштабдуу архитектураны камсыз кылат.

DSPy

DSPy Python үстүнө курулган ачык булактуу оркестрлөө куралы. Ал AI моделдерин куруу, жайылтуу жана башкаруу үчүн жөнөкөй жана интуитивдик API менен камсыз кылат. DSPy AI алкактарынын кеңири спектрин колдойт, анын ичинде TensorFlow, PyTorch жана scikit-learn.

LangChain

LangChain - AI моделдерин куруу, жайылтуу жана башкаруу үчүн негизди камсыз кылган дагы бир ачык булактуу оркестрлөө куралы. LangChain Rust үстүнө курулган жана AI агенттерин DevOps түтүктөрүнө интеграциялоо үчүн жогорку натыйжалуу API менен камсыз кылат.

DSPy менен коопсуз жана масштабдуу AI менен башкарылган программалык архитектураны ишке ашыруу

Бул бөлүмдө биз DSPy менен коопсуз жана масштабдуу AI башкарган программалык архитектураны ишке ашыруунун жөнөкөй мисалын изилдейбиз.

Мисал: DSPy менен жөнөкөй AI моделин куруу

DSPy аркылуу машина үйрөнүү моделин куруунун жөнөкөй мисалын карап көрөлү. Биз сызыктуу регрессия моделин куруу үчүн scikit-learn китепканасын колдонобуз.

dSP катары импорттоо
sklearn.linear_modelден LinearRegression импорттоо
sklearn.datasets импорттоо load_diabetes

# Диабет маалымат топтомун жүктөө
маалымат топтому = load_diabetes()

# Берилиштер топтомун окутуу жана тестирлөө топтомуна бөлүңүз
X_train, X_test, y_train, y_test = dsp.split_dataset(dataset.data, dataset.target, test_size=0.2)

# Сызыктуу регрессия моделин түзүү
модель = LinearRegression()

# Тренинг маалыматтары боюнча моделди үйрөтүү
model.fit(X_train, y_train)

# Сыноо маалыматтары боюнча моделди баалоо
тактык = model.score(X_test, y_test)
print(f"Моделдин тактыгы: {тактыгы:.2f}")

Бул код блогу DSPy аркылуу жөнөкөй машина үйрөнүү моделин кантип курууну көрсөтөт. Кант диабети боюнча маалымат топтомун жүктөйбүз, аны окуу жана тестирлөө топтомуна бөлөбүз, сызыктуу регрессиялык моделин курабыз, аны окуу маалыматтарына үйрөтөбүз жана тестирлөө маалыматтарында анын тактыгын баалайбыз.

LangChain менен коопсуз жана масштабдуу AI менен башкарылган программалык архитектураны ишке ашыруу

Бул бөлүмдө биз LangChain менен коопсуз жана масштабдуу AI башкарган программалык архитектураны ишке ашыруунун жөнөкөй мисалын изилдейбиз.

Мисал: LangChain менен жөнөкөй AI моделин куруу

LangChain аркылуу машина үйрөнүү моделин куруунун жөнөкөй мисалын карап көрөлү. Нейрондук тармак моделин куруу үчүн биз TensorFlow китепканасын колдонобуз.

lc катары langchain колдонуу;
колдонуу tensorflow::prelude::*;

// Жөнөкөй нейрон тармагынын моделин аныктаңыз
fn модели(киргизүү: &Тензор) -> Тензор {
    чыксын = input.matmul(&Tensor::new(1, 1));
    чыгаруу
}

// LangChain агентин түзүү
let agent = lc::Agent::new(model);

// Берилиштер топтомун аныктаңыз
let dataset = lc::Dataset::new(vec![
    lc::Мисалы::new(vec![1.0, 2.0], vec![3.0]),
    lc::Мисалы::new(vec![4.0, 5.0], vec![6.0]),
]);

// Берилиштер топтому боюнча моделди үйрөтүү
agent.train(&датасет);

// Берилиштер топтомундагы моделди баалоо
let accuracy = agent.evaluate(&dataset);
println!("Моделдин тактыгы: {}", тактык);

Бул код блогу LangChain аркылуу жөнөкөй машина үйрөнүү моделин кантип курууну көрсөтөт. Жөнөкөй нейрон тармагынын моделин аныктайбыз, LangChain агентин түзөбүз, берилиштер топтомун аныктайбыз, моделди берилиштер топтомун үйрөтөбүз жана анын тактыгын маалымат топтомун баалайбыз.

Эң көп колдонулган 5-10 буйруктар/үзүндүлөр

Бул жерде DSPy жана LangChain үчүн эң көп колдонулган 5-10 буйруктар/үзүндүлөр:

DSPy

  • dsp.split_dataset(маалымат, максат, test_size=0,2): Берилиштер топтомун окутуу жана тестирлөө топтомуна бөлөт.
  • dsp.build_model(model_name, model_params): Белгиленген моделдин аталышын жана параметрлерин колдонуп машина үйрөнүү моделин түзөт.
  • dsp.train_model(модель, маалымат): Белгиленген дайындар боюнча машина үйрөнүү моделин үйрөтөт.
  • dsp.evaluate_model(model, data): Белгиленген маалыматтар боюнча машина үйрөнүү моделинин иштешин баалайт.
  • dsp.deploy_model(model, server_url): Машина үйрөнүү моделин көрсөтүлгөн сервердин URL дарегине жайгаштырат.

LangChain

  • lc::Agent::new(model): Көрсөтүлгөн моделди колдонуу менен LangChain агентин түзөт.
  • lc::Dataset::new(мисалдар): Көрсөтүлгөн мисалдарды колдонуу менен LangChain берилиштер топтомун түзөт.
  • lc::train(агент, берилиштер топтому): LangChain агентин көрсөтүлгөн маалымат топтомуна үйрөтөт.
  • lc::evaluate(агент, берилиштер топтому): LangChain агентинин көрсөтүлгөн маалымат топтомундагы иштешин баалайт.
  • lc::deploy(agent, server_url): LangChain агентин көрсөтүлгөн сервердин URL дарегине жайгаштырат.

Визуализация

Бул жерде Chart.js аркылуу AI башкарган программалык архитектуранын жөнөкөй визуализациясы келтирилген:

const ctx = document.getElementById('myChart').getContext('2d');
const диаграмма = жаңы диаграмма(ctx, {
    түрү: 'бар',
    маалымат: {
        энбелгилери: ['Тренинг убактысы', 'Чыгуу убактысы', 'Моделдин тактыгы'],
        маалымат топтому: [{
            энбелгиси: 'DSPy',
            маалыматтар: [10, 5, 90],
            backgroundColor: 'rgba(255, 99, 132, 0.2)',
            borderColor: 'rgba(255, 99, 132, 1)',
            borderWidth: 1
        }, {
            энбелгиси: 'LangChain',
            маалыматтар: [8, 6, 92],
            backgroundColor: 'rgba(54, 162, 235, 0.2)',
            borderColor: 'rgba(54, 162, 235, 1)',
            чектин кеңдиги: 1
        }]
    },
    параметрлер: {
        тараза: {
            ж: {
                beginAtZero: чындык
            }
        }
    }
});

Бул код блогу DSPy жана LangChain иштешин визуализациялоо үчүн Chart.js аркылуу жөнөкөй тилке диаграммасын түзөт.

Корутунду

Бул макалада биз AI агенттерин DevOps түтүктөрүнө интеграциялоо үчүн DSPy жана LangChain сыяктуу оркестрлөө куралдарын колдонууга өзгөчө басым жасап, AI, программалык камсыздоо инженериясы жана DevOps кесилишин изилдедик. Биз DSPy жана LangChain аркылуу AI менен башкарылган программалык камсыздоонун коопсуз жана масштабдуу архитектурасын кантип ишке ашырууну көрсөттүк жана ар бир куралды колдонуу менен машина үйрөнүү моделин куруунун жөнөкөй мисалын бердик. Биз ошондой эле ар бир курал үчүн эң көп колдонулган 5-10 буйруктарды/үзүндүлөрдү жана Chart.js аркылуу AI башкарган программалык архитектуранын жөнөкөй визуализациясын бердик.

Have Questions?

Let's Talk

Contact me on LinkedIn