Xavfsiz va kengaytiriladigan sun'iy intellektga asoslangan dasturiy ta'minot arxitekturasini orkestratsiya vositalari bilan amalga oshirish | B4N1

Xavfsiz va kengaytiriladigan sun'iy intellektga asoslangan dasturiy ta'minot arxitekturasini orkestratsiya vositalari bilan amalga oshirish

6 months ago · b4n1 Tiempo de lectura: 4 min

Kirish

Sun'iy intellektning (AI) dasturiy ilovalarga integratsiyalashuvi muammoni hal qilish, qarorlar qabul qilish va avtomatlashtirishga yondashuvimizni tubdan o'zgartirdi. Biroq, sun'iy intellektga asoslangan ilovalar tobora murakkablashib borayotganligi sababli, xavfsiz va kengaytiriladigan arxitekturaga bo'lgan ehtiyoj dolzarb muammoga aylandi. Ushbu maqolada biz AI agentlarini DevOps quvurlariga integratsiya qilish uchun DSPy va LangChain kabi orkestratsiya vositalaridan foydalanishga alohida e'tibor qaratgan holda AI, dasturiy injiniring va DevOps kesishishini o'rganamiz.

AIga asoslangan dasturiy ta'minot arxitekturasining qiyinchiliklari

Sun'iy intellektga asoslangan dasturiy ilovalar dasturiy ta'minot muhandislari va DevOps jamoalari uchun o'ziga xos muammolarni keltirib chiqaradi. Asosiy qiyinchiliklardan ba'zilari quyidagilardan iborat:

  • Mashqlanishi: AI modellari katta hisoblash resurslarini talab qiladi, bu esa ishlab chiqarish muhitida miqyoslash muammolariga olib kelishi mumkin.
  • Xavfsizlik: AI modellari maʼlumotlardan zaharlanish va modelni oʻzgartirish hujumlari kabi hujumlarga nisbatan zaif boʻlishi mumkin.
  • Integratsiya: AI modellari mavjud dasturiy ta'minot tizimlari bilan birlashtirilishi kerak, bu murakkab vazifa bo'lishi mumkin.
  • Monitoring va texnik xizmat ko‘rsatish: AI modellari aniq va ishonchli bo‘lib qolishi uchun doimiy monitoring va texnik xizmat ko‘rsatishni talab qiladi.

Orkestrlash vositalari: DSPy va LangChain

DSPy va LangChain kabi orkestratsiya vositalari AI agentlarini DevOps quvurlariga integratsiyalashuviga imkon berish orqali ushbu muammolarni hal qiladi. Ushbu vositalar AI modellarini yaratish, joylashtirish va boshqarish uchun asos bo'lib, sun'iy intellektga asoslangan ilovalar uchun xavfsiz va kengaytiriladigan arxitekturani ta'minlaydi.

DSPy

DSPy - bu Python ustiga qurilgan ochiq manbali orkestrlash vositasi. U AI modellarini yaratish, joylashtirish va boshqarish uchun oddiy va intuitiv API taqdim etadi. DSPy TensorFlow, PyTorch va scikit-learn kabi keng ko'lamli AI ramkalarini qo'llab-quvvatlaydi.

LangChain

LangChain - bu AI modellarini yaratish, joylashtirish va boshqarish uchun asosni ta'minlovchi yana bir ochiq manbali orkestrlash vositasi. LangChain Rust ustiga qurilgan va AI agentlarini DevOps quvurlariga integratsiya qilish uchun yuqori samarali API taqdim etadi.

DSPy bilan xavfsiz va kengaytiriladigan AIga asoslangan dasturiy ta'minot arxitekturasini amalga oshirish

Ushbu bo'limda biz DSPy bilan xavfsiz va kengaytiriladigan AI tomonidan boshqariladigan dasturiy ta'minot arxitekturasini amalga oshirishning oddiy misolini ko'rib chiqamiz.

Misol: DSPy yordamida oddiy AI modelini yaratish

Keling, DSPy yordamida mashinani o'rganish modelini yaratishning oddiy misolini ko'rib chiqaylik. Chiziqli regressiya modelini yaratish uchun biz scikit-learn kutubxonasidan foydalanamiz.

dspy ni dsp sifatida import qiling
sklearn.linear_model import LinearRegression dan
sklearn.datasets dan import load_diabetes

# Qandli diabet ma'lumotlar to'plamini yuklang
ma'lumotlar to'plami = load_diabetes()

# Ma'lumotlar to'plamini o'quv va sinov to'plamlariga bo'ling
X_train, X_test, y_train, y_test = dsp.split_dataset(ma'lumotlar to'plami.data, dataset.target, test_size=0,2)

# Chiziqli regressiya modelini yarating
model = LinearRegression()

# Modelni trening ma'lumotlariga o'rgating
model.fit(X_poezd, y_poezd)

# Sinov ma'lumotlari bo'yicha modelni baholang
aniqlik = model.score(X_test, y_test)
chop etish(f"Model aniqligi: {aniqlik:.2f}")

Ushbu kod bloki DSPy yordamida oddiy mashinani o'rganish modelini qanday yaratishni ko'rsatadi. Biz diabetga oid ma'lumotlar to'plamini yuklaymiz, uni o'quv va sinov to'plamlariga ajratamiz, chiziqli regressiya modelini quramiz, uni mashg'ulot ma'lumotlariga o'rgatamiz va test ma'lumotlari bo'yicha uning to'g'riligini baholaymiz.

LangChain bilan xavfsiz va kengaytiriladigan sun'iy intellektga asoslangan dasturiy ta'minot arxitekturasini joriy qilish

Ushbu bo'limda biz LangChain bilan xavfsiz va kengaytiriladigan sun'iy intellektga asoslangan dasturiy ta'minot arxitekturasini amalga oshirishning oddiy misolini ko'rib chiqamiz.

Misol: LangChain yordamida oddiy AI modelini yaratish

Keling, LangChain yordamida mashinani o'rganish modelini yaratishning oddiy misolini ko'rib chiqaylik. Neyron tarmoq modelini yaratish uchun TensorFlow kutubxonasidan foydalanamiz.

langchainni lc sifatida ishlatish;
tensorflow ::prelude::* dan foydalaning;

// Oddiy neyron tarmoq modelini aniqlang
fn modeli (kirish: &Tensor) -> Tensor {
    chiqsin = input.matmul(&Tensor::new(1, 1));
    chiqish
}

// LangChain agentini yarating
let agent = lc::Agent::new(model);

// Ma'lumotlar to'plamini aniqlang
let dataset = lc::Dataset::new(vec![
    lc::Misol::new(vec![1.0, 2.0], vec![3.0]),
    lc::Misol::new(vec![4.0, 5.0], vec![6.0]),
]);

// Modelni ma'lumotlar to'plamiga o'rgating
agent.train(&ma'lumotlar to'plami);

// Ma'lumotlar to'plamidagi modelni baholang
ruxsat aniqligi = agent.evaluate(&dataset);
println!("Model aniqligi: {}", aniqlik);

Ushbu kod bloki LangChain yordamida oddiy mashinani o'rganish modelini qanday yaratishni ko'rsatadi. Biz oddiy neyron tarmoq modelini aniqlaymiz, LangChain agentini yaratamiz, ma'lumotlar to'plamini aniqlaymiz, modelni ma'lumotlar to'plamida o'qitamiz va ma'lumotlar to'plamida uning aniqligini baholaymiz.

Eng ko'p ishlatiladigan 5-10 ta buyruq/parchalar

DSPy va LangChain uchun eng ko'p ishlatiladigan 5-10 ta eng yaxshi buyruqlar/parchalar:

DSPy

  • dsp.split_dataset(ma'lumotlar, maqsad, test_size=0,2): Ma'lumotlar to'plamini o'quv va sinov to'plamlariga ajratadi.
  • dsp.build_model(model_name, model_params): Belgilangan model nomi va parametrlari yordamida mashinani o'rganish modelini yaratadi.
  • dsp.train_model(model, data): Belgilangan ma'lumotlar bo'yicha mashinani o'rganish modelini o'rgatadi.
  • dsp.evaluate_model(model, data): Belgilangan ma'lumotlar bo'yicha mashinani o'rganish modelining ishlashini baholaydi.
  • dsp.deploy_model(model, server_url): Mashinani o'rganish modelini belgilangan server URL manziliga o'rnatadi.

LangChain

  • lc::Agent::new(model): Belgilangan model yordamida LangChain agentini yaratadi.
  • lc::Dataset::new(misollar): Belgilangan misollar yordamida LangChain ma'lumotlar to'plamini yaratadi.
  • lc::train(agent, dataset): LangChain agentini belgilangan ma'lumotlar to'plamiga o'rgatadi.
  • lc::evaluate(agent, dataset): Belgilangan ma'lumotlar to'plamida LangChain agentining ishlashini baholaydi.
  • lc::deploy(agent, server_url): LangChain agentini belgilangan server URL manziliga joylashtiradi.

Vizualizatsiya

Mana, Chart.js yordamida sun'iy intellektga asoslangan dasturiy ta'minot arxitekturasining oddiy vizualizatsiyasi:

const ctx = document.getElementById('myChart').getContext('2d');
const chart = yangi diagramma (ctx, {
    turi: 'bar',
    ma'lumotlar: {
        yorliqlar: ['Mashq vaqti', 'Xulosa qilish vaqti', 'Model aniqligi'],
        ma'lumotlar to'plami: [{
            yorliq: 'DSPy',
            ma'lumotlar: [10, 5, 90],
            fon rangi: 'rgba (255, 99, 132, 0.2)',
            borderColor: 'rgba(255, 99, 132, 1)',
            chegara kengligi: 1
        }, {
            yorliq: 'LangChain',
            ma'lumotlar: [8, 6, 92],
            fon rangi: 'rgba(54, 162, 235, 0.2)',
            borderColor: 'rgba(54, 162, 235, 1)',
            chegara kengligi: 1
        }]
    },
    variantlar: {
        tarozi: {
            y: {
                beginAtZero: rost
            }
        }
    }
});

Ushbu kod bloki DSPy va LangChain ishlashini tasavvur qilish uchun Chart.js yordamida oddiy shtrixli diagramma yaratadi.

Xulosa

Ushbu maqolada biz AI agentlarini DevOps quvurlariga integratsiya qilish uchun DSPy va LangChain kabi orkestratsiya vositalaridan foydalanishga alohida e'tibor qaratgan holda AI, dasturiy ta'minot muhandisligi va DevOps kesishmasini o'rganib chiqdik. Biz DSPy va LangChain-dan foydalangan holda xavfsiz va kengaytiriladigan sun'iy intellektga asoslangan dasturiy ta'minot arxitekturasini qanday amalga oshirishni ko'rsatdik va har bir vosita yordamida mashinani o'rganish modelini yaratishning oddiy misolini keltirdik. Shuningdek, biz har bir vosita uchun eng koʻp qoʻllaniladigan 5-10 ta buyruq/parchalarni va Chart.js yordamida sunʼiy intellektga asoslangan dasturiy taʼminot arxitekturasining oddiy vizual tasvirini taqdim etdik.


¿Tienes preguntas?

Hablemos

Contáctame en LinkedIn