Татбиқи меъмории нармафзори амн ва миқёспазири AI бо асбобҳои оркестрсозӣ | B4N1

Татбиқи меъмории нармафзори амн ва миқёспазири AI бо асбобҳои оркестрсозӣ

3 months ago · b4n1 Read time: 5 min

Муқаддима

Интегратсияи зеҳни сунъӣ (AI) ба барномаҳои нармафзор тарзи муносибати мо ба ҳалли мушкилот, қабули қарор ва автоматизатсияро тағир дод. Бо вуҷуди ин, вақте ки барномаҳои аз ҷониби AI идорашаванда торафт мураккабтар мешаванд, зарурати меъмории бехатар ва миқёспазир ба ташвиши ҷиддӣ табдил ёфтааст. Дар ин мақола, мо чорроҳаи AI, муҳандисии нармафзор ва DevOps-ро бо таваҷҷӯҳи махсус ба истифодаи абзорҳои оркестрсозӣ ба монанди DSPy ва LangChain барои ҳамгироии агентҳои AI ба лӯлаҳои DevOps меомӯзем.

Мушкилоти меъмории нармафзори аз ҷониби AI идорашаванда

Барномаҳои нармафзоре, ки ба AI асос ёфтааст, барои муҳандисони нармафзор ва гурӯҳҳои DevOps мушкилоти беназир эҷод мекунанд. Баъзе аз мушкилоти асосӣ инҳоянд:

  • Миқёспазирӣ: Моделҳои AI захираҳои назарраси ҳисоббарориро талаб мекунанд, ки метавонанд ба мушкилоти миқёспазирӣ дар муҳити истеҳсолӣ оварда расонанд.
  • ** Амният**: Моделҳои AI метавонанд ба ҳамлаҳо, ба монанди заҳролудшавӣ аз маълумот ва ҳамлаҳои инверсияи модел осебпазир бошанд.
  • Интегратсия: Моделҳои AI бояд бо системаҳои нармафзори мавҷуда муттаҳид карда шаванд, ки ин метавонад вазифаи мураккаб бошад.
  • ** Мониторинг ва нигоҳдорӣ**: Моделҳои AI мониторинг ва нигоҳдории доимиро талаб мекунанд, то онҳо дақиқ ва боэътимод боқӣ монанд.

Воситаҳои оркестрсозӣ: DSPy ва LangChain

Воситаҳои оркестрсозӣ ба монанди DSPy ва LangChain ҳалли ин мушкилотро тавассути имкон додани ҳамгироии агентҳои AI ба лӯлаҳои DevOps таъмин мекунанд. Ин абзорҳо барои сохтан, ҷобаҷогузорӣ ва идоракунии моделҳои AI замина фароҳам оварда, меъмории амн ва миқёспазирро барои замимаҳои бо AI идорашаванда таъмин мекунанд.

DSPy

DSPy як воситаи оркестрсозии кушодаасос аст, ки дар болои Python сохта шудааст. Он API оддӣ ва беихтиёрона барои сохтан, ҷойгиркунӣ ва идоракунии моделҳои AI таъмин мекунад. DSPy доираи васеи чаҳорчӯбаҳои AI, аз ҷумла TensorFlow, PyTorch ва scikit-learn -ро дастгирӣ мекунад.

LangChain

LangChain боз як асбоби оркестрсозии кушодаасос мебошад, ки барои сохтан, ҷойгир кардан ва идоракунии моделҳои AI замина фароҳам меорад. LangChain дар болои Rust сохта шудааст ва API-и баландсифатро барои ҳамгироии агентҳои AI ба лӯлаҳои DevOps таъмин мекунад.

Татбиқи меъмории нармафзори амн ва миқёспазир бо DSPy

Дар ин бахш, мо як мисоли оддии татбиқи меъмории нармафзори амн ва миқёспазирро бо DSPy меомӯзем.

Мисол: Сохтани модели оддии AI бо DSPy

Биёед мисоли оддии сохтани модели омӯзиши мошинро бо истифода аз DSPy дида бароем. Мо китобхонаи scikit-learn-ро барои сохтани модели регрессияи хатӣ истифода хоҳем кард.

`` питон dspy-ро ҳамчун dsp ворид кунед аз sklearn.linear_model воридоти LinearRegression аз sklearn.datasets воридоти load_diabetes

Маҷмӯи маълумоти диабетро бор кунед

маҷмӯи маълумот = load_diabetes ()

Маҷмӯи маълумотро ба маҷмӯаҳои омӯзишӣ ва санҷишӣ тақсим кунед

X_train, X_test, y_train, y_test = dsp.split_dataset (dataset.data, dataset.target, test_size = 0.2)

Модели регрессияи хатиро созед

модел = LinearRegression ()

Моделро аз рӯи маълумоти омӯзиш омӯзед

model.fit(X_train, y_train)

Моделро аз рӯи маълумоти санҷиш арзёбӣ кунед

дақиқӣ = model.score (X_test, y_test) чоп(f"Дақиқии модел: {accuracy:.2f}")


Ин блоки рамзӣ нишон медиҳад, ки чӣ гуна сохтани модели оддии омӯзиши мошинсозӣ бо истифода аз DSPy. Мо маҷмӯи маълумотҳои диабетиро бор мекунем, онро ба маҷмӯаҳои омӯзишӣ ва санҷишӣ тақсим мекунем, модели регрессияи хатиро месозем, онро дар маълумотҳои омӯзишӣ таълим медиҳем ва дурустии онро дар маълумоти санҷиш арзёбӣ мекунем.

## Татбиқи меъмории нармафзори амн ва миқёспазир бо LangChain

Дар ин бахш, мо як мисоли оддии татбиқи меъмории нармафзори амн ва миқёспазирро бо LangChain меомӯзем.

### Мисол: Сохтани модели оддии AI бо LangChain

Биёед мисоли оддии сохтани модели омӯзиши мошинро бо истифода аз LangChain дида бароем. Мо китобхонаи TensorFlowро барои сохтани модели шабакаи нейрон истифода хоҳем кард.

`` занг
langchain-ро ҳамчун lc истифода баред;
истифода tensorflow::prelude::*;

// Модели оддии шабакаи нейронро муайян кунед
модели fn (ворид: &Tensor) -> Tensor {
    бигзор баромад = input.matmul (& Tensor :: нав (1, 1));
    баромад
}

// Агенти LangChain эҷод кунед
бигзор агенти = lc :: Агент :: нав (модели);

// Маҷмӯи маълумотро муайян кунед
бигзор маҷмӯаи додаҳо = lc::Dataset::new(vec![
    lc :: Мисол :: нав(vec![1.0, 2.0], vec![3.0]),
    lc :: Мисол :: нав(vec![4.0, 5.0], vec![6.0]),
]);

// Моделро дар маҷмӯи додаҳо омӯзед
agent.train(&маҷмӯаи маълумот);

// Моделро дар маҷмӯи додаҳо арзёбӣ кунед
бигзор дақиқӣ = agent.evaluate(&маҷмӯаи маълумот);
println!("Дақиқии модел: {}", дақиқӣ);

Ин блоки рамзӣ нишон медиҳад, ки чӣ гуна сохтани модели оддии омӯзиши мошинсозӣ бо истифода аз LangChain. Мо модели оддии шабакаи нейронро муайян мекунем, агенти LangChain эҷод мекунем, маҷмӯи додаҳоро муайян мекунем, моделро дар маҷмӯаи додаҳо таълим медиҳем ва дурустии онро дар маҷмӯи додаҳо арзёбӣ мекунем.

Top 5-10 Фармонҳо/порчаҳои бештар истифодашаванда

Инҳоянд 5-10 фармонҳои / пораҳои аз ҳама бештар истифодашаванда барои DSPy ва LangChain:

DSPy

  • dsp.split_dataset(маълумот, ҳадаф, test_size=0.2): Маҷмӯи додаҳоро ба маҷмӯи омӯзишӣ ва санҷишӣ тақсим мекунад.
  • dsp.build_model(model_name, model_params): Модели омӯзиши мошинро бо истифода аз ном ва параметрҳои модели муайяншуда месозад.
  • dsp.train_model(model, data): Модели омӯзиши мошинро аз рӯи маълумоти муайяншуда таълим медиҳад.
  • dsp.evaluate_model(model, data): Фаъолияти модели омӯзиши мошинро аз рӯи маълумоти муайяншуда арзёбӣ мекунад.
  • dsp.deploy_model(model, server_url): Модели омӯзиши мошинро ба URL-и сервери мушаххас ҷойгир мекунад.

LangChain

  • lc::Agent::new(model): Агенти LangChain-ро бо истифода аз модели муайяншуда эҷод мекунад.
  • lc::Dataset::new(намунаҳо): Бо истифода аз мисолҳои мушаххас маҷмӯи додаҳои LangChain эҷод мекунад.
  • lc::train(агент, маҷмӯаи маълумот): Агенти LangChain-ро дар маҷмӯи додаҳои мушаххас таълим медиҳад.
  • lc::evaluate(агент, маҷмӯаи додаҳо): Фаъолияти агенти LangChainро дар маҷмӯи додаҳои мушаххас арзёбӣ мекунад.
  • lc::deploy(agent, server_url): Агенти LangChain-ро ба URL-и сервер ҷойгир мекунад.

Визуалӣ

Ин аст визуализатсияи оддии меъмории нармафзори аз ҷониби AI идорашаванда бо истифода аз Chart.js:

const ctx = document.getElementById('myChart').getContext('2d');
const диаграмма = Диаграммаи нав (ctx, {
    навъи: 'бар',
    маълумот: {
        тамғакоғазҳо: ['Вақти омӯзиш', 'Вақти хулосабарорӣ', 'Дақиқии модел'],
        маҷмӯи маълумот: [{
            барчасп: 'DSPy',
            маълумот: [10, 5, 90],
            заминаРанги: 'rgba(255, 99, 132, 0.2)',
            borderColor: 'rgba (255, 99, 132, 1)',
            Бари сарҳад: 1
        }, {
            барчасп: 'LangChain',
            маълумот: [8, 6, 92],
            заминаРанги: 'rgba(54, 162, 235, 0.2)',
            borderColor: 'rgba(54, 162, 235, 1)',
            Бари сарҳад: 1
        }]
    },
    имконоти: {
        тарозу: {
            y: {
                startAtZero: дуруст
            }
        }
    }
});

Ин блоки рамзӣ бо истифода аз Chart.js диаграммаи сатри оддиро барои визуализатсияи иҷрои DSPy ва LangChain месозад.

Хулоса

Дар ин мақола, мо чорроҳаи AI, муҳандисии нармафзор ва DevOps-ро бо таваҷҷӯҳи махсус ба истифодаи асбобҳои оркестрсозӣ ба монанди DSPy ва LangChain барои ҳамгироии агентҳои AI ба лӯлаҳои DevOps омӯхтаем. Мо нишон додем, ки чӣ гуна меъмории нармафзори амн ва миқёспазири AI-ро бо истифода аз DSPy ва LangChain татбиқ кунем ва намунаи оддии сохтани модели омӯзиши мошинро бо истифода аз ҳар як асбоб пешниҳод кардем. Мо инчунин 5-10 фармон/порчаҳои бештар истифодашавандаро барои ҳар як асбоб ва визуализатсияи оддии меъмории нармафзори аз ҷониби AI идорашаванда бо истифода аз Chart.js пешниҳод кардем.

Have Questions?

Let's Talk

Contact me on LinkedIn