Имплементација безбедне и скалабилне софтверске архитектуре вођене вештачком интелигенцијом са алаткама за оркестрацију | B4N1

Имплементација безбедне и скалабилне софтверске архитектуре вођене вештачком интелигенцијом са алаткама за оркестрацију

6 months ago · b4n1 Read time: 4 min

Увод

Интеграција вештачке интелигенције (АИ) у софтверске апликације је револуционирала начин на који приступамо решавању проблема, доношењу одлука и аутоматизацији. Међутим, како апликације вођене вештачком интелигенцијом постају све сложеније, потреба за сигурном и скалабилном архитектуром постала је горућа брига. У овом чланку ћемо истражити пресек вештачке интелигенције, софтверског инжењеринга и ДевОпс-а, ​​са посебним нагласком на коришћењу алата за оркестрацију као што су ДСПи и ЛангЦхаин за интеграцију АИ агената у ДевОпс цевоводе.

Изазови софтверске архитектуре вођене вештачком интелигенцијом

Софтверске апликације вођене вештачком интелигенцијом представљају јединствене изазове за софтверске инжењере и ДевОпс тимове. Неки од кључних изазова укључују:

  • Скалабилност: АИ модели захтевају значајне рачунарске ресурсе, што може довести до проблема скалабилности у производним окружењима.
  • Безбедност: АИ модели могу бити рањиви на нападе, као што су тровање података и напади инверзије модела.
  • Интеграција: АИ модели морају бити интегрисани са постојећим софтверским системима, што може бити сложен задатак.
  • Надгледање и одржавање: АИ модели захтевају континуирано праћење и одржавање како би били сигурни да остају тачни и поуздани.

Алати за оркестрацију: ДСПи и ЛангЦхаин

Алати за оркестрацију као што су ДСПи и ЛангЦхаин пружају решење за ове изазове омогућавајући интеграцију АИ агената у ДевОпс цевоводе. Ови алати обезбеђују оквир за изградњу, примену и управљање АИ моделима, обезбеђујући сигурну и скалабилну архитектуру за апликације вођене вештачком интелигенцијом.

ДСПи

ДСПи је оркестарски алат отвореног кода изграђен на врху Питхон-а. Пружа једноставан и интуитиван АПИ за изградњу, примену и управљање АИ моделима. ДСПи подржава широк спектар АИ оквира, укључујући ТенсорФлов, ПиТорцх и сцикит-леарн.

ЛангЦхаин

ЛангЦхаин је још један алат за оркестрацију отвореног кода који обезбеђује оквир за изградњу, примену и управљање АИ моделима. ЛангЦхаин је изграђен на врху Руста и пружа АПИ високих перформанси за интеграцију АИ агената у ДевОпс цевоводе.

Имплементација безбедне и скалабилне софтверске архитектуре вођене вештачком интелигенцијом са ДСПи

У овом одељку ћемо истражити једноставан пример имплементације безбедне и скалабилне софтверске архитектуре вођене вештачком интелигенцијом са ДСПи.

Пример: Изградња једноставног АИ модела са ДСПи

Хајде да размотримо једноставан пример изградње модела машинског учења користећи ДСПи. Користићемо библиотеку сцикит-леарн да изградимо модел линеарне регресије.

увоз дспи као дсп
из склеарн.линеар_модел импорт ЛинеарРегрессион
фром склеарн.датасетс импорт лоад_диабетес

# Учитајте скуп података о дијабетесу
скуп података = лоад_диабетес()

# Поделите скуп података у скупове за обуку и тестирање
Кс_траин, Кс_тест, и_траин, и_тест = дсп.сплит_датасет(датасет.дата, датасет.таргет, тест_сизе=0,2)

# Направите модел линеарне регресије
модел = ЛинеарРегрессион()

# Обучите модел на подацима о обуци
модел.фит(Кс_воз, и_воз)

# Процените модел на основу података тестирања
тачност = модел.сцоре(Кс_тест, и_тест)
принт(ф"Тачност модела: {аццураци:.2ф}")

Овај блок кода показује како да се направи једноставан модел машинског учења користећи ДСПи. Учитавамо скуп података о дијабетесу, делимо га на скупове за обуку и тестирање, градимо модел линеарне регресије, обучавамо га на подацима о обуци и процењујемо његову тачност на подацима тестирања.

Имплементација безбедне и скалабилне софтверске архитектуре вођене вештачком интелигенцијом са ЛангЦхаин-ом

У овом одељку ћемо истражити једноставан пример имплементације безбедне и скалабилне софтверске архитектуре вођене вештачком интелигенцијом са ЛангЦхаин-ом.

Пример: Изградња једноставног АИ модела са ЛангЦхаин-ом

Хајде да размотримо једноставан пример изградње модела машинског учења користећи ЛангЦхаин. Користићемо библиотеку ТенсорФлов за изградњу модела неуронске мреже.

користите лангцхаин као лц;
користите тенсорфлов::прелуде::*;

// Дефинишите једноставан модел неуронске мреже
фн модел(улаз: &Тензор) -> Тензор {
    нека оутпут = инпут.матмул(&Тенсор::нев(1, 1));
    излаз
}

// Креирајте ЛангЦхаин агента
лет агент = лц::Агент::нев(модел);

// Дефинишите скуп података
нека датасет = лц::Датасет::нев(вец![
    лц::Екампле::нев(вец![1.0, 2.0], вец![3.0]),
    лц::Екампле::нев(вец![4.0, 5.0], вец![6.0]),
]);

// Обучите модел на скупу података
агент.траин(&датасет);

// Процена модела на скупу података
нека прецизност = агент.евалуате(&датасет);
принтлн!("Тачност модела: {}", тачност);

Овај блок кода показује како да направите једноставан модел машинског учења користећи ЛангЦхаин. Дефинишемо једноставан модел неуронске мреже, креирамо ЛангЦхаин агента, дефинишемо скуп података, обучавамо модел на скупу података и процењујемо његову тачност на скупу података.

Топ 5-10 најчешће коришћених команди/исјечака

Ево 5-10 најчешће коришћених команди/исјечака за ДСПи и ЛангЦхаин:

ДСПи

  • дсп.сплит_датасет(дата, таргет, тест_сизе=0.2): Дели скуп података у скупове за обуку и тестирање.
  • дсп.буилд_модел(модел_наме, модел_парамс): Прави модел машинског учења користећи наведено име модела и параметре.
  • дсп.траин_модел(модел, дата): Обучава модел машинског учења на наведеним подацима.
  • дсп.евалуате_модел(модел, дата): Процењује перформансе модела машинског учења на наведеним подацима.
  • дсп.деплои_модел(модел, сервер_урл): примењује модел машинског учења на наведен УРЛ сервера.

ЛангЦхаин

  • лц::Агент::нев(модел): Креира ЛангЦхаин агента користећи наведени модел.
  • лц::Датасет::нев(екамплес): Креира скуп података ЛангЦхаин-а користећи наведене примере.
  • лц::траин(агент, датасет): Обучава ЛангЦхаин агента на наведеном скупу података.
  • лц::евалуате(агент, датасет): Процењује перформансе ЛангЦхаин агента на наведеном скупу података.
  • лц::деплои(агент, сервер_урл): поставља ЛангЦхаин агента на наведени УРЛ сервера.

Визуелизација

Ево једноставне визуелизације софтверске архитектуре вођене вештачком интелигенцијом користећи Цхарт.јс:

цонст цтк = доцумент.гетЕлементБиИд('миЦхарт').гетЦонтект('2д');
цонст цхарт = нови графикон(цтк, {
    откуцајте: 'бар',
    подаци: {
        ознаке: ['Време обуке', 'Време закључивања', 'Тачност модела'],
        скупови података: [{
            ознака: 'ДСПи',
            подаци: [10, 5, 90],
            бацкгроундЦолор: 'ргба(255, 99, 132, 0.2)',
            бордерЦолор: 'ргба(255, 99, 132, 1)',
            ширина границе: 1
        }, {
            ознака: 'ЛангЦхаин',
            подаци: [8, 6, 92],
            бацкгроундЦолор: 'ргба(54, 162, 235, 0.2)',
            бордерЦолор: 'ргба(54, 162, 235, 1)',
            ширина границе: 1
        }]
    },
    опције: {
        ваге: {
            и: {
                бегинАтЗеро: истина
            }
        }
    }
});

Овај блок кода креира једноставан тракасти графикон користећи Цхарт.јс за визуелизацију перформанси ДСПи и ЛангЦхаин-а.

Закључак

У овом чланку смо истражили пресек вештачке интелигенције, софтверског инжењеринга и ДевОпс-а, са посебним нагласком на коришћењу алата за оркестрацију као што су ДСПи и ЛангЦхаин за интеграцију АИ агената у ДевОпс цевоводе. Демонстрирали смо како да имплементирамо сигурну и скалабилну архитектуру софтвера вођену вештачком интелигенцијом користећи ДСПи и ЛангЦхаин, и пружили једноставан пример изградње модела машинског учења користећи сваки алат. Такође смо обезбедили 5-10 најкоришћенијих команди/исјечака за сваки алат и једноставну визуализацију софтверске архитектуре вођене вештачком интелигенцијом користећи Цхарт.јс.


Have Questions?

Let's Talk

Contact me on LinkedIn