Създайте инстанция на LangChain LLM | B4N1

Създайте инстанция на LangChain LLM

3 months ago · b4n1 Read time: 4 min

Внедряване на защитена по подразбиране архитектура за базирани на AI уеб приложения

Въведение

Тъй като базираните на AI уеб приложения стават все по-разпространени, необходимостта от стабилна и сигурна архитектура никога не е била толкова належаща. С нарастването на атаките, управлявани от AI, от съществено значение е да се приложи защитен по подразбиране подход, който може да устои на потенциални заплахи. В тази статия ще проучим как да комбинираме защитените бази данни с отворен код на Percona с подхода за сигурност по подразбиране на Chainguard и да се интегрираме с LangChain за базирани на AI уеб приложения.

Заплахи за базирани на AI уеб приложения

Захранваните с AI уеб приложения са уязвими на различни заплахи, включително:

  • Отравяне на данни: AI моделите могат да бъдат манипулирани, като им се подават злонамерени данни, което води до неправилни прогнози или решения.
  • Инверсия на модела: Нападателите могат да изведат поверителна информация за AI модела или неговите данни за обучение.
  • Противнически атаки: AI моделите могат да бъдат измамени чрез внимателно изработени входни данни, които са предназначени да подведат модела.

Сигурна по подразбиране архитектура

За да смекчим тези заплахи, ние ще внедрим защитена по подразбиране архитектура, която съчетава защитените бази данни с отворен код на Percona с защитения по подразбиране подход на Chainguard и се интегрира с LangChain за базирани на AI уеб приложения.

Защитените бази данни с отворен код на Percona

Percona предлага набор от защитени бази данни с отворен код, включително Percona Server за MySQL и Percona Server за PostgreSQL. Тези бази данни предоставят надеждни функции за сигурност, като например:

  • Шифроване: Данните се криптират в покой и при пренос, което гарантира, че чувствителната информация остава поверителна.
  • Контрол на достъпа: Прецизният контрол на достъпа позволява на администраторите да ограничат достъпа до чувствителни данни и да гарантират, че само оторизиран персонал може да променя или изтрива данни.
  • Одит: Подробните възможности за одит осигуряват изчерпателен запис на цялата дейност на базата данни, което улеснява откриването и реагирането на инциденти със сигурността.

Защитен по подразбиране подход на Chainguard

Chainguard предлага защитен по подразбиране подход, който гарантира, че приложенията са създадени с мисъл за сигурността от самото начало. Този подход включва:

  • Най-малко привилегии: Приложенията са проектирани да работят с най-малко привилегии, необходими за изпълнение на техните функции, намалявайки повърхността на атака.
  • Неизменна инфраструктура: Инфраструктурата е проектирана да бъде неизменна, което улеснява откриването и реагирането на инциденти със сигурността.
  • Сигурна конфигурация: Приложенията са конфигурирани с оглед на сигурността, включително сигурни настройки по подразбиране и минимална конфигурация.

LangChain интеграция

LangChain е библиотека на Python, която предоставя прост и интуитивен API за изграждане на базирани на AI уеб приложения. Ще интегрираме LangChain със защитените бази данни с отворен код на Percona и защитения по подразбиране подход на Chainguard, за да създадем стабилна и сигурна архитектура.

Пример за код

Ето един прост пример за код, който демонстрира как да интегрирате LangChain със защитените бази данни с отворен код на Percona и защитения по подразбиране подход на Chainguard:

импортиране на langchain
от langchain import LLM


llm = LLM(
    model_name="davinci:2-large",
    устройство="cuda",
    max_tokens=1024,
)

# Създайте връзка с база данни Percona
импортиране на mysql.connector
cnx = mysql.connector.connect(
    потребител='потребителско име',
    парола='парола',
    хост='127.0.0.1',
    база данни='база данни'
)

# Създайте защитена конфигурация Chainguard
внос на веригата
cfg = chainguard.Config(
    app_name="моето_приложение",
    app_version="1.0",
    env_vars={
        "DB_HOST": "127.0.0.1",
        "DB_USER": "потребителско име",
        "DB_PASSWORD": "парола",
    },
)

# Използвайте LangChain за запитване към базата данни
query = "SELECT * FROM my_table"
резултат = llm.query(заявка, db=cnx, cfg=cfg)

# Отпечатайте резултата
печат (резултат)

Този пример на код демонстрира как да създадете екземпляр на LangChain LLM, да се свържете с база данни на Percona и да създадете защитена конфигурация на Chainguard. След това използва LangChain за заявка към базата данни и отпечатване на резултата.

Топ 5-10 най-използвани команди/фрагменти

Ето топ 5-10 най-използвани команди/фрагменти за тази технология:

  1. langchain.LLM(model_name="davinci:2-large", device="cuda", max_tokens=1024) - Създаване на екземпляр на LangChain LLM.
  2. mysql.connector.connect(user='username', password='password', host='127.0.0.1', database='database') - Създаване на връзка с Percona база данни.
  3. chainguard.Config(app_name="my_app", app_version="1.0", env_vars={"DB_HOST": "127.0.0.1", "DB_USER": "username", "DB_PASSWORD": "password"}) - Създайте защитена конфигурация на Chainguard.
  4. llm.query(query, db=cnx, cfg=cfg) - Използвайте LangChain за запитване към базата данни.
  5. print(result) - Отпечатване на резултата от заявката.
  6. import langchain - Импортиране на библиотеката LangChain.
  7. import mysql.connector - Импортира конектора за база данни Percona.
  8. import chainguard - Импортиране на библиотеката Chainguard.
  9. llm = LLM() - Създайте инстанция на LangChain LLM, без да посочвате модел.
  10. cnx = mysql.connector.connect() - Създаване на връзка с база данни на Percona без посочване на база данни.

Визуализация

Ето визуализация на защитената по подразбиране архитектура с помощта на Chart.js:

{
  "тип": "лента",
  "данни": {
    "етикети": ["База данни на Percona", "Защитена конфигурация на Chainguard", "LangChain LLM"],
    "набори от данни": [
      {
        "label": "Функции за сигурност",
        "данни": [10, 8, 12],
        "backgroundColor": ["#FF6384", "#36A2EB", "#FFCE56"]
      }
    ]
  },
  "опции": {
    "заглавие": {
      "дисплей": вярно,
      "text": "Защитена по подразбиране архитектура"
    },
    "везни": {
      "yAxes": [
        {
          "кърлежи": {
            "beginAtZero": вярно
          }
        }
      ]
    }
  }
}

Тази визуализация показва функциите за сигурност на защитените бази данни с отворен код на Percona, защитения по подразбиране подход на Chainguard и LLM на LangChain.

Заключение

Внедряването на защитена по подразбиране архитектура за базирани на AI уеб приложения е от решаващо значение в днешния пейзаж на заплахите. Чрез комбиниране на защитените бази данни с отворен код на Percona със защитения по подразбиране подход на Chainguard и интегриране с LangChain, можем да създадем стабилна и сигурна архитектура, която може да издържи на потенциални атаки, управлявани от AI. Тази статия предоставя практическо ръководство за това как да внедрите тази архитектура, включително примери за код и визуализации.

Have Questions?

Let's Talk

Contact me on LinkedIn