Vytvorte inštanciu LangChain LLM | B4N1

Vytvorte inštanciu LangChain LLM

6 months ago · b4n1 Read time: 3 min

Implementácia Secure-by-Default Architecture pre webové aplikácie poháňané AI

Úvod

Keďže webové aplikácie poháňané AI sú čoraz rozšírenejšie, potreba robustnej a bezpečnej architektúry nebola nikdy naliehavejšia. S nárastom útokov poháňaných umelou inteligenciou je nevyhnutné implementovať bezpečný štandardný prístup, ktorý dokáže odolať potenciálnym hrozbám. V tomto článku preskúmame, ako skombinovať zabezpečené open-source databázy Percona s prístupom Chainguard secure-by-default a integrovať sa s LangChainom pre webové aplikácie poháňané AI.

Hrozby pre webové aplikácie poháňané AI

Webové aplikácie poháňané AI sú zraniteľné voči rôznym hrozbám vrátane:

  • Otrava údajmi: Modely umelej inteligencie je možné manipulovať tak, že sa do nich dostanú škodlivé údaje, čo vedie k nesprávnym predpovediam alebo rozhodnutiam.
  • Inverzia modelu: Útočníci môžu odvodiť citlivé informácie o modeli AI alebo jeho tréningových údajoch.
  • Adversarial Attacks: Modely AI môžu byť oklamané starostlivo vytvorenými vstupmi, ktoré sú navrhnuté tak, aby model zavádzali.

Secure-by-Default Architecture

Na zmiernenie týchto hrozieb implementujeme architektúru secure-by-default, ktorá kombinuje zabezpečené open-source databázy Percona s bezpečným-by-default prístupom spoločnosti Chainguard a integruje sa s LangChainom pre webové aplikácie poháňané AI.

Bezpečné open-source databázy Percona

Percona ponúka celý rad zabezpečených open-source databáz, vrátane Percona Server pre MySQL a Percona Server pre PostgreSQL. Tieto databázy poskytujú robustné bezpečnostné funkcie, ako napríklad:

  • Šifrovanie: Údaje sú zašifrované v pokoji a pri prenose, čím sa zaistí, že citlivé informácie zostanú dôverné.
  • Kontrola prístupu: Jemná kontrola prístupu umožňuje správcom obmedziť prístup k citlivým údajom a zabezpečiť, aby údaje mohli upravovať alebo odstraňovať iba oprávnení pracovníci.
  • Audit: Funkcie podrobného auditu poskytujú komplexný záznam o všetkej aktivite databázy, čo uľahčuje detekciu a reakciu na bezpečnostné incidenty.

Bezpečný štandardný prístup Chainguarda

Chainguard ponúka prístup typu secure by default, ktorý zaisťuje, že aplikácie sú od začiatku vytvárané s ohľadom na bezpečnosť. Tento prístup zahŕňa:

  • Najmenší oprávnenie: Aplikácie sú navrhnuté tak, aby sa spúšťali s čo najmenšími oprávneniami potrebnými na vykonávanie ich funkcií, čím sa znižuje plocha útoku.
  • Nezmeniteľná infraštruktúra: Infraštruktúra je navrhnutá tak, aby bola nemenná, čo uľahčuje zisťovanie a reakciu na bezpečnostné incidenty.
  • Bezpečná konfigurácia: Aplikácie sú konfigurované s ohľadom na bezpečnosť, vrátane bezpečných predvolených nastavení a minimálnej konfigurácie.

Integrácia LangChain

LangChain je knižnica Python, ktorá poskytuje jednoduché a intuitívne API na vytváranie webových aplikácií poháňaných AI. Budeme integrovať LangChain so zabezpečenými open-source databázami Percona a bezpečným štandardným prístupom Chainguard, aby sme vytvorili robustnú a zabezpečenú architektúru.

Príklad kódu

Tu je jednoduchý príklad kódu, ktorý ukazuje, ako integrovať LangChain so zabezpečenými open-source databázami Percona a bezpečným predvoleným prístupom Chainguard:

importovať langchain
z langchain import LLM


llm = LLM(
    model_name="davinci:2-large",
    device="cuda",
    max_tokens=1024,
)

# Vytvorte pripojenie k databáze Percona
import mysql.connector
cnx = mysql.connector.connect(
    user='username',
    heslo='heslo',
    host='127.0.0.1',
    database='database'
)

# Vytvorte zabezpečenú konfiguráciu Chainguard
importovať chránič reťaze
cfg = chainguard.Config(
    app_name="moja_aplikácia",
    app_version="1.0",
    env_vars={
        "DB_HOST": "127.0.0.1",
        "DB_USER": "používateľské meno",
        "DB_PASSWORD": "heslo",
    },
)

# Na vyhľadávanie v databáze použite LangChain
dotaz = "SELECT * FROM my_table"
vysledok = llm.query(dotaz, db=cnx, cfg=cfg)

# Vytlačte výsledok
vytlačiť (výsledok)

Tento príklad kódu ukazuje, ako vytvoriť inštanciu LangChain LLM, pripojiť sa k databáze Percona a vytvoriť zabezpečenú konfiguráciu Chainguard. Potom použije LangChain na dopytovanie databázy a vytlačenie výsledku.

Najlepších 5 až 10 najpoužívanejších príkazov/úryvkov

Tu je 5 až 10 najpoužívanejších príkazov/úryvkov pre túto technológiu:

  1. langchain.LLM(model_name="davinci:2-large", device="cuda", max_tokens=1024) – Vytvorte inštanciu LangChain LLM.
  2. mysql.connector.connect(user='používateľské meno', heslo='heslo', host='127.0.0.1', database='database') - Vytvorte pripojenie k databáze Percona.
  3. chainguard.Config(app_name="my_app", app_version="1.0", env_vars={"DB_HOST": "127.0.0.1", "DB_USER": "username", "DB_PASSWORD": "password"}) - Vytvorte zabezpečenú konfiguráciu Chainguard.
  4. llm.query(query, db=cnx, cfg=cfg) – Na dotaz v databáze použite LangChain.
  5. print(výsledok) – Vytlačí výsledok dotazu.
  6. importovať langchain – Importujte knižnicu LangChain.
  7. import mysql.connector – Importujte konektor databázy Percona.
  8. importovať chránič reťaze – Importujte knižnicu Chainguard.
  9. llm = LLM() – Vytvorte inštanciu LangChain LLM bez zadania modelu.
  10. cnx = mysql.connector.connect() - Vytvorte pripojenie k databáze Percona bez zadania databázy.

Vizualizácia

Tu je vizualizácia zabezpečenej predvolenej architektúry pomocou Chart.js:

{
  "type": "bar",
  "data": {
    "labels": ["Percona Database", "Chainguard Secure Configuration", "LangChain LLM"],
    "datasets": [
      {
        "label": "Bezpečnostné funkcie",
        "údaje": [10, 8, 12],
        "backgroundColor": ["#FF6384", "#36A2EB", "#FFCE56"]
      }
    ]
  },
  "možnosti": {
    "title": {
      "zobraziť": pravda,
      "text": "Secure-by-Default Architecture"
    },
    "váhy": {
      "yAxes": [
        {
          "ticks": {
            "beginAtZero": pravda
          }
        }
      ]
    }
  }
}

Táto vizualizácia ukazuje bezpečnostné prvky zabezpečených open-source databáz Percona, bezpečný prístup podľa predvoleného nastavenia spoločnosti Chainguard a LLM spoločnosti LangChain.

Záver

Implementácia zabezpečenej predvolenej architektúry pre webové aplikácie poháňané AI je v dnešnom prostredí hrozieb kľúčová. Kombináciou zabezpečených open-source databáz Percona s bezpečným štandardným prístupom Chainguard a integráciou s LangChain môžeme vytvoriť robustnú a bezpečnú architektúru, ktorá odolá potenciálnym útokom riadeným AI. Tento článok poskytuje praktickú príručku, ako implementovať túto architektúru, vrátane príkladov kódu a vizualizácií.


Have Questions?

Let's Talk

Contact me on LinkedIn