Oħloq istanza LangChain LLM | B4N1

Oħloq istanza LangChain LLM

3 months ago · b4n1 Read time: 4 min

L-implimentazzjoni ta' Arkitettura Sikura b'Default għal Applikazzjonijiet tal-Web li jaħdmu bl-AI

Introduzzjoni

Hekk kif l-applikazzjonijiet tal-web li jaħdmu bl-AI qed isiru dejjem aktar prevalenti, il-ħtieġa għal arkitettura robusta u sigura qatt ma kienet aktar urġenti. Biż-żieda tal-attakki mmexxija mill-AI, huwa essenzjali li jiġi implimentat approċċ sikur b'mod awtomatiku li jiflaħ għal theddid potenzjali. F'dan l-artikolu, aħna ser nesploraw kif ngħaqqdu d-databases siguri ta 'sors miftuħ ta' Percona mal-approċċ sikur ta' Chainguard u nintegraw ma' LangChain għal applikazzjonijiet tal-web li jaħdmu bl-AI.

Theddid għall-Applikazzjonijiet tal-Web li jaħdmu bl-AI

L-applikazzjonijiet tal-web li jaħdmu bl-AI huma vulnerabbli għal diversi theddidiet, inklużi:

  • ** Avvelenament tad-Data**: Mudelli AI jistgħu jiġu manipulati billi jitimgħuhom dejta malizzjuża, li twassal għal tbassir jew deċiżjonijiet mhux korretti.
  • Inverżjoni tal-Mudell: L-attakkanti jistgħu jiddeduċu informazzjoni sensittiva dwar il-mudell AI jew id-dejta tat-taħriġ tiegħu.
  • Attakkijiet Avversarji: Mudelli AI jistgħu jiġu mqarrqa minn inputs maħduma bir-reqqa li huma mfassla biex iqarrqu bil-mudell.

Arkitettura Sikura b'Default

Biex intaffu dan it-theddid, aħna ser nimplimentaw arkitettura sigura b'default li tgħaqqad il-bażijiet tad-dejta sikur open-source ta 'Percona mal-approċċ sikur b'mod default ta' Chainguard u tintegra ma' LangChain għal applikazzjonijiet tal-web li jaħdmu bl-AI.

Databases ta' Sorsi Miftuħ Sikur ta' Percona

Percona joffri firxa ta 'databases siguri ta' sors miftuħ, inklużi Percona Server għal MySQL u Percona Server għal PostgreSQL. Dawn id-databases jipprovdu karatteristiċi ta’ sigurtà robusti, bħal:

  • Encryption: Id-data hija encrypted waqt il-mistrieħ u waqt it-tranżitu, biex tiżgura li l-informazzjoni sensittiva tibqa' kunfidenzjali.
  • Kontroll ta' l-Aċċess: Kontroll ta' aċċess ta' qamħirrum fin jippermetti lill-amministraturi jirrestrinġu l-aċċess għal data sensittiva u jiżguraw li l-persunal awtorizzat biss jista' jimmodifika jew iħassar id-data.
  • Awditjar: Il-kapaċitajiet ta' awditjar dettaljati jipprovdu rekord komprensiv tal-attività kollha tad-database, li jagħmilha aktar faċli biex jinstabu u jirrispondu għal inċidenti ta' sigurtà.

Approċċ Secure-by-Default ta' Chainguard

Chainguard joffri approċċ sikur b'mod awtomatiku li jiżgura li l-applikazzjonijiet jinbnew b'moħħ is-sigurtà mill-bidu nett. Dan l-approċċ jinkludi:

  • L-Inqas Privileġġ: L-applikazzjonijiet huma ddisinjati biex jaħdmu bl-inqas privileġġ meħtieġ biex iwettqu l-funzjonijiet tagħhom, u jnaqqsu l-wiċċ tal-attakk.
  • Infrastruttura Immutabbli: L-infrastruttura hija ddisinjata biex tkun immutabbli, u tagħmilha aktar faċli biex tiskopri u tirrispondi għal inċidenti tas-sigurtà.
  • Konfigurazzjoni Sikura: L-applikazzjonijiet huma kkonfigurati b'moħħ is-sigurtà, inklużi default siguri u konfigurazzjoni minima.

Integrazzjoni LangChain

LangChain hija librerija Python li tipprovdi API sempliċi u intuwittivi għall-bini ta' applikazzjonijiet tal-web li jaħdmu bl-AI. Aħna ser nintegraw LangChain mad-databases siguri open-source ta 'Percona u l-approċċ ta' Chainguard sikur b'mod awtomatiku biex noħolqu arkitettura robusta u sigura.

Eżempju ta' Kodiċi

Hawn eżempju ta' kodiċi sempliċi li juri kif tintegra LangChain mad-databases siguri ta' sors miftuħ ta' Percona u l-approċċ ta' Chainguard sikur b'default:

importazzjoni langchain
minn langchain importazzjoni LLM


llm = LLM(
    model_name="davinci:2-kbar",
    apparat = "cuda",
    max_tokens=1024,
)

# Oħloq konnessjoni tad-database Percona
importazzjoni mysql.connector
cnx = mysql.connector.connect (
    user='isem tal-utent',
    password='password',
    host='127.0.0.1',
    database='database'
)

# Oħloq konfigurazzjoni sigura ta' Chainguard
importazzjoni chainguard
cfg = chainguard.Config (
    app_name="my_app",
    app_version="1.0",
    env_vars={
        "DB_HOST": "127.0.0.1",
        "DB_USER": "isem l-utent",
        "DB_PASSWORD": "password",
    },
)

# Uża LangChain biex tinvestiga d-database
query = "AGĦŻEL * MINN my_table"
riżultat = llm.query (mistoqsija, db=cnx, cfg=cfg)

# Stampa r-riżultat
print(riżultat)

Dan l-eżempju tal-kodiċi juri kif toħloq istanza LangChain LLM, tikkonnettja ma 'database Percona, u toħloq konfigurazzjoni sigura ta' Chainguard. Imbagħad juża LangChain biex ifittex id-database u jistampa r-riżultat.

L-aqwa 5-10 Kmandi/Snippets l-aktar Użati

Hawn huma l-aqwa 5-10 kmandi/snippets l-aktar użati għal din it-teknoloġija:

  1. `langchain.LLM(model_name="davinci:2-large", device="cuda", max_tokens=1024)" - Oħloq istanza LangChain LLM.
  2. `mysql.connector.connect(user='username', password='password', host='127.0.0.1', database='database')' - Oħloq konnessjoni tad-database Percona.
  3. chainguard.Config(app_name="my_app", app_version="1.0", env_vars={"DB_HOST": "127.0.0.1", "DB_USER": "username", "DB_PASSWORD": "password"}) - Oħloq konfigurazzjoni sikura Chainguard.
  4. llm.query(query, db=cnx, cfg=cfg) - Uża LangChain biex tinvestiga d-database.
  5. print(result) - Stampa r-riżultat tal-mistoqsija.
  6. import langchain - Importa l-librerija LangChain.
  7. import mysql.connector - Importa l-konnettur tad-database Percona.
  8. "import chainguard" - Importa l-librerija Chainguard.
  9. llm = LLM() - Oħloq istanza LangChain LLM mingħajr ma tispeċifika mudell.
  10. cnx = mysql.connector.connect() - Oħloq konnessjoni tad-database Percona mingħajr ma tispeċifika database.

Viżwalizzazzjoni

Hawnhekk hawn viżwalizzazzjoni tal-arkitettura sikura b'default bl-użu ta' Chart.js:

{
  "tip": "bar",
  "data": {
    "tikketti": ["Percona Database", "Chainguard Secure Configuration", "LangChain LLM"],
    "settijiet ta' dejta": [
      {
        "label": "Karatteristiċi tas-Sigurtà",
        "data": [10, 8, 12],
        "backgroundColor": ["#FF6384", "#36A2EB", "#FFCE56"]
      }
    ]
  },
  "għażliet": {
    "titolu": {
      "display": veru,
      "text": "Arkitettura Sikura b'Default"
    },
    "skali": {
      "yAxes": [
        {
          "qurdien": {
            "beginAtZero": veru
          }
        }
      ]
    }
  }
}

Din il-viżwalizzazzjoni turi l-karatteristiċi tas-sigurtà tad-databases siguri open-source ta 'Percona, l-approċċ ta' Chainguard sikur b'mod awtomatiku, u LLM ta 'LangChain.

Konklużjoni

L-implimentazzjoni ta' arkitettura sikura b'default għal applikazzjonijiet tal-web li jaħdmu bl-AI hija kruċjali fix-xenarju tat-theddid tal-lum. Billi ngħaqqdu l-bażijiet tad-dejta b'sors miftuħ siguri ta 'Percona mal-approċċ sikur ta' Chainguard u nintegraw ma 'LangChain, nistgħu noħolqu arkitettura robusta u sigura li tiflaħ attakki potenzjali mmexxija mill-AI. Dan l-artikolu pprovda gwida prattika dwar kif timplimenta din l-arkitettura, inklużi eżempji ta 'kodiċi u viżwalizzazzjonijiet.


Have Questions?

Let's Talk

Contact me on LinkedIn