Luo LangChain LLM -esiintymä | B4N1

Luo LangChain LLM -esiintymä

3 months ago · b4n1 Tiempo de lectura: 3 min

Secure-by-Default -arkkitehtuurin käyttöönotto tekoälyllä toimiville verkkosovelluksille

Esittely

Tekoälypohjaisten verkkosovellusten yleistyessä vankan ja turvallisen arkkitehtuurin tarve ei ole koskaan ollut kiireellisempi. Tekoälyyn perustuvien hyökkäysten lisääntyessä on välttämätöntä ottaa käyttöön oletusturvallinen lähestymistapa, joka kestää mahdollisia uhkia. Tässä artikkelissa tutkimme, kuinka yhdistää Perconan turvalliset avoimen lähdekoodin tietokannat Chainguardin safe-by-default-lähestymistapaan ja integroida LangChainin kanssa tekoälypohjaisia ​​verkkosovelluksia varten.

Uhat tekoälyllä toimiville verkkosovelluksille

Tekoälyllä toimivat verkkosovellukset ovat alttiina useille uhille, kuten:

  • Data Poisoning: AI-malleja voidaan manipuloida syöttämällä niille haitallista tietoa, mikä johtaa vääriin ennusteisiin tai päätöksiin.
  • Mallin inversio: Hyökkääjät voivat päätellä arkaluonteisia tietoja tekoälymallista tai sen harjoitustiedoista.
  • Reagenssihyökkäykset: AI-malleja voidaan pettää huolellisesti laadituilla syötteillä, jotka on suunniteltu johtamaan mallia harhaan.

Secure-by-Default Architecture

Näiden uhkien lieventämiseksi otamme käyttöön oletusarvoisesti suojatun arkkitehtuurin, joka yhdistää Perconan turvalliset avoimen lähdekoodin tietokannat Chainguardin suojattu oletus -lähestymistapaan ja integroituu LangChainin kanssa tekoälypohjaisille verkkosovelluksille.

Perconan suojatut avoimen lähdekoodin tietokannat

Percona tarjoaa valikoiman suojattuja avoimen lähdekoodin tietokantoja, mukaan lukien Percona Server for MySQL ja Percona Server for PostgreSQL. Nämä tietokannat tarjoavat vankkoja suojausominaisuuksia, kuten:

  • Salaus: Tiedot salataan lepotilassa ja siirron aikana, mikä varmistaa, että arkaluontoiset tiedot pysyvät luottamuksellisina.
  • Pääsynhallinta: Tarkka kulunvalvonta antaa järjestelmänvalvojille mahdollisuuden rajoittaa pääsyä arkaluonteisiin tietoihin ja varmistaa, että vain valtuutetut henkilöt voivat muokata tai poistaa tietoja.
  • Valvonta: Yksityiskohtaiset tarkastusominaisuudet tarjoavat kattavan tallenteen kaikesta tietokantatoiminnasta, mikä helpottaa tietoturvahäiriöiden havaitsemista ja niihin vastaamista.

Chainguardin Secure-by-Default -lähestymistapa

Chainguard tarjoaa oletusarvoisesti suojatun lähestymistavan, joka varmistaa, että sovellukset rakennetaan turvallisuutta ajatellen alusta alkaen. Tämä lähestymistapa sisältää:

  • Pienin etuoikeus: Sovellukset on suunniteltu toimimaan pienimmillä oikeuksilla, joita tarvitaan toimintojensa suorittamiseen, mikä vähentää hyökkäyspinta-alaa.
  • Muuttumaton infrastruktuuri: Infrastruktuuri on suunniteltu muuttumattomaksi, mikä helpottaa tietoturvahäiriöiden havaitsemista ja niihin reagoimista.
  • Suojattu määritys: Sovellukset on määritetty turvallisuutta ajatellen, mukaan lukien suojatut oletusasetukset ja minimaaliset määritykset.

LangChain-integraatio

LangChain on Python-kirjasto, joka tarjoaa yksinkertaisen ja intuitiivisen API:n tekoälypohjaisten verkkosovellusten rakentamiseen. Integroimme LangChainin Perconan suojattuihin avoimen lähdekoodin tietokantoihin ja Chainguardin suojattu oletus -lähestymistapaan luodaksemme vankan ja suojatun arkkitehtuurin.

Koodiesimerkki

Tässä on yksinkertainen koodiesimerkki, joka osoittaa, kuinka LangChain integroidaan Perconan suojattuihin avoimen lähdekoodin tietokantoihin ja Chainguardin suojattu oletus -lähestymistapaan:

tuoda langchain
langchain import LLM:ltä


llm = LLM(
    model_name="davinci:2-large",
    laite="cuda",
    max_tokens=1024,
)

# Luo Percona-tietokantayhteys
tuo mysql.connector
cnx = mysql.connector.connect(
    user='käyttäjänimi',
    password='salasana',
    host='127.0.0.1',
    tietokanta='tietokanta'
)

# Luo Chainguard-suojattu kokoonpano
tuontiketjusuoja
cfg = chainguard.Config(
    app_name="oma_sovellus",
    app_version="1.0",
    env_vars={
        "DB_HOST": "127.0.0.1",
        "DB_USER": "käyttäjänimi",
        "DB_PASSWORD": "salasana",
    },
)

# Käytä LangChain-kyselyä tietokannasta
query = "VALITSE * taulukostani"
tulos = llm.query(kysely, db=cnx, cfg=cfg)

# Tulosta tulos
tulosta (tulos)

Tämä koodiesimerkki osoittaa, kuinka luodaan LangChain LLM -esiintymä, muodostaa yhteys Percona-tietokantaan ja luodaan Chainguard-suojattu kokoonpano. Sen jälkeen se tekee LangChain-kyselyn tietokannasta ja tulostaa tuloksen.

5–10 eniten käytettyä komentoa/katkelmaa

Tässä on tämän tekniikan 5–10 eniten käytettyä komentoa/katkelmaa:

  1. langchain.LLM(model_name="davinci:2-large", device="cuda", max_tokens=1024) - Luo LangChain LLM -esiintymä.
  2. `mysql.connector.connect(user='käyttäjänimi', salasana='salasana', host='127.0.0.1', tietokanta='tietokanta')' - Luo Percona-tietokantayhteys.
  3. chainguard.Config(app_name="my_app", app_version="1.0", env_vars={"DB_HOST": "127.0.0.1", "DB_USER": "käyttäjänimi", "DB_PASSWORD": "salasana"}) - Luo Chainguardin suojattu määritys.
  4. llm.query(query, db=cnx, cfg=cfg) - Käytä LangChain-kyselyä tietokannan kyselyyn.
  5. print(result) - Tulosta kyselyn tulos.
  6. "tuo langchain" - Tuo LangChain-kirjasto.
  7. Tuo mysql.connector - Tuo Percona-tietokantaliitin.
  8. Tuo Chainguard-kirjasto - Tuo Chainguard-kirjasto.
  9. llm = LLM() - Luo LangChain LLM -esiintymä määrittämättä mallia.
  10. cnx = mysql.connector.connect() - Luo Percona-tietokantayhteys määrittämättä tietokantaa.

Visualisointi

Tässä on visualisointi suojatusta oletusarkkitehtuurista Chart.js:n avulla:

{
  "tyyppi": "palkki",
  "data": {
    "labels": ["Percona Database", "Chainguard Secure Configuration", "LangChain LLM"],
    "tietojoukot": [
      {
        "label": "Suojausominaisuudet",
        "data": [10, 8, 12],
        "backgroundColor": ["#FF6384", "#36A2EB", "#FFCE56"]
      }
    ]
  },
  "vaihtoehdot": {
    "otsikko": {
      "näyttö": totta,
      "text": "Secure-by-Default Architecture"
    },
    "vaa'at": {
      "yAxes": [
        {
          "ticks": {
            "beginAtZero": totta
          }
        }
      ]
    }
  }
}

Tämä visualisointi näyttää Perconan suojattujen avoimen lähdekoodin tietokantojen, Chainguardin suojatun oletusarvon ja LangChainin LLM:n suojausominaisuudet.

Johtopäätös

Oletusturvallisen arkkitehtuurin käyttöönotto tekoälyllä toimiville verkkosovelluksille on ratkaisevan tärkeää nykypäivän uhkaympäristössä. Yhdistämällä Perconan turvalliset avoimen lähdekoodin tietokannat Chainguardin safe-by-default-lähestymistapaan ja integroimalla LangChainin kanssa voimme luoda vankan ja turvallisen arkkitehtuurin, joka kestää mahdollisia tekoälyyn perustuvia hyökkäyksiä. Tämä artikkeli on antanut käytännön oppaan tämän arkkitehtuurin toteuttamiseen, mukaan lukien koodiesimerkit ja visualisoinnit.


¿Tienes preguntas?

Hablemos

Contáctame en LinkedIn