LLM مودېلى ۋە توك قاچىلىغۇچنى يۈكلەڭ | B4N1

LLM مودېلى ۋە توك قاچىلىغۇچنى يۈكلەڭ

9 months ago · b4n1 Read time: 3 min

ئاپتوماتىك يۇمشاق دېتالنى سىناق قىلىش ئۈچۈن DSPy نى LLM بىلەن بىرلەشتۈرۈش: سۈپەت كاپالىتىدىكى يېڭى ئۈلگە

تونۇشتۇرۇش

چوڭ تىل مودېللىرى (LLMs) ۋە چوڭقۇر يۇمشاق دېتال پروگرامما تۈزۈش (DSPy) نىڭ بىرلىشىشى يۇمشاق دېتال سىناق مەنزىرىسىنى ئۆزگەرتتى. LLMs ۋە DSPy نىڭ ئىقتىدارىنى جارى قىلدۇرۇش ئارقىلىق ، پروگراممېرلار سىناق جەريانىنى ئاپتوماتلاشتۇرۇپ ، يۇمشاق دېتال قۇرۇلۇشىنىڭ ئىشەنچلىكلىكى ۋە ئۈنۈمىنى ئاشۇرالايدۇ. بۇ ماقالىدە ، DSPy نىڭ LLMs دا ياسالغان قوللىنىشچان پروگراممىلارنى سىناق قىلىش جەريانىنى قانداق قىلىپ ئاددىيلاشتۇرىدىغانلىقى ۋە بۇ يېڭىدىن گۈللىنىۋاتقان ئەندىزىنىڭ پايدىسى ۋە خىرىسلىرى ھەققىدە مۇلاھىزە يۈرگۈزۈپ ئۆتىمىز.

DSPy دېگەن نېمە؟

DSPy Python كۈتۈپخانىسى بولۇپ ، يۇمشاق دېتال سىنىقىنى ئاپتوماتىك قوراللار بىلەن تەمىنلەيدۇ. ئۇ ئاچقۇچىلارنىڭ سىناق دېلولىرىنى قۇرۇش ۋە ئىجرا قىلىش ، سىناق نەتىجىسىنى نازارەت قىلىش ۋە سىناق سانلىق مەلۇماتلىرىنى تەھلىل قىلىشىغا يول قويىدۇ. DSPy LLMs بىلەن ماس قەدەمدە ئىشلەش ئۈچۈن لايىھەلەنگەن بولۇپ ، مۇرەككەپ سىناق ئاپتوماتلاشتۇرۇش رامكىسى قۇرالايدۇ.

LLM دېگەن نېمە؟

LLM بولسا سۈنئىي ئىدراك (AI) مودېلى بولۇپ ، ئىنسانغا ئوخشاش تىلنى بىر تەرەپ قىلالايدۇ ۋە ھاسىل قىلالايدۇ. ئۇلار زور مىقداردىكى تېكىست سانلىق مەلۇماتلىرى بويىچە تەربىيەلەنگەن بولۇپ ، ئەندىزە ، مۇناسىۋەت ۋە مەزمۇننى تونۇشنى ئۆگىنىۋالالايدۇ. LLM نىڭ يۇمشاق دېتال قۇرۇلۇشىدا تەبىئىي تىل بىر تەرەپ قىلىش ، تېكىست ئانالىزى ۋە كود ھاسىل قىلىش قاتارلىق نۇرغۇن قوللىنىشچان پروگراممىلىرى بار.

DSPy نى LLMs بىلەن بىرلەشتۈرۈش

DSPy بىلەن LLMs نىڭ بىرلەشتۈرۈلۈشى مۇرەككەپ سىنارىيەلەرنى ئىجرا قىلالايدىغان ، ئابونتلارنىڭ ئۆز-ئارا تەسىر قىلىشىنى تەقلىد قىلالايدىغان ۋە سىناق نەتىجىسىنى ئانالىز قىلالايدىغان ئاپتوماتىك سىناق دېلولىرىنى بارلىققا كەلتۈرىدۇ. بۇ بىرلەشتۈرۈش بىر قانچە پايدىنى تەمىنلەيدۇ ، مەسىلەن:

  • ** سىناقنىڭ قاپلىنىش دەرىجىسى يۇقىرى كۆتۈرۈلدى **: DSPy كەڭ سىنارىيەنى ئۆز ئىچىگە ئالغان سىناق دېلولىرىنى ھاسىل قىلالايدۇ ، بۇ پروگراممىنىڭ ئەتراپلىق سىناق قىلىنىشىغا كاپالەتلىك قىلىدۇ.
  • ** ئۈنۈمنى ئاشۇرۇش **: DSPy ۋە LLMs بىلەن ئاپتوماتىك سىناق قىلىش سىناق دېلولىرىنى ئىجرا قىلىشقا كېتىدىغان ۋاقىت ۋە كۈچنى قىسقارتىدۇ ، پروگراممېرلارنى باشقا ۋەزىپىلەرگە مەركەزلەشتۈرىدۇ.
  • ** كۈچەيتىلگەن ئىشەنچلىك **: DSPy سىناق نەتىجىسىنى نازارەت قىلالايدۇ ۋە پروگراممېرلارنى ھەر قانداق مەسىلە ياكى خاتالىق توغرىسىدا ئاگاھلاندۇرۇپ ، پروگراممىنىڭ ئىشەنچلىك ۋە مۇقىم بولۇشىغا كاپالەتلىك قىلالايدۇ.

مىسال كودى: DSPy ۋە LLM لار بىلەن سىناق دېلولىرىنى ئاپتوماتلاشتۇرۇش

بۇ يەردە LLM ئارقىلىق DSPy نى ئىشلىتىپ سىناق ئەھۋاللىرىنى ئاپتوماتىك ئىشلىتىشنى مىسال قىلىدىغان كود بۆلەكلىرى: `` python import dspy تىرانسفورموتوردىن AutoModelForSeq2SeqLM ، AutoTokenizer نى ئىمپورت قىلىدۇ

model = AutoModelForSeq2SeqLM.from_pretrained ("t5-base") tokenizer = AutoTokenizer.from_pretrained ("t5-base")

DSPy سىناق قېپى قۇرۇڭ

test_case = dspy.TestCase ( name = "سىناق دېلوسى 1", description = "كىرىش ئىقتىدارىنى سىناپ بېقىڭ", steps = [ dspy.Step ("كىرىش بېتىنى ئېچىڭ"), dspy.Step ("ئىناۋەتلىك كىنىشكىنى كىرگۈزۈڭ"), dspy.Step ("كىرىش كۇنۇپكىسىنى بېسىڭ"), ] )

LLM ئارقىلىق سىناق دېلوسىنى ئىجرا قىلىڭ

test_results = dspy.execute_test_case (test_case, model, tokenizer)

سىناق نەتىجىسىنى تەھلىل قىلىڭ

test_results.analyze () `` ` بۇ كود بۆلەكلىرى DSPy سىناق قېپىنى قانداق قۇرۇش ، LLM مودېلى ۋە بەلگە قويغۇچنى يۈكلەش ، LLM ئارقىلىق سىناق قېپىنى ئىجرا قىلىش ۋە سىناق نەتىجىسىنى تەھلىل قىلىشنى كۆرسىتىپ بېرىدۇ.

ئەڭ كۆپ ئىشلىتىلىدىغان 5-10 بۇيرۇق / ئۈزۈندىلەر

بۇ يەردە DSPy ۋە LLM لار ئۈچۈن ئەڭ كۆپ ئىشلىتىلىدىغان 5-10 بۇيرۇق / ئۈزۈندىلەر:

  1. dspy.TestCase () `: يېڭى DSPy سىناق قېپى قۇرىدۇ.
  2. dspy.Step () `: DSPy سىناق دېلوسىغا يېڭى قەدەم قوشىدۇ.
  3. dspy.execute_test_case (): LLM ئارقىلىق DSPy سىناق دېلوسىنى ئىجرا قىلىدۇ.
  4. model = AutoModelForSeq2SeqLM.from_pretrained (" t5-base "): LLM مودېلىنى يۈكلەيدۇ.
  5. "tokenizer = AutoTokenizer.from_pretrained"
  6. test_results.analyze (): DSPy سىناق دېلوسىنىڭ نەتىجىسىنى ئانالىز قىلىدۇ.
  7. dspy.monitor_test_results (): DSPy سىناق دېلوسىنىڭ نەتىجىسىنى نازارەت قىلىدۇ.
  8. dspy.generate_test_cases (): LLM ئارقىلىق يېڭى سىناق دېلولىرىنى ھاسىل قىلىدۇ.
  9. dspy.optimize_test_cases (): LLM ئارقىلىق سىناق دېلولىرىنىڭ ئىجرا قىلىنىشىنى ئەلالاشتۇرىدۇ.

Visualization

بۇ يەردە Chart.js ئارقىلىق DSPy ۋە LLM بىر گەۋدىلەشتۈرۈلگەن كۆرۈنۈش: json { "type": "bar", "data": { "بەلگە": ["سىناق دېلوسى 1" ، "سىناق دېلو 2" ، "سىناق دېلو 3"], "datasets": [ { "label": "سىناق دېلونىڭ ئىجرا قىلىنىش ۋاقتى", "data": [10, 20, 30], "backgroundColor": "rgba (255, 99, 132, 0.2)", "borderColor": "rgba (255, 99, 132, 1)", "borderWidth": 1 }, { "label": "سىناق دېلوسىنىڭ مەغلۇب بولۇش نىسبىتى", "data": [5, 10, 15], "backgroundColor": "rgba (54, 162, 235, 0.2)", "borderColor": "rgba (54, 162, 235, 1)", "borderWidth": 1 } ] }, "options": { "title": { "display": true, "text": "DSPy and LLM Integration" }, "تارازا": { "yAxes": [ { "ticks": { "startAtZero": راست } } ] } } } ` بۇ تەسۋىر DSPy ۋە LLM ئارقىلىق ئىجرا قىلىنغان ئۈچ سىناق دېلونىڭ ئىجرا قىلىنىش ۋاقتى ۋە مەغلۇب بولۇش نىسبىتىنى كۆرسىتىپ بېرىدۇ.

خۇلاسە

DSPy بىلەن LLMs نىڭ بىرلىشىشى يۇمشاق دېتال سىناق مەنزىرىسىنى ئۆزگەرتىپ ، مۇرەككەپ سىنارىيەلەرنى ئىجرا قىلالايدىغان ، ئابونتلارنىڭ ئۆز-ئارا تەسىر قىلىشىنى تەقلىد قىلالايدىغان ۋە سىناق نەتىجىسىنى تەھلىل قىلالايدىغان ئاپتوماتىك سىناق دېلولىرىنى بارلىققا كەلتۈردى. DSPy ۋە LLMs نىڭ ئىقتىدارىنى جارى قىلدۇرۇش ئارقىلىق ، پروگراممېرلار سىناق جەريانىنى ئاددىيلاشتۇرۇپ ، ئىشەنچلىك ۋە ئۈنۈمدارلىقىنى ئۆستۈرۈپ ، قوللىنىشچان پروگراممىلىرىنىڭ سۈپىتىنى ئۆستۈرەلەيدۇ. بۇ تېخنىكىنىڭ تەرەققىي قىلىشىغا ئەگىشىپ ، بىز يۇمشاق دېتال قۇرۇلۇشىدا DSPy ۋە LLMs نىڭ تېخىمۇ ئىجادچان قوللىنىشچان پروگراممىلىرىنى كۆرۈشنى ئۈمىد قىلالايمىز.


Have Questions?

Let's Talk

Contact me on LinkedIn