Langchain.js کی ToolCallingAgentOutputParser کی خرابی Ollama LLM اور ایک حسب ضرورت ٹول کے ساتھ ٹھیک کرنا

Langchain.js میں ToolCallingAgentOutputParser کی خرابیوں کو سمجھنا اور درست کرنا

Langchain.js v2 کے ساتھ کام کرتے وقت، ڈویلپرز اکثر اپنی مرضی کے ٹولز اور اولاما جیسے لینگویج ماڈلز کا استعمال کرتے ہوئے موثر ایجنٹس بنانا چاہتے ہیں۔ تاہم، ان اجزاء کو یکجا کرنے سے بعض اوقات ایسی خرابیاں پیدا ہو سکتی ہیں جن کو ڈیبگ کرنا مشکل ہوتا ہے۔

ایسی ہی ایک خرابی ہے "ToolCallingAgentOutputParser پر parseResult صرف ChatGeneration آؤٹ پٹ پر کام کرتا ہے،" جو ایجنٹ کے فریم ورک کے اندر ایک حسب ضرورت ٹول بناتے وقت ہو سکتا ہے۔ ایجنٹ اور آلے کے صحیح طریقے سے کام کرنے کو یقینی بنانے کے لیے اس مسئلے کی بنیادی وجہ کو سمجھنا بہت ضروری ہے۔

یہ مضمون ایک حسب ضرورت ٹول کے ایک سادہ نفاذ کی کھوج کرتا ہے جو Langchain کے createToolCallingAgent اور Ollama ماڈل کا استعمال کرتے ہوئے ایک عدد ان پٹ میں 2 کا اضافہ کرتا ہے۔ غلطی اور اس کے سیاق و سباق کا تجزیہ کرکے، ہم اسے بہتر طریقے سے سمجھ سکتے ہیں کہ اسے کیسے حل کیا جائے۔

درج ذیل حصے آپ کو کوڈ کے ذریعے رہنمائی کریں گے، غلطی کی وضاحت کریں گے، اور اس مسئلے کو حل کرنے کے لیے حل فراہم کریں گے۔ چاہے آپ Langchain.js میں نئے ہوں یا تجربہ کار، یہ گائیڈ آپ کو اس مسئلے کو مؤثر طریقے سے آگے بڑھانے میں مدد کرے گا۔

Langchain.js میں کسٹم ٹول اور ایجنٹ ایرر ہینڈلنگ کو سمجھنا

فراہم کردہ مثال میں، ہم Langchain.js v2 کے ساتھ کام کر رہے ہیں تاکہ ایک ایسا حسب ضرورت ٹول بنایا جا سکے جو علامہ زبان ماڈل. ٹول کا بنیادی مقصد ایک سادہ ریاضیاتی آپریشن کرنا ہے: ان پٹ ویلیو میں 2 کا اضافہ کرنا۔ ٹول لینگچین کا استعمال کرتے ہوئے بنایا گیا ہے۔ ٹول فنکشن، جو دوبارہ قابل استعمال افعال کی وضاحت کرتا ہے جن کو ایجنٹ کے ذریعہ طلب کیا جاسکتا ہے۔ اس بات کو یقینی بنانے کے لیے کہ ٹول صحیح طریقے سے کام کرتا ہے، ان پٹ اسکیما کو Zod لائبریری سے توثیق کیا جاتا ہے، اس بات کی ضمانت دیتا ہے کہ ان پٹ ایک درست نمبر ہے۔ یہ درست غلطی سے نمٹنے کو یقینی بناتا ہے اور ٹول کو غلط ان پٹس کی وجہ سے ناکام ہونے سے روکتا ہے۔

پھر کسٹم ٹول کو استعمال کرتے ہوئے ایک ایجنٹ میں شامل کیا جاتا ہے۔ تخلیق ٹول کالنگ ایجنٹ فنکشن یہ کمانڈ ایجنٹ کو ضرورت پڑنے پر ٹول کو کال کرنے کی اجازت دیتی ہے، اور ایجنٹ کو اولاما ماڈل سے تقویت ملتی ہے، جو ردعمل کی تخلیقی صلاحیتوں کو کنٹرول کرنے کے لیے مخصوص پیرامیٹرز جیسے درجہ حرارت کے ساتھ ترتیب دیا جاتا ہے۔ ایجنٹ اور ٹول کے درمیان ہموار تعامل کو آسان بنانے کے لیے، ایک چیٹ پرامپٹ ٹیمپلیٹ استعمال کیا جاتا ہے۔ یہ ٹیمپلیٹ مختلف قسم کے پیغامات، جیسے سسٹم پیغامات، انسانی ان پٹ، اور پلیس ہولڈرز کی وضاحت کر کے گفتگو کو منظم کرتا ہے۔ جگہ دار، جیسے پیغامات پلیس ہولڈربات چیت کو متحرک ہونے دیں، جس میں چیٹ کی سرگزشت جیسے عناصر شامل ہوں۔

اس مثال میں جن اہم مسائل پر توجہ دی گئی ہے وہ ہے Langchain ایجنٹ کے آؤٹ پٹ پارس کے ارد گرد نقص کو سنبھالنا۔ خرابی کا پیغام "ToolCallingAgentOutputParser پر parseResult صرف ChatGeneration آؤٹ پٹ پر کام کرتا ہے" پارسر کے ذریعہ متوقع آؤٹ پٹ کی قسم اور پیدا کردہ اصل آؤٹ پٹ کے درمیان مماثلت سے پیدا ہوتا ہے۔ اس غلطی کو سنبھالنے کے لیے، کسٹم ٹول کو مضبوط منطق میں لپیٹا جاتا ہے، اس بات کو یقینی بناتے ہوئے کہ تمام ان پٹ اور آؤٹ پٹ متوقع فارمیٹس کے مطابق ہوں۔ اس کا مزید انتظام کے ذریعے کیا جاتا ہے۔ ایجنٹ ایگزیکیٹر کلاس، جو ایجنٹ اور ٹولز کے عمل کو مربوط کرتا ہے، اس بات کو یقینی بناتا ہے کہ استفسار اور ٹول آؤٹ پٹ مناسب طریقے سے ہم آہنگ ہوں۔

آخر میں، اسکرپٹس کا استعمال کرتے ہوئے غیر مطابقت پذیر عمل درآمد کرتے ہیں انتظار کرو, نظام کو دوسرے عمل کو مسدود کیے بغیر آپریشنز کو سنبھالنے کی اجازت دیتا ہے۔ ایجنٹ آگے بڑھنے سے پہلے ٹول کے اپنا نتیجہ واپس کرنے کا انتظار کرتا ہے، اس بات کو یقینی بناتے ہوئے کہ جواب درست اور بروقت ہے۔ مزید برآں، ٹول کی فعالیت کی توثیق کرنے کے لیے یونٹ ٹیسٹ شامل کیے جاتے ہیں، اس بات کو یقینی بناتے ہوئے کہ یہ مستقل طور پر درست آؤٹ پٹ پیدا کرتا ہے۔ یہ ٹیسٹ نہ صرف ٹول کے ریاضیاتی عمل کی تصدیق کرتے ہیں بلکہ یہ بھی چیک کرتے ہیں کہ یہ غلط ان پٹ کو کتنی اچھی طرح سے ہینڈل کرتا ہے، جس سے حل کی مجموعی وشوسنییتا بہتر ہوتی ہے۔ یہ ماڈیولر اور غلطی سے بچنے والا ڈیزائن اسکرپٹ کو Langchain.js کے اندر مختلف ایپلی کیشنز کے لیے دوبارہ قابل استعمال اور موثر بناتا ہے۔

import { tool } from "@langchain/core/tools";
import { z } from "zod";
import { Ollama } from "@langchain/ollama";
import { ChatPromptTemplate } from "@langchain/core/prompts";
import { createToolCallingAgent } from "langchain/agents";
import { AgentExecutor } from "langchain/agents";
// Initialize LLM with Ollama
const llm = new Ollama({
    model: "llama3",
    temperature: 0.7,
});
// Custom tool to add 2 to the input number
const magicTool = tool(
    async (input) => {
        return input + 2;
    },
    {
        name: "magic_function",
        description: "Applies a magic function to an input",
        schema: z.object({ input: z.number() }),
    };
);
const tools = [magicTool];
// Setup ChatPromptTemplate with placeholders
const prompt = ChatPromptTemplate.fromMessages([
    ["system", "You are a helpful assistant called iHelp"],
    ["placeholder", "{chat_history}"],
    ["human", "{input}"],
    ["placeholder", "{agent_scratchpad}"],
]);
// Agent configuration
const agent = createToolCallingAgent({ llm, tools, prompt });
// Execute agent query
const agentExecutor = new AgentExecutor({ agent, tools });
const query = "What is the value of magic_function(3)?";
await agentExecutor.invoke({ input: query });

import { tool } from "@langchain/core/tools";
import { z } from "zod";
import { Ollama } from "@langchain/ollama";
import { createToolCallingAgent } from "langchain/agents";
import { AgentExecutor } from "langchain/agents";
// Initialize LLM with Ollama
const llm = new Ollama({ model: "llama3", temperature: 0.7 });
// Custom tool with added error handling
const magicTool = tool(
    async (input) => {
        try {
            if (typeof input !== "number") throw new Error("Invalid input type!");
            return input + 2;
        } catch (err) {
            return err.message;
        }
    },
    {
        name: "magic_function",
        description: "Adds 2 to input and handles errors",
        schema: z.object({ input: z.number() }),
    }
);
const tools = [magicTool];
// Agent and execution
const agent = createToolCallingAgent({ llm, tools });
const agentExecutor = new AgentExecutor({ agent, tools });
const query = "magic_function('abc')"; // Test with invalid input
await agentExecutor.invoke({ input: query });
// Unit test example
import { expect } from "chai";
it("should return 5 when input is 3", async () => {
    const result = await magicTool(3);
    expect(result).to.equal(5);
});

Langchain.js اور Ollama LLM انٹیگریشن میں ایجنٹوں کے کردار کی تلاش

Langchain.js کے ساتھ کام کرتے وقت، انضمام ایجنٹس اولاما جیسے ٹولز اور لینگویج ماڈلز کے ساتھ متحرک ایپلی کیشنز کی تعمیر کا ایک اہم پہلو ہے۔ ایک ایجنٹ آپ کو ایک حسب ضرورت ٹول، جو مخصوص کام انجام دیتا ہے، کو زبان کے ماڈل سے جوڑنے کی اجازت دیتا ہے، جو زیادہ بات چیت یا تخلیقی کاموں کو سنبھالتا ہے۔ ایجنٹوں کا استعمال کرتے ہوئے، ڈویلپر ورک فلو کو خودکار کر سکتے ہیں جہاں ایک ماڈل نہ صرف ردعمل پیدا کرتا ہے بلکہ حساب کتاب یا ڈیٹا پروسیسنگ کرنے کے لیے ٹولز کو بھی طلب کرتا ہے۔

اس انضمام میں کلیدی جزو ہے۔ تخلیق ٹول کالنگ ایجنٹ فنکشن یہ فنکشن ایجنٹ کو ضرورت پڑنے پر مخصوص ٹولز کو متحرک کرنے دیتا ہے، اس بات کو یقینی بناتا ہے کہ کام درست اور مؤثر طریقے سے مکمل ہوں۔ اگرچہ بنیادی توجہ اکثر ٹول خود بنانے پر ہوتی ہے، لیکن یہ سمجھنا کہ ایجنٹ کے ورک فلو کو کیسے منظم کیا جائے اور غلطیوں کو پارس کرنے سے بچنا بھی اتنا ہی اہم ہے۔ "ToolCallingAgentOutputParser پر parseResult صرف ChatGeneration آؤٹ پٹ پر کام کرتا ہے" جیسی خرابیاں عام طور پر اس وقت ہوتی ہیں جب ایجنٹ کا آؤٹ پٹ پارسنگ سسٹم کے ساتھ مطابقت نہیں رکھتا، ایجنٹ کے آؤٹ پٹ اور متوقع فارمیٹ کے درمیان مناسب سیدھ کی ضرورت کو اجاگر کرتا ہے۔

پرامپٹ ٹیمپلیٹس کا استعمال، جیسے ChatPromptTemplateمتحرک پیغامات اور سیاق و سباق کے پلیس ہولڈرز کی اجازت دے کر تعامل کو مزید تقویت بخشتا ہے۔ یہ ایجنٹ کو چیٹ کی تاریخ یا ایجنٹ کے سکریچ پیڈ کی بنیاد پر اپنے جوابات کو ایڈجسٹ کرنے کی اجازت دیتا ہے۔ پرامپٹ ٹیمپلیٹس کو بہتر بنانا اور ایجنٹ کے آؤٹ پٹس کو درست طریقے سے پارس کرنے کو یقینی بنانا آپ کی Langchain.js ایپلی کیشنز کو زیادہ قابل اعتماد اور موثر بناتے ہوئے بہت سی عام غلطیوں کو روک سکتا ہے۔