Langchain.js এর ToolCallingAgentOutputParser ত্রুটি ওল্লামা LLM এবং একটি কাস্টম টুলের সাথে ঠিক করা

Langchain.js-এ ToolCallingAgentOutputParser ত্রুটি বোঝা এবং ঠিক করা

Langchain.js v2 এর সাথে কাজ করার সময়, বিকাশকারীরা প্রায়শই ওল্লামার মতো কাস্টম সরঞ্জাম এবং ভাষা মডেল ব্যবহার করে দক্ষ এজেন্ট তৈরি করার লক্ষ্য রাখে। যাইহোক, এই উপাদানগুলিকে একত্রিত করার ফলে কখনও কখনও ত্রুটি দেখা দিতে পারে যা ডিবাগ করা কঠিন৷

এরকম একটি ত্রুটি হল "ToolCallingAgentOutputParser-এ parseResult শুধুমাত্র ChatGeneration আউটপুটে কাজ করে," যা এজেন্ট ফ্রেমওয়ার্কের মধ্যে একটি কাস্টম টুল তৈরি করার সময় ঘটতে পারে। এজেন্ট এবং টুল সঠিকভাবে কাজ করে তা নিশ্চিত করার জন্য এই সমস্যার মূল কারণ বোঝা অত্যন্ত গুরুত্বপূর্ণ।

এই নিবন্ধটি ল্যাংচেইনের createToolCallingAgent এবং ওল্লামা মডেল ব্যবহার করে একটি কাস্টম টুলের একটি সহজ বাস্তবায়নের অনুসন্ধান করে যা একটি সংখ্যা ইনপুটে 2 যোগ করে। ত্রুটি এবং এর প্রেক্ষাপট বিশ্লেষণ করে, আমরা কীভাবে এটির সমস্যা সমাধান করতে পারি তা আরও ভালভাবে বুঝতে পারি।

নিম্নলিখিত বিভাগগুলি আপনাকে কোডের মাধ্যমে গাইড করবে, ত্রুটিটি ব্যাখ্যা করবে এবং এই সমস্যার সমাধান করার জন্য সমাধান প্রদান করবে। আপনি Langchain.js-এ নতুন বা অভিজ্ঞ হোন না কেন, এই নির্দেশিকা আপনাকে এই সমস্যাটি দক্ষতার সাথে অতিক্রম করতে সাহায্য করবে।

Langchain.js-এ কাস্টম টুল এবং এজেন্ট এরর হ্যান্ডলিং বোঝা

প্রদত্ত উদাহরণে, আমরা একটি কাস্টম টুল তৈরি করতে Langchain.js v2 এর সাথে কাজ করছি যা ওল্লামা ভাষার মডেল। টুলটির মূল উদ্দেশ্য হল একটি সাধারণ গাণিতিক ক্রিয়াকলাপ সম্পাদন করা: ইনপুট মানের সাথে 2 যোগ করা। টুলটি ল্যাংচেইন ব্যবহার করে তৈরি করা হয়েছে টুল ফাংশন, যা পুনঃব্যবহারযোগ্য ফাংশন সংজ্ঞায়িত করে যা একটি এজেন্ট দ্বারা আহ্বান করা যেতে পারে। টুলটি সঠিকভাবে কাজ করছে তা নিশ্চিত করতে, ইনপুট স্কিমাটি Zod লাইব্রেরির মাধ্যমে যাচাই করা হয়েছে, যাতে ইনপুটটি একটি বৈধ নম্বর। এটি সঠিক ত্রুটি পরিচালনা নিশ্চিত করে এবং অবৈধ ইনপুটগুলির কারণে টুলটিকে ব্যর্থ হতে বাধা দেয়।

কাস্টম টুল তারপর ব্যবহার করে একটি এজেন্ট অন্তর্ভুক্ত করা হয় createToolCallingAgent ফাংশন এই কমান্ডটি এজেন্টকে প্রয়োজনের সময় টুলটিকে কল করার অনুমতি দেয় এবং এজেন্ট ওল্লামা মডেল দ্বারা চালিত হয়, যা প্রতিক্রিয়াগুলির সৃজনশীলতা নিয়ন্ত্রণ করতে তাপমাত্রার মতো নির্দিষ্ট পরামিতিগুলির সাথে কনফিগার করা হয়। এজেন্ট এবং টুলের মধ্যে মসৃণ মিথস্ক্রিয়া সহজতর করার জন্য, একটি চ্যাট প্রম্পট টেমপ্লেট ব্যবহার করা হয়। এই টেমপ্লেটটি বিভিন্ন ধরনের বার্তা সংজ্ঞায়িত করে কথোপকথন সংগঠিত করে, যেমন সিস্টেম বার্তা, মানব ইনপুট এবং স্থানধারক। স্থানধারক, যেমন বার্তা প্লেসহোল্ডার, কথোপকথনকে গতিশীল করার অনুমতি দিন, চ্যাট ইতিহাসের মতো উপাদানগুলি অন্তর্ভুক্ত করা হয়েছে৷

এই উদাহরণে সমাধান করা মূল সমস্যাগুলির মধ্যে একটি হল ল্যাংচেইন এজেন্টের আউটপুট পার্সিংয়ের চারপাশে ত্রুটি পরিচালনা করা। "ToolCallingAgentOutputParser-এ parseResult শুধুমাত্র ChatGeneration আউটপুটে কাজ করে" ত্রুটির বার্তাটি পার্সার দ্বারা প্রত্যাশিত আউটপুটের ধরণ এবং প্রকৃত আউটপুট তৈরির মধ্যে অমিল থেকে উদ্ভূত হয়। এই ত্রুটিটি পরিচালনা করার জন্য, কাস্টম টুলটি শক্তিশালী যুক্তিতে মোড়ানো হয়, নিশ্চিত করে যে সমস্ত ইনপুট এবং আউটপুট প্রত্যাশিত ফর্ম্যাটের সাথে সামঞ্জস্যপূর্ণ। এটি আরও দ্বারা পরিচালিত হয় এজেন্ট এক্সিকিউটর ক্লাস, যা এজেন্ট এবং সরঞ্জামগুলির সম্পাদনের সমন্বয় করে, নিশ্চিত করে যে ক্যোয়ারী এবং টুল আউটপুট সঠিকভাবে সিঙ্ক্রোনাইজ করা হয়েছে।

অবশেষে, স্ক্রিপ্টগুলি ব্যবহার করে অ্যাসিঙ্ক্রোনাস এক্সিকিউশন প্রয়োগ করে অপেক্ষা করা, সিস্টেমটিকে অন্যান্য প্রক্রিয়াগুলিকে ব্লক না করে অপারেশন পরিচালনা করার অনুমতি দেয়। এজেন্ট এগিয়ে যাওয়ার আগে টুলটির ফলাফল ফেরত দেওয়ার জন্য অপেক্ষা করে, নিশ্চিত করে যে প্রতিক্রিয়াটি সঠিক এবং সময়মত উভয়ই হয়। উপরন্তু, টুলের কার্যকারিতা যাচাই করার জন্য ইউনিট পরীক্ষাগুলি অন্তর্ভুক্ত করা হয়, এটি নিশ্চিত করে যে এটি ধারাবাহিকভাবে সঠিক আউটপুট তৈরি করে। এই পরীক্ষাগুলি শুধুমাত্র টুলটির গাণিতিক ক্রিয়াকলাপ নিশ্চিত করে না বরং এটি কতটা ভালভাবে অবৈধ ইনপুট পরিচালনা করে, সমাধানের সামগ্রিক নির্ভরযোগ্যতা উন্নত করে তাও পরীক্ষা করে। এই মডুলার এবং ত্রুটি-প্রতিরোধী নকশা Langchain.js-এর মধ্যে বিভিন্ন অ্যাপ্লিকেশনের জন্য স্ক্রিপ্টগুলিকে পুনরায় ব্যবহারযোগ্য এবং কার্যকর করে তোলে।

import { tool } from "@langchain/core/tools";
import { z } from "zod";
import { Ollama } from "@langchain/ollama";
import { ChatPromptTemplate } from "@langchain/core/prompts";
import { createToolCallingAgent } from "langchain/agents";
import { AgentExecutor } from "langchain/agents";
// Initialize LLM with Ollama
const llm = new Ollama({
    model: "llama3",
    temperature: 0.7,
});
// Custom tool to add 2 to the input number
const magicTool = tool(
    async (input) => {
        return input + 2;
    },
    {
        name: "magic_function",
        description: "Applies a magic function to an input",
        schema: z.object({ input: z.number() }),
    };
);
const tools = [magicTool];
// Setup ChatPromptTemplate with placeholders
const prompt = ChatPromptTemplate.fromMessages([
    ["system", "You are a helpful assistant called iHelp"],
    ["placeholder", "{chat_history}"],
    ["human", "{input}"],
    ["placeholder", "{agent_scratchpad}"],
]);
// Agent configuration
const agent = createToolCallingAgent({ llm, tools, prompt });
// Execute agent query
const agentExecutor = new AgentExecutor({ agent, tools });
const query = "What is the value of magic_function(3)?";
await agentExecutor.invoke({ input: query });

import { tool } from "@langchain/core/tools";
import { z } from "zod";
import { Ollama } from "@langchain/ollama";
import { createToolCallingAgent } from "langchain/agents";
import { AgentExecutor } from "langchain/agents";
// Initialize LLM with Ollama
const llm = new Ollama({ model: "llama3", temperature: 0.7 });
// Custom tool with added error handling
const magicTool = tool(
    async (input) => {
        try {
            if (typeof input !== "number") throw new Error("Invalid input type!");
            return input + 2;
        } catch (err) {
            return err.message;
        }
    },
    {
        name: "magic_function",
        description: "Adds 2 to input and handles errors",
        schema: z.object({ input: z.number() }),
    }
);
const tools = [magicTool];
// Agent and execution
const agent = createToolCallingAgent({ llm, tools });
const agentExecutor = new AgentExecutor({ agent, tools });
const query = "magic_function('abc')"; // Test with invalid input
await agentExecutor.invoke({ input: query });
// Unit test example
import { expect } from "chai";
it("should return 5 when input is 3", async () => {
    const result = await magicTool(3);
    expect(result).to.equal(5);
});

Langchain.js এবং Ollama LLM ইন্টিগ্রেশনে এজেন্টদের ভূমিকা অন্বেষণ করা

Langchain.js এর সাথে কাজ করার সময়, ইন্টিগ্রেট করা এজেন্ট ওল্লামার মতো সরঞ্জাম এবং ভাষা মডেলগুলি গতিশীল অ্যাপ্লিকেশন তৈরির একটি গুরুত্বপূর্ণ দিক। একটি এজেন্ট আপনাকে একটি কাস্টম টুল, যা নির্দিষ্ট কাজগুলি সম্পাদন করে, একটি ভাষার মডেলের সাথে সংযোগ করতে দেয়, যা আরও কথোপকথন বা জেনারেটিভ কাজগুলি পরিচালনা করে। এজেন্ট ব্যবহার করে, বিকাশকারীরা কর্মপ্রবাহ স্বয়ংক্রিয় করতে পারে যেখানে একটি মডেল শুধুমাত্র প্রতিক্রিয়া তৈরি করে না কিন্তু গণনা বা ডেটা প্রক্রিয়াকরণ করার জন্য সরঞ্জামগুলিকেও আহ্বান করে।

এই ইন্টিগ্রেশনের মূল উপাদান হল createToolCallingAgent ফাংশন এই ফাংশনটি এজেন্টকে যখন প্রয়োজন তখন নির্দিষ্ট টুল ট্রিগার করতে দেয়, নিশ্চিত করে যে কাজগুলি সঠিকভাবে এবং দক্ষতার সাথে সম্পন্ন হয়েছে। যদিও প্রাথমিক ফোকাস প্রায়শই নিজেই টুল তৈরি করার উপর থাকে, কিভাবে এজেন্টের কর্মপ্রবাহ পরিচালনা করতে হয় এবং পার্সিং ত্রুটিগুলি এড়াতে হয় তা বোঝা সমান গুরুত্বপূর্ণ। "ToolCallingAgentOutputParser-এ parseResult শুধুমাত্র ChatGeneration আউটপুটে কাজ করে" এর মতো ত্রুটিগুলি সাধারণত ঘটে যখন এজেন্টের আউটপুট পার্সিং সিস্টেমের সাথে সামঞ্জস্যপূর্ণ না হয়, যা এজেন্টের আউটপুট এবং প্রত্যাশিত বিন্যাসের মধ্যে সঠিক প্রান্তিককরণের প্রয়োজনীয়তা তুলে ধরে।

প্রম্পট টেমপ্লেট ব্যবহার, যেমন ChatPromptTemplate, গতিশীল বার্তা এবং প্রসঙ্গ স্থানধারকদের অনুমতি দিয়ে মিথস্ক্রিয়াকে আরও সমৃদ্ধ করে। এটি এজেন্টকে চ্যাটের ইতিহাস বা এজেন্টের স্ক্র্যাচপ্যাডের উপর ভিত্তি করে তার প্রতিক্রিয়া সামঞ্জস্য করতে দেয়। প্রম্পট টেমপ্লেটগুলি অপ্টিমাইজ করা এবং এজেন্টের আউটপুটগুলি সঠিকভাবে পার্স করা নিশ্চিত করা অনেক সাধারণ ত্রুটি প্রতিরোধ করতে পারে, যা আপনার Langchain.js অ্যাপ্লিকেশনগুলিকে আরও নির্ভরযোগ্য এবং দক্ষ করে তোলে৷