Исправљање грешке Лангцхаин.јс ТоолЦаллингАгентОутпутПарсер помоћу Оллама ЛЛМ и прилагођеног алата

Разумевање и исправљање грешака ТоолЦаллингАгентОутпутПарсер у Лангцхаин.јс

Када раде са Лангцхаин.јс в2, програмери често имају за циљ да креирају ефикасне агенте користећи прилагођене алате и језичке моделе као што је Оллама. Међутим, интеграција ових компоненти понекад може довести до грешака које је тешко отклонити.

Једна таква грешка је „парсеРесулт на ТоолЦаллингАгентОутпутПарсер ради само на ЦхатГенератион излазу“, која се може појавити када се прави прилагођени алат у оквиру агента. Разумевање основног узрока овог проблема је кључно да би се осигурало да агент и алат раде исправно.

Овај чланак истражује једноставну имплементацију прилагођеног алата који додаје 2 уносу броја, користећи Лангцхаин-ов цреатеТоолЦаллингАгент и Оллама модел. Анализирајући грешку и њен контекст, можемо боље схватити како да је решимо.

Следећи одељци ће вас водити кроз код, објаснити грешку и пружити решења за решавање овог проблема. Без обзира да ли сте нови у Лангцхаин.јс или сте већ искусни, овај водич ће вам помоћи да ефикасно превазиђете овај проблем.

Разумевање прилагођеног алата и управљања грешкама агента у Лангцхаин.јс

У датом примеру радимо са Лангцхаин.јс в2 да бисмо креирали прилагођени алат који се интегрише са Оллама језички модел. Главна сврха алата је да изврши једноставну математичку операцију: додавање 2 улазној вредности. Алат је направљен коришћењем Лангцхаин-а алат функција, која дефинише функције за вишекратну употребу које агент може позвати. Да би се осигурало да алат ради исправно, шема уноса је валидирана са Зод библиотеком, гарантујући да је унос исправан број. Ово осигурава правилно руковање грешкама и спречава да алат не поквари због неважећих уноса.

Прилагођени алат се затим уграђује у агента помоћу цреатеТоолЦаллингАгент функција. Ова команда омогућава агенту да позове алат када је то потребно, а агента покреће Оллама модел, који је конфигурисан са специфичним параметрима као што је температура за контролу креативности одговора. Да би се олакшала несметана интеракција између агента и алата, користи се шаблон упита за ћаскање. Овај шаблон организује разговор дефинисањем различитих типова порука, као што су системске поруке, људски унос и чувари места. Чувари места, као што су МессагесПлацехолдер, омогућите да разговор буде динамичан, са укљученим елементима попут историје ћаскања.

Један од кључних проблема који се бави у овом примеру је руковање грешкама око рашчлањивања излаза Лангцхаин агента. Порука о грешци „парсеРесулт на ТоолЦаллингАгентОутпутПарсер ради само на излазу ЦхатГенератион“ потиче од неусклађености између типа излаза који се очекује од парсера и стварног генерисаног излаза. Да би се решила ова грешка, прилагођени алат је умотан у робусну логику, обезбеђујући да сви улази и излази буду у складу са очекиваним форматима. Овим даље управљају АгентЕкецутор класе, која координира извршавање агента и алата, пазећи да су упит и излаз алата правилно синхронизовани.

Коначно, скрипте имплементирају асинхроно извршавање користећи чекати, омогућавајући систему да управља операцијама без блокирања других процеса. Агент чека да алатка врати свој резултат пре него што настави, осигуравајући да је одговор тачан и благовремен. Поред тога, укључени су јединични тестови како би се потврдила функционалност алата, осигуравајући да он доследно производи исправан излаз. Ови тестови не само да потврђују математички рад алата, већ и проверавају колико добро обрађује неважећи унос, побољшавајући укупну поузданост решења. Овај модуларни дизајн отпоран на грешке чини скрипте вишекратним и ефикасним за различите апликације у оквиру Лангцхаин.јс.

import { tool } from "@langchain/core/tools";
import { z } from "zod";
import { Ollama } from "@langchain/ollama";
import { ChatPromptTemplate } from "@langchain/core/prompts";
import { createToolCallingAgent } from "langchain/agents";
import { AgentExecutor } from "langchain/agents";
// Initialize LLM with Ollama
const llm = new Ollama({
    model: "llama3",
    temperature: 0.7,
});
// Custom tool to add 2 to the input number
const magicTool = tool(
    async (input) => {
        return input + 2;
    },
    {
        name: "magic_function",
        description: "Applies a magic function to an input",
        schema: z.object({ input: z.number() }),
    };
);
const tools = [magicTool];
// Setup ChatPromptTemplate with placeholders
const prompt = ChatPromptTemplate.fromMessages([
    ["system", "You are a helpful assistant called iHelp"],
    ["placeholder", "{chat_history}"],
    ["human", "{input}"],
    ["placeholder", "{agent_scratchpad}"],
]);
// Agent configuration
const agent = createToolCallingAgent({ llm, tools, prompt });
// Execute agent query
const agentExecutor = new AgentExecutor({ agent, tools });
const query = "What is the value of magic_function(3)?";
await agentExecutor.invoke({ input: query });

import { tool } from "@langchain/core/tools";
import { z } from "zod";
import { Ollama } from "@langchain/ollama";
import { createToolCallingAgent } from "langchain/agents";
import { AgentExecutor } from "langchain/agents";
// Initialize LLM with Ollama
const llm = new Ollama({ model: "llama3", temperature: 0.7 });
// Custom tool with added error handling
const magicTool = tool(
    async (input) => {
        try {
            if (typeof input !== "number") throw new Error("Invalid input type!");
            return input + 2;
        } catch (err) {
            return err.message;
        }
    },
    {
        name: "magic_function",
        description: "Adds 2 to input and handles errors",
        schema: z.object({ input: z.number() }),
    }
);
const tools = [magicTool];
// Agent and execution
const agent = createToolCallingAgent({ llm, tools });
const agentExecutor = new AgentExecutor({ agent, tools });
const query = "magic_function('abc')"; // Test with invalid input
await agentExecutor.invoke({ input: query });
// Unit test example
import { expect } from "chai";
it("should return 5 when input is 3", async () => {
    const result = await magicTool(3);
    expect(result).to.equal(5);
});

Истраживање улоге агената у интеграцији Лангцхаин.јс и Оллама ЛЛМ

Када радите са Лангцхаин.јс, интеграција агенти са алатима и језичким моделима као што је Оллама је критичан аспект изградње динамичких апликација. Агент вам омогућава да повежете прилагођени алат, који обавља специфичне задатке, са језичким моделом, који управља више конверзацијских или генеративних задатака. Користећи агенте, програмери могу да аутоматизују радне токове где модел не само да генерише одговоре већ и позива алате за обављање прорачуна или обраду података.

Кључна компонента у овој интеграцији је цреатеТоолЦаллингАгент функција. Ова функција омогућава агенту да покрене одређене алате када је то потребно, осигуравајући да се задаци извршавају тачно и ефикасно. Иако је примарни фокус често на креирању самог алата, подједнако је важно разумевање како управљати радним током агента и избегавати грешке при рашчлањивању. Грешке попут „парсеРесулт на ТоолЦаллингАгентОутпутПарсер ради само на излазу ЦхатГенератион“ обично се јављају када излаз агента није компатибилан са системом за рашчлањивање, наглашавајући потребу за правилним усклађивањем између излаза агента и очекиваног формата.

Употреба брзих шаблона, као нпр ЦхатПромптТемплате, додатно обогаћује интеракцију омогућавајући динамичке поруке и чуваре места контекста. Ово омогућава агенту да прилагоди своје одговоре на основу историје ћаскања или агената. Оптимизација шаблона упита и осигуравање да су излази агента правилно рашчлањени могу спречити многе уобичајене грешке, чинећи ваше Лангцхаин.јс апликације поузданијим и ефикаснијим.