Исправление ошибки ToolCallingAgentOutputParser в Langchain.js с помощью Ollama LLM и специального инструмента

Понимание и исправление ошибок ToolCallingAgentOutputParser в Langchain.js

Работая с Langchain.js v2, разработчики часто стремятся создать эффективные агенты, используя собственные инструменты и языковые модели, такие как Ollama. Однако интеграция этих компонентов иногда может привести к ошибкам, которые трудно отладить.

Одной из таких ошибок является «parseResult on ToolCallingAgentOutputParser работает только с выходными данными ChatGeneration», которая может возникнуть при создании специального инструмента в рамках агента. Понимание основной причины этой проблемы имеет решающее значение для обеспечения правильной работы агента и инструмента.

В этой статье рассматривается простая реализация специального инструмента, который добавляет 2 к введенному числу, используя createToolCallingAgent от Langchain и модель Ollama. Анализируя ошибку и ее контекст, мы можем лучше понять, как ее устранить.

Следующие разделы проведут вас по коду, объяснят ошибку и предложат решения для решения этой проблемы. Независимо от того, являетесь ли вы новичком в Langchain.js или имеете опыт, это руководство поможет вам эффективно решить эту проблему.

Понимание пользовательского инструмента и обработки ошибок агента в Langchain.js

В приведенном примере мы работаем с Langchain.js v2 для создания специального инструмента, который интегрируется с Оллама языковая модель. Основная цель инструмента — выполнить простую математическую операцию: прибавить 2 к входному значению. Инструмент создан с использованием Langchain. инструмент function, определяющая повторно используемые функции, которые может вызывать агент. Чтобы гарантировать правильную работу инструмента, входная схема проверяется с помощью библиотеки Zod, гарантируя, что входные данные являются допустимым числом. Это обеспечивает правильную обработку ошибок и предотвращает сбой инструмента из-за неверных входных данных.

Пользовательский инструмент затем включается в агент с помощью createToolCallingAgent функция. Эта команда позволяет агенту вызывать инструмент, когда это необходимо, и агент работает на основе модели Олламы, которая настроена с использованием определенных параметров, таких как температура, для управления креативностью ответов. Для облегчения взаимодействия между агентом и инструментом используется шаблон подсказки чата. Этот шаблон организует диалог, определяя различные типы сообщений, такие как системные сообщения, вводимые пользователем данные и заполнители. Заполнители, такие как СообщенияЗаполнитель, сделайте разговор динамичным, включая такие элементы, как история чата.

Одной из ключевых проблем, рассматриваемых в этом примере, является обработка ошибок при синтаксическом анализе выходных данных агента Langchain. Сообщение об ошибке «parseResult on ToolCallingAgentOutputParser работает только с выходными данными ChatGeneration» возникает из-за несоответствия между типом выходных данных, ожидаемых анализатором, и фактическим сгенерированным выходным сигналом. Чтобы справиться с этой ошибкой, пользовательский инструмент включает в себя надежную логику, гарантирующую соответствие всех входных и выходных данных ожидаемым форматам. Этим дополнительно управляет АгентИсполнитель класс, который координирует выполнение агента и инструментов, обеспечивая правильную синхронизацию запроса и вывода инструмента.

Наконец, сценарии реализуют асинхронное выполнение, используя ждать, что позволяет системе выполнять операции, не блокируя другие процессы. Прежде чем продолжить, агент ждет, пока инструмент вернет результат, гарантируя, что ответ будет точным и своевременным. Кроме того, включены модульные тесты для проверки функциональности инструмента и обеспечения стабильного получения правильных результатов. Эти тесты не только подтверждают математические операции инструмента, но и проверяют, насколько хорошо он обрабатывает недопустимые входные данные, повышая общую надежность решения. Эта модульная и устойчивая к ошибкам конструкция делает сценарии многоразовыми и эффективными для различных приложений в Langchain.js.

import { tool } from "@langchain/core/tools";
import { z } from "zod";
import { Ollama } from "@langchain/ollama";
import { ChatPromptTemplate } from "@langchain/core/prompts";
import { createToolCallingAgent } from "langchain/agents";
import { AgentExecutor } from "langchain/agents";
// Initialize LLM with Ollama
const llm = new Ollama({
    model: "llama3",
    temperature: 0.7,
});
// Custom tool to add 2 to the input number
const magicTool = tool(
    async (input) => {
        return input + 2;
    },
    {
        name: "magic_function",
        description: "Applies a magic function to an input",
        schema: z.object({ input: z.number() }),
    };
);
const tools = [magicTool];
// Setup ChatPromptTemplate with placeholders
const prompt = ChatPromptTemplate.fromMessages([
    ["system", "You are a helpful assistant called iHelp"],
    ["placeholder", "{chat_history}"],
    ["human", "{input}"],
    ["placeholder", "{agent_scratchpad}"],
]);
// Agent configuration
const agent = createToolCallingAgent({ llm, tools, prompt });
// Execute agent query
const agentExecutor = new AgentExecutor({ agent, tools });
const query = "What is the value of magic_function(3)?";
await agentExecutor.invoke({ input: query });

import { tool } from "@langchain/core/tools";
import { z } from "zod";
import { Ollama } from "@langchain/ollama";
import { createToolCallingAgent } from "langchain/agents";
import { AgentExecutor } from "langchain/agents";
// Initialize LLM with Ollama
const llm = new Ollama({ model: "llama3", temperature: 0.7 });
// Custom tool with added error handling
const magicTool = tool(
    async (input) => {
        try {
            if (typeof input !== "number") throw new Error("Invalid input type!");
            return input + 2;
        } catch (err) {
            return err.message;
        }
    },
    {
        name: "magic_function",
        description: "Adds 2 to input and handles errors",
        schema: z.object({ input: z.number() }),
    }
);
const tools = [magicTool];
// Agent and execution
const agent = createToolCallingAgent({ llm, tools });
const agentExecutor = new AgentExecutor({ agent, tools });
const query = "magic_function('abc')"; // Test with invalid input
await agentExecutor.invoke({ input: query });
// Unit test example
import { expect } from "chai";
it("should return 5 when input is 3", async () => {
    const result = await magicTool(3);
    expect(result).to.equal(5);
});

Изучение роли агентов в интеграции Langchain.js и Ollama LLM

При работе с Langchain.js интеграция агенты с такими инструментами и языковыми моделями, как Ollama, является важнейшим аспектом создания динамических приложений. Агент позволяет вам подключить специальный инструмент, выполняющий определенные задачи, к языковой модели, которая обрабатывает больше диалоговых или генеративных задач. Используя агенты, разработчики могут автоматизировать рабочие процессы, в которых модель не только генерирует ответы, но и вызывает инструменты для выполнения вычислений или обработки данных.

Ключевым компонентом этой интеграции является createToolCallingAgent функция. Эта функция позволяет агенту при необходимости запускать определенные инструменты, гарантируя точное и эффективное выполнение задач. Хотя основное внимание часто уделяется созданию самого инструмента, не менее важно понимание того, как управлять рабочим процессом агента и избегать ошибок синтаксического анализа. Ошибки типа «parseResult on ToolCallingAgentOutputParser работает только с выходными данными ChatGeneration» обычно возникают, когда выходные данные агента несовместимы с системой синтаксического анализа, что подчеркивает необходимость правильного согласования выходных данных агента с ожидаемым форматом.

Использование шаблонов подсказок, таких как ЧатПодсказкаШаблон, еще больше обогащает взаимодействие, позволяя использовать динамические сообщения и заполнители контекста. Это позволяет агенту корректировать свои ответы на основе истории чата или блокнота агента. Оптимизация шаблонов подсказок и обеспечение правильного анализа выходных данных агента могут предотвратить многие распространенные ошибки, делая ваши приложения Langchain.js более надежными и эффективными.