使用 Ollama LLM 和自定义工具修复 Langchain.js 的 ToolCallingAgentOutputParser 错误

使用模块化方法修复 Langchain.js 错误

解决方案 1：使用 Langchain.js 和 Ollama LLM 进行模块化方法和错误处理的 JavaScript

import { tool } from "@langchain/core/tools";
import { z } from "zod";
import { Ollama } from "@langchain/ollama";
import { ChatPromptTemplate } from "@langchain/core/prompts";
import { createToolCallingAgent } from "langchain/agents";
import { AgentExecutor } from "langchain/agents";
// Initialize LLM with Ollama
const llm = new Ollama({
    model: "llama3",
    temperature: 0.7,
});
// Custom tool to add 2 to the input number
const magicTool = tool(
    async (input) => {
        return input + 2;
    },
    {
        name: "magic_function",
        description: "Applies a magic function to an input",
        schema: z.object({ input: z.number() }),
    };
);
const tools = [magicTool];
// Setup ChatPromptTemplate with placeholders
const prompt = ChatPromptTemplate.fromMessages([
    ["system", "You are a helpful assistant called iHelp"],
    ["placeholder", "{chat_history}"],
    ["human", "{input}"],
    ["placeholder", "{agent_scratchpad}"],
]);
// Agent configuration
const agent = createToolCallingAgent({ llm, tools, prompt });
// Execute agent query
const agentExecutor = new AgentExecutor({ agent, tools });
const query = "What is the value of magic_function(3)?";
await agentExecutor.invoke({ input: query });

Langchain.js 代理的增强错误处理

解决方案 2：使用单元测试进行错误处理，以验证 Langchain.js 中自定义工具的输出

import { tool } from "@langchain/core/tools";
import { z } from "zod";
import { Ollama } from "@langchain/ollama";
import { createToolCallingAgent } from "langchain/agents";
import { AgentExecutor } from "langchain/agents";
// Initialize LLM with Ollama
const llm = new Ollama({ model: "llama3", temperature: 0.7 });
// Custom tool with added error handling
const magicTool = tool(
    async (input) => {
        try {
            if (typeof input !== "number") throw new Error("Invalid input type!");
            return input + 2;
        } catch (err) {
            return err.message;
        }
    },
    {
        name: "magic_function",
        description: "Adds 2 to input and handles errors",
        schema: z.object({ input: z.number() }),
    }
);
const tools = [magicTool];
// Agent and execution
const agent = createToolCallingAgent({ llm, tools });
const agentExecutor = new AgentExecutor({ agent, tools });
const query = "magic_function('abc')"; // Test with invalid input
await agentExecutor.invoke({ input: query });
// Unit test example
import { expect } from "chai";
it("should return 5 when input is 3", async () => {
    const result = await magicTool(3);
    expect(result).to.equal(5);
});

关于 Langchain.js、代理和工具的常见问题

1. Langchain.js 中的代理是什么？
2. 代理是与工具和语言模型交互以根据用户查询执行特定任务的组件。它使用 createToolCallingAgent 功能来触发工具。
3. 如何解决“ToolCallingAgentOutputParser 上的 parseResult”错误？
4. 当代理的输出与解析器不兼容时，会发生此错误。确保输出与解析器期望的匹配并使用 ChatGeneration 输出格式。
5. 目的是什么 AgentExecutor？
6. 这 AgentExecutor 管理代理及其工具的执行，允许您在 Langchain.js 应用程序中运行复杂的工作流程。
7. 怎么样 ChatPromptTemplate 工作？
8. ChatPromptTemplate 以结构化格式组织聊天消息，允许将聊天历史记录和座席便笺簿等动态内容插入到对话流中。
9. 为什么是 Zod 在工具中使用？
10. Zod 用于输入验证，确保自定义工具的输入类型正确（例如数字），从而减少出错的机会。

关于 Langchain.js 中错误处理的最终想法

解决“ToolCallingAgentOutputParser 上的 parseResult 仅适用于 ChatGeneration 输出”错误需要在代理的输出与其解析期望之间仔细对齐。通过正确的方法，可以避免这种错误。

通过使用 Zod 等适当的工具进行验证并确保代理（例如使用 Ollama 构建的代理）正确处理输入和输出，您可以在 Langchain.js 中创建强大的解决方案，而不会遇到解析问题。