Эффективное обновление векторных данных в CosmosDB с использованием семантического ядра

Оптинирующие обновления данных вектора для чат-ботов с AI-двигателями

Создание чат-бота, который использует файлы уценки в качестве базы знаний, — непростая задача, особенно при управлении векторными внедрениями в CosmosDB. Эта проблема часто возникает у разработчиков, интегрирующих семантическое ядро ​​с Azure CosmosDB для расширенного хранилища памяти. 💡

Хотя сохранение новых файлов разметки и связанных с ними векторов может показаться простым, обновление этих векторов эффективно представляет уникальную проблему. Разработчики часто сталкиваются с ситуациями, когда обновленный контент разметки приводит к дублирующимся записям в базе данных, а не перезаписывает существующие.

В одном реальном сценарии разработчик внедрил бота, который сохранял файлы уценки как векторы в CosmosDB. Однако при попытке обновить файлы они заметили, что вместо изменения существующих элементов создавались новые, что приводило к дублированию данных и неэффективности.

В этой статье рассказывается, как эффективно решить эту проблему, гарантируя, что CosmosDB обновляет только необходимые части, избегая при этом полного повторного создания вектора. Используя правильные методы, вы можете поддерживать оптимизированное и точное хранилище памяти для своего чат-бота, экономя время и ресурсы. 🚀

Оптимизация векторных обновлений в CosmoSDB с семантическим ядром

Приведенные выше сценарии решают общую проблему при управлении хранилищем памяти с помощью CosmosDB: эффективно обновление векторных данных без дублирования записей. Первое решение использует встроенные функции управления памятью семантического ядра, такие как СавеИнформацияАсинхронный и Removeasync. Эти команды гарантируют, что векторное представление каждого файла уценки обновляется правильно. Этот процесс включает в себя первую проверку, существует ли вектор в коллекции, используя GetAsync. Если она найдена, сценарий удаляет устаревшую запись перед сохранением нового вектора, тем самым предотвращая дублирование. Этот подход идеально подходит для тех, кто хочет обеспечить плавную интеграцию с семантическим ядром, сохраняя при этом чистые и точные данные в своей базе данных. 💻

Второе решение использует CosmosDB SDK непосредственно для управления векторами. Этот метод более универсален и позволяет лучше контролировать логику обновления. Например, UpsertiTemasync используется для замены или добавления документа в базу данных за одну операцию. Указав Ключ раздела, сценарий обеспечивает эффективность запросов и предотвращает ненужные накладные расходы на базу данных. Этот подход особенно полезен для разработчиков, которые хотят настроить операции с базами данных, давая им возможность обрабатывать крайние случаи или реализовывать дополнительные меры безопасности.

Единое тестирование играет решающую роль в проверке функциональности обоих решений. В приведенном выше примере MOQ используется для моделирования поведения системы управления памятью, гарантируя, что все ожидаемые операции происходят правильно. Например, Проверять используется для подтверждения того, что такие функции, как УдалитьАсинк и СавеИнформацияАсинхронный вызываются в подходящее время. Это гарантирует, что система будет вести себя должным образом при различных условиях, например при обновлении или вставке нового файла уценки. 🧪

Чтобы связать все вместе, эти решения подчеркивают важность модульности и лучших практик. Изоляция каждой операции в конкретные функции (например, обновление или удаление векторов), разработчики могут легко использовать или адаптировать код для других вариантов использования. Кроме того, обработка ошибок и проверка гарантировать, что решения остаются надежными в производственных средах. Например, если во время обновления возникает несоответствие идентификатора, сценарий изящно обрабатывает ошибку, предотвращая повреждение данных. Независимо от того, используя ли эти решения встроенные инструменты Semantic ядра или SDK CosmoSDB, эти решения позволяют разработчикам сохранить оптимизированный и надежный хранилище памяти для приложений, управляемых искусственным интеллектом. 🚀

// Import necessary namespaces
using Microsoft.SemanticKernel.Memory;
using Microsoft.SemanticKernel.Connectors.Memory.AzureCosmosDB;
using System.Threading.Tasks;
using System;
// Define the memory builder and initialize the semantic memory
ISemanticTextMemory semanticTextMemory = new MemoryBuilder()
    .WithTextEmbeddingGeneration(kernel.GetRequiredService<ITextEmbeddingGenerationService>())
    .WithMemoryStore(new AzureCosmosDBNoSQLMemoryStore("your-endpoint",
                                                     "your-key",
                                                     1536,
                                                     VectorDataType.Float32,
                                                     VectorIndexType.DiskANN))
    .Build();
// Define a function to update a vector in CosmosDB
public async Task UpdateVectorAsync(string collection, string id, string content, string description)
{
    var existingItem = await semanticTextMemory.GetAsync(collection, id);
    if (existingItem != null)
    {
        await semanticTextMemory.RemoveAsync(collection, id);
    }
    await semanticTextMemory.SaveInformationAsync(collection, id: id, text: content, description: description);
}
// Usage example
await UpdateVectorAsync("collection", "markdown-file-path", "updated content", "updated description");

// Import necessary namespaces
using Microsoft.Azure.Cosmos;
using System.Threading.Tasks;
using System;
// Initialize Cosmos client and container
var cosmosClient = new CosmosClient("your-endpoint", "your-key");
var container = cosmosClient.GetContainer("database-name", "collection-name");
// Define a function to update or insert a vector
public async Task UpsertVectorAsync(string id, string content, string description)
{
    var item = new
    {
        id = id,
        text = content,
        description = description
    };
    await container.UpsertItemAsync(item, new PartitionKey(id));
}
// Usage example
await UpsertVectorAsync("markdown-file-path", "updated content", "updated description");

// Import testing libraries
using Xunit;
using Moq;
using System.Threading.Tasks;
// Define a test class
public class VectorUpdateTests
{
    [Fact]
    public async Task UpdateVector_ShouldReplaceExistingVector()
    {
        // Mock the semantic text memory
        var mockMemory = new Mock<ISemanticTextMemory>();
        mockMemory.Setup(m => m.GetAsync("collection", "test-id"))
            .ReturnsAsync(new MemoryRecord("test-id", "old content", "old description"));
        mockMemory.Setup(m => m.SaveInformationAsync("collection", "test-id", "new content", "new description"))
            .Returns(Task.CompletedTask);
        var service = new YourServiceClass(mockMemory.Object);
        await service.UpdateVectorAsync("collection", "test-id", "new content", "new description");
        // Verify behavior
        mockMemory.Verify(m => m.RemoveAsync("collection", "test-id"), Times.Once);
        mockMemory.Verify(m => m.SaveInformationAsync("collection", "test-id", "new content", "new description"), Times.Once);
    }
}

Улучшение обновлений векторных данных с помощью стратегий метаданных

Один часто упускается из виду аспект управления векторными данными в КосмосДБ Является ли использование метаданных для эффективной идентификации и обновления записей. Вместо того, чтобы полагаться исключительно на идентификаторы или пути, включение метаданных, таких как временные метки, номера версий или значения хэш для контента, могут значительно оптимизировать обновления. Например, когда обновляется файл разметки, может быть сгенерирован хэш содержимого для обнаружения изменений. Таким образом, система обновляет вектор только в том случае, если контент был изменен, избегая ненужных операций и уменьшая нагрузку базы данных. 🔄

Другая ключевая стратегия включает в себя использование встроенных возможностей индексации COSMOSDB. Настраивая Ключи перегородки и политики индексации, разработчики могут создавать структуру, которая позволяет быстро поиск векторных данных. Например, группировка векторов по исходному файлу или категории в качестве ключа раздела может сделать запросы более эффективными. Кроме того, включение композитной индексации на часто запрашиваемых полях, таких как временные метки или типы контента, может дополнительно повысить производительность.

Наконец, стратегии кэширования могут дополнять векторные обновления, особенно для чат-ботов, которые часто обращаются к одним и тем же данным. Благодаря интеграции уровня кэширования, такого как Redis, приложение может предоставлять ответы без повторных запросов к CosmosDB. Это не только ускоряет ответы, но и снижает затраты за счет минимизации транзакций базы данных. Сочетание этих стратегий обеспечивает масштабируемый и эффективный подход к управлению векторными данными для приложений на основе искусственного интеллекта, таких как чат-боты, основанные на знаниях. 🚀