Ефективне оновлення векторних даних у COSMOSDB за допомогою семантичного ядра

Впорядкування векторних даних оновлень для чатів, що працюють на AI

Створення чат-бота, який використовує файли уцінки як свою базу знань, не є маленьким подвигом, особливо коли ви керуєте векторними вбудованими файлами в CosmosDB. Ця проблема часто виникає перед розробниками, які інтегрують семантичне ядро ​​з Azure CosmosDB для розширеного зберігання пам’яті. 💡

Незважаючи на те, що збереження нових файлів розмітки та пов'язаних з ними векторів може здатися простим, оновлення цих векторів ефективно представляє унікальну проблему. Розробники часто стикаються з ситуаціями, коли оновлений вміст Markdown призводить до дублювання записів у базі даних, а не перезаписання існуючих.

В одному реальному сценарії розробник реалізував бота, який зберігав файли розмітки як вектори в CosmosDB. Однак під час спроби оновити файли вони помітили, що нові елементи створюються замість того, щоб змінювати існуючі, що спричиняє дублювання даних і неефективність.

У цій статті розповідається про те, як ефективно вирішити цю проблему, гарантуючи, що CosmosDB оновлює лише необхідні частини, уникаючи повного повторного створення вектора. За допомогою правильних методів ви можете підтримувати спрощене, точне сховище пам’яті для свого чат-бота, заощаджуючи час і ресурси. 🚀

Оптимізація векторних оновлень у CosmosDB за допомогою семантичного ядра

Сценарії, наведені вище, вирішують загальну проблему в управлінні магазином пам'яті з CosmosDB: ефективно оновлювати векторні дані без дублювання записів. Перше рішення використовує вбудовані функції управління пам'яттю семантичного ядра, такі як SaveInformationAsync і Видаляти. Ці команди гарантують, що представлення вектора кожного файлу Процес передбачає спочатку перевірку, чи вектор вже існує в колекції за допомогою GetAsync. Якщо знайдено, сценарій видаляє застарілий запис перед збереженням нового вектора, таким чином запобігаючи дублікатам. Цей підхід ідеально підходить для тих, хто хоче бездоганну інтеграцію з Semantic Kernel, зберігаючи при цьому чисті та точні дані у своїй базі даних. 💻

Друге рішення використовує CosmosDB SDK безпосередньо для керування векторами. Цей метод більш універсальний, що дозволяє розширений контроль над логікою оновлення. Наприклад, Upsertitemasync використовується для заміни або додавання документа в базу даних за одну операцію. Вказавши PartitionKey, сценарій забезпечує ефективні запити та запобігає непотрібній базі даних. Цей підхід особливо корисний для розробників, які хочуть налаштувати свої операції з базами даних, надаючи їм можливість обробляти корпуси або застосовувати додаткові заходи безпеки.

Тестування одиниць відіграє вирішальну роль у перевірці функціональності обох рішень. У наведеному вище прикладі MOQ використовується для імітації поведінки системи управління пам'яттю, гарантуючи, що всі очікувані операції відбувалися правильно. Наприклад, Перевірити використовується для підтвердження таких функцій RemoveAsync і SaveInformationAsync називаються у відповідний час. Це гарантує, що система поводиться за призначенням у різних умовах, таких як оновлення або вставка нового файлу відміток. 🧪

Щоб зв'язати все разом, ці рішення підкреслюють важливість модульності та найкращих практик. Виділяючи кожну операцію в конкретні функції (наприклад, оновлення або видалення векторів), розробники можуть легко повторно використовувати або адаптувати код для інших випадків використання. Крім того, обробка та перевірка помилок забезпечуйте, щоб рішення залишалися надійними у виробничих умовах. Наприклад, якщо під час оновлення виникає невідповідність ідентифікатора, сценарій витончено обробляє помилку, запобігаючи пошкодженню даних. Незалежно від використання вбудованих інструментів семантичного ядра або SDK CosmosDB, ці рішення дають можливість розробникам підтримувати оптимізований та надійний магазин пам'яті для AI-керованих програм. 🚀

// Import necessary namespaces
using Microsoft.SemanticKernel.Memory;
using Microsoft.SemanticKernel.Connectors.Memory.AzureCosmosDB;
using System.Threading.Tasks;
using System;
// Define the memory builder and initialize the semantic memory
ISemanticTextMemory semanticTextMemory = new MemoryBuilder()
    .WithTextEmbeddingGeneration(kernel.GetRequiredService<ITextEmbeddingGenerationService>())
    .WithMemoryStore(new AzureCosmosDBNoSQLMemoryStore("your-endpoint",
                                                     "your-key",
                                                     1536,
                                                     VectorDataType.Float32,
                                                     VectorIndexType.DiskANN))
    .Build();
// Define a function to update a vector in CosmosDB
public async Task UpdateVectorAsync(string collection, string id, string content, string description)
{
    var existingItem = await semanticTextMemory.GetAsync(collection, id);
    if (existingItem != null)
    {
        await semanticTextMemory.RemoveAsync(collection, id);
    }
    await semanticTextMemory.SaveInformationAsync(collection, id: id, text: content, description: description);
}
// Usage example
await UpdateVectorAsync("collection", "markdown-file-path", "updated content", "updated description");

// Import necessary namespaces
using Microsoft.Azure.Cosmos;
using System.Threading.Tasks;
using System;
// Initialize Cosmos client and container
var cosmosClient = new CosmosClient("your-endpoint", "your-key");
var container = cosmosClient.GetContainer("database-name", "collection-name");
// Define a function to update or insert a vector
public async Task UpsertVectorAsync(string id, string content, string description)
{
    var item = new
    {
        id = id,
        text = content,
        description = description
    };
    await container.UpsertItemAsync(item, new PartitionKey(id));
}
// Usage example
await UpsertVectorAsync("markdown-file-path", "updated content", "updated description");

// Import testing libraries
using Xunit;
using Moq;
using System.Threading.Tasks;
// Define a test class
public class VectorUpdateTests
{
    [Fact]
    public async Task UpdateVector_ShouldReplaceExistingVector()
    {
        // Mock the semantic text memory
        var mockMemory = new Mock<ISemanticTextMemory>();
        mockMemory.Setup(m => m.GetAsync("collection", "test-id"))
            .ReturnsAsync(new MemoryRecord("test-id", "old content", "old description"));
        mockMemory.Setup(m => m.SaveInformationAsync("collection", "test-id", "new content", "new description"))
            .Returns(Task.CompletedTask);
        var service = new YourServiceClass(mockMemory.Object);
        await service.UpdateVectorAsync("collection", "test-id", "new content", "new description");
        // Verify behavior
        mockMemory.Verify(m => m.RemoveAsync("collection", "test-id"), Times.Once);
        mockMemory.Verify(m => m.SaveInformationAsync("collection", "test-id", "new content", "new description"), Times.Once);
    }
}

Покращення оновлень векторних даних за допомогою стратегій метаданих

Один аспект, який часто забувають про керування векторними даними в CosmosDB - це використання метаданих для ефективного визначення та оновлення записів. Замість того, щоб покладатися виключно на ідентифікатори чи шляхи, включення метаданих, таких як часові позначки, номери версій або значення хешу для вмісту, можуть значно оптимізувати оновлення. Наприклад, коли оновлюється файл відміток, для виявлення змін може бути створений вміст хеш. Таким чином, система оновлює вектор лише в тому випадку, якщо вміст був змінений, уникаючи зайвих операцій та зменшення навантаження на базу даних. 🔄

Ще одна ключова стратегія передбачає використання вбудованих можливостей індексації COSMOSDB. Шляхом налаштування ключі розділів І індексація політики розробники можуть створити структуру, яка дозволяє швидко шукати векторні дані. Наприклад, групування векторів за їх вихідним файлом або категорією як ключ розділу може зробити запити більш ефективними. Крім того, що дозволяє композитувати індексацію на часто запитуваних полях, таких як часові позначки або типи вмісту, може додатково підвищити продуктивність.

Нарешті, стратегії кешування можуть доповнювати векторні оновлення, особливо для чат-ботів, які часто отримують доступ до тих самих даних. Завдяки інтеграції рівня кешування, наприклад Redis, програма може обслуговувати відповіді без повторних запитів до CosmosDB. Це не тільки прискорює відповіді, але й зменшує витрати за рахунок мінімізації транзакцій бази даних. Поєднання цих стратегій забезпечує масштабований та ефективний підхід до керування векторними даними для додатків, керованих ШІ, таких як чат-боти на основі знань. 🚀