Actualització de manera eficient les dades vectorials a COSMOSDB mitjançant el nucli semàntic

Racionalitzant les actualitzacions de dades vectorials per a chatbots alimentats per IA

Crear un chatbot que aprofiti els fitxers de remarcació com a base de coneixement no és poca cosa, especialment quan es gestionen les incrustacions de vectors a CosmosDB. Aquest repte sorgeix sovint per als desenvolupadors que integren Semantic Kernel amb Azure CosmosDB per a l'emmagatzematge de memòria avançat. 💡

Si bé es pot desar nous fitxers de marcatge i els seus vectors associats pot semblar senzill, actualitzar aquests vectors de manera eficient presenta un problema únic. Els desenvolupadors es troben freqüentment situacions en què el contingut de marcatge actualitzat condueix a les entrades duplicades a la base de dades en lloc de sobreescriure les existents.

En un escenari del món real, un desenvolupador va implementar un bot que va desar els fitxers de marcatge com a vectors a COSMOSDB. Tanmateix, quan intentaven actualitzar els fitxers, es van adonar que es creaven nous elements en lloc de modificar els existents, provocant una duplicació de dades i una ineficiència.

Aquest article s'endinsa en com abordar aquest problema de manera eficaç, assegurant que CosmosDB actualitzi només les parts necessàries alhora que s'evita la recreació completa del vector. Amb les tècniques adequades, podeu mantenir un magatzem de memòria racionalitzat i precís per al vostre chatbot, estalviant temps i recursos. 🚀

Optimització de les actualitzacions de vectors a CosmosDB amb el nucli semàntic

Els scripts proporcionats anteriorment aborden un repte comú en la gestió d’un magatzem de memòria amb COSMOSDB: actualització de manera eficient de les dades vectorials sense duplicar entrades. La primera solució utilitza les funcions de gestió de memòria integrada del nucli semàntic, com per exemple SaveInformationAsync i Elimineuyync. Aquestes ordres asseguren que la representació vectorial de cada fitxer de reducció s'actualitza correctament. El procés implica primer comprovar si el vector ja existeix a la col·lecció utilitzant GetAsync. Si es troba, l'script elimina l'entrada obsoleta abans de desar el nou vector, evitant així els duplicats. Aquest enfocament és ideal per a aquells que volen una integració perfecta amb el nucli semàntic alhora que mantenen dades netes i precises a la seva base de dades. 💻

La segona solució utilitza directament el COSMOSDB SDK per gestionar vectors. Aquest mètode és més versàtil, permetent un control avançat sobre la lògica d'actualització. Per exemple, UpsertItemAsync s'utilitza per substituir o afegir un document a la base de dades en una sola operació. En especificar el Partitionkey, l'script garanteix consultes eficients i evita sobrecàrregues innecessàries de la base de dades. Aquest enfocament és especialment útil per als desenvolupadors que volen personalitzar les seves operacions de bases de dades, donant-los la possibilitat de gestionar casos de punta o implementar mesures de seguretat addicionals.

Les proves d’unitats tenen un paper crucial en la validació de la funcionalitat d’ambdues solucions. A l'exemple anterior, MOQ s'utilitza per simular el comportament del sistema de gestió de la memòria, garantint que totes les operacions esperades es produeixin correctament. Per exemple, Verificar s'utilitza per confirmar que funcions com Elimina Async i SaveInformationAsync s’anomenen en els moments adequats. D’aquesta manera, el sistema es comporta com es pretén en diverses condicions, com ara l’actualització o la inserció d’un nou fitxer de marcatge. 🧪

Per relacionar -ho tot, aquestes solucions posen l’accent en la importància de la modularitat i les bones pràctiques. Aïllant cada operació en funcions específiques (per exemple, actualització o eliminació dels vectors), els desenvolupadors poden reutilitzar o adaptar el codi fàcilment per a altres casos d’ús. A més, la manipulació i la validació d'errors asseguren que les solucions es mantenen robustes en els entorns de producció. Per exemple, si es produeix un desajust d’ID durant una actualització, l’script gestiona amb gràcia l’error, evitant la corrupció de dades. Tant si s’utilitza les eines integrades del nucli semàntic com el COSMOSDB SDK, aquestes solucions permeten als desenvolupadors per mantenir un magatzem de memòria optimitzat i fiable per a aplicacions basades en AI. 🚀

// Import necessary namespaces
using Microsoft.SemanticKernel.Memory;
using Microsoft.SemanticKernel.Connectors.Memory.AzureCosmosDB;
using System.Threading.Tasks;
using System;
// Define the memory builder and initialize the semantic memory
ISemanticTextMemory semanticTextMemory = new MemoryBuilder()
    .WithTextEmbeddingGeneration(kernel.GetRequiredService<ITextEmbeddingGenerationService>())
    .WithMemoryStore(new AzureCosmosDBNoSQLMemoryStore("your-endpoint",
                                                     "your-key",
                                                     1536,
                                                     VectorDataType.Float32,
                                                     VectorIndexType.DiskANN))
    .Build();
// Define a function to update a vector in CosmosDB
public async Task UpdateVectorAsync(string collection, string id, string content, string description)
{
    var existingItem = await semanticTextMemory.GetAsync(collection, id);
    if (existingItem != null)
    {
        await semanticTextMemory.RemoveAsync(collection, id);
    }
    await semanticTextMemory.SaveInformationAsync(collection, id: id, text: content, description: description);
}
// Usage example
await UpdateVectorAsync("collection", "markdown-file-path", "updated content", "updated description");

// Import necessary namespaces
using Microsoft.Azure.Cosmos;
using System.Threading.Tasks;
using System;
// Initialize Cosmos client and container
var cosmosClient = new CosmosClient("your-endpoint", "your-key");
var container = cosmosClient.GetContainer("database-name", "collection-name");
// Define a function to update or insert a vector
public async Task UpsertVectorAsync(string id, string content, string description)
{
    var item = new
    {
        id = id,
        text = content,
        description = description
    };
    await container.UpsertItemAsync(item, new PartitionKey(id));
}
// Usage example
await UpsertVectorAsync("markdown-file-path", "updated content", "updated description");

// Import testing libraries
using Xunit;
using Moq;
using System.Threading.Tasks;
// Define a test class
public class VectorUpdateTests
{
    [Fact]
    public async Task UpdateVector_ShouldReplaceExistingVector()
    {
        // Mock the semantic text memory
        var mockMemory = new Mock<ISemanticTextMemory>();
        mockMemory.Setup(m => m.GetAsync("collection", "test-id"))
            .ReturnsAsync(new MemoryRecord("test-id", "old content", "old description"));
        mockMemory.Setup(m => m.SaveInformationAsync("collection", "test-id", "new content", "new description"))
            .Returns(Task.CompletedTask);
        var service = new YourServiceClass(mockMemory.Object);
        await service.UpdateVectorAsync("collection", "test-id", "new content", "new description");
        // Verify behavior
        mockMemory.Verify(m => m.RemoveAsync("collection", "test-id"), Times.Once);
        mockMemory.Verify(m => m.SaveInformationAsync("collection", "test-id", "new content", "new description"), Times.Once);
    }
}

Millorar les actualitzacions de dades vectorials amb estratègies de metadades

Sovint es va passar per alt aspecte de la gestió de dades vectorials a Cosmosdb és l'ús de metadades per identificar i actualitzar registres de manera eficient. En lloc de confiar només en identificadors o camins, la incorporació de metadades com ara marques de temps, números de versió o valors hash per al contingut pot optimitzar significativament les actualitzacions. Per exemple, quan s'actualitza un fitxer de reducció, es pot generar un hash de contingut per detectar canvis. D'aquesta manera, el sistema només actualitza el vector si s'ha modificat el contingut, evitant operacions innecessàries i reduint la càrrega de la base de dades. 🔄

Una altra estratègia clau consisteix a aprofitar les capacitats d'indexació integrades de CosmosDB. Mitjançant la personalització Claus de partició i polítiques d'indexació, els desenvolupadors poden crear una estructura que permeti cerques ràpides de dades vectorials. Per exemple, l'agrupació de vectors pel seu fitxer font o categoria com a clau de partició pot fer que les consultes siguin més eficients. A més, habilitar la indexació composta en camps de consulta freqüent, com ara marques de temps o tipus de contingut, pot millorar encara més el rendiment.

Finalment, les estratègies de memòria cau poden complementar les actualitzacions vectorials, especialment per a chatbots que accedeixen freqüentment a les mateixes dades. Integrant una capa de memòria cau, com ara Redis, l’aplicació pot servir respostes sense consultar Cosmosdb repetidament. Això no només accelera les respostes, sinó que també redueix els costos minimitzant les transaccions de bases de dades. La combinació d’aquestes estratègies garanteix un enfocament escalable i eficient per gestionar dades vectorials per a aplicacions basades en AI, com ara els chatbots basats en el coneixement. 🚀