JaColBERTv2

Instalación

JaColBERT funciona usando ColBERT+RAGatouille. Puedes instalarlo y todas sus dependencias necesarias ejecutando:

pip install -U ragatouille

Para más ejemplos sobre cómo usar RAGatouille con modelos ColBERT, puede consultar la sección de ejemplos en el repositorio de GitHub. Específicamente, el ejemplo 01 muestra cómo construir/consultar un índice, el 04 muestra cómo se puede usar JaColBERTv2 como un re-ranker, y el 06 muestra cómo usar JaColBERTv2 para búsquedas en memoria en lugar de usar un índice.

Codificación y consulta de documentos sin un índice

Si deseas usar JaColBERTv2 sin construir un índice, es muy simple, solo necesitas cargar el modelo, encode() algunos documentos, y luego search_encoded_docs():

from ragatouille import RAGPretrainedModel
RAG = RAGPretrainedModel.from_pretrained("bclavie/JaColBERTv2")

RAG.encode(['document_1', 'document_2', ...])
RAG.search_encoded_docs(query="tu consulta de búsqueda")

Las llamadas subsiguientes a encode() agregarán a la colección en memoria existente. Si deseas vaciarla, simplemente ejecuta RAG.clear_encoded_docs().

Indexación

Para que el enfoque de recuperación de interacción tardía utilizado por ColBERT funcione, primero debes construir tu índice.

from ragatouille import RAGPretrainedModel

RAG = RAGPretrainedModel.from_pretrained("bclavie/JaColBERT")
documents = ["マクドナルドのフライドポテトの少量のカロリーはいくつですか?マクドナルドの小さなフライドポテトのカロリーマクドナルドのウェブサイトには、次のように記載されています。フライドポテトの小さな注文で230カロリーケチャップで25カロリー、ケチャップパケットで15カロリー。"]
RAG.index(name="My_first_index", collection=documents)

Los archivos de índice se almacenan, por defecto, en .ragatouille/colbert/indexes/{index_name}.

Búsqueda

Una vez que hayas creado un índice, buscar en él es igual de sencillo. Si estás en la misma sesión y RAG todavía está cargado, puedes buscar directamente en el índice recién creado. De lo contrario, deberás cargarlo desde el disco:

RAG = RAGPretrainedModel.from_index(".ragatouille/colbert/indexes/My_first_index")

RAG.search(query="CONSULTA")
> [{'content': 'TEXTO DEL DOCUMENTO UNO', 'score': float, 'rank': 1, 'document_id': str, 'document_metadata': dict}, {'content': 'TEXTO DEL DOCUMENTO DOS', 'score': float, 'rank': 2, 'document_id': str, 'document_metadata': dict}, [...]]