wangchanberta-base-wiki-20210520-spm-finetune-qa

airesearch

Pregunta y respuesta

Finetuning airesearchth/wangchanberta-base-wiki-20210520-spmd con el conjunto de entrenamiento de iapp_wiki_qa_squad, thaiqa_squad y nsc_qa (se eliminaron ejemplos que tienen una similitud de coseno con los ejemplos de validación y prueba superior a 0.8; los contextos de los últimos dos se recortan para tener alrededor de 300 palabras newmm). Los benchmarks se comparten en wandb utilizando los conjuntos de validación y prueba de iapp_wiki_qa_squad. Este modelo se entrenó con thai2transformers.

Como usar

Ejecute con:
export MODEL_NAME=airesearchth/wangchanberta-base-wiki-20210520-news-spm
CUDA_LAUNCH_BLOCKING=1 python train_question_answering_lm_finetuning.py \n  --model_name $MODEL_NAME \n  --dataset_name chimera_qa \n  --output_dir $MODEL_NAME-finetune-chimera_qa-model \n  --log_dir $MODEL_NAME-finetune-chimera_qa-log \n  --model_max_length 400 \n  --pad_on_right \n  --fp16

Funcionalidades

Arquitectura de Transformers
Compatible con PyTorch
Optimizado para preguntas y respuestas
Compatible con Endpoints de Inferencia
Soporte para el idioma tailandés

Casos de uso

Responder preguntas basadas en texto dado
Implementaciones de chatbots que comprenden y responden en tailandés
Aplicaciones de minería de texto e información