Notebooks para reprodução do Projeto Final
-
O primero notebbok Experimentos_Troca_de_pesos_apenas_uma_camada.ipynb é destinado aos primeiros testes de avaliação de degradação de performance ao se utilizar diretamente (sem pós fine-tune) os pesos do Wav2Vec2 ou inicializações randômicas em apenas 1 camada do Transformer do BERT;
-
O segundo notebook Experimentos_Troca_dos_pesos_do_Transformer.ipynb é destinado às avaliações de troca completa dos pesos do Transformer do BERT, e um fine-tune após tais trocas. Todos os modelos são variáveis e parametrizáveis, então esse notebook pode ser utilizado para diversas finalidades
-
O terceiro notebook Experimentos_Troca_dos_pesos_do_Transformer__ViT.ipynb é destinado a experimentação utilizando o ViT (Vision Transformer)