metadata

language:
  - en
license:
  - apache-2.0
pretty_name: CC6204-Hackaton-CUB200
size_categories:
  - 10K<n<15K
source_datasets:
  - extended|other
paperswithcode_id: cub-200-2011
task_categories:
  - image-classification
  - text-classification
task_ids:
  - multi-class-image-classification

CC6204: Hackaton Deep Learning 2022

Nota: esta fue un actividad del curso CC6204: Deep Learning, Universidad de Chile, año 2022. Dictado por el profesor Iván Sipiran, material del curso aquí.

En esta actividad intentaremos resolver un problema de clasificación multimodal. En un problema de clasificación multimodal, cada pieza de información viene en diferentes representaciones (imágenes, texto, audios, etc) y la idea es determinar cómo usar esos datos para un problema de clasificación. En este caso trabajaremos con un dataset que contiene datos sobre especies de pájaros.

Problema

El problema consiste en entrenar un modelo que clasifique instancias del dataset CUB de la mejor manera posible. Algunas preguntas que podrían guiar nuestro desarrollo son:

Se podrá obtener un buen performance de clasificación solo usando las imágenes del dataset? Este tipo de problema sería el clásico problema de clasificar imágenes.
Se podrá obtener un buen performance de clasificación solo usando los textos del dataset? Este tipo de problema sería el clásico problema de clasificar texto.
Se podrá obtener un mejor performance si combino la información en un modelo multimodal? Cómo construyo un modelo multimodal que reciba una imagen y un texto y clasifique la instancia con su respectiva especie? Hint: piense en cómo una red neuronal (la que sea) es simplemente una función que recibe un dato y genera una representación de alto nivel (vector característico) de ese dato. Una red CNN podría hacerse cargo de calcular la representación de una imagen y una red RNN podría hacerse cargo de calcular la representación del texto. Finalmente concateno ambas representaciones y entreno un MLP final que hace la clasificación.

Experimentación

Como el dataset es grande y los recursos de computación son muy limitados, una estrategia para hacer los experimentos es tomar una muestra más pequeña de datos para ir probando las ideas. Para esta estrategia, éstas son dos ideas válidas:

Tomar menos instancias por cada clase para el desarrollo y solo dejar el dataset final para hacer el entrenamiento final y la evaluación final con testing.
Tomar menos clases para el desarrollo inicial y solo dejar el dataset final para hacer el entrenamiento final y la evaluación final con testing.

Ambas estrategias nos permiten lidiar con los recursos limitados que tenemos, pero cuáles son sus ventajas o desventajas? Si usas alguna de estas estrategias, puedes comentar este punto en tu desarrollo final.

Métrica de Evaluación

La métrica que se debe reportar es el accuracy en conjunto de test.

Dataset Description

Homepage: CUB 200 2011
Repository: http://www.vision.caltech.edu/datasets/cub_200_2011/
Paper: The Caltech-UCSD Birds-200-2011 Dataset
Leaderboard: Paperswithcode
Point of Contact: Catherine Wah

Citation Information

Sitio web del dataset CUB200, y reporte técnica aquí.

@techreport{WahCUB_200_2011,
    Title = The Caltech-UCSD Birds-200-2011 Dataset,
    Author = {Wah, C. and Branson, S. and Welinder, P. and Perona, P. and Belongie, S.},
    Year = {2011}
    Institution = {California Institute of Technology},
    Number = {CNS-TR-2011-001}
}

Contributions

Creación y adaptación del material de la actividad en un Hugging Face dataset por Cristóbal Alcázar.