PlayPhrase2.0

Procesamiento del lenguaje natural Se intentará replicar la página PlayPhrase

Equipo de trabajo:

• David, davidalencia
• Karla, KarlaDSJ

Con ayuda de:

• Emilio, milmor
• Víctor, VMijangos

NOTA: Los pkl que faltan se encuentran en la carpeta de drive Drive, deberán descargarse y colocarse en la carpeta pkl/, y para le modelo de los subtítulos utilizando doc2vec se encuentran en la carpeta de Drive ese deberá ir en la carpeta models/

---

Tareas:

1. Corpus

2. Recuperación de información

3. Agrupación

---

Corpus [Top]

Creamos un programa en donde que nos permite extraer los subtítulos de vídeos de Youtube junto con el tiempo en el que aparecen.

Los canales utilizados para esta tarea son:

id	canal
UCshVTOdmZLdLj8LTV1j_0uw	tedespañol
UCZcvCpFcLxOKGbMocVgLjEA	kurzgesagt
UC3uPK6zOTe0HOfcIkuzII0Q	disneyplusla
UCBSs9x2KzSLhyyA9IKyt4YA	netflixanime
UCrVhY_d0L0qayRhMsRlPBOA	31minutostv
UCJQQVLyM6wtPleV4wFBK06g	visualpolitik
UC_Zc2fmbDpu_arkwvCDcX5g	cocina
UCyQqzYXQBUWgBTn4pw_fFSQ	auronplay
UCX6b17PVsYBQ0ip5gyeme	crash course

Utilizamos estos canales porque hablan de temas muy variados.

El código que genera el corpus se encuentra en la carpeta corpus/ y la carpeta donde se encuentras los datos después de ejecutar el programa es corpus/data

Instalación

cd corpus
npm install

Ejecución

cd corpus
node index.js

Además el análisis del corpus se hace en el notebook Estadisticas.ipynb

Recuperación de información [Top]

La tarea que se plantea es que dada una cadena (query) el programa nos muestre el subtítulo de algún video que se encuentra en el corpus que más se le parezca, así como la información para en un futuro se muestre el fragmento de ese vídeo, para completar esta tarea intentamos lo siguiente:

• TF-IDF (notebook TF-IDF.ipynb)

  • Por subtítulo
  • Por video

• Levenshtein con palabras (notebook FauxLeveshtein.ipynb)

• Doc2Vec (notebook Doc2Vec.ipynb)

Los resultados obtenidos son los siguientes (notebook Metricas.ipynb):

Método	Precision	Recall	Accuracy	F1
TF-IDF sub	1	0.3012	0.4407	0.4630
TF-IDF video	1	0.1458	0.3163	0.2545
Doc2Vec	1	0.3991	0.5190	0.5705

De los 4 métodos propuesto podemos observar que el que obtuvo mejores resultados fue el que utilizaba como vectores los generados por Doc2Vec, además otra cosa importante de mencionar es que no pudimos probar el método de Levenshtein con palabras ya que es extremadamente lento.

Agrupación [Top]

K-means (notebook Agrupar.ipynb)

• Utilizando vectores TF-IDF por documento
• Utilizando Doc2Vec por el título de cada video

Como un intento de analizar los clusters notebook EvalAgrupar.ipynb

Si recuperar información es difícil agrupar lo es aún más, el primer reto a encontrar es la manera de representar las palabras, el segundo es cuántos clusters seleccionar para que se agrupen de manera de decente y lo más importante, cómo saber quer los grupos son buenos, aunque se hicieron 3 intentos no logramos analizarlos :(