• Jugar con la validación: en la llamada a ajustar, puedes añadir el argumento topeval=3 o la cantidad de fallos de validación consecutivos con los que quieras cortar el ajuste
• Capa de normalización: añade una capa 'b'
• Regularización: en la llamada a ajustar puedes poner decay=...
• Desactivación aleatoria de procesadores: añade una capa 'd...'(en los puntos suspensivos la probabilidad)
• Algoritmos de ajuste más afinados: Adam, Rprop, ...

Para empezar, aquí tienes un fichero base para empezar a trastear Algunas decisiones se han puesto ya, pero puedes cambiarlo. Otras se han dejado con puntos suspensivos para que las pongas tú. Una capa con ancho de convolución grande puede ser sustituida con ventaja por varias capas de anchos menores, o por una capa con paso mayor (dilation). En este último caso el esquema de definición sería, por ejemplo, '3c5d2' para una capa con 3 procesadores de convolución de ancho 5 y paso 2 Si simplemente quieres cambiar el número de procesadores, sin convolución espacial, basta que pongas ancho 1

Aparte de todo lo que se te ocurra (en la llamada a ajustar si pones minibatch un poco alto tardará menos, pero el ajuste será mejor si es bajo), haz los siguientes experimentos:

• Cambiar la arquitectura de red: capas, reducciones, convoluciones, número de procesadores, ... Las capas reductoras se marcan como 'rx...' donde en los puntos suspensivos va el factor de reducción y x es una letra indicando el tipo de reducción:

  p

  promedio

  m

  máximo

  c

  convolución (con salto=ancho=factor)

• Distintos métodos de ajuste
• Pruebas del punto anterior
• Recortar y reajustar la red, como hicimos en la práctica de análisis

Matrices de pesos simplificadas

Prueba a poner que las capas tengan matrices de pesos parametrizadas, por ejemplo, mediante una simplificación a ortogonales (enlace a documentación) En una de las convolutivas, ponle o por delante. Esto hace que el tamaño de una matriz $m\times n$ pase a $\frac{m\left(n+1\right)}{2}$ (podemos pensar en aproximadamente la mitad)

Prepara y ajusta. en principio a las de más impacto (más pesos) y vete ampliando hasta que veas que la precisión cae significativamente. Donde te quedes, anota otra línea en la tabla de comparación.

Aplicación de filtros separables

Sustituye las convoluciones normales por separables. Anteponle a la capa que quieras una s. El cambio es del estilo de, por ejemplo, en vez de aplicar una convolución (5,5), aplicar sucesivamente (5,1) y (1,5). Fíjate que en este ejemplo, hemos pasado de 25 pesos a 10

Prepara, ajusta primero las capas de más pesos, hasta que veas que la precisión se degrada. Hasta donde llegues, anota otra línea