Los estudiantes deben tener una base sólida en probabilidad y cálculo, así como que les gusten las matemáticas.

Enseñamos los fundamentos de la Teoría de la Información. Los estudiantes adquirirán una comprensión profunda de: - Medidas de Teoría de la Información, como la entropía, la divergencia de Kullback-Leibler e información mutua. - Herramientas matemáticas que se utilizan comúnmente en teoría de la información. - Los conceptos y teoremas fundamentales de compresión de datos. - La aplicación de Teoría de la Información en el Aprendizaje Automático.

Enseñamos los fundamentos de la Teoría de la Información. Los temas tratados en este curso son los siguientes: 1) Las medidas y los conceptos fundamentales en la Teoría de la Información: entropía, divergencia de Kullback-Leibler, información mutua y Jensen's inequality. 2) La compresión de datos sin pérdidas: códigos fuente única descifrables e instantáneos, Kraft's inequality, el análisis de la longitud de códigos óptimos, Huffman codes y compresión de datos universal. 3) Teoría de la Información y Aprendizaje Automático: Error de generalización, minimización del error empírico, garantías de generalización tradicionales en aprendizaje estadístico, cotas de error de generalización mediante teoría de la información.

ACTIVIDADES FORMATIVAS AF3 Clases teórico prácticas AF5 Tutorías AF6 Trabajo en grupo AF7 Trabajo individual del estudiante AF8 Exámenes parciales y finales METODOLOGÍAS MD1 - Exposiciones en clase del profesor con soporte de medios informáticos y audiovisuales, en las que se desarrollan los conceptos principales de la materia y se proporciona la bibliografía para complementar el aprendizaje de los alumnos. MD2 - Lectura crítica de textos recomendados por el profesor de la asignatura: Artículos de prensa, informes, manuales y/o artículos académicos, bien para su posterior discusión en clase, bien para ampliar y consolidar los conocimientos de la asignatura. MD3 - Resolución de casos prácticos, problemas, etc.... planteados por el profesor de manera individual o en grupo. MD4 - Exposición y discusión en clase, bajo la moderación del profesor de temas relacionados con el contenido de la materia, así como de casos prácticos. MD5 - Elaboración de trabajos e informes de manera individual o en grupo. CLASES MAGISTRALES Los conceptos básicos se impartirán principalmente en la pizarra. Se usará el libro "Elements of Information Theory" de Cover y Thomas (véase Bibliografía básica). PROBLEMAS Con el fin de profundizar el material que se enseña, cada dos semanas los estudiantes tienen que entregar las soluciones a una serie de problemas que recibirán una calificación entre 1 y 10. El grado promedio durante todo el semestre constituirá parte de la calificación de la evaluación continua. TUTORÍAS Se establecerán 2 horas a la semana de tutorias para los alumnos donde el profesor estará disponible en su despacho.