Última actualización: 02/06/2021


Curso Académico: 2021/2022

Teoría de la Información
(18539)
Titulación: Máster Universitario en Tecnologías Avanzadas en Comunicaciones (278)
Escuela de Ingeniería y Ciencias Básicas


Coordinador/a: KOCH , TOBIAS MIRCO

Departamento asignado a la asignatura: Departamento de Teoría de la Señal y Comunicaciones

Tipo: Optativa
Créditos: 6.0 ECTS

Curso:
Cuatrimestre:




Requisitos (Asignaturas o materias cuyo conocimiento se presupone)
Los estudiantes deben tener una base sólida en probabilidad y cálculo, así como que les gusten las matemáticas. Haber cursado una asignatura en Comunicaciones Digitales / Teoría de la Comunicación también es útil.
Objetivos
Enseñamos los fundamentos de la Teoría de la Información, incluyendo los teoremas básicos de codificación de fuente. Los estudiantes adquirirán una comprensión profunda de: - Los conceptos de compresión de datos. - Los límites fundamentales de los códigos fuente. - Medidas de Teoría de la Información, como la entropía, la divergencia de Kullback-Leibler e información mutua. - Herramientas matemáticas que se utilizan comúnmente en teoría de la información, como Jensen's inequality.
Competencias y resultados del aprendizaje
Descripción de contenidos: Programa
Enseñamos los fundamentos de la Teoría de la Información, que se refiere a la compresión y transmisión de datos en sistemas de comunicación digitales. Los temas tratados en este curso son los siguientes: 1) Las medidas y los conceptos fundamentales en la Teoría de la Información: entropía, divergencia de Kullback-Leibler, información mutua y Jensen's inequality. 2) La compresión de datos sin pérdidas: códigos fuente única descifrables e instantáneos, Kraft's inequality, el análisis de la longitud de códigos óptimos, Huffman codes, compresión de datos universal, arithmetic coding. 3) Compresión de datos perdidos: rate-distortion theorem y rate-distortion function.
Actividades formativas, metodología a utilizar y régimen de tutorías
AF3 Clases teórico prácticas - 33.5 horas AF4 Prácticas de laboratorio - 10.5 horas AF5 Tutorías - 6 horas AF6 Trabajo en grupo - 30 horas AF7 Trabajo individual del estudiante - 62 horas AF8 Exámenes parciales y finales - 4 horas Clases magistrales (AF3): Los conceptos básicos se impartirán principalmente en la pizarra. Se usará el libro "Elements of Information Theory" de Cover y Thomas (véase Bibliografía básica). Problemas (AF6/AF7): Con el fin de profundizar el material que se enseña, cada dos semanas los estudiantes tienen que entregar las soluciones a una serie de problemas que recibirán una calificación entre 1 y 10. El grado promedio durante todo el semestre constituirá la calificación de la evalucación continua. Clases de laboratorio (AF4): Hay clases de laboratorio en que los alumnos tienen la oportunidad de profundizar los conceptos aprendido en las clases magistrales por medio de ejercicios en el ordenador. Las clases de laboratorio también se usa para revisar las series de problemas.
Sistema de evaluación
  • Peso porcentual del Examen Final 60
  • Peso porcentual del resto de la evaluación 40
Calendario de Evaluación Continua
Bibliografía básica
  • Thomas M. Cover and Joy A. Thomas. Elements of Information Theory. Second Edition. 2006
Bibliografía complementaria
  • Abbas El Gamal and Young-Han Kim. Network Information Theory. First Edition. 2011
  • Imre Csiszár and János Körner. Information Theory: Coding Theorems for Discrete Memoryless Systems. Second Edition. 2011
  • Robert G. Gallager. Information Theory and Reliable Communication. First Edition. 1968

El programa de la asignatura podría sufrir alguna variación por causa de fuerza mayor debidamente justificada o por eventos académicos comunicados con antelación.