Última actualización: 30/04/2019


Curso Académico: 2019/2020

Teoría de la Información
(18539)
Titulación: Máster Universitario en Técnicas Avanzadas en Comunicaciones (278)
Escuela de Ingeniería y Ciencias Básicas


Coordinador/a: KOCH , TOBIAS MIRCO

Departamento asignado a la asignatura: Departamento de Teoría de la Señal y Comunicaciones

Tipo: Optativa
Créditos: 6.0 ECTS

Curso:
Cuatrimestre:




Materias que se recomienda haber superado
MATERIAS QUE SE RECOMIENDA HABER SUPERADO Los estudiantes deben tener una base sólida en probabilidad y cálculo, así como que les gusten las matemáticas. Haber cursado una asignatura en Comunicaciones Digitales / Teoría de la Comunicación también es útil.
Competencias que adquiere el estudiante y resultados del aprendizaje.
COMPETENCIAS QUE ADQUIERE EL ESTUDIANTE Y RESULTADOS DEL APRENDIZAJE. Enseñamos los fundamentos de la Teoría de la Información, incluyendo los teoremas básicos de codificación de fuente y codificación de canal. Los estudiantes adquirirán una comprensión profunda de: - Los conceptos de compresión de datos / transmisión en sistemas de comunicación digital. - Los límites fundamentales de los códigos fuente y códigos de corrección de errores. - Medidas de Teoría de la Información, como la entropía, la divergencia de Kullback-Leibler e información mutua. - Herramientas matemáticas / conceptos que se utilizan comúnmente en teoría de la información, como Jensen's inequality, Fano's inequality, y la Aysmptotic Equipartion Property (AEP).
Descripción de contenidos: Programa
DESCRIPCIÓN DE CONTENIDOS: PROGRAMA Enseñamos los fundamentos de la Teoría de la Información, que se refiere a la compresión y transmisión de datos en sistemas de comunicación digitales. Los temas tratados en este curso son los siguientes: 1) Las medidas y los conceptos fundamentales en la Teoría de la Información: entropía, divergencia de Kullback- Leibler, información mutua, Jensen's inequality, Fano's inequality, y la Aysmptotic Equipartition Property (AEP). 2 ) La compresión de datos: códigos fuente única descifrables e instantáneos, Kraft's inequality, el análisis de la longitud de códigos óptimos, Huffman's, almost lossless source coding. 3 ) Transmisión de datos: descripción del sistema de comunicación, la capacidad del canal, Karush-Kuhn-Tucker (KKT) conditions, channel coding theorem, joint source-channel coding theorem. 4 ) La transmisión de datos a través del canales Gaussianos: differential entropy, entropy-maximizing property of Gaussian random variables, la capacidad del canal de canales Gaussianos.
Actividades formativas, metodología a utilizar y régimen de tutorías
ACTIVIDADES FORMATIVAS, METODOLOGÍA A UTILIZAR Y RÉGIMEN DE TUTORÍAS Clases magistrales: Los conceptos básicos se impartirán principalmente en la pizarra. Se usará el libro "Elements of Information Theory" de Cover y Thomas (véase Bibliografía básica). Problemas: Con el fin de profundizar el material que se enseña, cada dos semanas los estudiantes tienen que entregar las soluciones a una serie de problemas que recibirán una calificación entre 1 y 10. El grado promedio durante todo el semestre constituirá la calificación de la evalucación continua. Ambas conferencias y problemas se llevarán a cabo en Inglés.
Sistema de evaluación
  • Peso porcentual del Examen Final 60
  • Peso porcentual del resto de la evaluación 40
Bibliografía básica
  • Thomas M. Cover and Joy A. Thomas. Elements of Information Theory. Second Edition. 2006
Bibliografía complementaria
  • Abbas El Gamal and Young-Han Kim. Network Information Theory. First Edition. 2011
  • Imre Csiszár and János Körner. Information Theory: Coding Theorems for Discrete Memoryless Systems. Second Edition. 2011
  • Robert G. Gallager. Information Theory and Reliable Communication. First Edition. 1968

El programa de la asignatura y la planificación semanal podrían sufrir alguna variación por causa de fuerza mayor debidamente justificada o por eventos académicos comunicados con antelación.