Théorie de l'Information

Informations

Objectifs

• S'approprier les outils mathématiques permettant de caractériser les performances de systèmes de transmission numérique d'information
• Mesurer la quantité d'information fournie par une source d'information quelconque.
• Connaitre les différents modes de représentation de l'information permettant d'augmenter la compacité de l'information, d'améliorer sa robustesse aux perturbations, ou d'assurer la sécurité du processus de transmission

Capacités enseignées

• Référentiel INSA :
  • Référentiel CNISF :
    • T40D [2I]
  1 - notion, 2 - théorisation, 3 - application, I - intégralement, P - partiellement

  Programme

  • Outils mathématiques pour modéliser le processus d'émission et de transmission de l'information, ainsi que pour mesurer la quantité d'information (entropie, entropie conditionnelle, entropie des sources composées,...)
  • Codage de source ou compression de données
    • Codes sans distorsion : Codage Huffman, par plage et arithmétique
    • Codes avec critère de fidélité : Quantification Scalaire, Quantification Vectorielle et Quantification Prédictive
  • Codage de voie ou de canal
    • Codes détecteurs et correcteurs d'erreurs : Hamming, convolutif et BCH
  • Quelques exemples de projets :
    • Cryptographie à clé publique, Cryptographie à clé privée, Cryptage sur courbes elliptiques, Cryptographie à clé pseudo-aléatoire
    • Compression d'image (GIF, PNG, JPEG, JPEG2000), du son et de la musique (MP3, AAC, FLAC) et du texte (ZIP)
    • Stéganographie dans les images et dans les signaux audio
    • Tatouage des images et de la musique

  Pré-requis

  Notions de base en traitement du signal y compris en programmation sous Matlab et quelques résultats en probabilités

  Bibliographie

  • [M. Kunt, 1991] "Traitement de l'Information - Volume I.- Techniques modernes de traitement numérique des signaux", 1991, 440 pages
  • [A.M. Yaglom et I. M. Yaglom 1969] "Probabilité et Information", Dunod ed., Paris 1969, 320 pages
  • [Th. Cover et J. Thomas, 1991] "Elements of Information Theory", Wiley Series in Telecommunications ed., 1991, 542 pages
  • [N. Moreau, 1995] "Techniques de compression des signaux", Masson ed., 1995, 274 pages

  Méthode d'évaluation

  • Ecrit (60%) : Examen final (3h)
  • Oral (40%) : Présentation des mini-projets