Ces notes sont librement et partiellement inspirées d'un séminaire du laboratoire de mathématiques de l'ENS-Lyon, tenu au château de Goutelas en avril 2002, et qui portait sur ce même sujet. Je remercie très vivement les organisateurs et l'ensemble du laboratoire pour l'accueil très chaleureux qu'ils m'ont réservé à cette occasion, ainsi, bien évidemment, que les orateurs ayant inspiré ces textes.
On traitera successivement de théorie de l'information, de systèmes dynamiques, de probabilités et finalement de physique. Il est conseillé de lire les bases de la théorie de l'information avant de passer aux autres parties, qui sont indépendantes.
(Également au format poscript gzippé ou pdf.)
Plan complet :
Tous les résultats décrits ici sont standard et sont traités dans les ouvrages de référence sur ces sujets.
La théorie de l'information a été pour la première fois introduite par Shannon dans The mathematical theory of communication, Bell System Tech. J. 27 (1948). L'ouvrage de référence est Elements of information theory, par Cover et Thomas (Wiley, 1991). Pour les rapports avec l'analyse, on peut consulter le chapitre 10 de Sur les inégalités de Sobolev logarithmiques, par Ané, Blachère, Chafaï et al. (Soc. Math. Fr. 2000).
Pour l'entropie en systèmes dynamiques, on pourra consulter l'ouvrage de référence de Katok et Hasselblatt, Introduction to the modern theory of dynamical systems, Cambridge University Press (1995).
Pour tout savoir des grandes déviations, l'ouvrage de référence est celui de Dembo et Zeitouni, Large deviations techniques and applications, Springer (1998).