Disclaimer : j'ai lu l'article en diagonale accélérée, ça me donne mal à la tête.
Pour autant, ça m'a rappelé la fac. Milieu des 90s, j'ai eu un projet avec un doctorant (il me semble) sous la coupe de Max Dauchet (LIFL - Lille - VdA).
Pour le jeune babache que j'étais (et suis toujours ?), ça paraissait con comme un pied de chaise : compresser des fichiers texte contenant des séquences d'ADN, des A, C, G et T donc.
Warf ! Le texte, ça se compresse super bien !
Premiers essais avec les outils classiques : catastrophe ! Presque aucun gain !
C'est là qu'on se renseigne, qu'on apprend des choses sur la compression, qu'on apprend des nouveaux mots comme entropie, qu'on étudie les algos, dont Huffman, toussa, toussa. Effectivement, c'est pas gagné d'avance.
Mais au-delà de ça, je me rappelle, en substance, une petite phrase, de Max Dauchet je crois : si on arrive à compresser l'ADN / quelque chose, c'est qu'on a compris les règles qui sous-tendent l'ADN / ce quelque chose.
compresser des fichiers texte contenant des séquences d'ADN, des A, C, G et T donc.
Warf ! Le texte, ça se compresse super bien !
Oui enfin si t'as un fichier texte contenant π sous forme de [0-9] en ASCII tu vas aussi vite voir les limites de la compression. Je suis d'accord que compresser sans perte correspond normalement à un niveau d'abstraction supplémentaire mais de là à dire qu'il s'agit de « compréhension », je suis dubitatif.
pertinent adj. Approprié : qui se rapporte exactement à ce dont il est question.
C'est non calculable dans le cas général, mais la complexité de Kolmogorov est la réponse à ta question … Compresser pi reviendrait à trouver un programme court qui le calcule, ça subsume toutes les méthodes de compression. Et évidemment, des formules courtes pour calculer pi, on en connaît un certain nombre.
Et dans le cas c'est tellement un nombre connu et important que tu peux faire un cas particulier dans ton algo de compression qui détecte les décimales de pi …
Sinon, en théorie de l'info(rmatique|tion) une notion connexe est "l'épiplexity" qui est liée à une version à ressources bornée de la complexité de Kolmogorov :
C'est une réponse toujours théorique mais bien plus pratique de la complexité de Kolmogorov vu que c'est lié à une version calculable de celle-ci. Comment compresser les décimales de pi de la meilleure manière calculable possible ? Là réponse est là et pi n'est pas terriblement complexe vu que calculable lui même, par des programmes assez courts.
# Compression = compréhension ?
Posté par pseudonymous . Évalué à 4 (+3/-0).
Disclaimer : j'ai lu l'article en diagonale accélérée, ça me donne mal à la tête.
Pour autant, ça m'a rappelé la fac. Milieu des 90s, j'ai eu un projet avec un doctorant (il me semble) sous la coupe de Max Dauchet (LIFL - Lille - VdA).
Pour le jeune babache que j'étais (et suis toujours ?), ça paraissait con comme un pied de chaise : compresser des fichiers texte contenant des séquences d'ADN, des A, C, G et T donc.
Warf ! Le texte, ça se compresse super bien !
Premiers essais avec les outils classiques : catastrophe ! Presque aucun gain !
C'est là qu'on se renseigne, qu'on apprend des choses sur la compression, qu'on apprend des nouveaux mots comme entropie, qu'on étudie les algos, dont Huffman, toussa, toussa. Effectivement, c'est pas gagné d'avance.
Mais au-delà de ça, je me rappelle, en substance, une petite phrase, de Max Dauchet je crois : si on arrive à compresser l'ADN / quelque chose, c'est qu'on a compris les règles qui sous-tendent l'ADN / ce quelque chose.
[^] # Re: Compression = compréhension ?
Posté par Krunch (courriel, site web personnel) . Évalué à 2 (+0/-0).
Oui enfin si t'as un fichier texte contenant π sous forme de [0-9] en ASCII tu vas aussi vite voir les limites de la compression. Je suis d'accord que compresser sans perte correspond normalement à un niveau d'abstraction supplémentaire mais de là à dire qu'il s'agit de « compréhension », je suis dubitatif.
pertinent adj. Approprié : qui se rapporte exactement à ce dont il est question.
[^] # Re: Compression = compréhension ?
Posté par thoasm . Évalué à 3 (+0/-0).
C'est non calculable dans le cas général, mais la complexité de Kolmogorov est la réponse à ta question … Compresser pi reviendrait à trouver un programme court qui le calcule, ça subsume toutes les méthodes de compression. Et évidemment, des formules courtes pour calculer pi, on en connaît un certain nombre.
Et dans le cas c'est tellement un nombre connu et important que tu peux faire un cas particulier dans ton algo de compression qui détecte les décimales de pi …
Sinon, en théorie de l'info(rmatique|tion) une notion connexe est "l'épiplexity" qui est liée à une version à ressources bornée de la complexité de Kolmogorov :
C'est une réponse toujours théorique mais bien plus pratique de la complexité de Kolmogorov vu que c'est lié à une version calculable de celle-ci. Comment compresser les décimales de pi de la meilleure manière calculable possible ? Là réponse est là et pi n'est pas terriblement complexe vu que calculable lui même, par des programmes assez courts.
# 3b1b
Posté par jtremesay (site web personnel) . Évalué à 3 (+1/-0).
La chaîne de vulgarisation mathématique 3blue1brown a aussi fait une vidéo sur le sujet il y a peu : Reinventing Entropy | Compression Is Intelligence Part 1
Envoyer un commentaire
Suivre le flux des commentaires
Note : les commentaires appartiennent à celles et ceux qui les ont postés. Nous n’en sommes pas responsables.