Analyse de données

class: center, middle, inverse, title-slide

.title[
# Analyse de données
]
.author[
### Outils de surveillance et analyses statistiques
]
.date[
### INTECHMER - CT3 GEM
]

---

## Que veut-on faire ?

- Décrire et/ou résumer l'information contenue dans les données

- Sans formuler d'hypothèses au préalable

- Méthode de visualisation des données très pertinente

### Une méthode pour deux applications en fonction du type des données

1. **ACP** sur des données quantitatives
2. **AFC** sur une table de contingence

---
class: middle, center, section

## Sur un tableau de données quantitatives

### Analyse en Composantes Principales (ACP)

---
## Comment ?

- Transformations linéaires d'un grand nombre de variables intercorrélées

- En un nombre relativement limité de composantes non corrélées

- Regroupant les données en des ensembles plus petits

### Quelques bénéfices
  
- Technique efficace de réduction de dimension

- Méthode de décorrélation des variables, utile pour certaines méthodes statistiques

- Parfois utilisée pour de la réduction du bruit

---
## Du choix de la projection dépend l'analyse

.footnote[Source : <https://commons.wikimedia.org/wiki/File:Dualite.jpg>]

---
## Méthodes descriptives

- Pas de modèle probabiliste, mais elles dépendent d'un modèle géométrique

- Représentations géométriques de ces unités et de ces variables

- Représentations des individus permettent de voir s'il existe une structure, non connue a priori

- Représentations des variables permettent d'étudier les structures de liaisons linéaires

### Lecture

- Distinguer des groupes dans l'ensemble des individus en regardant quelles sont les individus qui se ressemblent, celles qui se distinguent des autres, etc...

- Pour les variables, on cherchera quelles sont celles qui sont très corrélées entre elles, celles qui, au contraire ne sont pas corrélées aux autres, ...

### Idée principale

Projeter le nuage dans un sous-espace de dimension inférieure

---
## Exemple en 2D

#### Repère `$(0,X^{(1)},X^{(2)})$`

![Repère d'origine](https://fxjollois.github.io/cours-2016-2017/analyse-donnees/points_plan_init.png)

---

#### Repère factoriel `$(g,F^{(1)},F^{(2)})$` : axe 1 associé à la plus grande valeur propre, axe 2 associé à la plus petite.

![Repère factoriel](https://fxjollois.github.io/cours-2016-2017/analyse-donnees/points_planfact2.png)

---

#### Rotation du repère...

![Repère factoriel rotation](https://fxjollois.github.io/cours-2016-2017/analyse-donnees/points_planfact.png)

---

#### ... et changement d'échelle.

![Repère factoriel échelle](https://fxjollois.github.io/cours-2016-2017/analyse-donnees/points_planfact_final.png)

---
## Problème

- Etudier simultanément `$p$` variables (avec `$p$` grand)

- A l'aide d'informations sur `$n$` individus (avec `$n$` encore plus grand)

### Détection

- d'individus atypiques
- de liaisons entre variables

- Recherche de *bonnes* variables

### Représentation graphique

- des variables

- des individus

---
## Objectifs

- Constructions de nouvelles variables (appelées facteurs)
    - Concentrant la variance du nuage de points
    - Sur un petit nombre `$q$` de facteurs

- Représentation graphiques des variables
    - Dans un sous-espace de faible dimension (avec `$q=2$` ou `$q=3$`)
    - Explicitant les liaisons initiales entre variables

- Représentation graphiques des individus
 - Minimisant les déformations du nuage de points
 - Dans un sous-espace de dimension `$q$` (on aura `$q<p$`)

- Réduction de la dimension (compression)
 - Approximation de `$X$` par un tableau de ranq `$q$`
 - `$q << p$`

---
## Principe

- **Facteurs principaux** : combinaisons linéaires non corrélées 2 à 2 des variables initiales

- 1ère **composante principale**
    - Combinaison linéaire des variables qui explique le mieux la variabilité de l'échantillon
    - Géométriquement, déterminée par la direction de l'allongement maximum du nuage de points

- 2ème **composante principale**
    - Combinaison linéaire des variables expliquant au mieux la variance résiduelle
    - Direction orthogonale à la précédente

- Itération de l'étape précédente

---
## Matrice de corrélation ou de covariance ?

### Corrélation

- Variables réduites (donc sans unité) et de même dispersion (écart-type 1)
- Choix par défaut le plus fréquent (données en général hétérogènes)
- Diagonalisation de la matrice des corrélations

### Covariance

- Variables uniquement centrées
- Variables avec unités et dispersions différentes
- A n'utiliser que si les données sont homogènes
- Diagonalisation de la matrice des covariances

---
## Combien d'axes retenir ?

- Question délicate, sans réponse définitive
- Critère empirique : point d'inflexion sur les spectres des valeurs propres

### But = Représentation graphique

- Conserver l'essentiel de la variabilité tout en retenant un faible nombre de facteurs
- Représenter sur 2 axes (éventuellement 3, voire 4 maximum)

### But = Préparation des données
    
- Préalablement à la réalisation d'une classification
- Pas un inconvénient de retenir beaucoup d'axes	
- Supprimer les directions correspondant aux plus petites valeurs propres 
    - Critère de Kaiser : vp `$>$` moyenne des vp
    - si ACP normée, vp `$>$` 1
    - Supprimer le bruit

---
## Quelques notations

- `$\mathbf{I}_p$` : matrice identité (diagonale = 1 et le reste = 0), `$\mathbf{1}_n$` : vecteur unité (que des 1)
- `$\mathbf{X} = (x_i^j), i=1,\ldots,n, j=1,\ldots,p$` : matrice des données
- `$\mathbf{x}_i = (x_i^1,\ldots,x_i^p)$` : vecteur individu `$i$`
- `$\mathbf{x}^j = (x_1^j,\ldots,x_n^j)$` : vecteur variable `$j$`
- `$p_i, i=1,\ldots,n$` : poids des individus (très souvent égaux à `$\frac{1}{n}$`)
    - représentés dans la matrice `$\mathbf{D}$` (poids sur la diagonale et le reste égal à 0)
    - si poids identiques, `$\mathbf{D} = \frac{1}{n}\mathbf{I}_p$`
- `$\mathbf{M}$` : métrique utilisée
    - `$\mathbf{I}_p$` : si ACP centrée uniquement
    - `$\mathbf{D}_\frac{1}{\delta}$` : si ACP centrée réduite (avec `$(\frac{1}{\delta_j})$` sur la diagonale (écart-type de `$j$`))
    - `$\mathbf{M}'$` : transposée de `$\mathbf{M}$`

---
## Premiers calculs

Utilisation de moyenne arithmétique (pondérée éventuellement), de la variance (elle-aussi pondérée), et de la covariance et de la corrélation entre deux variables

- `$\mathbf{g} = (\bar{x}^1,\ldots,\bar{x}^p)$` : point moyen (barycentre), on a `$\mathbf{g} = \mathbf{X}'\mathbf{D}\mathbf{1}_n$`

- Tableau centré `$\mathbf{Y} = \mathbf{X}-\mathbf{1}_n\mathbf{g} = (\mathbf{I}_p - \mathbf{1}_n\mathbf{1}_n'\mathbf{D})\mathbf{X}$`

- Matrice de variance-covariance `$\mathbf{V} = \mathbf{X}'\mathbf{D}\mathbf{X} - \mathbf{g}\mathbf{g}' = \mathbf{Y}'\mathbf{D}\mathbf{Y}$`

- Matrice de corrélation `$\mathbf{R} = \mathbf{D_\frac{1}{s}}\mathbf{V}\mathbf{D_\frac{1}{s}}$`

- Données centrées-réduites `$\mathbf{Z} = \mathbf{Y}\mathbf{D}_\frac{1}{s}$`

---
## Inertie

Inertie d'un nuage de points :

`$$I_g = \sum_{i=1}^n p_i d_\mathbf{M}^2(x_i - g) = \frac{1}{2} \sum_{i=1}^n \sum_{i'=1}^n p_i p_{i'} d_\mathbf{M}^2(x_i - x_{i'}) = Tr(\mathbf{M}\mathbf{V}\mathbf{M})$$`

- Si données originelles `$\mathbf{Y}$` : `$I_g = Tr(\mathbf{V}) = \sum_{j=1}^p \delta_j^2$`.
- Si données réduites `$\mathbf{Z}$` : `$I_g = Tr(\mathbf{D}_\frac{1}{\delta^2}\mathbf{V}) = Tr(\mathbf{D}_\frac{1}{\delta}\mathbf{V}\mathbf{D}_\frac{1}{\delta}) = Tr(\mathbf{R}) = p$`

> L'ACP revient à chercher `$F_q$`, sous espace de dimension `$q$` de `$F_p$`, tel que l'inertie du nuage projeté sur `$F_q$` soit maximale.

---
## Rappel

### Vecteur et valeur propre

`$\mathbf{v} \ne 0$` vecteur propre de `$\mathbf{A}$`

- s'il existe `$\lambda$` tel que `$\mathbf{A}\mathbf{v} = \lambda\mathbf{v}$`
- `$\lambda$` valeur propre associée à `$\mathbf{v}$`

Matrice de dimension `$(p,p)$` : `$p$` valeurs propres

---
## Analyse de `$\mathbf{M}\mathbf{V}\mathbf{M}$`

- Matrice carrée `$(p,p)$` :
  - Diagonalisable 
  - Valeurs propres `$\lambda_1,\ldots,\lambda_p$` réelles
  - Axes principaux d'inertie : `$p$` vecteurs propres (notés `$\mathbf{a}_j$`)
  - Valeurs propres positives : tri par ordre décroissant

- Lien avec l'inertie 
`$$I_g = Tr(\mathbf{M}\mathbf{V}\mathbf{M}) = \sum_{j=1}^p \lambda_j$$`

- En ne gardant que les `$q$` premiers axes d'inertie
  - Inertie expliquée : `$\sum_{j=1}^q \lambda_j$`

**Remarque** : l'ACP sur `$q+1$` variables est obtenue par ajout d'une variable d'inertie maximale à l'ACP sur `$q$` variables. Il n'est pas nécessaire de refaire tout le calcul.

---
## Composantes Principales

Coordonnées des individus données par projections orthogonales sur axes principaux

- Composantes principales `$\mathbf{c}_k$` (qui correspondent aux coordonnées des individus sur l'axe `$k$`) :

$$
	\mathbf{c}_k = \mathbf{Y} \mathbf{M} \mathbf{a}_k
$$

- Axe `$k$` expliquant une certaine part d'inertie, déterminée par `$\frac{\lambda_k}{I_g}$`

ACP avec `$q$` axes retenus expliquera donc une part d'inertie égale à

`$$\frac{\sum_{k=1}^q \lambda_k}{\sum_{\ell=1}^p \lambda_\ell}$$`

---
## Interprétation

### Cercle des corrélations

- Sur données centrées-réduites uniquement
  - Représentation des corrélations entre variables et composantes principales
  - Plus variable proche de 1 ou -1 sur une composante, plus les 2 sont corrélées

### Contribution des individus et des variables

- Contribution d'un individu à un axe : `$\frac{p_i (c_{ik})^2}{\lambda_k}$`
  - Si supérieure à `$\alpha p_i$` (avec `$\alpha$` généralement entre 2 et 4), individu considéré comme fortement contributeur à la création de l'axe
  - Si très forte, individu potentiellement aberrant (mettre de côté)
- Contribution d'une variable à un axe : `$\frac{\sqrt{\lambda_k}a_k^j}{s_j}$`
  - Si supérieure à `$\frac{1}{p}$`, alors variable considérée comme fortement contributrice

---
## Interprétation

### Qualité de représentation

- Qualité de représentation d'un individu par un axe : `$\frac{(c_{ik})^2}{\sum_{\ell=1}^p (c_{i\ell})^2}$`
  - Plus elle est grande, mieux l'individu est représenté sur l'axe `$k$`
- Qualité de représentation d'une variable par un axe : `$\frac{\lambda_k (a_k^j)^2}{\sum_{\ell=1}^p \lambda_\ell (a_\ell^j)^2}$`
  - Idem, plus cette valeur est grande, plus la variable est bien représentée sur l'axe `$k$`

### Que faire pour interpréter un axe

Pour comprendre ce que reprèsente un axe :

- Recenser les variables qui contribuent le plus
- Recenser celles qui sont très bien représentées
- Chercher individus bien représentés ou contribuant fortement à l'axe
  - si `$n$` est grand, prendre individus avec valeurs très fortes

---
## En plus

Possibilité d'introduire des éléments supplémentaires ne participant pas au calcul, mais pouvant être représentés sur les graphiques :

- **Variables quantitatives** : utile pour expliquer le lien de ces variables avec les variables de l'ACP

- **Variables qualitatives** : idem

- **Individus** : utile pour mettre de côté des individus particuliers ou pour analyser des individus d'un autre échantillon

---
## Exemple simple

Notes obtenues par 9 élèves dans 4 matières (cf Besse and Baccini)

|     | Math| Phys| Fran| Angl|
|:----|----:|----:|----:|----:|
|jean |  6.0|  6.0|  5.0|  5.5|
|alan |  8.0|  8.0|  8.0|  8.0|
|anni |  6.0|  7.0| 11.0|  9.5|
|moni | 14.5| 14.5| 15.5| 15.0|
|didi | 14.0| 14.0| 12.0| 12.5|
|andr | 11.0| 10.0|  5.5|  7.0|
|pier |  5.5|  7.0| 14.0| 11.5|
|brig | 13.0| 12.5|  8.5|  9.5|
|evel |  9.0|  9.5| 12.5| 12.0|

---
## Variance et corrélation des variables

- Variances sensiblement différentes

|     | Moyenne| Variance|
|:----|-------:|--------:|
|Math |    9.67|    12.81|
|Phys |    9.83|    10.06|
|Fran |   10.22|    13.57|
|Angl |   10.06|     8.90|

- Deux groupes de variables.

---
## Part de la variance expliquée

|       | Valeur propre| Variance (%)| Cumulée (%)|
|:------|-------------:|------------:|-----------:|
|comp 1 |          2.88|        71.89|       71.89|
|comp 2 |          1.12|        27.99|       99.88|
|comp 3 |          0.00|         0.09|       99.97|
|comp 4 |          0.00|         0.03|      100.00|

2 axes suffisent à représenter 99.9% de l'information présente dans les données.

---
## Représentation graphique - Individus

---
## Représentation graphique - Individus

---
## Individus importants

### Contribution

<table class="table table-condensed">
 <thead>
 <tr>
 <th style="text-align:left;"> </th>
 <th style="text-align:right;"> contrib 1 </th>
 <th style="text-align:right;"> contrib 2 </th>
 <th style="text-align:right;"> contrib 3 </th>
 <th style="text-align:right;"> contrib 4 </th>
 </tr>
 </thead>
<tbody>
 <tr>
 <td style="text-align:left;"> jean </td>
 <td style="text-align:right;"> 29.07 </td>
 <td style="text-align:right;"> 1.81 </td>
 <td style="text-align:right;"> 1.65 </td>
 <td style="text-align:right;"> 5.42 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> alan </td>
 <td style="text-align:right;"> 5.95 </td>
 <td style="text-align:right;"> 0.23 </td>
 <td style="text-align:right;"> 0.06 </td>
 <td style="text-align:right;"> 5.25 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> anni </td>
 <td style="text-align:right;"> 4.11 </td>
 <td style="text-align:right;"> 10.93 </td>
 <td style="text-align:right;"> 10.55 </td>
 <td style="text-align:right;"> 0.13 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> moni </td>
 <td style="text-align:right;"> 38.05 </td>
 <td style="text-align:right;"> 0.34 </td>
 <td style="text-align:right;"> 0.40 </td>
 <td style="text-align:right;"> 23.79 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> didi </td>
 <td style="text-align:right;"> 16.26 </td>
 <td style="text-align:right;"> 3.91 </td>
 <td style="text-align:right;"> 1.87 </td>
 <td style="text-align:right;"> 37.97 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> andr </td>
 <td style="text-align:right;"> 3.64 </td>
 <td style="text-align:right;"> 22.25 </td>
 <td style="text-align:right;"> 2.13 </td>
 <td style="text-align:right;"> 19.25 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> pier </td>
 <td style="text-align:right;"> 0.43 </td>
 <td style="text-align:right;"> 37.25 </td>
 <td style="text-align:right;"> 9.46 </td>
 <td style="text-align:right;"> 0.91 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> brig </td>
 <td style="text-align:right;"> 1.49 </td>
 <td style="text-align:right;"> 16.54 </td>
 <td style="text-align:right;"> 13.63 </td>
 <td style="text-align:right;"> 1.63 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> evel </td>
 <td style="text-align:right;"> 1.01 </td>
 <td style="text-align:right;"> 6.74 </td>
 <td style="text-align:right;"> 60.25 </td>
 <td style="text-align:right;"> 5.66 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> Sum </td>
 <td style="text-align:right;"> 100.00 </td>
 <td style="text-align:right;"> 100.00 </td>
 <td style="text-align:right;"> 100.00 </td>
 <td style="text-align:right;"> 100.00 </td>
 </tr>
</tbody>
</table>

---
## Individus importants

### Qualité de représentation

<table class="table table-condensed">
 <thead>
 <tr>
 <th style="text-align:left;"> </th>
 <th style="text-align:right;"> qualité 1 </th>
 <th style="text-align:right;"> qualité 2 </th>
 <th style="text-align:right;"> qualité 3 </th>
 <th style="text-align:right;"> qualité 4 </th>
 <th style="text-align:right;"> Somme </th>
 </tr>
 </thead>
<tbody>
 <tr>
 <td style="text-align:left;"> jean </td>
 <td style="text-align:right;"> 0.98 </td>
 <td style="text-align:right;"> 0.02 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0 </td>
 <td style="text-align:right;"> 1 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> alan </td>
 <td style="text-align:right;"> 0.98 </td>
 <td style="text-align:right;"> 0.01 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0 </td>
 <td style="text-align:right;"> 1 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> anni </td>
 <td style="text-align:right;"> 0.49 </td>
 <td style="text-align:right;"> 0.51 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0 </td>
 <td style="text-align:right;"> 1 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> moni </td>
 <td style="text-align:right;"> 1.00 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0 </td>
 <td style="text-align:right;"> 1 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> didi </td>
 <td style="text-align:right;"> 0.91 </td>
 <td style="text-align:right;"> 0.09 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0 </td>
 <td style="text-align:right;"> 1 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> andr </td>
 <td style="text-align:right;"> 0.30 </td>
 <td style="text-align:right;"> 0.70 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0 </td>
 <td style="text-align:right;"> 1 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> pier </td>
 <td style="text-align:right;"> 0.03 </td>
 <td style="text-align:right;"> 0.97 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0 </td>
 <td style="text-align:right;"> 1 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> brig </td>
 <td style="text-align:right;"> 0.19 </td>
 <td style="text-align:right;"> 0.81 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0 </td>
 <td style="text-align:right;"> 1 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> evel </td>
 <td style="text-align:right;"> 0.27 </td>
 <td style="text-align:right;"> 0.71 </td>
 <td style="text-align:right;"> 0.02 </td>
 <td style="text-align:right;"> 0 </td>
 <td style="text-align:right;"> 1 </td>
 </tr>
</tbody>
</table>

---
## Variables importantes

### Contribution

---
## Variables importantes

### Qualité de représentation

---
class: middle, center, section

## Sur une table de contingence

### Analyse Factorielle de Correspondance (AFC)

---

##  Que veut-on faire ?

- Décrire et/ou résumer l'information contenue dans les données 
    - Sans formuler d'hypothèses au préalable

- Tableau individu `$\times$` variable
    - On connaît : **ACP**

- Table de contingence
    - **AFC**

- Plus largement sur un tableau de nombres non négatifs

### Idée principale

Utiliser les principes de l'ACP en utilisant une autre métrique

---
## Table de contingence

Croisement de deux variables qualitatives, représentant les effectifs de chaque couple de modalité

Ici, nous représentons les passagers du Titanic répartis sur leur classe (1ère, 2nde, 3ème et équipage) et leur survie ou non (*i.e.* 178 passagers en 3ème classe ont survécu au naufrage).

---
## Problème et objectifs

Visualiser les liens entre les deux variables

- Utiliser la représentation simultanée des deux variables pour analyser les liens entre les modalités des deux variables

- Détection de modalités atypiques

- Visualiser les ressemblances entre les modalités d'une même variable

**Objectifs similaires à l'ACP**

---
## Pourquoi pas une ACP directement ?

Tableau analysé :

- Individus : modalités de la variable en lignes
- Variables : madalités de la variable en colonnes

Comparaison des distributions en **fréquences absolues**

- Importance beaucoup trop importante d'une modalité très (trop) présente en lignes
- On est plutôt intéressé par les **profils**

---
## Quelques notations

- `$\mathbf{X}$` et `$\mathbf{Y}$` : deux variables qualitatives à respectivement `$p$` et `$q$` modalités
- `$\mathbf{T} = (t_{ij})$`, avec `$i=1,\ldots,p$` et `$j=1,\ldots,q$` : 
    - nombre d'individus ayant la modalité `$i$` pour `$X$` et `$j$` pour `$Y$`
    - `$\sum_{i=1}^p \sum_{j=1}^q t_{ij} = n$`
- Marge en ligne : `$(t_{i.}) = \sum_{j=1}^q t_{ij}$` (effectifs des modalités de `$X$`)
- Marge en colonne : `$(t_{.j}) = \sum_{i=1}^p t_{ij}$` (effectifs des modalités de `$Y$`)
- `$\mathbf{D}_X$` et `$\mathbf{D}_Y$` matrice diagonale contenant les marges en lignes et en colonnes sur la diagonale
- Profils lignes : `$\frac{t_{ij}}{t_{i.}} = P(Y=j | X=i)$`, donné par `$\mathbf{D}_X^{-1}\mathbf{T}$`
- Profils colonnes : `$\frac{t_{ij}}{t_{.j}} = P(X=i | Y=j)$`, donné par `$\mathbf{T}\mathbf{D}_Y^{-1}$`

---
## Indépendance

Rappel de l'Indépendance : `$P(AB) = P(A)P(B)$`

`$\chi^2$` : Mesure de l'écart à l'indépendance

`$$\chi^2(X,Y)=n\sum_{i=1}^p \sum_{j=1}^q \frac{\left( f_{ij} - f_{i.} f_{.j} \right)^2}{f_{i.} f_{.j}}$$`

- Si les variables sont indépendantes, `$\chi^2 (X,Y) = 0$`
    - cela voudra dire que `$f_{ij} = f_{i.}f_{.j}$` pour chaque couple de modalités

- On a aussi `$\chi^2(X,Y) \le n \times \mbox{inf}(p-1,q-1)$`. 
  - Si `$\chi^2(X,Y)$` est égal respectivement à `$n(p-1)$` ou `$n(q-1)$`, cela voudra dire que `$X$` (resp. `$Y$`) est fonctionnellement liée à `$Y$` (resp. `$X$`).
- Contribution d'une cellule `$ij$` : `$\frac{\left( f_{ij} - f_{i.} f_{.j} \right)^2}{f_{i.} f_{.j}}$`

---
## Distance

**Idée** : Les profils lignes et les profils colonnes sont deux nuages de points sur lesquels on pourra appliquer une ACP

Distance entre 2 modalités de `$X$` :

`$$d_{\chi^2}^2(i,i')=\sum_{j=1}^q\frac{n}{t_{.j}}\left(\frac{t_{ij}}{t_{i.}}-\frac{t_{i'j}}{t_{i'.}}\right)^2$$`

Cela revient à utiliser la métrique `$n\mathbf{D}_Y^{-1}$` sur les profils lignes, ce qu'on appelle la **métrique du `$\chi^2$`**.

Idem pour les colonnes.

---
## Inertie

Inertie du nuage des profils lignes, par rapport au centre de gravité de ce nuage `$g_\ell = (f_{.j})$` :

`$$I_{g_\ell} = \sum_{i=1}^p \frac{t_{i.}}{n} d_{\chi^2}^2 (i, g_\ell) = \chi^2 (X,Y)$$`

Idem pour les colonnes.

### Avantage de cette métrique

Regroupement de modalités ne modifiant pas l'inertie et donc la valeur du `$\chi^2$`, ni même les distances. C'est l'**équivalence distributionnelle**.

---
## ACP sur les profils

Deux possibilités totalement symétriques :

Info | Profil lignes | Profil colonnes
-|-|-
Données `$Z$`					| `$D_X^{-1}T$`      | `$D_Y^{-1}T'$`
Métrique `$M$`				| `$nD_Y^{-1}$`      | `$nD_X^{-1}$`
Poids `$D$`						| `$D_X/n$`          | `$D_Y/n$`
Centre 							| `$Z'D1$`            
Variance-covariance | `$V = Z'DZ - gg'$`

- Calcul **identiques à l'ACP** avec ces définitions
- Deux analyses conduisant aux mêmes valeurs propres 
- Facteurs principaux de l'une = composantes principales de l'autre.

---
## Interprétation

### Choix du nombre d'axes

- Pproblème plus compliqué que dans l'ACP 
- Critère de Kaiser s'applique mal
- Règle du coude toujours valide

### Coordonnées de points

- Principal résultat
- Représentation en 2 (ou plus) dimensions des modalités des deux variables

Les deux nuages de points, et donc les deux ensembles de modalités (de `$X$` et de `$Y$`) peuvent être représentés **sur le même graphique**.

Le cercle de corrélations n'a aucun intérêt ici.

---
## Interpretation

### Contributions

- De même que pour l'ACP
- Contribution de la modalité `$i$` de `$X$` = `$\frac{t_{i.}}{n} \frac{(a_{ki}^2}{\lambda_k}$`
- Contributions fortes (supérieures à `$1/p$`)
- Idem les modalités `$j$` de `$Y$`.

### Qualité de représentation

Idem que pour l'ACP et que pour les contributions.

---
## Plus loin

**Modalités supplémentaires** ne participant pas au calcul, mais pouvant être représentés sur les graphiques :

- Lignes et/ou colonnes supplémentaires : modalités de `$X$` ou de `$Y$` qu'on ne veut pas inclure dans le calcul de l'AFC

**Regroupement de modalités**

- à considérer si une modalité est trop peu présente
    - elle *tire* le nuage vers elle

Travail *envisageable* sur un jeu de données Individus x Variables, sous quelques conditions :

- Variables de mêmes unités ;
- Somme en lignes et en colonnes ayant un sens ;
- Recherche sur les profils (de consommation par exemple).

---
## Exemple simple

Nous utilisons les données `occupationalStatus`, qui nous donne la répartition d'hommes britaniques suivant le statut professionnel de leur père (en ligne) et le leur (en colonne). Les statuts sont codés de 1 à 8, et nous n'avons aucune information sur ceux-ci.

---
## Proportions globales

---
## Profils lignes

---
## Profils colonnes

---
## Part de la variance expliquée

<table class="table table-condensed">
 <thead>
 <tr>
 <th style="text-align:left;"> </th>
 <th style="text-align:right;"> Valeur propre </th>
 <th style="text-align:right;"> Variance (%) </th>
 <th style="text-align:right;"> Cumulée (%) </th>
 </tr>
 </thead>
<tbody>
 <tr>
 <td style="text-align:left;"> dim 1 </td>
 <td style="text-align:right;"> 0.28 </td>
 <td style="text-align:right;"> 69.53 </td>
 <td style="text-align:right;"> 69.53 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dim 2 </td>
 <td style="text-align:right;"> 0.08 </td>
 <td style="text-align:right;"> 18.56 </td>
 <td style="text-align:right;"> 88.08 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dim 3 </td>
 <td style="text-align:right;"> 0.03 </td>
 <td style="text-align:right;"> 6.75 </td>
 <td style="text-align:right;"> 94.83 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dim 4 </td>
 <td style="text-align:right;"> 0.01 </td>
 <td style="text-align:right;"> 2.46 </td>
 <td style="text-align:right;"> 97.29 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dim 5 </td>
 <td style="text-align:right;"> 0.01 </td>
 <td style="text-align:right;"> 1.41 </td>
 <td style="text-align:right;"> 98.70 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dim 6 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 1.05 </td>
 <td style="text-align:right;"> 99.75 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dim 7 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0.25 </td>
 <td style="text-align:right;"> 100.00 </td>
 </tr>
</tbody>
</table>

2 axes suffisent à représenter 88.1% de l'information présente dans les données.

---
## Représentation graphique - modalités en lignes

---
## Représentation graphique - modalités en colonnes

---
## Représentation conjointe

---
## Lignes importantes

### Contribution

<table class="table table-condensed">
 <thead>
 <tr>
 <th style="text-align:left;"> </th>
 <th style="text-align:right;"> contrib 1 </th>
 <th style="text-align:right;"> contrib 2 </th>
 <th style="text-align:right;"> contrib 3 </th>
 <th style="text-align:right;"> contrib 4 </th>
 <th style="text-align:right;"> contrib 5 </th>
 </tr>
 </thead>
<tbody>
 <tr>
 <td style="text-align:left;"> orig=1 </td>
 <td style="text-align:right;"> 57.96 </td>
 <td style="text-align:right;"> 31.92 </td>
 <td style="text-align:right;"> 5.88 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0.37 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> orig=2 </td>
 <td style="text-align:right;"> 19.37 </td>
 <td style="text-align:right;"> 10.11 </td>
 <td style="text-align:right;"> 45.34 </td>
 <td style="text-align:right;"> 0.77 </td>
 <td style="text-align:right;"> 9.49 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> orig=3 </td>
 <td style="text-align:right;"> 4.81 </td>
 <td style="text-align:right;"> 21.63 </td>
 <td style="text-align:right;"> 0.24 </td>
 <td style="text-align:right;"> 5.03 </td>
 <td style="text-align:right;"> 9.39 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> orig=4 </td>
 <td style="text-align:right;"> 0.08 </td>
 <td style="text-align:right;"> 10.28 </td>
 <td style="text-align:right;"> 19.46 </td>
 <td style="text-align:right;"> 0.02 </td>
 <td style="text-align:right;"> 0.11 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> orig=5 </td>
 <td style="text-align:right;"> 0.01 </td>
 <td style="text-align:right;"> 1.99 </td>
 <td style="text-align:right;"> 0.29 </td>
 <td style="text-align:right;"> 16.01 </td>
 <td style="text-align:right;"> 43.10 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> orig=6 </td>
 <td style="text-align:right;"> 5.09 </td>
 <td style="text-align:right;"> 0.09 </td>
 <td style="text-align:right;"> 6.01 </td>
 <td style="text-align:right;"> 2.45 </td>
 <td style="text-align:right;"> 23.28 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> orig=7 </td>
 <td style="text-align:right;"> 6.07 </td>
 <td style="text-align:right;"> 9.05 </td>
 <td style="text-align:right;"> 6.17 </td>
 <td style="text-align:right;"> 45.16 </td>
 <td style="text-align:right;"> 0.29 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> orig=8 </td>
 <td style="text-align:right;"> 6.62 </td>
 <td style="text-align:right;"> 14.93 </td>
 <td style="text-align:right;"> 16.61 </td>
 <td style="text-align:right;"> 30.56 </td>
 <td style="text-align:right;"> 13.97 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> Sum </td>
 <td style="text-align:right;"> 100.00 </td>
 <td style="text-align:right;"> 100.00 </td>
 <td style="text-align:right;"> 100.00 </td>
 <td style="text-align:right;"> 100.00 </td>
 <td style="text-align:right;"> 100.00 </td>
 </tr>
</tbody>
</table>

---
## Lignes importantes

### Qualité de représentation

<table class="table table-condensed">
 <thead>
 <tr>
 <th style="text-align:left;"> </th>
 <th style="text-align:right;"> qualité 1 </th>
 <th style="text-align:right;"> qualité 2 </th>
 <th style="text-align:right;"> qualité 3 </th>
 <th style="text-align:right;"> qualité 4 </th>
 <th style="text-align:right;"> qualité 5 </th>
 <th style="text-align:right;"> Somme </th>
 </tr>
 </thead>
<tbody>
 <tr>
 <td style="text-align:left;"> orig=1 </td>
 <td style="text-align:right;"> 0.86 </td>
 <td style="text-align:right;"> 0.13 </td>
 <td style="text-align:right;"> 0.01 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 1.00 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> orig=2 </td>
 <td style="text-align:right;"> 0.72 </td>
 <td style="text-align:right;"> 0.10 </td>
 <td style="text-align:right;"> 0.16 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0.01 </td>
 <td style="text-align:right;"> 1.00 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> orig=3 </td>
 <td style="text-align:right;"> 0.43 </td>
 <td style="text-align:right;"> 0.52 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0.02 </td>
 <td style="text-align:right;"> 0.02 </td>
 <td style="text-align:right;"> 0.98 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> orig=4 </td>
 <td style="text-align:right;"> 0.01 </td>
 <td style="text-align:right;"> 0.52 </td>
 <td style="text-align:right;"> 0.36 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0.90 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> orig=5 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0.22 </td>
 <td style="text-align:right;"> 0.01 </td>
 <td style="text-align:right;"> 0.23 </td>
 <td style="text-align:right;"> 0.36 </td>
 <td style="text-align:right;"> 0.81 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> orig=6 </td>
 <td style="text-align:right;"> 0.77 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0.09 </td>
 <td style="text-align:right;"> 0.01 </td>
 <td style="text-align:right;"> 0.07 </td>
 <td style="text-align:right;"> 0.95 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> orig=7 </td>
 <td style="text-align:right;"> 0.56 </td>
 <td style="text-align:right;"> 0.22 </td>
 <td style="text-align:right;"> 0.05 </td>
 <td style="text-align:right;"> 0.15 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0.98 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> orig=8 </td>
 <td style="text-align:right;"> 0.49 </td>
 <td style="text-align:right;"> 0.29 </td>
 <td style="text-align:right;"> 0.12 </td>
 <td style="text-align:right;"> 0.08 </td>
 <td style="text-align:right;"> 0.02 </td>
 <td style="text-align:right;"> 1.00 </td>
 </tr>
</tbody>
</table>

---
## Colonnes importantes

### Contribution

<table class="table table-condensed">
 <thead>
 <tr>
 <th style="text-align:left;"> </th>
 <th style="text-align:right;"> contrib 1 </th>
 <th style="text-align:right;"> contrib 2 </th>
 <th style="text-align:right;"> contrib 3 </th>
 <th style="text-align:right;"> contrib 4 </th>
 <th style="text-align:right;"> contrib 5 </th>
 </tr>
 </thead>
<tbody>
 <tr>
 <td style="text-align:left;"> dest=1 </td>
 <td style="text-align:right;"> 55.37 </td>
 <td style="text-align:right;"> 33.26 </td>
 <td style="text-align:right;"> 7.44 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0.13 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dest=2 </td>
 <td style="text-align:right;"> 18.32 </td>
 <td style="text-align:right;"> 11.56 </td>
 <td style="text-align:right;"> 45.67 </td>
 <td style="text-align:right;"> 0.93 </td>
 <td style="text-align:right;"> 4.50 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dest=3 </td>
 <td style="text-align:right;"> 8.25 </td>
 <td style="text-align:right;"> 9.59 </td>
 <td style="text-align:right;"> 0.22 </td>
 <td style="text-align:right;"> 3.66 </td>
 <td style="text-align:right;"> 0.12 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dest=4 </td>
 <td style="text-align:right;"> 0.03 </td>
 <td style="text-align:right;"> 14.10 </td>
 <td style="text-align:right;"> 11.29 </td>
 <td style="text-align:right;"> 0.81 </td>
 <td style="text-align:right;"> 7.10 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dest=5 </td>
 <td style="text-align:right;"> 0.15 </td>
 <td style="text-align:right;"> 5.39 </td>
 <td style="text-align:right;"> 2.17 </td>
 <td style="text-align:right;"> 4.72 </td>
 <td style="text-align:right;"> 41.76 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dest=6 </td>
 <td style="text-align:right;"> 5.22 </td>
 <td style="text-align:right;"> 0.01 </td>
 <td style="text-align:right;"> 11.06 </td>
 <td style="text-align:right;"> 0.58 </td>
 <td style="text-align:right;"> 36.64 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dest=7 </td>
 <td style="text-align:right;"> 6.23 </td>
 <td style="text-align:right;"> 11.74 </td>
 <td style="text-align:right;"> 6.48 </td>
 <td style="text-align:right;"> 47.46 </td>
 <td style="text-align:right;"> 0.49 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dest=8 </td>
 <td style="text-align:right;"> 6.42 </td>
 <td style="text-align:right;"> 14.35 </td>
 <td style="text-align:right;"> 15.66 </td>
 <td style="text-align:right;"> 41.83 </td>
 <td style="text-align:right;"> 9.27 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> Sum </td>
 <td style="text-align:right;"> 100.00 </td>
 <td style="text-align:right;"> 100.00 </td>
 <td style="text-align:right;"> 100.00 </td>
 <td style="text-align:right;"> 100.00 </td>
 <td style="text-align:right;"> 100.00 </td>
 </tr>
</tbody>
</table>

---
## Colonnes importantes

### Qualité de représentation

<table class="table table-condensed">
 <thead>
 <tr>
 <th style="text-align:left;"> </th>
 <th style="text-align:right;"> qualité 1 </th>
 <th style="text-align:right;"> qualité 2 </th>
 <th style="text-align:right;"> qualité 3 </th>
 <th style="text-align:right;"> qualité 4 </th>
 <th style="text-align:right;"> qualité 5 </th>
 <th style="text-align:right;"> Somme </th>
 </tr>
 </thead>
<tbody>
 <tr>
 <td style="text-align:left;"> dest=1 </td>
 <td style="text-align:right;"> 0.85 </td>
 <td style="text-align:right;"> 0.14 </td>
 <td style="text-align:right;"> 0.01 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 1.00 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dest=2 </td>
 <td style="text-align:right;"> 0.70 </td>
 <td style="text-align:right;"> 0.12 </td>
 <td style="text-align:right;"> 0.17 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 1.00 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dest=3 </td>
 <td style="text-align:right;"> 0.73 </td>
 <td style="text-align:right;"> 0.23 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0.01 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0.97 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dest=4 </td>
 <td style="text-align:right;"> 0.01 </td>
 <td style="text-align:right;"> 0.66 </td>
 <td style="text-align:right;"> 0.19 </td>
 <td style="text-align:right;"> 0.01 </td>
 <td style="text-align:right;"> 0.03 </td>
 <td style="text-align:right;"> 0.90 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dest=5 </td>
 <td style="text-align:right;"> 0.04 </td>
 <td style="text-align:right;"> 0.42 </td>
 <td style="text-align:right;"> 0.06 </td>
 <td style="text-align:right;"> 0.05 </td>
 <td style="text-align:right;"> 0.25 </td>
 <td style="text-align:right;"> 0.83 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dest=6 </td>
 <td style="text-align:right;"> 0.72 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0.15 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0.10 </td>
 <td style="text-align:right;"> 0.97 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dest=7 </td>
 <td style="text-align:right;"> 0.53 </td>
 <td style="text-align:right;"> 0.27 </td>
 <td style="text-align:right;"> 0.05 </td>
 <td style="text-align:right;"> 0.14 </td>
 <td style="text-align:right;"> 0.00 </td>
 <td style="text-align:right;"> 0.99 </td>
 </tr>
 <tr>
 <td style="text-align:left;"> dest=8 </td>
 <td style="text-align:right;"> 0.48 </td>
 <td style="text-align:right;"> 0.28 </td>
 <td style="text-align:right;"> 0.11 </td>
 <td style="text-align:right;"> 0.11 </td>
 <td style="text-align:right;"> 0.01 </td>
 <td style="text-align:right;"> 1.00 </td>
 </tr>
</tbody>
</table>

---
## Lien avec le `$\chi^2$`

Il y a clairement un lien entre les deux variables.

```
## 
## 	Pearson's Chi-squared test
## 
## data: o
## X-squared = 1416, df = 49, p-value < 2.2e-16
```

---
## Résidus

Différence entre observé et estimé.