Aggiungo solo qualche commento all'ottimo riassunto di GIMUSI, cercando di cogliere il punto che sta all'origine dei dubbi di Gabe.
Il punto fondamentale è la doppia natura delle matrici ... da un lato le abbiamo usate per rappresentare *applicazioni lineari* rispetto ad opportune basi, dall'altra per rappresentare *forme quadratiche* (o prodotti scalari, che alla fine è lo stesso), sempre rispetto ad opportune basi. Sono sempre matrici, ma sotto ci stanno due concetti distinti e distanti.
Per entrambi i concetti ci si pone il problema delle forme canoniche, cioè di rispondere alla seguenti domande:
- come cambia la matrice se cambio la base?
- Quanto può diventare bella la matrice se scelgo la base giusta?
La risposta è completamente diversa nei due casi.
Nel caso delle applicazioni lineari, se la matrice iniziale è A, ed il cambio di base ha matrice M, allora la nuova matrice diventa

. Questo risponde alla domanda 1. La risposta alla domanda 2 è data dalla diagonalizzazione/jordanizzazione: scegliendo bene M posso fare in modo che

sia di Jordan (o diagonale, che è un caso particolare di Jordan). Ovviamente quando viene diagonale le colonne di M, cioè i vettori della nuova base, sono i corrispondenti autovettori (ed in generale non sono ortogonali tra di loro, a meno che la A di partenza non fosse simmetrica e con tutti gli autovalori distinti).
Nel caso dei prodotti scalari, se la matrice iniziale è A, ed il cambio di base ha matrice M, allora la nuova matrice diventa

. Questo risponde alla domanda 1. La risposta alla domanda 2 è data dalla
Sylvester's law of inertia, che poi non è altro che l'esercizio 3b della scheda a pagina 54 del fascicolo di esercizi: scegliendo bene M posso fare in modo che

sia diagonale con solo 1, -1, 0 sulla diagonale. Il numero di uni, meno uni e zeri sono proprio i 3 numerini magici della segnatura. Il caso particolare è quello dei prodotti definiti positivi: in tal caso posso fare in modo che la matrice

sia diagonale con tutti uni, cioè identica; quando lo faccio le colonne di M, cioè la nuova base, sarà ortonormale rispetto al prodotto scalare di partenza (e la posso trovare ad esempio con GS).
I discorsi fatti sulla diagonalizzazione delle forme quadratiche hanno qualcosa a che fare con autovalori/autovettori? La risposta è, come quasi sempre, *ni*. Infatti riguardando usi completamente diversi delle matrici, a priori non avrebbero davvero nulla a che fare. *Ma* poi c'è il teorema spettrale che spiazza tutti ... Prendiamo una matrice A che rappresenta un prodotto scalare, e dunque è simmetrica. Per il teorema spettrale la possiamo diagonalizzare nel senso delle applicazioni lineari, cioè trovare M tale che

sia diagonale (quello che finisce sulla diagonale sono gli autovalori di A). Insisto che si tratta del primo tipo di diagonalizzazione, quello con l'inversa di M a sinistra. Tuttavia, il teorema spettrale dice pure che la M diagonalizzante è ortogonale, cioè

, dunque la diagonalizzazione del primo tipo è anche una diagonalizzazione del secondo tipo, cioè di quelle con la trasposta di M a sinistra. Quindi le colonne di M sono pure ortogonali rispetto al prodotto scalare definito da A (occhio, non ortonormale, perchè sulla diagonale non ci sono necessariamente degli uni, ma gli autovalori di A). Tuttavia, a questo punto basta normalizzare opportunamente ed ecco ottenuta la forma canonica del prodotto scalare prevista dalla Sylvester's law (Sylvester, sempre lui). Morale: due concetti completamente diversi (le forme canoniche delle applicazioni lineari e dei prodotti scalari) diventano imparentati grazie a teorema spettrale.
E ora veniamo agli aspetti operativi: come trovo le matrici richieste dalle domande 1 e 2 nei casi di applicazioni lineari e prodotti scalari?
Per le applicazioni lineari non ci sono alternative: polinomio caratteristico, autovalori, autovettori. Questo vuol dire che praticamente l'operazione riesce solo nei casi "fatti apposta" in cui si riescono a trovare le radici del polinomio (che è il punto debole del procedimento).
Per i prodotti scalari volendo si può fare allo stesso modo: polinomio caratteristico, autovalori, autovettori, normalizzazione finale. In tutto ciò autovalori ed autovettori non c'entrano nulla, come spiegato sopra, ma sono solo un mezzo per raggiungere il fine, giustificato dal teorema spettrale. Come osservato sopra, questo metodo ha il suo punto debole nel dover trovare le radici del polinomio. Fortunatamente tutto ciò si può by-passare nel caso delle forme. Ci sono infatti almeno 3 metodi per sapere quanti uni, meno uni e zeri ci saranno alla fine senza dover trovare gli autovalori ... e ci sono metodi anche per trovare la base "Sylvestrizzante", ad esempio GS se sappiamo già che alla fine ci saranno solo uni.
Concludo indicando una possibile proceduta per la Sylvestrizzazione: completando i quadrati sappiamo quanti uni aspettarci e sappiamo trovare un sottospazio di quella dimensione su cui il prodotto è definito positivo; facendo GS su quel sottospazio sistemiamo la parte di uni. Poi passiamo al sottospazio ortogonale e sistemiamo i meno uni. Poi facciamo ancora l'ortogonale e abbiamo sistemato gli zeri. È più difficile a dirsi che a farsi ... Sarebbe un utile esercizio imparare a Sylvestrizzare le forme ed i prodotti scalari che ci sono nel fascicolo di esercizi, non limitandosi a quelli definiti positivi.