Sulla somma e la differenza di vettori e il calcolo della norma e del prodotto scalare, Formulari di Analisi Dei Dati

Scarica Sulla somma e la differenza di vettori e il calcolo della norma e del prodotto scalare e più Formulari in PDF di Analisi Dei Dati solo su Docsity! Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Richiami e definizioni di concetti matematici. Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it DEF: si chiama VERSORE un vettore di modulo 1 (lunghezza/norma unitaria). DEF: si chiama VETTORE NULLO un vettore di modulo 0. DEF: dato un vettore v si chiama VETTORE OPPOSTO il vettore −v (ha la stessa direzione, lo stesso modulo ma verso opposto a un altro vettore). Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it La SOMMA del vett o re u e del vett o re v `e un vett o re w avente lo stesso punto di applicazione comune di u e di v ed `e dato dalla diagonale del parallelogramma individuato dai due vettori originari. MOLTIPLICAZIONE TRA UNO SCALARE a ED UN VETTORE v: `e un vett o re definito sulla stessa direzione di v , la cui norma `e pari al prodotto tra la norma di v e lo scalare ed il cui verso `e lo stesso di v se a > 0 ed `e Operazioni con i vettori (somma = reg la del parallelogramma) Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it opposto a quello di v se a < 0. Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Esiste corrispondenza biunivoca tra insiemi ordinati di numeri e vettori. Facciamo un esempio in R2: Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Esiste corrispondenza biunivoca tra insiemi ordinati di numeri e vettori. Facciamo un esempio in R2: Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Notiamo che il vettore a pu`o essere espresso come combinazione lineare della base ortonormale definita in R2: a = y j + x i . Notiamo inoltre che la coppia ordinata di scalari (x, y ) rappresenta le coordinate del punto P. Cio` `e vero per ogni punto (vettore) possibile del piano, il che significa che ad ogni coppia di punti (vettori) `e associato un vettore con punto di applicazione (di inizio) nell’origine. i, j hanno norma unitaria Il termine punto e il termine vettore saranno usati come sinonimi. Ancora sulla somma di vettori Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it La combinazione lineare sarà sempre espressa in funzione della base di riferimento ma gli scalari saranno dati dalla somma delle componenti Ancora sulla somma di vettori Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Un aspetto importante sul quale torneremo tra breve `e il concetto di vettore somma e di vettore differenza (stessa direzione, verso opposto). Ancora sulla somma di vettori Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it L’aspetto da tenere presente `e che il vettore differenza a − b pu`o essere visto anche come congiungente i punti A e B rappresentati dai vettori a e b rispettivamente: Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it ǁ ǁ Ricordando quanto visto da un punto di visto trigonometrico, valgono le seguenti importanti uguaglianze: a = ǁ c ǁ cos(θ) (1) ǁcǁ = ǁa ·ǁ cos(θ) (2) La relazione 2 ci rit o r ne r ̀ a molto utile nel seguito. Si noti che il vettore c `e la proiezione di a lungo una direzione perpendicolare (asse y) a quella generata dal versore i (asse x). norma di a,c Distanza (o metrica) Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it DEF: la DISTANZA (o METRICA), d (A, B) tra due punti qualunque definiti nello spazio (metrico) Rp, `e una funzione che ha come dominio Rp e come codominio R (Rp → R) e che gode delle seguenti propriet`a: NON NEGATIVITA`: d (A, B) ≥ 0; SIMMETRIA: d (A, B) = d (B, A) IDENTITA`: A = B ↔ d (A, B) = 0 DISUGUAGLIANZA TRIANGOLARE: d (A, B) ≤ d (A, C ) + d (B, C ) Uno spazio su cui `e definita una distanza `e detto SPAZIO METRICO. Per i nostri fini, la distanza serve per comprendere quanto due oggetti (punti) sono somiglianti tra loro. 1 2 3 4 Distanza (o metrica) Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Prodotto scalare tra un vettore ed un versore Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Sappiamo che ǁa∗ǁ = ǁaǁ · cos(θ) ( a∗ è uguale a ciò che prima era c ) ǁa∗ǁ = norma del vettore proiezione ortogonale di a sulla direzione identificata dal versore ei = ⟨a · e1⟩ = ǁaǁ · cos(θ) dove cos(θ) = ǁa∗ ǁ / ǁ a ǁ Prodotto scalare tra un vettore ed un versore Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Dunque, se si vuole trovare la norma del vettore proiezione ortogonale di a sulla direzione identificata dal versore ei devo fare il prodotto scalare fra il vettore che si vuole proiettare e il versore. È essenziale che venga coinvolto un versore. In altri termini… ⟨a · e1⟩ = ǁa ·ǁ ǁe1 ·ǁ cos(θ) = ǁa∗ǁ. Cio`e il prodotto scalare tra vettore e versore d`a la norma del vettore ottenuto come proiezione ortogonale Prodotto scalare tra un vettore ed un versore Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it di a sulla direzione identificata da e1. Se anzich´e avere un versore ho un vettore qualunque b `e facile capire che ottengo: ⟨a · b⟩ = ǁa ·ǁ ǁbǁ · cos(θ) = ǁbǁ · ǁa∗ǁ. Cio`e il prodotto scalare tra vettore e vettore d`a ǁbǁ volte la norma del vettore ottenuto come proiezione ortogonale di a sulla direzione identificata da b. a* è definito in uno spazio a 2 dimensioni. Nel momento in cui il punto viene proiettato viene ridotto la dimensionalità perché per trovare il vettore che è la proiezione ortogonale me ne serve una di meno. Propriet`a del prodotto scalare Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Siano dati tre vettori a, b e c definiti nello stesso spazio metrico Rp (a “p” dimensioni, dunque tali vettori, per poter essere identificati, necessitano di p componenti) e lo scalare k. Valgono le seguenti propriet`a: ⟨a · b⟩ = ⟨b · a⟩ (simmetria e commutativit`a); ⟨a · (b + c)⟩ = ⟨a · b⟩ + ⟨a · c⟩ (distributivit`a rispetto alla somma); ⟨ka · b⟩ = k ⟨a · b⟩; ⟨a · a⟩ > 0 per a ≠ 0. (il vettore nullo ha lunghezza = 0) Esercizio: verificare la propriet`a 2. 1 2 3 4 Relazione tra prodotto scalare e distanza Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Riprendiamo la figura sul vettore differenza: E’ facile capire che valgono le seguenti relazioni (d = distanza): d (A, B) = ǁa − b ǁ (vedi slide n. 11) d 2(A, B) = ⟨a − b, a − b⟩ = ǁa − bǁ2 Si dimostra (facciamolo!) inoltre che: d 2(A, B) = ǁaǁ2 + ǁbǁ2 − 2 ǁaǁ ǁbǁ cos(θ) = ǁaǁ2 + ǁbǁ2 − 2 ⟨a · b⟩ Vettori, angoli e distanze in funzione della base di riferimento Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Matri ci Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it DEF: Una matrice `e una tabella (insieme) ordinata di vettori (punti). Le dimensioni della matrice (gli indici n, p) definiscono il numero di vettori e la dimensione dello spazio su cui sono definiti. n = righe (indicano la dimensione dello spazio in cui sono definiti i vettori), p = colonne (indicano il Matri ci Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it numero di vettori) Esempi o Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Siano dati i seguenti tre punti definiti nello spazio R2: La matrice A corrispondente ai tre punti `e: Operazioni definite sulle matrici: somma di due matrici Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Operazioni definite sulle matrici: prodotto per uno scalare Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Operazioni definite sulle matrici: prodotto per uno scalare Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Operazioni definite sulle matrici: prodotto tra due matrici Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Es. Affinché due matrici siano conformabili per il prodotto tra due matrici è necessario che i due indici siano “vicini”. Infatti, facendo A x B, sono vicini (uguali) l’indice della colonna della prima matrice (p) e della riga della seconda matrice (p). RICORDA: A x è diverso da B x A A x B significa che A premoltiplica B e B postmoltiplica A Gli indici che stanno vicini (che sono uguali) spariscono quando si fa il prodotto. La matrice diventa: An x Bk. Per fare il prodotto si moltiplica la riga “giusta” per la colonna “giusta” Operazioni definite sulle matrici: prodotto tra due matrici Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it (prima riga per la prima colonna): a11 x b11 + a12 x b21 + a13 x b31 … Dunque, per fare un prodotto tra matrici: righe = colonne Operazioni definite sulle matrici: prodotto tra due matrici Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Un caso particolare di prodotto tra matrici di notevole importanza `e il prodotto tra una matrice ed un vettore di dimensioni appropriate: Cn,1 = An,p · pp,1 (il risultato è un unico punto n,1) Dunque, la matrice An,p fa riferimento a:  p punti in quanto, convenzionalmente, ciascun vettore, rappresentato in colonna, rappresenta un punto.  n righe il che significa che tali vettori (punti) hanno n componenti e dunque ci troviamo in uno spazio di n dimensioni. In altre parole, una matrice è un modo di andare a rappresentare dei punti in uno spazio di n dimensioni. Σ Traccia di una matrice e prodotto scalare tra matrici Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Data una matrice quadrata An,n, la sua traccia `e definita come la somma degli elementi lungo la diagonale principale: n tr (A) = = aii i =1 Date due matrici (conformabili) An,p e Bn,p `la traccia è definita anche come prodotto scalare tra esse come segue: ⟨A · B⟩ = tr (A · BJ) Traccia di una matrice e prodotto scalare tra matrici Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Propriet`a della traccia Maria Felice Arezzo mariafelice.arezzo@unirom a1.it Date due matrici A e B e due scalari k e λ, la traccia gode delle seguenti p ro p rie t ̀ a : tr (kAp,p + λBp,p) = ktr (Ap,p) + λtr (Bp,p); tr (An,m · Bm,n) = tr (Bm,n · An,m); (questa volta c’è la proprietà commutativa) tr (Ap,p) = tr (A’p,p ); tr (An,m ·A’ m,n) = tr (A’ m,n· An,m); la traccia di una matrice Ap,p `e pari alla somma dei suoi autovalori1. 1Si veda piu` avanti per la definizione di autovalore 1 2 3 4 5 Propriet`a del determinante Maria Felice Arezzo mariafelice.arezzo@unirom a1.it Date due matrici A e B, di dimensioni appropriate, sono definite le seguenti propriet`a del determinante: det(A) = det(A’ ); Se una riga o una colonna di A sono nulle allora det(A) = 0; Se una riga (colonna) di A pu`o essere espressa come combinazione lineare di altre righe (colonne), allora det(A) = 0; det(A · B) = det(B) · det(A); det(A + B) /= det(B) + det(A); il det(A) `e pari al prodotto degli autovalori ad essa associati. Se det(A) = 0 A `e detta matrice singolare. 1 2 3 4 5 6 Propriet`a del determinante Maria Felice Arezzo mariafelice.arezzo@unirom a1.it POSSIBILE DOMANDA D’ESAME Siano 3, 1,5 , 4, 0 gli autovalori associati a una matrice A. La matrice A è singolare? SI, perché siccome il det(A) = prodotto degli autovalori e uno di questi è 0, va a 0 l’intero determinante. Rango di una matrice Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it DEF 1: Il rango r di una matrice An,p `e pari al massimo numero di righe linearmente indipendenti; ne consegue che r ≤ min(n, p). Qualora An,p avesse r = min (n, p), oss ia ha rango par i a l va lore p iù p i cco lo d i r ighe e co lonne , diciamo che essa ha rango pieno. DEF 2: Il rango r di una matrice An,p `e pari all’ordine della matrice quadrata piu` grande avente determinante diverso da zero. Sistemi di equazioni lineari Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Nella slide precedente notiamo come si usano i coefficienti a (noti) e gli elementi del vettore x. In tal modo tali elementi vengono mescolati secondo uno schema di combinazione lineare. In altre parole, si “condensano” le righe della matrice forzandole a diventare un numero (un valore che ha dimensione unitaria). Anche il vettore b è noto. Trovare le soluzioni del sistema di equazioni lineari (x1, x2, …, xp) significa trovare i valori che si assegnano ad x e rendono vere le uguaglianze. La soluzione pertanto si trova premoltiplicando (ricordiamo che nelle matrici l’ordine è importante) a dx e sx dell’uguale per A-1 n,n (A inversa). Il risultato che sto cercando lo ottengo facendo (A-1 x b). Sistemi di equazioni lineari Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Dunque, le condizioni necessarie per fare ciò (trovare una soluzione):  la matrice sia quadrata (stesso numero di equazioni e di incognite, altrimenti il sistema è sotto o sopradeterminato);  la matrice sia invertibile (det(A)≠0 altrimenti non è invertibile) e quindi che la matrice A abbia rango pieno. Il sistema lineare omogeneo seguente: An,n · xn,1 = 0 (6) ammette sempre la soluzione (detta impropria) x = 0; si Sistemi di equazioni lineari Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it dimostra che il sistema (6) ammette soluzioni proprie se e solo se det(A) = 0 (condizione necessaria e sufficiente). Autovalori e autovettori Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it lunghezza (| λ|≠1). Propriet`a degli autovalori Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Come si trovano gli autovalori e autovettori? Ricorda: A = matrice; λ = scalare Riscriviamo il sistema (7) come segue: An,n xn,1 – λ xn,1 = 0 (An,n − λIn,n) · xn,1 = 0 Le soluzioni sono quelle del sistema omogeneo e, come detto, tali soluzioni sono proprie se e solo se det(An,n − λIn,n) = 0. Sviluppando il det(An,n − λIn,n) otteniamo una equazione (detta EQUAZIONE CARATTERISTICA) di grado n in cui l’incognita `e λ. L’equazione caratteristica ammette n soluzioni. Propriet`a degli autovalori Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it A’ = A trasposta Traccia di A = somma autovalori Determinante A = prodotto autovalori Matrici simmetriche ad elementi reali Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Tali matrici sono estremamente importanti in statistica perch´e esse sono molto frequenti. Ne costituiscono un esempio le matrici di varianza-covarianza, di correlazione, di distanza, di similarit`a. Data una matrice simmetrica ad elementi reali An,n, valgono le seguenti importanti propriet`a: gli autovalori sono reali; gli autovettori sono ortogonali; il rango di A `e pari al numero (“quantità”) dei suoi autovalori non nulli. Questa proprietà vale per le matrici quadrate che però devono anche essere simmetriche ad elementi reali. 1 2 3 Matrici simmetriche ad elementi reali Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it POSSIBILE DOMANDA D’ESAME: Sia data una matrice A quadrata. Supponiamo di conoscere i seguenti autovalori: λ1=2; λ2=1,3; λ3=1; λ4 = 0. A quanto è uguale il rango della matrice A? In questo caso non si può immediatamente dire che rango = 3 poiché la matrice è si quadrata ma non simmetrica. Sappiamo sicuramente che non è un rango pieno perché λ4 = 0 e sappiamo che det(A) = prodotto degli autovalori (in questo caso, dunque, sarebbe zero). Forme quadratiche Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Siano dati una matrice simmetrica An,n ed un vettore xn,1 (scrivere un vettore xn,1 è la stessa cosa che scrivere “un vettore x definito in rn” -> se io ho un punto in rn mi servono n coordinate per trovare tale punto). La seguente espressione `e detta FORMA QUADRATICA: x’ (“x trasposto”) ha dimensioni 1xn -> è un vettore riga. Convenzionalmente i vettori sono sempre “colonna” se bisogna far riferimento a un vettore “riga” bisogna scriverlo attraverso la trasposizione. Forme quadratiche Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it DOMANDA D’ESAME: Dato un vettore definito in R4, il prodotto tra il vettore e sé stesso, cosa da come risultato? Numero, matrice, vettore o non ho abbastanza informazioni? Dipende da come si fa il prodotto. Es. prodotto scalare: c’1,4 x c4,1 -> in questo caso viene un numero (1). Es. prodotto vettore riga/colonna: c4,1 x c’1,4 -> in Forme quadratiche Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it questo caso viene una matrice. Si noti che la forma quadratica (8) `e uno scalare. Si noti anche che per x = 0 la forma quadratica `e nulla. DEF: Se una forma quadratica Q(x ) > 0 per ogni x ≠ 0 allora essa `e detta DEFINITA POSITIVA. DEF: Se Q(x ) ≥ 0 per ogni x ≠ 0 allora si dice la Forme quadratiche Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it forma quadratica `e SEMIDEFINITA POSITIVA. In questo caso gli autovalori di An,n sono tutti non negativi. Forme bilineari Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it moltiplica. Quando le grandezze coinvolte nel processo di derivazione sono ad esempio una quantità e un vettore (si deriva una certa quantità rispetto a un vettore), come bisogna agire? Soprattutto, perché si fa questa cosa? Prodotto scalare di due vettori: a’ x = a1x1 +a2x2 + … + anxn Cosa devo fare per calcolare la derivata del prodotto scala a’x rispetto a uno dei due, per esempio rispetto al vettore x (che significa derivare rispetto a ciascuna componente). Derivando dal secondo addendo in avanti rispetto a x1 viene 0 perché ciò LA DERIVAZIONE MATRICIALE Forme bilineari Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it che viene dopo x1 è una costante, gli addendi non contengono x1 e quindi la loro derivata è 0. Perciò l’unica cosa a cui prestare attenzione è la derivata di a’x1 che è uguale a a1. E quindi: e così via Questo permette di affermare che: la derivata del prodotto scalare tra due vettori ax rispetto al vettore x sarà pari al vettore a. LA DERIVAZIONE MATRICIALE Forme bilineari Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Posso avere due risultati possibili: A è una quadratica e quindi è simmetrica. Nel primo caso il risultato ottenuto dal prodotto Anxn xnx1 è un vettore colonna. LA DERIVATA DI UNA FORMA QUADRATICA Forme bilineari Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Ricordiamo, però, che la matrice è simmetrica e che quindi, a un certo punto della moltiplicazione, si troveranno dei termini uguali (doppi prodotti del tipo evidenziati in basso a destra): LA DERIVATA DI UNA FORMA QUADRATICA Forme bilineari Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Oltre che termini al quadrato della x.LA DERIVATA DI UNA FORMA QUADRATICA Forme bilineari Maria Felice Arezzo mariafelice.arezzo@uniroma 1.it Ora, dunque, dopo aver svolto i calcoli, posso scrivere la forma quadratica nel seguente modo (scriveremo i termini uguali prendendo una delle due forme possibili e moltiplicandola per 2: LA DERIVATA DI UNA FORMA QUADRATICA