Valeur de décomposition Tutoriel Singulier
Transcription
3 coordonnées. Parce que nous sommes à l'aide d'une seule coordonnée pour identifier un point, nous sommes face à des points dans l'espace à une dimension ou -espace. La position d'un point quelconque dans un plan est défini par une paire de coordonnées; il faut trois coordonnées pour localiser des points en trois dimensions. Rien ne nous empêche d'aller au-delà de points dans 3 l'espace. La quatrième dimension est souvent utilisée pour indiquer le temps, mais les dimensions peuvent être choisies pour représenter quelle que soit l'unité de mesure est pertinente pour les objets que nous essayons de décrire. En général, l'espace représenté par plus de trois dimensions est appelée hyperespace. Vous aurez aussi le terme de n-espace utilisé pour parler des espaces de différentes dimensionnalité (par exemple -espace, -espace. N-espace). Par exemple, si je veux une façon succincte de décrire la quantité de nourriture que je mange en un jour donné, je peux utiliser les points n-espace pour le faire. Laissez les dimensions de cet espace soient les aliments suivants: Oeufs Raisins Bananes Poulets boîtes de thon Il y a cinq catégories, donc nous re traiter points dans 5 l'espace. Ainsi, l'interprétation du point (3, 8. 5.) serait trois œufs, dix-huit raisins, deux bananes, un demi-poulet, une boîte de thon. 4 vecteurs Pour la plupart des buts, des points et des vecteurs sont essentiellement la même chose, à savoir une séquence de nombres correspondant à des mesures le long de différentes dimensions. Les vecteurs sont généralement désignés par une lettre minuscule par une flèche sur le dessus, par exemple, X. Les chiffres comprenant le vecteur sont maintenant appelés composants, et le nombre de composants est égale à la dimensionnalité du vecteur. Nous utilisons un indice sur le nom de vecteur pour faire référence à la composante dans cette position. Dans l'exemple ci-dessous, x est un vecteur de dimension 5, x = 8, x, x = etc. vecteurs peuvent être représentés de manière équivalente à l'horizontale pour économiser l'espace, par exemple, x = 8. 7, 5, 3 est le même vecteur que ci-dessus. Plus généralement, un vecteur x à n-dimensions est une séquence de n nombres, et xi composant représente la valeur de x sur la i ème dimension Techniquement, je pense, un vecteur est une fonction qui prend un point en entrée et retourne en sa la valeur d'un point de la même dimension. 3
5 A = a. un J. un. un i. a ij. un. a m. un mj. une Mn est une matrice de mn et les nombres a ij sont des éléments de A. La séquence de nombres A (i) = (a i. a in) est la i ème rangée de A, et la séquence de nombres A (j) = (a j. un mj) est la j ième colonne de A. de même que la distinction entre des points et des vecteurs peuvent flou dans la pratique, le fait la distinction entre les vecteurs et des matrices. Une matrice est essentiellement une collection de vecteurs. On peut parler de vecteurs de ligne ou des vecteurs de colonne. Ou un vecteur avec des composants n peut être considéré comme une matrice n. Par exemple, la matrice ci-dessous est une matrice de document de mot qui indique le nombre de fois où un mot particulier se produit dans certains documents confectionnés. Doc descrip- typique d'accompagnement Doc Doc 3 Abbaye 3 5 sol filage 3 4 3 assommé colère 4 Tableau. matrice de document Word pour certains documents confectionnés. tions de ce type de matrice pourrait être quelque chose comme modèle d'espace vectoriel de dimension élevée. Les dimensions sont les mots, si nous parlons des vecteurs de colonne représentant les documents ou, si nous parlons des vecteurs de ligne qui représentent des mots. dimensionnelle signifie que nous avons beaucoup d'entre eux. Ainsi, la représentation du document hyperespace, un document est représenté comme un vecteur dont les composantes correspondent en quelque sorte aux mots qu'il contient, plus il y a beaucoup de mots. Cela équivaut à un document est représenté comme un point dans l'espace de dimension n. 5
6 Vector terminologie. Longueur du vecteur La longueur d'un vecteur se trouve en élevant au carré chaque composant, en les ajoutant tous ensemble, et en prenant la racine carrée de la somme. Si v est un vecteur, sa longueur est notée v. Plus de façon concise, v = n Par exemple, si v = 4. 8. alors. Addition vecteur vi i = v = = 3 = 7,35 Ajout de deux vecteurs signifie ajouter chaque composant c au composant dans la position correspondante en v pour obtenir un nouveau vecteur. Par exemple 3. +. 4, = (3 +), () (+ 4), (+) = 5. 5 Plus généralement, si A = a, a. a n et B = b, b. b n, A + B = a + b, a + b. a n + b n..3 Scalar Multiplication multipliant une fois un vecteur signifie scalaire (nombre réel) en multipliant chaque composante par ce nombre réel pour produire un nouveau vecteur. Par exemple, si v = 3. 8, 4, then.5 v = 0,5 3. 8, 4 = 4,5, 9. Plus généralement, signifie la multiplication scalaire si d est un nombre réel et v est un vecteur v, v. vl, puis VQ = dv, dv. dv n..4 intérieure du produit Le produit scalaire de deux vecteurs (également appelés le produit scalaire ou un produit scalaire) définit la multiplication des vecteurs. Il est trouvé en multipliant chaque composante v de la composante en v dans la même position et en les ajoutant tous ensemble pour produire une valeur scalaire. Le produit scalaire est défini que pour des vecteurs de même dimension. Le produit scalaire de deux vecteurs est désigné (v, v) ou v v (le produit scalaire). Ainsi, n (x, y) = x y = x i y i i = Par exemple, si x =. 7, 4 et y = 3 8, 3, alors x y = (3) + () + 7 (8) + 3 (4) = 83
7 0,5 orthogonalité Deux vecteurs sont orthogonaux entre eux si leur produit intérieur est égal à zéro. Dans l'espace à deux dimensions, cela équivaut à dire que les vecteurs sont perpendiculaires, ou que le seul angle entre eux est un angle 9. Par exemple, les vecteurs. 4 et 3. 4, sont orthogonaux parce que. Vecteur normal. 4 3. 4, = (3) + () (4) + 4 () = un vecteur normal (ou vecteur unitaire) est un vecteur de longueur. Tout vecteur avec une longueur initiale> peut être normalisée en divisant chaque composant par la longueur du vecteur. Par exemple, si v =, 4. alors v = = 5 = 5 Alors u = / 5, 4/5, / 5, / 5 est un vecteur normal parce que u = (/ 5) + (4/5) + ( / 5) + (/ 5) = 5/5 = .7 orthonormé Vecteurs d'unité de longueur qui sont orthogonales entre elles sont dites être orthonormé. Par exemple, u = / 5, / 5, / 5, 4/5 et sont orthonormé parce que u = v = 3/5/5 4/5, / 5 (/ 5) + (/ 5) + (/ 5) + (4/5) = v = (3/5) + (/ 5) + (4/5) + (/ 5) = uv = = 0,8 Gram-Schmidt procédé orthonormalisation Le processus de Gram-Schmidt est orthonormalisation un procédé pour la conversion d'un ensemble de vecteurs en un ensemble de vecteurs orthonormés. Il commence essentiellement en normalisant le premier vecteur à l'étude et la réécriture itérativement les vecteurs restants en termes d'eux-mêmes moins un 7
8 multiplication des vecteurs déjà normalisés. Par exemple, pour convertir les vecteurs colonnes de A = 3 dans des vecteurs de colonnes orthonormales premier normaliser v =. Ensuite, nous allons A = 3 3 3 3 u =. w = v u v u =. 3. 3. =. 3, (9). 3. =. 3, 3. 3, 3 =. Normaliser w pour obtenir u = 3. calculer maintenant u 3 en termes de u et u comme suit. Soit w = 3 v 3 u v u 3 u v u 3 = 4 9, 4. 9 9 et normalisent w 3 pour obtenir u 3 = 3. 3 3 Plus généralement, si nous avons un ensemble orthonormé de vecteurs u. u k, alors w k est exprimée en w k = v k 8 k i = u i v i k u
9 7 Terminologie 7. Matrice Matrice Une matrice carrée est dite carrée si elle a le même nombre de lignes que de colonnes. Pour désigner la taille d'une matrice carrée à n lignes et en colonnes, il est appelé n-carré. Par exemple, la matrice ci-dessous est de 3 cases. 7. Transposition A = transposée d'une matrice est créée par la conversion de ses rangées en colonnes; autrement dit, la ligne devient colonne, ligne devient colonne, etc. La transposée d'une matrice est indiquée par un T en exposant, par exemple, la transposée de la matrice A est A T. Par exemple, si A = puis sa transposée est une matrice T = Multiplication Il est possible de multiplier deux matrices que lorsque la deuxième matrice a le même nombre de lignes que la première matrice a des colonnes. La matrice résultante a autant de lignes que la première matrice et autant de colonnes que la seconde matrice. En d'autres termes, si A est une matrice de n m et B est une matrice de n de, le produit AB est la matrice d'un m. Les coordonnées de AB sont déterminées en prenant le produit scalaire de chaque rangée de chaque colonne A et en B. Autrement dit, si A. A m sont les vecteurs lignes de la matrice A et B. B s sont les vecteurs colonnes de B, alors ab ik de AB est égal à A k i B. L'exemple ci-dessous illustre. A = B = 5 4 3 4 4 9 ab = AB = = = (3) + () + 4 () = 9 9
10 7.4 Identity matrice ab = 4 ab = 5 ab = = (4) + (4) + 4 () = = (3) + 5 () + () = = () + 5 (4) + () = Le matrice d'identité est une matrice carrée avec des entrées sur la diagonale égale et toutes les autres entrées sont égales à zéro. La diagonale est toutes les entrées a ij, où i = j, à savoir a, a. un mm. La matrice d'identité n-carré est désigné différemment comme I n n, I n, ou simplement I. La matrice d'identité se comporte comme le nombre de multiplication ordinaire, ce qui signifie AI = A, comme dans l'exemple ci-dessous montre. A = I = ai = 4 ai = 4 AI 3 = 4 ai = 3 5 AI = = () + (4) + () = = () + 4 () + () = 4 = () + 4 () + () = = () + 3 () + 5 () = =
11 ai = 3 5 AI 3 = matrice orthogonale = = () + 3 () + 5 () = 3 = () + 3 () + 5 () = Une matrice A est orthogonale si AA T = ATA = I. par exemple, est orthogonal parce que ATA = 7. Diagonal Matrice A = 4/5 4/5 3/5 3/5 3/5 4/5 4/5 3/5 3/5 4/5 4/5 3/5 = une matrice diagonale a est une matrice où toutes les entrées par intérim ij sont lorsque j i. En d'autres termes, les seules valeurs nonzéro courent le long du dialogue principal à partir du coin supérieur gauche au coin inférieur droit: 7.7 Déterminant A = a. a a mm Un déterminant est une fonction d'une matrice carrée qu 'il se réduit à un seul chiffre. Le déterminant d'une matrice A est notée A ou det (a). Si A est constitué d'un élément a, alors a = a; autrement dit, si A = A = alors. Si A est une matrice, puis
12 A = A b c d = bc de l'annonce. Par exemple, le déterminant de A est = A = 4 = 4 4 () () = 7. Trouver le déterminant d'une matrice n-carré pour n> peut être fait de manière récursive par suppression de lignes et de colonnes pour créer des matrices successivement plus petits jusqu'à ce qu'ils sont toutes les dimensions, puis en appliquant la définition précédente. Il y a plusieurs astuces pour le faire efficacement, mais la technique la plus fondamentale est appelée expansion en ligne et est illustré ci-dessous pour une matrice 3 3. Dans ce cas, nous élargissons par ligne, ce qui signifie la suppression de ligne et de suppression successivement les colonnes, la colonne et la colonne 3 pour créer trois matrices. Le déterminant de chaque matrice inférieure est multiplié par l'entrée correspondant à l'intersection de la rangée et de la colonne supprimée. L'expansion ajoute alternativement et soustrait chaque déterminant successive = () 4 8 (4) (3) 3 = (8 4) 4 (8 4 3) + 3 (3) = 5 = 38 Le déterminant de la 4 4 matrice serait trouvé en étendant à travers la ligne d'ajouter et de soustraire alternativement déterminants qui seraient eux-mêmes être étendu pour produire une série de déterminants qui se réduisent comme ci-dessus. Cette procédure peut être appliquée pour trouver le déterminant d'une matrice carrée arbitrairement grande. 7.8 vecteurs propres et valeurs propres un vecteur propre est un vecteur non nul qui satisfait l'équation A v = λ v, où A est une matrice carrée, λ est un scalaire, et v est le vecteur propre. λ est appelé une valeur propre. Valeurs et vecteurs propres sont également connus comme, respectivement, des racines et des vecteurs caractéristiques caractéristiques, ou des racines latentes et des vecteurs latents.
13 Vous pouvez trouver les valeurs propres et vecteurs propres en traitant une matrice comme un système d'équations linéaires et la résolution pour les valeurs des variables qui composent les composantes du vecteur propre. Par exemple, la recherche des valeurs propres et des vecteurs propres correspondants de la matrice A = des moyens d'application de la formule ci-dessus pour obtenir un v = λ v = x afin de résoudre pour λ, x et x. Cet énoncé est équivalent au système d'équations x = λ xxx + x = λx qui peut être réarrangée comme x + x = λx (λ) x + x = x + (λ) x = Une condition nécessaire et suffisante pour que ce système un vecteur non nul x, x est que le déterminant de la matrice de coefficient (λ) (λ) soit égale à zéro. Par conséquent, (λ) (λ) = (λ) (λ) = λ 4λ + 3 = (λ 3) (λ) = Il y a deux valeurs de λ qui satisfont la dernière équation; Ainsi, il y a deux valeurs propres de la matrice A et celles-ci sont λ = 3 original, λ =. Nous pouvons trouver des vecteurs propres qui correspondent à ces valeurs propres en rebranchant λ dans les équations ci-dessus et la résolution pour x et x. Pour trouver un vecteur propre correspondant à X = 3, commencer par (λ) x + x = 3
16 Figure. le long de la droite de régression seconde dimension capte moins de variation dans les données d'origine. Pour trouver U, nous devons commencer par AA T. La transposition de A est donc AA T = AT = = Ensuite, nous devons trouver les valeurs propres et vecteurs propres correspondants AA T. Nous savons que les vecteurs propres sont définis par l'équation A v = λ v, et en l'appliquant à AA T nous donne nous réécrivons ce que l'ensemble des équations xx = λ xxx + x = λx et réarranger pour obtenir x + x = λx (λ) x + x =
17 x + (λ) x = Solve pour λ en réglant le déterminant de la matrice de coefficients à zéro, qui fonctionne comme (λ) (λ) = (λ) (λ) = (λ) (λ) = λ =, λ = pour nous donner nos deux valeurs propres λ =, λ =. Λ retour en branchement aux équations d'origine nous donne nos vecteurs propres. Pour λ = nous obtenons () x + x = x = x qui est vrai pour beaucoup de valeurs, donc nous allons chercher x = et x = puisque ceux-ci sont petites et plus faciles à travailler. Ainsi, nous avons le vecteur propre correspondant à la valeur propre X =. Pour λ = on a () x + x = x = x et pour la même raison que précédemment, nous prendrons x = et x =. Maintenant, pour λ = nous avons le vecteur propre. Ces vecteurs propres deviennent des vecteurs de colonnes dans une matrice ordonnée par la taille de la valeur propre correspondant. En d'autres termes, le vecteur propre de la plus grande valeur propre est la première colonne, le vecteur propre de la prochaine plus grande valeur propre est la deuxième colonne, et ainsi de suite et ainsi de suite jusqu'à ce que nous avons le vecteur propre de la plus petite valeur propre que la dernière colonne de notre matrice. Dans le tableau ci-dessous, le vecteur propre pour λ = est une colonne, et le vecteur propre pour λ = colonne est deux. Enfin, nous devons convertir cette matrice dans une matrice orthogonale que nous faisons en appliquant le processus de orthonormalisation Gram-Schmidt aux vecteurs de colonne. Commencer par normalisation v. Calculer u = v v. = = =, + W = v u v u = 7
18. =. =. = Et normaliser pour donner u = w = w, U = Le calcul de V est similaire. V est basé sur ATA, nous avons donc ATA = Trouver les valeurs propres de l'ATA qui représente le système d'équations 3 3 xxx 3 = = λ 4 4 xxx 3 x + x 3 = λx x + 4x 3 = λx qui réécrivent comme qui sont résolus par la mise en x + 4x + x 3 = λx (λ) x + x 3 = (λ) x + 4x 3 = x + 4x + (λ) x 3 = (λ) (λ) 4 4 (λ) = 8
19, ce qui donne en tant que (λ) (λ) 4 4 (λ) + (X) 4 = (λ) (λ) (λ) + (λ) = λ (λ) (λ) =, donc λ =, λ =, X = sont les valeurs propres de A A. en substituant λ nouveau dans les équations originales pour trouver correspondant rendements de vecteurs propres pour λ = () x + x 3 = x + x 3 = x = x 3 = () x + 4x 3 = x + 4x 3 = x = x 3 x = donc, pour = X, v =. Pour λ = on a () x + x 3 = 3 x = x 3 = x + 4x = x = x = x, x = ce qui signifie que pour = X, v =. Pour λ = on a x + x 3 = x 3 = 5 x = x = x + 8 = x = ce qui signifie que pour = X, v = 3. 5. Commande v, v, v et 3 en tant que vecteurs de colonnes dans une matrice en fonction de la taille de la valeur propre pour obtenir 5 9
20 En utilisant le processus de Gram-Schmidt orthonormalisation pour le convertir en une matrice orthonormée. u = v = v. Tout cela pour nous donner quand nous voulons vraiment sa transposition w = v u v u =. u = w = w. 5 5 w 3 = v 3 v u 3 u u 3 u v = 3, 4 3, 3 u 3 = w 3 w 3 = 3, V = V = T. S nous prenons les racines carrées des valeurs propres non nulles et alimenter la diagonale avec eux, en mettant le plus grand s, le deuxième plus important en s et ainsi de suite jusqu'à la fin la plus petite valeur en s mm. Les valeurs propres non nulles de U et V sont toujours les mêmes, de sorte que la raison pour laquelle il importe t doesn que l'on nous les prenons à partir. Parce que nous faisons SVD plein, au lieu de réduction SVD (section suivante), il faut ajouter un vecteur de colonne zéro à S de sorte qu'il est des dimensions appropriées pour permettre la multiplication entre U et V. Les entrées diagonales en S sont au singulier les valeurs de A, les colonnes de U sont appelés vecteurs singuliers gauche, et les colonnes de V sont appelés vecteurs singuliers. S = Maintenant, nous avons toutes les pièces du puzzle A mn = U mm S mn V T = nn = =
