Die Inverse einer Symmetrischen Matrix möglich?
Ich muss eine multiple lineare Regression per Hand lösen. Nun habe ich das Problem, dass ich bei dieser Gleichung nicht weiter komme:
Dort sehen wir, wie der Vektor X transponiert wird und mit X multipliziert wird. Diese Matrix wird anschließend invertiert( ^-1). Allerdings erhalte ich für jegliche Kombinationen die Determinante 0 raus. Was verstehe ich hier nicht? Diese Gleichung gibt es auch im Deutschen und englischen Wiki unter https://en.wikipedia.org/wiki/Ordinary_least_squares#Matrix/vector_formulation
Ich bin für jede Hilfe dankbar! Sitze da schon viel zu lange dran.. Will nun auch nicht aufhören, aber scheinbar fehlt mir das Verständnis wie ich eine symmetrische Matrix invertiere... ?! Oder mache ich etwas anderes falsch? Verstehe ich die Symbole falsch?
Welche Matrix konkret? Bei welchen Kombinationen bekommst Du Determinante 0? Was genau rechnest Du?
Hier ist ein Script, welches fast identisch zu meinem ist Multivariate Linear Regression (umn.edu) Auf Seite 8 steht die Definition für X.
Hab begrenzte zeichen. Siehe unten, da s
2 Antworten
Wenn x₁ bis xₙ die Größen sein sollen, lautet die Matrix X
1 x₁ x₁²
1 x₂ x₂²
1 x₃ x₃²
...
1 xₙ xₙ²
Y = Xβ + ϵ
Y ist ein Spaltenvektor mit den Gewichten. Der i-te Eintrag lautet Yᵢ = 1 ⋅ β₀ + xᵢ ⋅ β₁ + xᵢ² ⋅ β₂ + ϵᵢ.
Es müssen nicht unbedingt Polynome sein. Die xᵢⱼ aus dem Skript können Funktionswerte von irgendwelchen Funktionen sein. Man kann darauf kommen, indem man sich einen Eintrag Yᵢ = 1 ⋅ β₀ + xᵢ ⋅ β₁ + xᵢ² ⋅ β₂ + ϵᵢ anschaut. Es handelt sich um ein Skalarprodukt aus (1, xᵢ, xᵢ²) und (β₀, β₁, β₂) plus den Fehler. Der Parametervektor ist ein Spaltenvektor und (1, xᵢ, xᵢ²) ist somit eine Zeile.
Danke für die Erläuterung! Das war eine wichtige Frage für mich und deine Antwort hat meinen Horizont erweitert. Ich verstehe kann mir unter den ominösen Funktionswerden nichts vorstellen. Jedenfalls nicht warum man dies so beschreiben sollte.
Ist das vielleicht so ein allgemeines Ding, dass man sagt, dass das j angibt, dass man mit einer anderen Funktion das xi berechnen muss. Also quasi f(x)=x^2+10 und dann für das nächste j f(x)=x^3+15 und dann wieder ne andere Funktion. Also so allgemein gehalten, dass die folgenden Einträge( die folgenden X-werte) immer durch eine andere Funktion gegeben werden müssen. Beziehungsweise durch eine andere abgewandelte Funktion, welche man selber bereits indirekt weiß? - Aber dann wäre dieses Indirekte ja total blöd gemacht. Wie du schon sagst, muss man den Zusammenhang zwischen dem Skalarprodukt und den Gewichten und der Definition erkennen. Die könnte man auch direkt zur Definition definieren können
Die Funktionen muss man selber festlegen. Bei der polynomialen Regression sind dies f(x) = 1, x, x²,... Man könnte z.B. auch 1, 1+x, 1+x+x², ... nehmen. Diese Funktionen sollen nur eine Basis sein, sodass man die Funktionen in dem Modell als Linearkombination darstellen kann. 1, x, x²,... ist da einfacher. Neben polynomialer Regression kann man z.B. auch trigonometrische Funktionen nehmen.
Hallo,
falls das X ein Vektor ist, dann ist in der Tat Xˡ • X eine symmetrische Matrix, aber die Zeilen (oder Spalten) dieser Matrix sind linear abhängig. Daraus folgt, dass ihre Determinante Null ist.
Wenn X eine invertierbare Matrix ist, dann ist Xˡ • X invertierbar.
Wenn X eine nicht invertierbare Matrix ist, dann ist Xˡ • X nicht invertierbar.
Gruß
Danke dir. Mein Problem liegt wohl beim Aufstellen der richtigen Matrix für X. Ich wie ich das X aufstellen soll. Vielleicht hast du eine Idee:
Hier ist ein Script, welches fast identisch zu meinem ist Multivariate Linear Regression (umn.edu) Bei Multiple linear regression suchen, da findet man den oberen Therm auch, abgewandelt. Auf Seite 8 steht die Definition für X.
Nun habe ich ein paar Daten:
Körpergröße 155, 162, 175, 181, 187, 190, 195, 199
Gewicht 51,55,60,78,84,90,95,100
Der erste Eintrag ist der Einheitsvektor. Die Matrix ist so tief, wie viele gewichte ich berechnen mag, also welchen polynomgrad ich habe +1( mache gerade grad 2). Und die anderen Einträge müssen aus meinen Daten sein. Ich habe die Körpergröße als meine x-Koordinaten gewählt.
Ich habe somit die Matrix:
|1|155|162|
|1|155|162|
|1|155|162|
Damit klappt es aber nicht. Daher verstehe ich die Definition der X-Matrix nicht. Vielleicht kannst du mir da auf die Sprünge helfen? - Leider habe ich keine Beispielrechnung im Internet gefunden. Lediglich verweise auf genau dieses Verfahren in einigen Papern/Büchern.
Also die Anzahl der Zeilen der Matrix sollte gleich der Anzahl der Datenpaare sein.
Die Anzahl der Spalten ist die Anzahl der Koeffizienten die du bestimmen willst.
Du willst ein Polynom 2. Grades fitten, also eine Funktion der Form:
a + bx +cx^2
X ist somit eine 8x3 Matirx mit folgender Form:
1, 155, 155^2
1, 162, 162^2
...
1, 199, 199^2
Darauf wendest du dann das Verfahren an.
Vielen lieben Dank, hat perfekt geklappt! Ich weiß nicht warum die Definition von X so blöde ist, der Exponent sollte oben stehen und nicht am Fuße in der Definition ....
Vielen lieben dank dir! Es hat sofort geklappt! Ich fall aus allen Wolken! Ich verstehe nicht warum das nicht entsprechend als Exponent vermerkt ist, sondern als im Fuß steht. Oder wo habt ihr das lesen können, dass es die Zahlen den entsprechenden Exponenten des Index haben?
Vielen vielen lieben dank! Du glaubst gar nicht was ich mir schon alles durchgelesen habe und ausprobiert habe... Da wäre ich NIE drauf gekommen ohne Hilfe ^^