Auswahl Aktion im Forum Suche Kontakt Für Mitglieder Mathematisch für Anfänger Wer ist Online | |
| Autor |
Lineare Optimierung (Buch Convex optimization) |
|
Jan87
Junior  Dabei seit: 05.07.2012 Mitteilungen: 8
Aus: Würzburg, Bayern
 |     Themenstart: 2012-07-05 09:45
|
Hallo zusammen, ich habe ein schwerwiegendes Problem. Für ein Seminar muss ich einen Vortrag halten (schon geschehen, hat super geklappt) und zusätzlich eine Belegaufgabe lösen. Beides bezieht sich auf das Buch :Convex optimiziation: von Boyd/Vandenberghe. Leider sitze ich jetzt schon mehrere Tage an dieser Belegaufgabe (5.6) und komme auf keinen grünen Zweig.
Aufgabe 5.6
minimiere ||Ax-b||(Maximumsnorm)
mit A aus Rmxn und rang(A)=n
Sei xch eine optimale Lösung. Das Tschebyscheff Problem hat keine Lösung in geschlossener Form, aber das entsprechende Problem der kleinsten Quadrate hat eine.
Definiere: xls=argmin ||Ax-b||2 = (ATA)-1ATb
a) Zeige, dass die untere Schranke
||Axls-b||Max <= sqrt(m) ||Axch-b||Max
ist, benutze dabei, dass für alle z in Rm
1/sqrt(m) ||z||2 <= ||z||Max <= ||z||2 (euklidische Norm)
b) maximiere bTv
u.d.N. ||v||1 <=1 und ATv=0 (xx) (Betragsnorm)
Alle möglichen v entsprechen einer unteren Schranke bTv auf ||Axch-b||Max, bezeichne den Rest der kleinsten Quadrate als rls=b-Axls. Unter der Annahme rls ist ungleich 0, zeige dass
v1=-rls/||rls||1 und v2=rls/||rls||1
beide in (xx) möglich sind. Mit Dualität von bTv1 und bTv2 sind untere Schranken auf ||Axch-b||Max definiert, welche ist die bessere Schranke? Wie wirken sich diese Schranken verglichen mit der in Teil a) erhaltenen Schranke?
Bis jetzt konnte ich bloß zeigen, dass sowohl v1 als auch v2 die Bedingung ||v||1<=1 erfüllen.
Ich denke wenn ich die Lösung der Aufgabe b) habe, kann die a) nicht mehr so schwer sein.
Das müsste doch am Ende mit der schwachen Dualität cTx<=bTv funktionieren, aber ich kann :minimiere ||Ax-b||Max: nicht so umschreiben, dass ich es als Standardproblem mit einem cTx da stehen haben.
Herzlichen Dank für die Hinweise im Voraus,
Gruß Jan
Ps. Das T bedeudet Transponiert
|
Profil
Quote
Link |
Kitaktus
Senior  Dabei seit: 11.09.2008 Mitteilungen: 2586
Aus: Gifhorn(NDS)/Panketal(BRB)
 |     Beitrag No.1, eingetragen 2012-07-05 11:58
|
 
\ Hallo und Herzlich Willkommen auf dem Matheplaneten, als erstes ein formaler Hinweis. Dein Beitrag lässte sich leichter lesen, wenn die Formeln lesbarer sind. Dafür gibt es hier den ''Optimath-fedgeo Formeleditor''. Klicke beim Verfassen eines Beitrags mal auf die Links unterhalb des Fensters ''fed Bereich einfügen'' und ''Optimath-fedgeo Formeleditor''. Wenn Du sehen willst, wie andere ihre Beiträge formatieren (wenn sie denn mit dem Formeleditor erstellt wurden), dann klicke einfach auf den Text und es öffnet sich ein Fenster mit dem Quelltext. Nun zur Frage. a) lässt sich sehr leicht erledigen auch völlig unabhängig von b) Man benötigt lediglich die Ungleichung norm(Ax_(ls)-b)_2 <= norm(Ax_(ch)-b)_2 (warum gilt diese Ungleichung?) und den angegebenen Hinweis. Zu b): Sei v_1:=-r_ls/norm(r_ls)_1. Dann ist A^T*v_1=-A^T*r_ls/norm(r_ls)_1 =(-A^T*(b-A*x_ls))/norm(r_ls)_1. Wenn Du hier x_ls einsetzt, soltest Du etwas sehen. Eine weitere Frage war ja, wie man minimiere norm(Ax-b)_Max als LOP umschreibt. Das geht so: minimiere v u.d.N: -v<=A_i*x-b_i<=v für alle i, wobei A_i die i\-te Zeile von A ist. Die Bedingung -v<=A_i*x-b_i<=v kann man dann noch umformulieren: A_i*x-v<=b_i A_i*x+v<=b_i Schau mal, ob Du damit weiterkommst. Kitaktus
|
Profil
Quote
Link |
Jan87
Junior  Dabei seit: 05.07.2012 Mitteilungen: 8
Aus: Würzburg, Bayern
 |     Beitrag No.2, vom Themenstarter, eingetragen 2012-07-06 12:37
|
 
Danke Kitaktus, das hat mir schonmal weiter geholfen. a) norm(Ax_ls -b)_Max <= norm(Ax_ls -b)_2 <= norm(Ax_ch -b)_2 <= sqrt(m) norm(Ax_ch -b)_Max Ich denke die Ungleichung norm(Ax_ls -b)_2 <= norm(Ax_ch -b)_2 gilt, da nach Angabe x_ls = armin norm(Ax-b)_2 gilt, und x_ls somit norm(Ax-b)_2 minimiert. b) Hier bin ich mir noch unsicher auf was du hinaus wolltest. A^T v_1 = (-A^T (b-A(A^T A)^(-1) A^T b))/norm(r_ls)_1 = (-A^T (b-Xb))/norm(r_ls)_1 Wobei X eine reguläre und idempotente Matrix darstellt. Da A^T v_1 =0 gelten soll, folgt, dass (b-Xb)=0 gilt. Aber das kann ja nicht sein, da nach Angabe r_ls != 0 gilt. Oder meintest du ich soll x_ls = armin norm(Ax-b)_2 einsetzen, aber das sagt mir auch nichts Gruß Jan
|
Profil
Quote
Link |
Kitaktus
Senior  Dabei seit: 11.09.2008 Mitteilungen: 2586
Aus: Gifhorn(NDS)/Panketal(BRB)
 |     Beitrag No.3, eingetragen 2012-07-06 14:39
|
 
\ Sieh Dir A^T v_1 = (-A^T (b-A(A^T A)^(-1) A^T b))/norm(r_ls)_1 = ... nochmal scharf an und multipliziere mal aus. Kitaktus
|
Profil
Quote
Link |
Jan87
Junior  Dabei seit: 05.07.2012 Mitteilungen: 8
Aus: Würzburg, Bayern
 |     Beitrag No.4, vom Themenstarter, eingetragen 2012-07-06 15:13
|
 
Ah, also gilt A^T v_1 = (-A^T b + A^T A (A^T A)^(-1) A^T b)/norm(r_ls)_1 = (-A^T b +A^T b)/norm(r_ls)_1 = 0 Und da A^T v_1 = -A^T v_2 , gilt das also für beide. Somit ist gezeigt, dass sowohl v_1 als auch v_2 in b^T v möglich sind. Sehr gut, dann soll ich jetzt noch zeigen welche dieser beiden unteren Schranken b^T v_1 und b^T v_2 die bessere ist (also die größere). Wie mache ich das? Dazu müsste ich ja b^T v_1 und b^T v_2 miteinander vergleichen, aber ich hab ja keine Ahnung wie b aussieht. Und wie wirken diese Schranken im Vergleich zu der in Teil a)? Wenn ich mich nicht irre, denke ich dass die Schranke aus Teil a), nämlich sqrt(m) norm(Ax_ch -b)_Max eine obere Schranke für norm(Ax_ls -b)_Max ist, während die in Teil b) untere Schranken sind, oder??? Gruß Jan
|
Profil
Quote
Link |
Jan87
Junior  Dabei seit: 05.07.2012 Mitteilungen: 8
Aus: Würzburg, Bayern
 |     Beitrag No.5, vom Themenstarter, eingetragen 2012-07-06 16:26
|
 
Ich hab mal versucht b^T v_1 und b^T v_2 so umzuformen, dass ich sie vergleichen kann und bin so weit gekommen: b^T v_1 = (-abs(b)^2 +b^T Xb)/norm(r_lx)_1 b^T v_2 = (abs(b)^2 -b^T Xb)/norm(r_lx)_1 Wobei X= A(A^T A)^(-1) A^T eine idempotente Matrix ist. Da alle Eigenwerte von idempotenten Matrizen 0 oder 1 sind, ist X postitiv semidefinit und es gilt: b^T Xb >= 0 Somit bleibt nur noch die Frage was größer ist, abs(b)^2 oder b^T Xb ???
|
Profil
Quote
Link |
Jan87
Junior  Dabei seit: 05.07.2012 Mitteilungen: 8
Aus: Würzburg, Bayern
 |     Beitrag No.6, vom Themenstarter, eingetragen 2012-07-09 11:37
|
Irgendwie steht da was von einem neuen Beitrag, ich kann aber nichts neues erkennen!?!?!?
[ Nachricht wurde editiert von Jan87 am 09.07.2012 14:09:57 ]
|
Profil
Quote
Link |
Jan87
Junior  Dabei seit: 05.07.2012 Mitteilungen: 8
Aus: Würzburg, Bayern
 |     Beitrag No.7, vom Themenstarter, eingetragen 2012-07-10 16:39
|
 
Ich hab jetzt noch folgendes gefunden. b^T v_1=(-b^T r_ls )/((norm(r_ls)_1) =(-(Ax_ls -b)^T r_ls)/(norm(r_ls)_1 = - norm(r_ls)_2^2/norm(r_ls)_1 und b^T v_2 = -b^T v_1 Da b^T v_1 >= 0 und b^T v_2 <= 0 gilt b^T v_1 >= b^T v_2 und somit ist b^T v_1 die bessere, weil größere, Schranke. Weiter kann man (norm(r_ls)_2^2)/(norm(r_ls)_1) >= (norm(r_ls)_Max^2)/(norm(r_ls)_1) = (norm(r_ls)_Max)/(norm(r_ls)_1) norm(r_ls)_Max >= x_Max/(m*x_Max) norm(r_ls)_Max = 1/m norm(r_ls)_Max >= 1/(sqrt(m)) norm(r_ls)_Max Jetzt hab ich noch zwei Fragen dazu. Wieso gilt b^T = (Ax_ls -b)^T ??? Und wie wirken diese Schranken (von b) verglichen mit der in Teil a) erhalten Schranke? Dann hät ich alles geschnallt, denke ich. Gruß Jan
|
Profil
Quote
Link |
Kitaktus
Senior  Dabei seit: 11.09.2008 Mitteilungen: 2586
Aus: Gifhorn(NDS)/Panketal(BRB)
 |     Beitrag No.8, eingetragen 2012-07-10 23:48
|
 
\ ''Wieso gilt b^T = (Ax_ls -b)^T ?'' Wie kommst Du auf diese Gleichung? Sie ist mit ziemlichr Sicherheit falsch. Wäre sie richtig, so würde gelten: b^T = (Ax_ls -b)^T b = (Ax_ls -b) 2b = A*x_ls b = A*(x_ls)/2 Die optimale Lösung der Gleichung Ax=b wäre dann (x_ls)/2 und nicht x_ls, was (für b!=0) ein Widerspruch ist. Kitaktus
|
Profil
Quote
Link |
Jan87
Junior  Dabei seit: 05.07.2012 Mitteilungen: 8
Aus: Würzburg, Bayern
 |     Beitrag No.9, vom Themenstarter, eingetragen 2012-07-11 11:58
|
Dann weiß ich aber wieder nicht, wie ich zeigen kann welche der beiden erhaltenen unteren Schranken die größere (und damit bessere) ist.
|
Profil
Quote
Link |
Jan87
Junior  Dabei seit: 05.07.2012 Mitteilungen: 8
Aus: Würzburg, Bayern
 |     Beitrag No.10, vom Themenstarter, eingetragen 2012-07-11 13:36
|
 
Die Aussage gilt, da man wegen dem Beweis A^T v_1 =0 sagen kann, dass A^T r_ls =0. Und dann gilt: -b^T r_ls = x_ls^T *0-b^T r_ls = x_ls ^T A^T r_ls -b^T r_ls = (Ax_ls -b)^T r_ls = r_ls ^T r_ls = norm(r_ls)_2 ^2 Und das ist natürlich positiv, die Norm im Nenner auch, also kann ich schließen, dass: b^T v_1 >= b^T v_2 Und somit ist b^T v_1 die bessere weil größere untere Schranke. Aufgabe gelöst!!! Dankeschön für deine Hilfe, Gruß Jan
Ps. Wie kann ich jetzt nochmal den Beitrag als gelöst abhacken???
[ Nachricht wurde editiert von Jan87 am 11.07.2012 13:38:50 ]
|
Profil
Quote
Link |
Kitaktus
Senior  Dabei seit: 11.09.2008 Mitteilungen: 2586
Aus: Gifhorn(NDS)/Panketal(BRB)
 |     Beitrag No.11, eingetragen 2012-07-11 16:04
|
Zum Abhaken benutze ich (als Senior) die Leiste unter dem letzten Beitrag. Dort ist ganz rechts ein Feld ?Ok!
Statt des Ausrufezeichens steht da ein Häkchen, das angeklickt werden kann.
Es könnte aber sein, dass der Themenstarter sein Häkchen woanders setzen muss.
Ich setze mal den Haken, falls Du ihn nicht findest.
Kitaktus
|
Profil
Quote
Link |
Jan87 hat die Antworten auf ihre/seine Frage gesehen. Das Thema wurde von einem Senior oder Moderator abgehakt. | |
| [Neues Thema] [Druckversion] |
|