Otázka:
Co znamená „uzavřené řešení“?
arjsgh21
2013-09-24 04:31:26 UTC
view on stackexchange narkive permalink

S pojmem „uzavřené řešení“ se setkávám poměrně často. Co znamená uzavřené řešení? Jak lze určit, zda pro daný problém existuje blízké řešení? Při hledání online jsem našel nějaké informace, ale nic v kontextu vývoje statistického nebo pravděpodobnostního modelu / řešení.

Regresi velmi dobře rozumím, takže pokud někdo může vysvětlit koncept s odkazem na regresi nebo přizpůsobení modelu, bude snadné jej konzumovat. :)

Zdá se, že tato otázka byla po nějakou dobu magnetem pro nekvalitní odpovědi;Myslel jsem, že by to prozatím mělo být chráněno.
Pět odpovědi:
user25658
2013-09-24 04:45:29 UTC
view on stackexchange narkive permalink

"O rovnici se říká, že je uzavřeným řešením, pokud řeší daný problém z hlediska funkcí a matematických operací z dané obecně přijímané množiny. Například nekonečný součet by obecně nebyl považován za uzavřený -forma. Volba toho, co se má nazývat uzavřená forma a co ne, je však poněkud libovolná, protože nová funkce „uzavřené formy“ by mohla být jednoduše definována z hlediska nekonečného součtu. “ --Wolfram Alpha

a

„V matematice je výraz považován za výraz v uzavřené formě, pokud jej lze vyjádřit analyticky konečný počet určitých „známých“ funkcí. Tyto známé funkce jsou obvykle definovány jako základní funkce - konstanty, jedna proměnná x, základní operace aritmetiky (+ - × ÷), n-té kořeny, exponent a logaritmus ( které tedy zahrnují také trigonometrické funkce a inverzní trigonometrické funkce). Často se říká, že problémy jsou vyřešitelné, pokud je lze vyřešit pomocí výrazu v uzavřené formě. “ - Wikipedia

Příkladem řešení uzavřené formy v lineární regresi by byla rovnice nejmenších čtverců

$$ \ hat \ beta = (X ^ TX) ^ {-1} X ^ Ty $$

Vzhledem k tomu, že všechny regresní scénáře lze považovat za problém řešení soustavy rovnic, kdy by neexistovalo řešení v uzavřené formě? Špatně položený nebo řídký problém bude vyžadovat přibližné řešení, je tomu tak v případě, že uzavřené řešení neexistuje? Co když jeden používá konjugovaný gradient s regularizací?
Tato diskuse mi připadala užitečná - „Řešení regresních parametrů v uzavřeném tvaru vs. gradientní sestup“ [odkaz] (http://stats.stackexchange.com/q/23128/30630)
@arjsgh21 stále potřebujete další objasnění, co to znamená být uzavřeným řešením? Protože se vaše nová otázka zdá být o tom, kdy existují řešení uzavřené formy (nebo ne) regresních problémů, což je zcela nové téma a podle mého názoru by mělo být položeno jako nová otázka.
Díky BabakP. Myslím, že to chápu nyní, s odkazem na regresi a také jinak.
Matou mě, proč je CrossValidated jediné „fórum pro výměnu zásobníku“, které důsledně podporuje obfuskační, ale správné odpovědi nad odpověďmi, které poskytují porozumění.Nejlepší odpověď na aktuální plodinu je @Luca's, a je nedoceněná.Je pravda, že poskytuje pouze odkaz, ale skvělý odkaz, který je snadno srozumitelný.Tato příliš erudovaná odpověď pomáhá vyřešit problém pouze lidem, kteří již odpověď znají.:(
@MikeWilliamson CrossValidated je Reddit ze StackExchange, všechno jde.
Dimitriy V. Masterov
2013-09-24 05:07:55 UTC
view on stackexchange narkive permalink

Většina postupů odhadu zahrnuje hledání parametrů, které minimalizují (nebo maximalizují) určitou objektivní funkci. Například s OLS minimalizujeme součet čtverců zbytků. S odhadem maximální pravděpodobnosti maximalizujeme funkci pravděpodobnosti protokolu. Rozdíl je triviální: minimalizaci lze převést na maximalizaci pomocí negativu objektivní funkce.

Někdy lze tento problém vyřešit algebraicky a vytvořit řešení v uzavřené formě. S OLS vyřešíte systém podmínek prvního řádu a získáte známý vzorec (ačkoli k vyhodnocení odpovědi stále pravděpodobně potřebujete počítač). V ostatních případech to není matematicky možné a je třeba hledat hodnoty parametrů pomocí počítače. V tomto případě hraje větší roli počítač a algoritmus. Jedním z příkladů je nelineární metoda Least Squares. Nezískáte explicitní vzorec; vše, co dostanete, je recept, který potřebujete k implementaci do počítače. Recept může začít úvodním odhadem, jaké mohou být parametry a jak se mohou lišit. Poté vyzkoušíte různé kombinace parametrů a uvidíte, který vám dává nejnižší / nejvyšší hodnotu objektivní funkce. Jedná se o přístup hrubou silou a trvá dlouho. Například s 5 parametry s 10 možnými hodnotami musíte vyzkoušet kombinace $ 10 ^ 5 $, a to vás jen přivede do blízkosti správné odpovědi, pokud máte štěstí. Tento přístup se nazývá vyhledávání v mřížce.

Nebo můžete začít odhadem a tento odhad zpřesnit v určitém směru, dokud vylepšení v objektivní funkci nebude menší než určitá hodnota. Obvykle se jim říká gradientové metody (i když existují i ​​jiné, které nepoužívají gradient k výběru, kterým směrem se vydat, například genetické algoritmy a simulované žíhání). Některé takové problémy zaručují rychlé nalezení správné odpovědi (kvadratické objektivní funkce). Jiní takovou záruku neposkytují. Možná se obáváte, že jste uvízli v místním, nikoli globálním, optimu, takže zkusíte řadu počátečních odhadů. Možná zjistíte, že divoce odlišné parametry vám dávají stejnou hodnotu objektivní funkce, takže nevíte, kterou sadu vybrat.

Tady je pěkný způsob, jak získat intuici. Předpokládejme, že jste měli jednoduchý exponenciální regresní model, kde jediným regresorem je intercept: \ begin {equation} E [y] = \ exp \ {\ alpha \} \ end {equation}

Objektivní funkce je \ begin {equation} Q_N (\ alpha) = - \ frac {1} {2N} \ sum_i ^ N \ left (y_i - \ exp \ {\ alpha \} \ right) ^ 2 \ end {equation}

S tímto jednoduchým problémem jsou oba přístupy proveditelné. Řešení uzavřené formy, které získáte odvozením derivátu, je $ \ alpha ^ * = \ ln \ bar y $. Můžete také ověřit, že vám cokoli jiného dává vyšší hodnotu objektivní funkce, místo toho připojíte $ \ ln (\ bar y + k) $. Pokud jste měli nějaké regresory, analytické řešení zmizí z okna.

Měli jste implicitně v poslední větě na mysli „analytický“ s „uzavřenou formou“?
Tehdy jsem si myslel, že je synonymem: http: //mathworld.wolfram.com/Analytic.html
Viděli jste disambiguation komentáře na konci této stránky MathWorld? Jde o to, že v tomto kontextu lze „analytický“ rozumně chápat několika odlišnými způsoby. „Analytický“ a „analytický“ také neznamenají přesně totéž (stejně jako „historický“ a „historický“ mají různé významy).
Nevím, že existuje rozdíl mezi „analytickým řešením“, „analytickým řešením“ a „uzavřenou formou“. MathWorld nemá samostatnou položku pro analytiku a definuje analytické řešení problému jako řešení, které lze napsat v „uzavřené formě“, pokud jde o známé funkce, konstanty atd. MW říká, že analytické a analytické [jsou varianty] (http://www.merriam-webster.com/dictionary/analytic). Rozdíl mezi historickým a historickým je platný, ale nesleduji, co to má společného s tímto případem. Pokud se mýlím, opravte mě.
V mnoha matematických kontextech je „analytický“ přesný umělecký výraz aplikovaný na jakoukoli funkci místně vyjádřitelnou jako mocenská řada s kladným poloměrem konvergence, zatímco „analytický“ mnohem více souvisí s rozložitelností na základní části. Jak naznačují BabakPovy citace, „uzavřená forma“ získává význam pouze v rámci kontextu obecně přijímaných postupů pro kombinování hodnot (obvykle se předpokládá, že sestávají z elementárních, ale nikoli transcendentálních funkcí).
@whuber Souhlasím s tím, že jsem v hlavě slyšel hladkou třídu funkcí se složitou hodnotou, když jsem četl výraz „analytický“.
Mohu pochopit, že heuristické metody, jako je EM, a metoda vzorkování, jako je MCMC, nejsou řešení v uzavřené formě, protože tyto otázky nelze vyřešit přímo minimalizací funkce ztráty?
@unicorn Myslím, že by tomu tak bylo.
Luca Bertinetto
2014-11-24 17:16:28 UTC
view on stackexchange narkive permalink

Myslím, že tento web poskytuje jednoduchou intuici, jejíž výňatek je:

Řešení v uzavřené formě (nebo výraz v uzavřené formě) je jakýkoli vzorec které lze vyhodnotit v konečném počtu standardních operací. ... Numerické řešení je jakákoli aproximace, kterou lze vyhodnotit v konečném počtu standardních operací. Řešení v uzavřené formě a numerická řešení jsou podobná v tom, že obě lze vyhodnotit pomocí konečného počtu standardních operací. Liší se tím, že řešení v uzavřené formě je přesné, zatímco numerické řešení je pouze přibližné.

I když poskytuje pouze odkaz, je to rozhodně nejužitečnější odpověď.
Waynovo zahrnutí citátu z odkazu zcela určitě zlepšilo odpověď.
Navíc je odkaz Lucy nyní mrtvý.
Cheesepipe
2013-09-24 08:29:39 UTC
view on stackexchange narkive permalink

Hledáte laické výrazy nebo bolestivou slovesnost, která důsledně definuje význam? Budu předpokládat laické podmínky, protože ostatní lze najít všude. Řekněme, že jste chtěli řešení uzavřené formy druhé odmocniny z 8. Řešení uzavřené formy je 2 * (2) ^ 1/2 nebo dvojnásobek druhé odmocniny dvou. To je na rozdíl od neuzavřeného řešení řešení 2.8284. ) Řešení s uzavřenou formou poskytuje přesnou odpověď a ta, která není uzavřenou formou, je přibližná, ale neuzavřenou formu řešení můžete získat tak blízko řešení uzavřené formy, jak chcete. Zvuky jsou intuitivní, ale pokud je potřebujete přesnější, vyvažte trochu více výpočtů.

Jedná se o neobvyklé použití výrazu „uzavřená forma“. Mohl byste uvést odkaz?
Nejsem si jistý, zda mohu dostatečně poskytnout úroveň podpůrné dokumentace, abych mohl o této debatě zvítězit bez další práce, než jsem ochoten předložit, ale tady to jde. Podívejte se na Wikipedii, kde najdete uzavřený výraz. V posledních dvou částech je popsáno, jak řešení uzavřeného formuláře nejsou nutně nutná, protože k dosažení řešení lze obvykle úspěšně použít numerický výpočet, a následující oddíl popisuje, jak se některé matematické programy pokoušejí generovat řešení uzavřeného formuláře z číselných hodnot. Uzavřená řešení jsou přesná (mimo prostor)
Wikipedia je v pohodě jako reference. V tomto případě se zdá, že jste sjednotili výraz „uzavřený formulář“ s „číslem uzavřeného formuláře“. Nemyslí stejné věci.
Vivek Astvansh
2014-06-08 23:09:03 UTC
view on stackexchange narkive permalink

Closed-form = uzavřený (funkční) formulář

Closed znamená, že dovnitř už nic nemůže jít; tj. žádná alternativa => pouze jedno řešení => pouze jedna funkce, která dokáže navázat vztah mezi výsledkem a prediktory.

Toto je také neobvyklé použití termínu. Mohl byste uvést několik příkladů jeho použití v této souvislosti? Jsem většinou překvapen, protože jeden často slyší uzavřenou / žádnou uzavřenou formu týkající se integrálů, které ve skutečnosti nemají výsledek ani prediktory.


Tyto otázky a odpovědi byly automaticky přeloženy z anglického jazyka.Původní obsah je k dispozici na webu stackexchange, za který děkujeme za licenci cc by-sa 3.0, pod kterou je distribuován.
Loading...