Изворни код странице Нумеричка анализа

{{Прерађивање
| разлог=|датум =април 2019}}
[[Датотека:Ybc7289-bw.jpg|thumb|250п|right|Вавилонска глинена плочица (c. 1800–1600. п. н. е.) са анотацијама. Апроксимација [[квадратни корен из 2|квадратног корена из 2]] са четири [[Шездесетни систем бројева|шездесетне]] цифре, које су око шест [[Декадни систем|децималних]] цифара. 1 + 24/60 + 51/60<sup>2</sup> + 10/60<sup>3</sup> = 1.41421296...<ref>{{Cite web |url=http://it.stlawu.edu/%7Edmelvill/mesomath/tablets/YBC7289.html |title=Photograph, illustration, and description of the ''root(2)'' tablet from the Yale Babylonian Collection |access-date=08. 05. 2017 |archive-date=13. 08. 2012 |archive-url=https://web.archive.org/web/20120813054036/http://it.stlawu.edu/%7Edmelvill/mesomath/tablets/YBC7289.html |url-status=dead }}</ref>]]

'''Нумеричка анализа''' је грана [[Нумеричка математика|нумеричке математике]] која се бави проналажењем и унапређивањем [[алгоритам]]а за нумеричко израчунавање вредности везаних за математичку анализу, попут нумеричког интегрисања, нумеричког деривисања и нумеричког решавања диференцијалних једначина. Саставни део нумеричке анализе је и оцењивање грешака метода (алгоритама) и то на два нивоа—анализа грешака самог метода, те анализа грешака које настају извредњавањем, а везане су уз архитектуру [[рачунало|рачунала]].<ref>[http://web.math.pmf.unizg.hr/~rogina/2001096/num_anal.pdf Numerička analiza] Pristupljeno: 20. 09. 2013.</ref>

Потребе за нумеричким решавањем математичких проблема су вишеструке. Код неких проблема, доказано је да аналитичко решење (решење записано помоћу елементарних функција) не постоји - на пример решење интеграла <math> \int e^{x^2} \, dx</math> немогуће је записати помоћу елементарних функција. Па ипак, одређени интеграл <math> \int_a^b e^{x^2} \, dx</math> представља конкретну, јединствено одређену површину. До те вредности, која има широку употребу нпр. у статистици, могуће је доћи само нумеричким методама. Осим тога, нумеричке методе често се користе за одређивање решења математичких проблема који би због своје величине, кроз стандардни поступак решавања, предуго трајали - на пример, када је потребно решити систем од 10.000 једначина с 10.000 непознатих. И коначно, нумеричке методе су незаобилазне у приближном рачуну, када се апроксимацијама (и оценама припадних грешака) замењује стварна вредност функције до које је немогуће или претешко доћи. То су методе попут [[Метода коначних елемената|методе коначних елемената]] или пак кубних сплинова којима се апроксимира понашање непознате функције о којој знамо тек коначан број вредности, најчешће добијених мерењима.

== Општи увод ==
Свеукупни циљ поља нумеричке анализе је развој и анализа техника које дају приближна али прецизна решења тешких проблема. Њихова разноврсност је сумирана следећим прегледом:
* Напредни нумерички методи су есенцијални у омогућавању [[Нумеричка метереолошка предвиђања|нумеричких метереолошких предвиђања]].
* Прорачунавање путање свемирске летилице се врши путем нумеричког решавања система [[Обична диференцијална једначина|обичних диференцијалних једначина]].
* Аутомобилске компаније могу да побољшају безбедност возила користећи рачунарске симулације аутомобилских удеса. Такве симулације се есенцијално састоје од нумеричког решавања [[парцијална диференцијална једначина|парцијалних диференцијалних једначина]].
* [[Хеџ фонд]]ови (приватни инвестициони фондови) користе оруђа из свих поља нумеричке анализе у прорачунима вредности акција и деривата.
* Авиокомпаније користе софистиковане оптимизационе алгоритме у одређивању цени карти, расподеле авиона и посаде, и потребе за горивом. Историјски, такви алгоритми су развијени у оквиру преклапајућег поља [[Операциона истраживања|операционих истраживања]].
* Друштва за осигурање користе нумеричке програме за [[Актуар (осигурање)|актуарне]] анализе.

Остатак ове секције разматра неколико важних тема нумеричке анализе.

=== Историја ===

Поље нумеричке анализе претходи развоју модерних рачунара за пар миленијума. [[Линеарна интерполација]] је била у употреби пре више од 2000 година. Многи велики математичари су се бавили нумеричком анализом, као што следи из имена важних алгоритама, као што су [[Њутнов метод]], [[Лагранжов полином|Лагранжов интерполациони полином]], [[Gaussova eliminacijska metoda|Гаусова елиминација]], или [[Ојлеров метод]].

Да би се омогућили ручни прорачуни, произведене су велике књиге са формулама и табелама података као што су интерполационе тачке и коефицијенти функција. Користећи те табеле, које су често рачунате са 16 децималних места или више за поједине функције, могле су се наћи вредности за укључивање у формуле и тим путем су се могле остварити веома добре нумеричке процене неких функција. Канонички рад у пољу је [[Национални институт за стандарде и технологију|НИСТ]] публикација који су уредили [[Abramowitz and Stegun|Абрамовитз и Стегун]]. То је књига са више од 1000 страна, у којој је обрађен веома велики број често коришћених формула и функција и њихове вредности у многим тачкама. Штампане вредности функција више нису од велике користи јер су доступни рачунари, мада су велики спискови формула још увек подесни за употребу.

[[Механички рачунар]] је развијен као оруђе за ручно рачунање. Ти калкулатори су еволуирали у електронске рачунаре током 1940-их, и након тога је уочено да су такви рачунари исто тако корисни за административне сврхе. Изум рачунара је такође утицао на поље нумеричке анализе, пошто су се сад могли вршити дужи и компликованији прорачуни.

=== Директни и итеративни методи ===

{| class="wikitable" style="float: right; width: 250px; margin-left: 1em;"
|-
|
'''Директни и итеративни методи'''

Размотримо проблем решавања

: 3''x''<sup>3</sup> + 4 = 28

за непознату променљиву ''x''.

{| style="margin:auto;"
|+ Директни метод
|-
|  || 3''x''<sup>3</sup> + 4 = 28.
|-
| ''Одузми 4'' || 3''x''<sup>3</sup> = 24.
|-
| ''Подели са 3'' || ''x''<sup>3</sup> = 8.
|-
| ''Уради кубни корен'' || ''x'' = 2.
|}

За итеративни метод, примени [[Метода половљења интервала|бисекциони метод]] на -{''f''(''x'') = 3''x''<sup>3</sup>}- &minus; 24. Иницијалне вредности су -{''a'' = 0, ''b'' = 3, ''f''(''a'') = &minus;24, ''f''(''b'') = 57}-.

{| style="margin:auto;"
|+ Итеративни метод
|-
 ! ''a'' !! ''b'' !! mid !! -{''f''(mid)}-
|-
| 0 || 3 || 1.5 || &minus;13.875
|-
| 1.5 || 3 || 2.25 || 10.17...
|-
| 1.5 || 2.25 || 1.875 || &minus;4.22...
|-
| 1.875 || 2.25 || 2.0625 || 2.32...
|}

Из ове табеле закључујемо да је решење између 1,875 и 2,0625. Алгоритам може да врати било који број у том опсегу са грешком мањом од 0,2.

==== Дискретизација и нумеричка интеграција ====

[[Датотека:Schumacher (Ferrari) in practice at USGP 2005.jpg|right|125px]]
Током двочасовне трке смо измерили брзину кола три пута, и записали смо мерења у следећој табели.

{| style="margin:auto;"
|-
! Време
| 0:20 || 1:00 || 1:40
|-
! -{km/h}-
| 140  || 150  || 180
|}

'''Дискретизација''' би била да се каже да је брзина кола била константна од 0:00 до 0:40, затим од 0:40 до 1:20 и коначно од 1:20 до 2:00. На пример, тотално растојање пређено у првих 40 минута је приближно -{(2/3h&nbsp;&puta;&nbsp;140&nbsp;km/h)&nbsp;=&nbsp;93.3&nbsp;km}-. То би нам омогућило да проценимо тотално пређено растојање као -{93.3&nbsp;km + 100&nbsp;km + 120&nbsp;km = 313.3&nbsp;km,}- што је пример '''нумеричке интеграције''' (видите испод) користећи [[Риманова сума|Риманову суму]], пошто је растојање [[интеграл]] брзине.

'''Нестабилан проблем''': Узмимо функцију -{''f''(''x'') = 1/(''x''&nbsp;&minus;&nbsp;1)}-. Уочимо да -{''f''(1,1) = 10 i ''f''(1,001) = 1000:}- промена ''x'' од мање од 0,1 одговара промени -{''f''(''x'')}- од скоро 1000. Евалуација -{''f''(''x'') u blizini ''x'' = 1}- је нестабилни проблем.

'''Стабилан проблем''': У контрасту с тим евалуација исте функције -{''f''(''x'') = 1/(''x''&nbsp;&minus;&nbsp;1)}- у близини ''x'' = 10 је стабилан проблем. На пример, -{''f''(10) = 1/9 ≈ 0,111 i ''f''(11) = 0,1:}- скромна промена ''x'' доводи до скромне промене -{''f''(''x'')}-.
|}

Директни методи рачунају решења проблема у коначном броју корака. Ти методи би дали прецизан одговор, кад би се изводили [[Компјутерски формати бројева|аритметиком бесконачне прецизности]]. Примери обухватају [[Гаусова елиминацијска метода|Гаусову елиминацију]], метод [[QR algoritam|-{QR}-]] факторизације за решавање [[систем линеарних једначина|система линеарних једначина]], и [[Симплекс алгоритам|симплекс метод]] [[линеарно програмирање|линеарног програмирања]]. У пракси се користи [[Број са помичним зарезом|коначна прецизност]] и резултат је апроксимација истинског решења (подразумевајући [[Нумеричка стабилност|стабилност]]).

У контрасту са директним методима, од [[итеративни метод|итеративних метода]] се не очекује да заврше у коначном броју корака. Почевши од иницијалне претпоставке, итеративни методи формирају сукцесивне апроксимације које [[Гранична вредност низа|конвергирају]] до прецизног решења једино у лимиту. Тест конвергенције, који обично обухвата [[Остатак (нумеричка анализа)|остатак]], се специфицира да би се одредило кад је довољно прецизно решење нађено. Чак кад би се користила и аритметика бесконачне прецизности ови методи (генерално) не би достигли решење у коначном броју корака. Примери обухватају [[Њутнов метод]], [[Метода половљења интервала|бисекциони метод]], и [[Јакобијев метод|Јакобијеву итерацију]]. У рачунарској матричној алгебри, итеративни методи су генерално неопходни за велике проблеме.

Итеративни методи се чешће срећу од директних у нумеричкој анализи. Неки методи су директни у принципу, али се обично користе као да нису, нпр. [[Генерализовани метод минималног остатка|-{GMRES}-]] и [[метод коњугованог градијента]]. За те методе број корака који су неопходни да би добило прецизно решење је толико велики да се апроксимација прихвата у истом маниру као код итеративног метода.

=== Дискретизација ===

Континуални проблеми се понекад морају заменити дискретним проблемима чије решење је познато да би се апроксимирало решење континуалног проблема; тај процес се назива ''[[дискретизација|дискретизацијом]]''. На пример, решење [[диференцијална једначина|диференцијалне једначине]] је [[функција (математика)|функција]]. Та функција се мора заменити коначном количином података, на пример њеном вредношћу у коначном броју тачака њеног домена, мада је тај домен [[Континуум (теорија скупова)|континуум]].

== Генерација и пропагација грешака ==
Изучавање грешака сачињава важан део нумеричке анализе. Постоји неколико начина на који се може унети грешка у решење проблема.

=== Заокруживање ===

[[Грешка заокруживања|Грешке заокруживања]] настају зато што је немогуће прецизно представити све [[реалан број|реалне бројеве]] на машини са коначном меморијом (што је случај са практично свим [[рачунар|дигиталним рачунарима]]).

=== Скраћивање и грешке дискретизације ===

[[Грешка скраћивања|Грешке скраћивања]] настају кад се итеративни метод заврши или кад се математичка процедура апроксимира, и приближно решење се разликује од тачног решења. Слично томе, дискретизација уноси [[Грешка дискретизације|грешку дискретизације]] зато што се решење дискретног проблема не поклапа са решењем континуалног проблема. На пример, у итерацији приказаној на десној страни да би се израчунало решење једначине <math>''3x^3+4=28''</math>, након 10 или више итерација, закључује се (на пример) да је корен око 1,99. Стога имамо грешку скраћивања од 0,01.

Након генерисања грешке, она се генерално увећава током прорачуна. На пример, већ смо напоменули да операција + на калкулатору (или рачунару) није прецизна. Из тога следи да је сабирање типа -{a+b+c+d+e}- још непрецизније.

Горе је поменуто да долази до грешке скраћивања, кад се апроксимира математичка процедура. Познато је да је за прецизну интеграцију функције неопходно наћи збир бесконачно великог броја трапезоида. У пракси се међутим може одредити једино збир коначног броја трапезоида, и стога долази до апроксимације математичке процедуре. Слично томе, да би се диференцирала функција, диференцијални елемент треба да тежи нули, док је нумерички могуће једино изабрати коначну вредност диференцијалног елемента.

=== Нумеричка стабилност и добро постулирани проблеми ===

[[Нумеричка стабилност]] је важан појам у нумеричкој анализи. Алгоритам се сматра ''нумерички стабилним'' ако се грешка, независно од извора, знатно не увећава током прорачуна. До тога долази ако је проблем ''стабилан'', што значи да се решење мало мења са малом променом улазних података. У контрасту с тим, ако је проблем ''нестабилан'', онда свака мала грешка у улазним подацима нараста у велику грешку у решењу.

Оригинални проблем и алгоритам који се користе за решавање проблема могу да буду ''стабилни'' и/или ''нестабилни'', или било која комбинација. Стога алгоритам који решава стабилни проблем може да буде било нумерички стабилан или нумерички нестабилан. Уметност нумеричке анализе је да се нађе стабилан алгоритам за решавање добро постављеног математичког проблема. На пример, израчунавање квадратног корена из 2 (који је око 1,41421) је стабилан проблем. Многи алгоритми решавају тај проблем почевши од иницијалне апроксимације ''x''<sub>1</sub> од <math>\sqrt{2}</math>, на пример ''x''<sub>1</sub>=1,4, и затим израчунавају побољшање претпоставке ''x''<sub>2</sub>, ''x''<sub>3</sub>, -{etc}-. Један такав метод је познати [[Методе израчунавања квадратних корена|Вавилонски метод]], који је дат са -{''x''<sub>''k''+1</sub> = ''x<sub>k</sub>''/2 + 1/''x<sub>k</sub>''}-. Још један итеративни приступ, који ћемо звати Метод X, је дат са -{''x''<sub>''k'' + 1</sub> = (''x''<sub>''k''</sub><sup>2</sup>&minus;2)<sup>2</sup> + ''x''<sub>''k''</sub>}-.<ref>This is a fixed point iteration for the equation <math>x=(x^2-2)^2+x=f(x)</math>, whose solutions include <math>\sqrt{2}</math>. The iterates always move to the right since <math>f(x)\geq x</math>. Hence <math>x_1=1.4<\sqrt{2}</math> converges and <math>x_1=1.42>\sqrt{2}</math> diverges.</ref> Израчунали смо неколико итерација овог алгоритма у доњој табели, са иницијалним претпоставкама -{''x''<sub>1</sub> = 1,4 i ''x''<sub>1</sub> = 1,42}-.

{| class="wikitable"
|-
! Вавилонски метод
! Вавилонски метод
! Метод X
! Метод X
|-
| ''x''<sub>1</sub> = 1.4
| ''x''<sub>1</sub> = 1.42
| ''x''<sub>1</sub> = 1.4
| ''x''<sub>1</sub> = 1.42
|-
| ''x''<sub>2</sub> = 1.4142857...
| ''x''<sub>2</sub> = 1.41422535...
| ''x''<sub>2</sub> = 1.4016
| ''x''<sub>2</sub> = 1.42026896
|-
| ''x''<sub>3</sub> = 1.414213564...
| ''x''<sub>3</sub> = 1.41421356242...
| ''x''<sub>3</sub> = 1.4028614...
| ''x''<sub>3</sub> = 1.42056...
|-
|
|
| ...
| ...
|-
|
|
| ''x''<sub>1000000</sub> = 1.41421...
| ''x''<sub>28</sub> = 7280.2284...
|}

Може се уочити да Вавилонски метод брзо конвергира независно од иницијалне претпоставке, док Метод X конвергира екстремно споро са иницијалном претпоставком од 1,4 и дивергира почевши од иницијалне претпоставке 1,42. Стога је Вавилонски метод нумерички стабилан, док је Метод X нумерички нестабилан.
:'''Нумеричка стабилност''' је зависна од броја значајних цифара које дата машина подржава, ако се користи машина која ради са прве четири цифре покретног зареза долази до знатног губитка прецизности
:<math> 
f(x)=x\left(\sqrt{x+1}-\sqrt{x}\right)
\text{ and } g(x)=\frac{x}{\sqrt{x+1}+\sqrt{x}}.
</math>
:Ако се упореде резултати од
:: <math> f(500)=500 \left(\sqrt{501}-\sqrt{500} \right)=500 \left(22.3830-22.3607 \right)=500(0.0223)=11.1500</math>
:и
:<math>
\begin{alignat}{3}g(500)&=\frac{500}{\sqrt{501}+\sqrt{500}}\\
      &=\frac{500}{22.3830+22.3607}\\
      &=\frac{500}{44.7437}=11.1748
\end{alignat}
</math>
: уочава се да '''[[губитак значаја]]''', који се такође назива '''поништавања одузимањем''', има огромни ефекат на резултате, мада су функције еквивалентне; да би се показало да су еквивалентне једноставно се полази од -{f(x)}- и завршава са -{g(x)}-, тако да је
:: <math> \begin{alignat}{4}
f(x)&=x \left(\sqrt{x+1}-\sqrt{x} \right)\\
    & =x \left(\sqrt{x+1}-\sqrt{x} \right)\frac{\sqrt{x+1}+\sqrt{x}}{\sqrt{x+1}+\sqrt{x}}\\
    &=x\frac{(\sqrt{x+1})^2-(\sqrt{x})^2}{\sqrt{x+1}+\sqrt{x}}\\
    & =x\frac{x+1-x}{\sqrt{x+1}+\sqrt{x}}  \\
    & =x\frac{1}{\sqrt{x+1}+\sqrt{x}}  \\
    &=\frac {x}{\sqrt{x+1}+\sqrt{x}}
\end{alignat}</math>

:Истинска вредност резултата је 11,174755..., што је тачно -{''g''}-(500) = 11,1748 након заокруживања резултата на 4 децимална места.
:Сад замислимо да се користи мноштво чланова као што су ове функције у програму; грешке ће се увећавати током рада програма, осим ако се користи подесна формула за ове две функције сваки пут кад се израчунавају -{''f''(''x'')}-, или -{''g''(''x'')}-; избор је завистан од паритета &nbsp;''x''.
* Пример је узет из: -{Mathew; Numerical methods using matlab, 3rd ed.}-

== Области изучавања ==

Поље нумеричке анализе обухвата мноштво потдисциплина. Неке од главних су:

=== Израчунавање вредности функција ===

{| class="wikitable" style="float: right; width: 250px; clear: right; margin-left: 1em;"
|
'''Интерполација''': Примећено је да температура варира од 20&nbsp;°C у 1:00 до 14 степени у 3:00. Линеарном интерполацијом тих података се долази до закључка да је било 17 степени у 2:00 и 18,5 степени у 1:30 -{pm}-.

'''Екстраполација''': Ако је [[бруто домаћи производ]] земље просечно растао са 5% годишње и ако је био 100 милијарде долара прошле године, екстраполацијом можемо закључити да ће бити 105 милијарде долара ове године.

[[Датотека:Linear-regression.svg|right|100п|Линија кроз 20 тачака]]

'''Регресија''': У линеарној регресији, полазећи од -{''n''}- тачка, израчунавамо линију која пролази колико год је могуће близу тих -{''n''}- тачака.

[[Датотека:LemonadeJuly2006.JPG|right|100п|Колико кошта чаша лимунаде?]]

'''Оптимизација''': Рецимо да продајемо лимунаду на тезги, и уочимо да при цени од 1 америчког долара можемо да продамо 197 чаша лимунаде на дан, и да за сваких 0,01 америчких долара повећања цене, продаја опада за једну чашу лимунаде на дан. Ако продајемо по цени од 1,485 америчких долара долази до максимизације профита, али због ограничења да је неопходно наплаћивати целобројну цену, наплаћивање 1,48 америчких долара или 1,49 америчких долара по чаши ће произвести максимални приход од 220,52 америчких долара на дан.

[[Датотека:Wind-particle.png|right|Правац ветра је означен плавом бојом, истинска трајекторија црно, резултат Ојлеровог метода црвено.]]

'''Диференцијална једначина''': Ако се 100 фанова подеси да дувају ветар са једног краја собе на другу и затим се пусти перо у ветар, шта се догађа? Перо ће следити струју ваздуха, која може да буде веома комплексна. Једна апроксимација је да се измери брзина којом се дува ваздух у близини пера у свакој секунди, и да се симултано помера перо као да се креће у правој линији истом брзином током једне секунде, пре него што се поново измери брзина ветра. То се назива [[Ојлеров метод|Ојлеровим методом]] решавања обичне диференцијалне једначине.
|}

Један од најједноставнијих проблема је евалуација функције у датој тачки. Најпростији приступ уношења броја у формулу није увек веома ефикасан. За полиноме, бољи приступ је коришћење [[Хорнерова шема|Хорнерове шеме]], пошто се тиме редукује број неопходних множења и сабирања. Генерално је важно да се процени и контролише [[грешка заокруживања]] која настаје при употреби аритметике [[Број са покретним зарезом|покретног зареза]].

=== Интерполација, екстраполација, и регресија ===

[[Интерполација]] решава следећи проблем: полазећи од вредности неке непознате функције у више тачака, коју ће вредност та функција имати у некој другој тачки између познатих тачака.

[[Екстраполација]] је веома слична интерполацији, изузев да је овде циљ да се нађе вредност непознате функције у тачки која је изван опсега познатих тачака.

[[Регресиона анализа|Регресија]] је такође слична, изузев да узима у обзир податке као да су непрецизни. Полазећи од датог броја тачака и измерених вредности неке функције у тим тачкама (са грешком), циљ је да се одреди непозната функција. [[Метод најмањих квадрата]] је један од популарних приступа регресионе анализе.

=== Решавање једначина и система једначина ===

Још један фундаментални проблем је израчунавање решења дате једначине. Два случаја се обично разликују, у зависности од тога да ли је једначина линеарна или није. На пример, једначина <math>2x+5=3</math> је линеарна, док <math>2x^2+5=3</math> није.

Знатне количине труда су уложене у развој метода за решавање [[Систем линеарних једначина|система линеарних једначина]]. Стандардни директни методи, тј., методи који користе неку од [[Декомпозиција матрице|декомпозиција матрица]] су [[Гаусова елиминацијска метода|Гаусова елиминација]], [[ЛУ декомпозиција]], [[Чолескијева декомпозиција]] за [[симетрична матрица|симетричне]] (или [[хермитијанска матрица|хермитијанске]]) или [[позитивна-коначна матрица|позитивно-коначне матрице]], и [[QР декомпозиција]] за неквадратне матрице. [[Итеративни метод]]и као што је [[Јакобијев метод]], [[Гаус-Зајделова метод]], [[сукцесивна прекомерна релаксација]] и [[метод коњугованог градијента]] су обично преферентни за велике системе. Општи итеративни методи се могу развити користећи [[подела матрице|поделе матрице]].

[[Алгоритам налажења корена|Алгоритми налажења корена]] се користе за решавање нелинеарних једначина (они су тако названи зато што је корен функције аргумент за који је вредност функције нула). Ако је функција [[Извод|диференцијабилна]] и ако су деривати познати, онда је [[Њутнов метод]] популарни извор. [[Линеаризација]] је још једна техника за решавање нелинеарних једначина.

=== Решавање својствене вредности или сингуларне вредности проблема ===
Неколико важних проблема се може изразити у облику [[декомпозиција својственим вредностима]] или [[декомпозиција сингуларне вредности]]. На пример, алгоритам [[компресија слика|спектралне компресије слике]]<ref>{{Cite web|url=http://online.redwoods.cc.ca.us/instruct/darnold/maw/single.htm |title=The Singular Value Decomposition and Its Applications in Image Compression |accessdate=8. 5. 2017 |archive-url=https://web.archive.org/web/20061004041704/http://online.redwoods.cc.ca.us/instruct/darnold/maw/single.htm |archive-date=4. 10. 2006 |url-status=dead }}</ref> је базиран на декомпозицији сингуларне вредности. Кореспондирајући алат у статистици се назива [[анализа принципалних компоненти]].

=== Оптимизација ===
{{Main|Математичка оптимизација}}

Оптимизациони проблеми се баве одређивањем тачке у којој долази до максимизације (минимизације) дате функције. Обично та тачка мора да задовољи извесна [[Ограничење (математика)|ограничења]].

Поље оптимизације се даље дели у неколико потпоља, у зависности од форме циљне функције и ограничења. На пример, [[линеарно програмирање]] се бави случајем где су циљна функција и ограничења линеарни. Познати метод линеарног програмирања је [[Симплекс алгоритам|симплекс метод]].

Метод [[Лагранжови множиоци|Лангранжових множиоца]] се може користити за редуковање оптимизационих проблема са ограничењима до оптимизационих проблема без ограничења.

=== Диференцијалне једначине ===
{{main|Нумерички методи за обичне диференцијалне једначине|Нумеричке парцијалне диференцијалне једначине}}

Нумеричка анализа се исто тако бави израчунавањем (на приближан начин) решења [[диференцијална једначина|диференцијалних једначина]], обичних диференцијалних једначина и [[парцијална диференцијална једначина|парцијалних диференцијалних једначина]].

Парцијалне диференцијалне једначине се решавају тако што се прво дискретизује једначина, чиме се доводи у коначно-димензиони потпростор. То се може урадити [[метод коначног елемента|методом коначних елемената]], методом [[коначна разлика|коначних разлика]], или (посебно у инжењерству) [[метод коначних запремина|методом коначних запремина]]. Теоретска залеђина тих метода обично обухвата теореме [[функциона анализа|функционе анализе]]. Тиме се редукује проблем до решавања алгебарске једначине.

== Софтвер ==
{{main|Списак софтвера за нумеричку анализу|Поређење софтвера за нумеричку анализу}}

Од касног 20. века, већина алгоритама је имплементирана у више различитих програмских језика. [[Нетлиб]] репозиторија садржи разне колекције софтверских рутина за нумеричке проблеме, углавном у језицима [[Фортран]] и [[Це (програмски језик)|Ц]]. Производи у продаји садрже имплементације мноштва различитих нумеричких алгоритама укључујући [[ИМСЛ Нумерицал Либрариес|ИМСЛ]] у [[Нумерицал Алгоритхмс Гроуп|НАГ]] библиотеке; слободна алтернатива је [[ГНУ научна библиотека]].

Постоји неколико популарних нумеричких рачунарских апликација, као што су -{[[MATLAB]]}-, -{[[TK Solver]]}-, -{[[S-PLUS]]}-, -{[[LabVIEW]]}-, и [[IDL (programski jezik)|-{IDL}-]], као и алтернативе бесплатног и отвореног изворног кода: -{[[FreeMat]]}-, -{[[Scilab]]}-, -{[[GNU Octave]]}- (слично Матлабу), -{[[IT++]]}- (-{C++}- библиотека), [[R (програмски језик)|-{R}-]] (слично са -{S-PLUS}-) и поједине варијанте [[пајтон (програмски језик)|-{Python}-]] језика. Перформансе знатно варирају: док су векторске и матричне операције обично брзе, скаларне петље могу да варирају по брзини за више од једног реда величине.<ref>{{Cite web|url=http://www.sciviews.org/benchmark/ |title=Speed comparison of various number crunching packages |accessdate=8. 5. 2017 |archive-url=https://web.archive.org/web/20061005024002/http://www.sciviews.org/benchmark/ |archive-date=5. 10. 2006 |url-status=dead }}</ref><ref>[http://www.scientificweb.com/ncrunch/ncrunch5.pdf Comparison of mathematical programs for data analysis] {{Webarchive|url=http://arquivo.pt/wayback/20160518062220/http://www.scientificweb.com/ncrunch/ncrunch5.pdf |date=18. 5. 2016 }} Stefan Steinhaus, ScientificWeb.com</ref>

Многи [[рачунарски алгебарски систем]]и, као што је -{[[Mathematica]]}-, такође користе доступност [[арбитрарна аритметичка прецизност|арбитрарне аритметичке прецизности]] која може да омогући тачније резултате.

Софтвер за [[електронска табела|електронске табеле]] (нпр. Еxцел) исто тако може да се користи за решавање једноставних проблема из поља нумеричке анализе.

== Нумеричко интегрирање ==
{{Main|Нумеричка интеграција}}
[[Датотека:Composite_trapezoidal_rule_illustration.png|right|thumb|Површина испод функције -{''f''(''x'')}- (означене плавом) апроксимира се површином трапеза испод по дијеловима линеарне апроксимације (означене црвеном).]]

Један од најчешћих проблема с којима се сусрећемо у нумеричкој анализи је рачунање вриједности [[Интеграл|одређеног интеграла]]: <math> \int_{a}^{b} f(x)\, dx </math>. Нумеричка интеграција је у неким околностима позната као нумеричка [[квадратура (математика)|квадратура]]. Популарне методе користе једну од [[Њутн-Коутс формуле|Њутн–Коутсових формула]] (попут правила средње тачке или [[Симпсоново правило|Симпсоновог правила]]) или [[Гаусова квадратура|Гаусове квадратуре]]. Те методе се ослањају на стратегију „подели и покори“, тако што се интеграл на релативно великом сету подели у интеграле на мањим сетовима. У случајевима великог броја димензија, где су ти методи недопустиво скупи у погледу рачунарских захтева, прибегава се примени [[Monte Carlo simulacija|Монте Карловог]] или [[kvazi-Monte Karlo metod|квази-Монте Карловог метода]] (погледајте [[Интеграција Монте Карло|Монте Карло интеграција]]), или, код умерено великог броја димензија, метода [[ретка мрежа|ретке мреже]].

Две основне методе нумеричке интеграције су проширена [[трапезна формула]] и проширена [[Симпсоново правило|Симпсонова формула]].<ref>[http://web.math.pmf.unizg.hr/~rogina/2001096/num_anal.pdf str. 478], pristupljeno: 20. 9. 2013.</ref>

Код проширене '''трапезне формуле''', интервал интеграције -{[a,b]}- подели се у -{''n''}- подинтервала уз следећу ознаку: -{a=x<sub>0</sub><x<sub>1</sub><...<x<sub>n</sub>=b}-. У свим се тачкама раздиобе израчунају вредности подинтегралне функције -{y<sub>i</sub>=f(x<sub>i</sub>)}-, те се над сваким подинтегралом формира трапез спајањем тачака -{T<sub>i</sub>(x<sub>i</sub>,y<sub>i</sub>)}- и -{T<sub>i+1</sub>(x<sub>i+1</sub>,y<sub>i+1</sub>)}-. Тим се трапезом, чија је површина једнака -{P<sub>i</sub>=(x<sub>i+1</sub>-x<sub>i</sub>)(y<sub>i</sub>+y<sub>i+1</sub>)/2}-, апроксимира стварна површина испод функције -{''f(x)''}- на том интервалу. Уз уобичајен поступак еквидистантне раздиобе, тј раздиобе интервала на -{''n''}- једнаких подинтервала (код којег је -{x<sub>i+1</sub>-x<sub>i</sub>=(b-a)/n )}-, те збрајањем површина трапеза конструисаних над свим интервалима раздиобе добијамо трапезну формулу:

:<math>\int_{a}^{b} f(x)\, dx \, \approx \, \frac{b-a}{2n} \cdot(y_0 + 2y_1 + 2y_2 + \ldots + 2y_{n-1} + y_n)   </math>

Оцјена грешке ове нумеричке апроксимације дана је с:

:<math> E(f) = \max_{\xi\in[a,b]} \frac{(b-a)^3}{12n^2} |f''(\xi)|.</math>

[[Датотека:Simpsons_method_illustration.svg|right|thumb|Површина испод функције -{''f''(''x'')}- (означене плавом) апроксимира се површином испод параболе која интерполира функцију у три задане тачке (означене црвеном).]]
Проширена '''Симпсонова формула''', као и ''трапезна формула'' почиње раздеобом интервала -{''[a,b]''}- на -{''n''}-, не нужно, једнаких подинтервала. Но овога пута се на свака два подинтервала, односно кроз тачке -{T<sub>i-1</sub>(x<sub>i-1</sub>,y<sub>i-1</sub>), T<sub>i</sub>(x<sub>i</sub>,y<sub>i</sub>)}- и -{T<sub>i+1</sub>(x<sub>i+1</sub>,y<sub>i+1</sub>)}- повлачи јединствено одређена [[квадратна функција]] (парабола). Због тога код провођења Симпсонове формуле ''имамо додатни захтев да је број подинтервала -{n}- паран''. Рачунањем површина испод тако континуираних парабола, те њиховим збрајањем добијамо проширену Симпсонову формулу:

:<math>\int_a^b f(x) \, dx\approx
\frac{b-a}{3n}\bigg[y_0+4y_1+2y_2+4y_3y+2y_4+\cdots+4y_{n-1}+y_n\bigg].</math>

Оцена грешке проширене Симпсонове формуле дата је изразом:

:<math>E(f) = \max_{\xi\in[a,b]} \frac{(b-a)^5}{180 n^4} |f^{(4)}(\xi)|.</math>

Како у правилу парабола боље апрокисимира насумичне функције од правца, Симпсонова формула у правилу даје тачнији резултат од трапезне формуле.

== Нумеричко решавање диференцијалних једначина ==

У нумеричку анализу спадају и методе којима се тражи нумеричко приближно решење ''Кошијевог проблема'', [[диференцијална једначина|диференцијалне једначине]] са задатим почетним условом. Развијене су методе за нумеричко решавање обичних, али и парцијалних диференцијалних једначина. Две основне методе су [[Ојлерова метода]] и фамилија [[метода Рунге-Кута]].

== Види још ==
* [[Анализа алгоритама]]
* [[Научно рачунарство]]
* [[Списак тема нумеричке анализе]]
* [[Нумеричка диференцијација]]
* ''[[Нумерички рецепти]]''
* [[Симболичко-нумеричко рачунарство]]

== Референце ==
{{reflist|30en}}

== Литература ==
{{Литература|30en}}
* {{Cite book|ref=harv|author=Golub, Gene H. and Charles F. Van Loan |title=Matrix Computations|edition=Third|publisher=Johns Hopkins University|year=1986|isbn=978-0-8018-5413-2|pages=}}
* {{Cite book|ref=harv|first=Nicholas J.|last=Higham |authorlink= |title=Accuracy and Stability of Numerical Algorithms|url=https://archive.org/details/accuracystabilit0000high|publisher=Society for Industrial and Applied Mathematics|year=1996|isbn=978-0-89871-355-8|pages=}}
* {{Cite book|ref=harv|last=Hildebrand |first=F. B. |authorlink= | title=Introduction to Numerical Analysis | edition=2nd |year=1974 |publisher=McGraw-Hill |location= |isbn=978-0-07-028761-7|pages=}}
* {{Cite book|ref=harv|last=Leader |first=Jeffery J. |authorlink= |title=Numerical Analysis and Scientific Computation |url=https://archive.org/details/numericalanalysi0000lead|year=2004 |publisher=Addison Wesley |location= |isbn=978-0-201-73499-7|pages=}}
* {{Cite book|ref=harv|last=Wilkinson |first =J.H.|authorlink= | title=The Algebraic Eigenvalue Problem (Clarendon Press)|year=1965}}
* {{cite journal|last=Kahan|first=W.|authorlink= | title= "A survey of error-analysis," in Info. Processing 71 (Proc. IFIP Congress 71 in Ljubljana), vol. 2, pp. 1214–39, North-Holland Publishing, Amsterdam|year=1972}} (examples of the importance of accurate arithmetic).
* Lloyd N. Trefethen (2006). [http://people.maths.ox.ac.uk/trefethen/NAessay.pdf "Numerical analysis"], 20 pages. In: Timothy Gowers and June Barrow-Green (editors), ''Princeton Companion of Mathematics'', Princeton University Press.
{{Литература крај}}

== Спољашње везе ==
{{Commonscat|Numerical analysis}}
* -{[http://www-gdz.sub.uni-goettingen.de/cgi-bin/digbib.cgi?PPN362160546 Numerische Mathematik], volumes 1-66, Springer, 1959-1994 (searchable; pages are images).}- {{en icon}} {{de icon}}
* -{[https://archive.today/20121208202239/http://www.springerlink.com/content/0029-599X Numerische Mathematik at SpringerLink], volumes 1-112, Springer, 1959–2009}-
* -{[http://siamdl.aip.org/dbt/dbt.jsp?KEY=SJNAAM SIAM Journal on Numerical Analysis]{{Мртва веза|date=09. 2018. |bot=InternetArchiveBot |fix-attempted=yes }}, volumes 1-47, SIAM, 1964–2009}-
* -{[https://web.archive.org/web/20150905141405/http://www.nr.com/oldverswitcher.html ''Numerical Recipes''], William H. Press (free, downloadable previous editions)}-
* -{[https://web.archive.org/web/20120225082123/http://kr.cs.ait.ac.th/~radok/math/mat7/stepsa.htm ''First Steps in Numerical Analysis''] (internet archivearchived), R.J.Hosking, S.Joe, D.C.Joyce, and J.C.Turner}-
* -{[http://www.phy.ornl.gov/csep/CSEP/TEXTOC.html ''CSEP'' (Computational Science Education Project)] {{Wayback|url=http://www.phy.ornl.gov/csep/CSEP/TEXTOC.html |date=20170801213333 }}, U.S. Department of Energy}-
* -{[http://www.damtp.cam.ac.uk/user/fdl/people/sd103/lectures/nummeth98/index.htm#L_1_Title_Page Numerical Methods], Stuart Dalziel University of Cambridge}-
* -{[http://www.math.upenn.edu/~wilf/DeturckWilf.pdf Lectures on Numerical Analysis], Dennis Deturck and Herbert S. Wilf University of Pennsylvania}-
* -{[http://johndfenton.com/Lectures/Numerical-Methods/Numerical-Methods.pdf Numerical methods], John D. Fenton University of Karlsruhe}-
* -{[http://numericalmethods.eng.usf.edu/ Numerical Methods for Science, Technology, Engineering and Mathematics], Autar Kaw University of South Florida}-
* -{[https://web.archive.org/web/20130726231811/http://math.fullerton.edu/mathews/numerical.html Numerical Analysis Project], John H. Mathews California State University, Fullerto}-n
* -{[https://web.archive.org/web/20070428010420/http://math.jct.ac.il/~naiman/nm/ Numerical Methods - Online Course], Aaron Naiman Jerusalem College of Technology}-
* -{[http://www-teaching.physics.ox.ac.uk/computing/NumericalMethods/NMfP.pdf Numerical Methods for Physicists], Anthony O’Hare Oxford University}-
* -{[https://web.archive.org/web/20120225082123/http://kr.cs.ait.ac.th/~radok/math/mat7/stepsa.htm Lectures in Numerical Analysis] , R. Radok Mahidol University}-
* -{[http://ocw.mit.edu/courses/mechanical-engineering/2-993j-introduction-to-numerical-analysis-for-engineering-13-002j-spring-2005/ Introduction to Numerical Analysis for Engineering], Henrik Schmidt Massachusetts Institute of Technology}-
* -{[http://jwhaverkort.net23.net/documents/NumMethPDEs.pdf Numerical Methods for time-dependent Partial Differential Equations] {{Wayback|url=http://jwhaverkort.net23.net/documents/NumMethPDEs.pdf |date=20141026111531 }}, J.W. Haverkort, based on a course by P.A. Zegeling Utrecht_University}-
* -{[http://ece.uwaterloo.ca/~dwharder/NumericalAnalysis/ ''Numerical Analysis for Engineering''], D. W. Harder University of Waterloo}-

{{нормативна контрола}}

[[Категорија:Нумеричка анализа| ]]
[[Категорија:Математичка физика]]
[[Категорија:Рачунске науке]]