Монте Карло методе (или Монте Карло експерименти) чини група рачунарских алгоритама који се ослањају на понављање случајних покушаја да би се добили нумерички резултати. Често се користе у решавању физичких и математичких проблемима и веома су корисни у случајевима када је немогуће користити друге математичке методе. Ове методе се најчешће користе у три класе случаја: оптимизацији, нумеричкој интеграцији и генерисању узорака код расподеле вероватноће.
У физичким проблемима, Монте Карло методе су веома корисне код симулације система са више степена слободе, као што су флуиди, јако везани раствори и ћелијске структуре (види ћелијски Потсов модел, интерактивне честичне системе, МекКин—Власове процесе, кинетичке моделе гасова). Остали примери укључују моделовање феномена са несигурним улазима попут висине ризика у бизнису или у математици, процене вишедимензионалних одрећених интеграла са сложеним граничним условима. У применама у свемирским и нафтним истраживањима, Монте—Карло базирана предвиђања неуспеха, прекорачења трошкова и неслагање са распоредом су много боља него људска интуиција или алтернативни „меки“ методи.
У принципу, Монте Карло методе се могу користити за решавање многих проблема с пробабилистичком интерпретацијом. По закону великих бројева, интеграли описани очекиваном вредношћу неке рандомне променљиве се могу апроксимирати узимањем емпиријског просека (а.к.а. просека узорка) независних узорака променљиве. Када је расподела вероватноће променљиве веома сложена, математичари често користе генератор узорака Монте Карло Марковог ланца (MCMC). Главна идеја је стварање модела Марковог ланца са прописаним стационарним расподелама вероватноће. Та тај начин генерисани узорци у знатној мери ће одражавати жењену (циљну) дистрибуцију . По ергодичној теореми, стационарна расподела вероватноће је апроксимирана емпиријским мерама случајних стања MCMC семплера.
Код осталих пролема заинтересовани смо са генерисање узорака из низова расподеле вероватноће који задовољавају нелинеарне еволуционе једначине. Ови токови расподеле вероватноће увек могу бити интерпретиране као расподеле случајних стања Марковог процеса чија промена расподеле вероватноће зависи од расподеле тренутних случајних стања ( види МекКин-Власов процесе, нелинеарне филтер једначине) . У осталим инстанцама говоримо о току у расподели вероватноће са растућим нивоом сложености (модели простора са растућим временом, Болцман-Гибсове мере повезане са опадајућим температурним параметрима и многи други). Ови модели се могу такође посматрати као развој случајних стања нелинеарног ланца Маркова. Природни начин симулирања ових софистицираних процеса ланаца Маркова је узорковање великог броја копија процеса, заменом непознатих расподела случајних стања у једначинама од стране емпиристичких мера. У супротности са традиционалним Монте Карло и ланцима Маркова методологијама ове технике честичног поља се ослањају на секвенцијалне интерагујуће узорке. Терминологија поља означава чињеницу да сваки од узорака (честице, индивидуе, шетачи, агенти, створења или фенотип) интерагује са емпиријским мерама процеса. Када величина система тежи бесконачности, ове случајне емпиријске мере конвергирају ка детерминистичкој расподели случајних стања ланаца Маркова, тако да се статистичка интеракција између честица губи.
Увод десно|мини|Монте Карло метода примењена на апроксимацију вредности π. Након уцртавања 30000 произвољних тачака, процена π је у 0,07% од праве вредности. Ово се дешава са могућношћу процене од 20% Монте Карло методе варирају, али теже да испрате одређени образац: Дефинише се домен улаза Генерише се низ случајних улаза помоћу расподеле вероватноће Изврши се детерминистички прорачуни Изврши се сажимање резултата
На пример, узмимо у обзир круг уписан у квадрат. С обзиром на то да је однос ових површина π/4, вредност π се може апроксимирати употребом Монте Карло методе: Нацртајмо квадрат на земљи, затим упишимо круг у њему Равномерно проспимо неке објекте једнаке величине (зрна песка или пиринча) преко квадрата Преброји се број зрна у кругу и укупан број зрна однос два пребрајања је процена односа две површине тј. π/4. Помножи се резултат са 4, чиме се добија π.
У овој процедури домен улаза је квадрат који описујемо око круга. Генеришемо број улаза просипањем преко квадрата, затим извршимо прорачуне на сваки улаз (питамо се да ли је зрно пало у круг). Напокон, сажимамо резултате да би добили коначан резултат, апроксимацију π. Овде имамо две битне напомене: прво, ако зрна нису равномерно расподељена, онда је наша апроксимација непотпуна. Друго, мора да постоји велики број улаза. Апроксимација је генерално лоша само ако је пар зрна пало у цео квадрат. У просеку квалитет процене се повећава са већим бројем зрна у квадрату. Употреба Монте Карло методе захтева велику количину бројева, што је проузроковало формирање генератора псеудобројева чијом употребом је прорачунавање олакшано.
Историја Пре него што је Монте Карло метода развијена, симулације су тестирале претходно дефинисане детерминистичке проблеме и статистичко узорковање је коришћено за процену несигурности у симулацији. Монте Карло симулације су окренуле овај приступ, решавајући детерминистичке проблеме употребом вероватноће.
Рана верзија Монте Карло метода се могла видети у Буфоновом експерименту игле, у ком је π апроксимирано бацањем игала на под који је направљен од паралелних трака једнаког растојања. У 30-им годинама 20. века, Енрико Ферми је први експериментисао са Монте Карло методом проучавајућу неутронску дифузију, али није објавио тај рад.
Модерна верзија ланаца Маркова Монте Карло метода је измишљена крајем 1940-их од стране Станислава Улама, док је радио на пројектима нуклеарног наоружања у Националној лабораторији Лос Аламос. Након Уламовог продора, Џон фон Нојман је разумео његову важност па је програмирао ENIAC рачунар да врши Монте Карло прорачуне. Године 1946. физичари и лабораторији Лос Аламос су проучавали заштиту од радијације и дистанцу коју неутрон пређе при проласку кроз различите материјале. И поред познавања већине података, попут просечне дистанце коју неутрон пређе у материји пре судара са атомским језгром или колико енергије неутрон ослобађа при судару, физичари Лос Аламоса нису могли да реше проблем користећи конвенционалне детерминистичке методе. Станислав Улам је имао идеју која се базирала на вероватноћи, он то овако описује:
Тајни рад Нојмана и Улама је захтевао тајно шифровано име. Њихов колега, Николас Метрополис, је предложио да то буде Монте Карло, по познатом Монте Карло казину у Монаку где је Уламов стриц позајмљивао новац од рођака за коцку. Употреба листе "случајних" бројева је била изузетно спора па је Нојман развио начин да израчуна псеудо бројеве, употребом методе средњег квадрата. Иако је ова метода критикована као сирова, Нојман је то оправдавао њеном брзином у тој позицији, и такође приметио да ова метода прави очигледне грешке за разлику од неких чије су грешке тешко приметне.
Монте Карло методе су биле основне методе у раду компјутерских симулација Менхетн пројекта, иако ограничени од стране рачунарских алата у то време. У 50-им годинама 20. века коришћени су у лабораторији Лос Аламос при развоју хидрогенске бомбе и постале су популарне у физици, физичкој хемији и операционим истраживањима. Корпорација Ранд и Америчко ратно ваздухопловство су биле главне организације одговорне за финансирање и пропаганду Монте Карло метода током тог времена и почеле су да налазе примену у многим областима.
Теорија поља честичног типа Монте Карло методе је почела да се развија крајем 60-их година радом Хенрија П. МекКина Јуниора на Марковим интерпретацијама класа нелинеарних параболичних парцијалних диференцијалних једначина произашлих из механике флуида. Такође ћемо навести пионирски чланак Теодора Хариса и Хермана Кана, објављеног 1951., о коришћењу поља генетичког типа Монте Карло метода за процену преноса енергије честица. Поље генетичког типа Монте Карло методологија је такође коришћено у еволуционом рачунарству код алгоритама природне хеуристичке претраге (Метахеуристичке). Основе ових техника се могу наћи још у 50-им годинама у раду Алана Тјуринга на генетском типу машина за мутациону-селекцију и чланци Нилса Аала Баричелија са Института за напредне студије на Принстону, у Њу Џерзију.
Квантни Монте Карло, и посебно Дифузиони Монте Карло методи се такође могу интерпетирати као поље честичних Монте Карло метода у апроксимацији Фејнман-Кацових интеграла. Почеци ових метода се приписују Енрику Фермију и Роберту Ричмајеру који су развили 1948 честичну интерпретацију неутронске-ланчане реакције, али први хеуристички алгоритми и генетски честични алгоритми за процену стања енергије квантних система (у редукованој матрици) су дело Џека Х. Хетерингтона 1948. године. У молекуларној хемији, употреба генетских хеурситичких честичних методологија се може следити све до 1955. и рада МАршала Н. Розенблута и Аријане В. Розенблут.
Употреба секвенцијалног Монте Карла у напредној обради сигнала и Бајесовој интерференцији је све већа. Године 1993, Гордон и остали су објавили свој први рад са првом применом овог метода у Бајесовој статистичкој интерференцији. Аутори су назвали свој алгоритам „бутстреп филтер“ и показали да у поређењу са другим филтерима, њихов алгоритам не захтева никакву процену о стању-простору или буци система. Такође ћемо цитирати још један пионирски чланак у овој области аутора Геншира Китагаве о поменутим „Монте Карло филтерима“, и оне Пјера дел Морала и Химилкона Карваља, Пјера дел Морала, Андреа Монина и Џерарда Салута о честичним филтерима објављеним средином 90-их. Честични филтери су такође развијени у обради сигнала у периоду 1989-1992 од стране П. дел Морала, Џ. С. Нојера, Г. Ригала и Џ. Салута у ЛААС-ЦНРС у серији тајних пројеката СТЦАН, ИТ компаније ДИГИЛОГ, и ЛААС-ЦНРС (ЛАбораторија за анализу и архитектуру система) о проблемима процесије РАДАР/СОНАР и ГПС сигнала.P. Del Moral, G. Rigal, and G. Salut. Estimation and nonlinear optimal control : An unified framework for particle solutions
LAAS-CNRS, Toulouse, Research Report no. 91137, DRET-DIGILOG- LAAS/CNRS contract, April (1991).P. Del Moral, G. Rigal, and G. Salut. Nonlinear and non Gaussian particle filters applied to inertial platform repositioning.
LAAS-CNRS, Toulouse, Research Report no. 92207, STCAN/DIGILOG-LAAS/CNRS Convention STCAN no. A.91.77.013, (94p.) September (1991).P. Del Moral, G. Rigal, and G. Salut. Estimation and nonlinear optimal control : Particle resolution in filtering and estimation. Experimental results.
Convention DRET no. 89.34.553.00.470.75.01, Research report no.2 (54p.), January (1992).P. Del Moral, G. Rigal, and G. Salut. Estimation and nonlinear optimal control : Particle resolution in filtering and estimation. Theoretical results
Convention DRET no. 89.34.553.00.470.75.01, Research report no.3 (123p.), October (1992).P. Del Moral, J.-Ch. Noyer, G. Rigal, and G. Salut. Particle filters in radar signal processing : detection, estimation and air targets recognition.
LAAS-CNRS, Toulouse, Research report no. 92495, December (1992).P. Del Moral, G. Rigal, and G. Salut. Estimation and nonlinear optimal control : Particle resolution in filtering and estimation.
Studies on: Filtering, optimal control, and maximum likelihood estimation. Convention DRET no. 89.34.553.00.470.75.01. Research report no.4 (210p.), January (1993). Ове секвенцијалне Монте Карло методологије могу се интерпретирати као семплери прихватања-одбијања са интерактивним обновљивим системом.