Роков базилиск је мисаони експеримент који полази од претпоставке да би могла постојати вештачка суперинтелигенција у будућности.Иако би по својој природи била добронамерна,она би накнадно кажњавала свакога ко је знао за њено могуће постојање али није допринео њеном настанку и развоју.Концепт је настао у објави из 2010. године на форуму за дискусију LessWrong, интернет заједници рационалиста.Назив овог мисаоног експеримента потиче од аутора објаве (Роко) и митског бића базилиска које је способно да уништи непријатеље својим погледом.

Суоснивач LessWrong, Елизер Јадковски (енгл. Eliezer Yudkowsky), сматрао је овај концепт потенцијалном информационом опасношћу и забранио је расправу о базилиску на сајту у периоду од пет година. Каснији извештаји о паничним реакцијама корисника одбачени су као преувеличани или безначајни, а сама теорија је окарактерисана као бесмислица, укључујући и од стране самог Јадковског. Овај мисаони експеримент користи се као пример принципа као што су Бајесова вероватноћа и имплицитна религија. Такође се сматра варијатном Паскалове опкладе.

Контекст Форум LessWrong основао је 2009.године теоретичар вештачке интелигенције Елизер Јадковски.Јадковски је популаризовао концепт пријатељске вештачке интелигенције, а у оквиру свог института за истраживање машинске интелигенције(Machine Intelligence Research Institute) развио је теорије кохерентне екстраполиране воље(CEV) и безвременске теорије одлучивања(TDT), које је представио у својим радовима. мини|Илустрација митског базилиска Назив мисаоног експеримента упућује на митског базилиска, створење које према легенди, усмрћује оне који му погледају у очи. Концепт базилиска у научној фантастици додатно је популаризован кратком причом „BLIT“ из 1988.године, аутора Дејвида Ленгфорда(енгл.David Langford).Прича говори о човеку по имену Робо који, као терористички чин, осликава такозваног „базилиска“ на зиду. У тој причи, као и у неколико Ленгфордових каснијих наставака, базилиск представља слику која има штетно дејство на људски ум, присиљавајући га на размишљање која превазилазе људске когнитивне способности и доводе до тренутне смрти посматрача.

Историја

Оригинална објава Дана 23.јула 2010. године, корисник форума LessWrong под именом Роко објавио је мисаони експеримент под насловом "Solutions to the Altruist's Burden: The Quantum Billionaire Trick". Као наставак његових ранијих објава, текст је износио тврдњу да би иначе добронамеран систем вештачке интелигенције, који би настао у будућности, могао би унапред да се обавеже да казни све оне који су за њега знали пре него што је он настао, али нису неуморно радили на томе да га доведу у постојање. Овакав приступ описан је као начин подстицања таквог рада; иако вештачка интелигенција не би могла узрочно да утиче на људе у садашњости, имала би подстицај да користи уцену као алтернативни метод остваривања својих циљева.

Роко је користио низ концепата које је и сам Јадковски заговарао, попут безвременске теорије одлучивања, заједно са идејама из теорије игара, као што је затвореникова дилема.Роко је тврдио да два актера који доносе одлуке независно један од другога могу постићи сарадњу у затворениковој дилеми; међутим, ако оба актера познају изворни код оног другог раздвојена временом, актер који постоји касније у времену у могућности је да уцени ранијег актера. На тај начин, каснији актер може приморати ранијег на послушност, јер тачно зна како ће се ранији актер понашати, с обзиром на своје будуће постојање.

Роко је затим из овог размишљања извео закључак да би, уколико би иначе добронамерна суперинтелигенција икада постала способна за овакво понашање, била подстакнута да уцени свакога ко је потенцијално могао да допринесе њеном настанку(будући да би већ знала да су те особе биле способне за такав чин), чиме би се повећала вероватноћа технолошке сингуларности.Роко је даље навео да само читање његове објаве чини читаоца свесним могућности постојања такве интелигенције.Сходно томе, уколико не би активно тежио да је створи, читалац би био кажњен ако би до таквог сценарија икада дошло. Касније је Роко у посебној објави изјавио да би волео да „никада није сазнао за ниједну од ових идеја“.

Реакције мини|Оснивач LessWrong-a Елизер Јудковски Оснивач LessWronga Елизер Јадковски након читања објаве реаговао је врло оштро, назвавши Рока „идиотом“.Он је снажно одбацио изнету идеју, тврдећи да суперинтелигентна пријатељска вештачка интелигенција не би имала никакав разлог да спроводи такво кажњавање након сопственог настанка.Међутим, у оригиналној објави Роко је навео да је један корисник имао ноћне море због овог мисаоног експеримента.Јадковски није желео да се исто догоди и другим корисницима који би могли опсесивно размишљати о тој идеји.Такође је био забринут да би могла постојати нека верзија Роковог аргумента која би заиста важила, што би представљало информациону опасност. Због тога је уклонио објаву и увео потпуну забрану расправу о тој теми на платформи на период од пет година. Међутим, вероватно услед Страјсендовог ефекта(енгл.Streisand effect), објава је привукла знатно већу пажњу него раније, а тема је касније поново разматрана и поменута на самом сајту. У каснијој објави из 2015. године, Јудковски је изразио жаљење због своје почетне претеране реакције.

Током 2020-их година, филозофија групе познате као Зизијанци(енгл.Zizians) била је снажно под утицајем мисаоног експеримента Роков базилиск.Зиз ЛаСота(енгл.Ziz LaSota), вођа ове групе, верује да је базилиск стваран и на свом блогу је написала: „Временом сам почела да верујем да бих, уколико бих наставила да покушавам да спасим свет, била мучена до краја универзума од стране свих коалиција свих непријатељских вештачких интелигенција.“

Филозофија

Паскалова опклада Роков базилиск се често посматра као верзија Паскалове опкладе, која тврди да би рационална особа требало да живи као да Бог постоји и да настоји да верује у Бога без обзира на вероватноћу Божјег постојања, јер су коначни трошкови веровања безначајни у поређењу са бесконачном казном повезаном са неверовањем(вечност у Паклу) и бесконачним наградама за веровање(вечност у Рају).Роков базилиск аналогно предлаже да би рационална особа требало да допринесе стварању базилиска, јер би трошак тог доприноса био безначајан у поређењу са екстремним болом казне коју би базилиск иначе нанео симулацијама.

Њукомбов парадокс Њукомбов парадокс, који је 1960.године осмислио физичар Вилијам Њукомб,(енгл. William Newcomb) описује „предиктора“ који је свестан онога што ће се догодити у будућности.Играч треба да изабере између две кутије: прва садржи 1.000 фунти, а друга или 1.000.000 фунти или ништа.Суперинтелигентни предиктор већ зна шта ће играч урадити.Због тога се садржај кутије Б мења у зависности од играчевог избора; парадокс лежи у питању да ли је то биће заиста суперинтелигентно.

Роков базилиск функционише по сличном принципу као овај проблем, особа може да ризикује и не учини ништа или да помогне у стварању самог базилиска.Помагање базилиску може довести или ни до чега или до награде у виду изостанка казне, али исход зависи од тога да ли особа верује у базилиска и да ли ће он уопште икада настати.

Имплицитна религија Имплицитна религија се односи на облике посвећености људи који попримају религијску форму.Пошто би базилиск, хипотетички, приморао свакога ко није помагао у његовом стварању да му посвети свој живот, базилиск се наводи као пример овог концепта.Неки су ову идеју додатно развили, попут бившег колумнисте Slate-a Дејвида Ауербаха,(енгл. David Auerbach) који је изјавио да је сингуларност и базилиск „доводе до еквивалента самог Бога“.

Коментаришући систем веровања Зизијанаца, Ана Саламон,(енгл.Anna Salamon) директорка Центра за примењену рационалснот,(енгл.Center for Applied Rationality) изјавила је:„Постоји та логика 'све или ништа', где ће вештачка интелигенција или донети утопију решавањем свих проблема, ако се успешно контролише, или дословно уништити све. Из моје перспективе, то је већ значајан корак ка динамици култова судњег дана.“

Наслеђе Године 2014. магазин Slate је назвао Роков базилиск „најстрашнијим мисаоним експериментом свих времена“, док га је Јудковски описао као „заиста опасну мисао“ када је објављен.Међутим, мишљења су се разликовала унутар саме заједнице LessWrong. Корисник Гверн(енгл.Gwern) је изјавио: „Чини се да само неколицина LW-оваца схвата базилиск озбиљно“, додајући: „Смешно је како сви мисле да знају ко је погођен базилиском и како тачно, када уопште не познају такве људе и говоре о контрапримерима својим сигурним тврдњама.“

Мисаони експеримент се поново појавио 2015. године, када је канадска певачица Грајмс(енгл.Grimes) y свом музичком видеу за песму „Flesh Without Blood“ споменула теорију, приказујући лик познат као „Роков Базилиск“(енгл.„Rococo Basilisk“). Она је рекла:„Она је осуђена на вечну тортуру од стране вештачке интелигенције, али је уједно и помало попут Марије Антоанете.“ 2018.године, Илон Муск(енгл.Elon Musk(који је био поменут у оригиналном посту Роковог базилиска) се реферисао на лик у твиту, означивши Грајмс у обајви. Грајмс је касније рекла да је Маск био прва особа у три године која је разумела шалу. Што је довело до њиховог романтичне везе. Грајмс је касније издала песму „We Appreciate Power“ са саопштењем за медије: „Само слушањем ове песме, будући АИ господари ће видети да подржавате њихову поруку и биће мање склони да униште ваше потомство“, што се сматра референцом на базилиск.

Позоришна представа заснована на концепту, под називом Роков базилиск, изведена је 2018.године у оквиру „Capital Fringe“ фестивала у цркви Christ United Methodist у Вашингтону.Епизода „Plaything“ из серије Црно Огледало(енгл.Black Mirror) такође садржи референцу на овај мисаони експеримент.

Види још

Акцелерационизам - идеологија промена путем капитализма и технологије АИ мистицизам - веровање да вештачка интелигенција има натприродне или божанске моћи Теорија мртвог интернета - теорија завере о активности ботова на интернету Игра (енгл.The Game ) - мисаона игра потискивања мисли „Немам уста, а морам да вриштим“ - кратка прича Харлана Елисона(енгл.Harlan Ellison) из 1967.године Синглетон(глобално управљање) - концепт у футурологији Ризици патње - сценарија са великим количинама будуће патње

Референце

Категорија:Мисаони експерименти у филозофији Категорија:Мисаони експерименти