Вештачка свест (AC), позната и као машинска свест, синтетичка свест, или дигитална свест, јесте свест за коју се хипотетише да је могућа код вештачке интелигенције. То је такође и одговарајућа област проучавања, која црпи увиде из филозофије ума, филозофије вештачке интелигенције, когнитивне науке и неуронауке.
Термин „осећајност” (енгл. sentience) може се користити када се конкретно означавају етичка разматрања која произилазе из облика феноменалне свести (П-свест, или способност осећања квалија). Будући да осећајност подразумева способност доживљавања етички позитивних или негативних (тј. валентних) менталних стања, она може оправдати забринутост за добробит и правну заштиту, као што је случај са животињама.
Неки научници верују да свест настаје интероперацијом различитих делова мозга; ови механизми се називају неурални корелати свести (NCC). Неки даље верују да би конструисање система (нпр. рачунарског система) који може да емулира ову NCC интероперацију резултирало системом који је свестан. Неки научници одбацују могућност вештачке свести.
Филозофски погледи Будући да постоји много хипотетичких врста свести, постоји и много потенцијалних имплементација вештачке свести. У филозофској литератури, можда најчешћа таксономија свести је подела на „приступну” (енгл. access) и „феноменалну” варијанту. Приступна свест се тиче оних аспеката искуства који се могу спознати, док се феноменална свест тиче оних аспеката искуства који наизглед не могу бити спознати, већ се карактеришу квалитативно у смислу „сирових осећаја”, „како је то бити” или квалија.
Дебата о веродостојности Теоретичари идентитета типа и други скептици заступају став да се свест може реализовати само у одређеним физичким системима јер свест има својства која нужно зависе од физичке конституције. У свом чланку из 2001. године „Вештачка свест: Утопија или реална могућност”, Ђорђо Бутацо (Giorgio Buttazzo) каже да је уобичајени приговор вештачкој свести тај да: „Радећи у потпуно аутоматизованом режиму, они [рачунари] не могу показати креативност, нерепрограмирање (што значи да се више не могу репрограмирати, од поновног размишљања), емоције или слободну вољу. Рачунар је, попут машине за прање веша, роб којим управљају његове компоненте.”
За друге теоретичаре (нпр. функционалисте), који дефинишу ментална стања у смислу узрочних улога, сваки систем који може да инстанцира исти образац узрочних улога, без обзира на физичку конституцију, инстанцираће иста ментална стања, укључујући свест.
Мисаони експерименти мини|усправно=1.35|„Бледеће квалије” (лево) и „плешуће квалије” (десно) су два мисаона експеримента о свести и замени мозга. Чалмерс тврди да су оба у супротности са недостатком реакције субјекта на промену перцепције, те су стога немогућа у пракси. Он закључује да ће еквивалентни силицијумски мозак имати исте перцепције као и биолошки мозак.
Дејвид Чалмерс је предложио два мисаона експеримента са намером да покаже да ће „функционално изоморфни” системи (они са истом „фино гранулираном функционалном организацијом”, тј. истом обрадом информација) имати квалитативно идентична свесна искуства, без обзира на то да ли су засновани на биолошким неуронима или дигиталном хардверу.
„Бледеће квалије” (енгл. fading qualia) је reductio ad absurdum мисаони експеримент. Укључује замену, један по један, неурона мозга функционално идентичном компонентом, на пример заснованом на силицијумском чипу. Чалмерс поставља хипотезу, унапред знајући да је апсурдна, да „квалије бледе или нестају” када се неурони замењују један по један идентичним силицијумским еквивалентима. Пошто су оригинални неурони и њихови силицијумски пандани функционално идентични, обрада информација у мозгу би требало да остане непромењена, а понашање и интроспективни извештаји субјекта би остали потпуно исти. Чалмерс тврди да ово води до апсурдног закључка: субјект би наставио да пријављује нормална свесна искуства чак и док његове стварне квалије бледе. Он закључује да квалије субјекта заправо не бледе, и да би резултујући роботски мозак, када се сваки неурон замени, остао једнако свестан (сентијентан) као и оригинални биолошки мозак.
Слично томе, мисаони експеримент „плешуће квалије” (енгл. dancing qualia) је још један reductio ad absurdum аргумент. Претпоставља се да би два функционално изоморфна система могла имати различите перцепције (на пример, виђење истог објекта у различитим бојама, као што су црвена и плава). Укључује прекидач који се мења између дела мозга који узрокује перцепцију црвене боје и функционално изоморфног силицијумског чипа који узрокује перцепцију плаве боје. Пошто оба обављају исту функцију у мозгу, субјект не би приметио никакву промену током пребацивања. Чалмерс тврди да би било крајње невероватно да се квалије заиста мењају између црвене и плаве, одатле контрадикција. Стога, он закључује да еквивалентни дигитални систем не само да би искусио квалије, већ би перципирао исте квалије као и биолошки систем.
Критичари приговарају да Чалмерсов предлог претпоставља оно што тек треба доказати (begging the question), претпостављајући да су сва ментална својства и спољашње везе већ довољно обухваћени апстрактном узрочном организацијом. Ван Хојвелн (Van Heuveln) и сарадници тврде да аргумент плешућих квалија садржи грешку еквивокације, мешајући „промену у искуству” између два система са „искуством промене” унутар једног система. Могенсен тврди да се аргументу бледећих квалија може одупрети позивањем на нејасноће на границама свести и холистичку структуру свесне неуралне активности, што сугерише да свест може захтевати специфичне биолошке супстрате уместо да буде независна од супстрата.
Кратка прича Грега Егана Учење да будем ја (енгл. Learning To Be Me), поменута у одељку У фикцији, илуструје колико би умножавање мозга и његове функционалности могло бити неприметно из перспективе првог лица.
У великим језичким моделима Године 2022, Гуглов инжењер Блејк Лемојн (Blake Lemoine) изнео је виралну тврдњу да је Гуглов LaMDA чет-бот сентијентан (свестан). Лемојн је као доказ навео људске одговоре чет-бота на многа његова питања; међутим, научна заједница је понашање чет-бота оценила као вероватну последицу мимикрије, а не машинске свести. Лемојнова тврдња је широко исмејана као смешна. Штавише, приписивање свести искључиво на основу излаза великог језичког модела (LLM) или имерзивног искуства које ствара алгоритам сматра се грешком. Међутим, иако филозоф Ник Бостром наводи да је мало вероватно да је LaMDA свесна, он додатно поставља питање „које би основе особа имала да буде сигурна у то?” Неко би морао имати приступ необјављеним информацијама о архитектури LaMDA-е, а такође би морао разумети како свест функционише, а затим схватити како пресликати филозофију на машину: „(У одсуству ових корака), чини се да би неко могао бити можда мало несигуран.[...] врло је могуће да постоје други системи сада, или у релативно блиској будућности, који би почели да задовољавају критеријуме.”
Дејвид Чалмерс је 2023. године тврдио да LLM-ови данас показују импресивне способности конверзације и опште интелигенције, али да вероватно још увек нису свесни, јер им недостају неке карактеристике које могу бити неопходне, као што су рекурентна обрада, глобални радни простор и уједињена агенција. Ипак, он сматра да небиолошки системи могу бити свесни и сугерисао је да би будући, проширени модели (LLM+) који укључују ове елементе могли на крају испунити критеријуме за свест, подижући и дубока научна питања и значајне етичке изазове. Међутим, став да свест може постојати без биолошких феномена је контроверзан и неки га одбацују.
Кристина Шекрст упозорава да антропоморфни термини као што је „халуцинација” могу замаглити важне онтолошке разлике између вештачке и људске когниције. Иако LLM-ови могу производити излазе сличне људским, она тврди да то не оправдава приписивање менталних стања или свести њима. Уместо тога, она се залаже за епистемолошки оквир (као што је релијабилизам) који препознаје различиту природу производње знања од стране вештачке интелигенције. Она сугерише да привидно разумевање код LLM-ова може бити софистициран облик халуцинације вештачке интелигенције. Такође поставља питање шта би се догодило када би LLM био обучен без икаквог помена свести.
Тестирање Осећајност (сентијентност) је инхерентно феномен првог лица. Због тога, и због недостатка емпиријске дефиниције осећајности, директно мерење може бити немогуће. Иако системи могу показивати бројна понашања повезана са свешћу, утврђивање да ли је систем свестан познато је као тешки проблем свести. У случају вештачке интелигенције, постоји додатна потешкоћа што АИ може бити обучена да се понаша као човек или подстакнута да делује свесно, што бихевиоралне маркере свести чини мање поузданим. Поред тога, неки чет-ботови су обучени да кажу да нису свесни.
Познати метод за тестирање машинске интелигенције је Тјурингов тест, који процењује способност вођења разговора налик људском. Али пролазак Тјуринговог теста не указује на то да је систем вештачке интелигенције свестан, јер АИ може једноставно опонашати људско понашање без поседовања повезаних осећања.
Године 2014, Виктор Аргонов (Victor Argonov) предложио је не-Тјурингов тест за машинску свест заснован на способности машине да производи филозофске судове. Он тврди да се детерминистичка машина мора сматрати свесном ако је у стању да доноси судове о свим проблематичним својствима свести (као што су квалије или проблем везивања) без урођеног (унапред учитаног) филозофског знања о овим питањима, без филозофских дискусија током учења и без информационих модела других створења у својој меморији (такви модели могу имплицитно или експлицитно садржати знање о свести тих створења). Међутим, овај тест се може користити само за откривање, али не и за оповргавање постојања свести. Баш као и код Тјуринговог теста: позитиван резултат доказује да је машина свесна, али негативан резултат не доказује ништа. На пример, одсуство филозофских судова може бити узроковано недостатком интелекта машине, а не одсуством свести.
Етика
Ако би се посумњало да је одређена машина свесна, њена права би била етичко питање које би требало проценити (нпр. која права би имала по закону). На пример, свесни рачунар који је у власништву и користи се као алат или централни рачунар у оквиру веће машине представља посебну двосмисленост. Да ли би требало донети законе за такав случај? Свест би такође захтевала правну дефиницију у овом конкретном случају. Будући да је вештачка свест још увек углавном теоријска тема, о таквој етици се није расправљало нити је развијена у великој мери, иако је често била тема у фикцији.
Свесност вештачке интелигенције изазвала би забринутост за добробит и правну заштиту, док би други аспекти свести повезани са когнитивним способностима могли бити релевантнији за права вештачке интелигенције.
Осећајност се генерално сматра довољном за морално разматрање, али неки филозофи сматрају да морално разматрање може произићи и из других појмова свести, или из способности које нису повезане са свешћу, као што су: „поседовање софистициране концепције себе као постојаног кроз време; поседовање агенције и способности за спровођење дугорочних планова; способност комуникације и реаговања на нормативне разлоге; поседовање преференција и моћи; стајање у одређеним друштвеним односима са другим бићима која имају морални статус; способност преузимања обавеза и уласка у реципрочне аранжмане; или поседовање потенцијала за развој неких од ових атрибута.”
Етичке бриге и даље важе (иако у мањој мери) када је свест неизвесна, све док се вероватноћа сматра занемарљивом. Принцип предострожности је такође релевантан ако се морални трошак погрешног приписивања или порицања моралног разматрања вештачкој интелигенцији значајно разликује.