Prijateljska vještačka inteligencija (također prijateljska AI ili FAI) odnosi se na hipotetsku vještačku opću inteligenciju (AGI) koja bi imala pozitivan (benigni) učinak na čovječanstvo ili barem uskladiti s ljudskim interesima ili doprinijeti unapređenju ljudske vrste. To je dio etike vještačke inteligencije i usko je povezan sa mašinskom etikom. Dok se mašinska etika bavi time kako bi se „trebao“ ponašati vještački inteligentni agent, prijateljsko istraživanje umjetne inteligencije fokusirano je na to kako praktično postići ovo ponašanje i osigurati da je adekvatno ograničeno.
Etimologija i upotreba thumb|Eliezer Yudkowsky, AI istraživač i tvorac pojma Prijateljska vještačka inteligencija Termin je skovao Eliezer Yudkowsky, koji je najpoznatiji po popularizaciji ideje, rasprava o superinteligentnim vještačkim agentima koji pouzdano implementiraju ljudske vrijednosti. Stuart J. Russell i Peter Norvig autori vodećeg udžbenika o vještačkoj inteligenciji, Vještačka inteligencija: moderni pristup, opisuju ideju:
'Prijateljski' se u ovom kontekstu koristi kao tehnička terminologija i bira agente koji su sigurni i korisni, a ne nužno one koji su "prijateljski" u kolokvijalnom smislu. Koncept se prvenstveno poziva u kontekstu rasprava o rekurzivno samopoboljšavajućim umjetnim agensima koji brzo eksplodiranju u inteligenciji, s obrazloženjem da bi ova hipotetska tehnologija imala veliku, brzu i teško kontrolnu uticaj na ljudsko društvo.
Rizici od neprijateljske AI
Korijeni zabrinutosti za veštačku inteligenciju su veoma stari. Kevin LaGrandeur je pokazao da se opasnosti specifične za AI mogu vidjeti u drevnoj literaturi u vezi s vještačkim humanoidnim slugama kao što su golemi, ili protoroboti Gerbert of Aurillac i Roger Bacon. U tim pričama, ekstremna inteligencija i moć ovih humanoidnih kreacija sukobljavaju se s njihovim statusom robova (koji se po prirodi smatraju podljudskim) i izazivaju katastrofalne sukobe. Do 1942. ove teme su podstakle Issaca Asimova da stvori "Tri zakona robotike"—principe ugrađene u sve robote u njegovoj fikciji, s namjerom da ih spriječe da se okrenu protiv svojih tvoraca ili im dopuste doći na štetu.
U modernim vremenima, kako se perspektiva superinteligentna AI sve više približava, filozof Nick Bostrom je rekao da su superinteligentni sistemi AI sa ciljevima koji nisu usklađeni s ljudskom etikom suštinski opasni osim ako se ne preduzmu ekstremne mjere kako bi se osigurala sigurnost čovječanstva. On je to rekao ovako:
U osnovi bismo trebali pretpostaviti da bi 'superinteligencija' mogla postići sve ciljeve koje ima. Stoga je izuzetno važno da ciljevi kojima ga dajemo, kao i cijeli sistem motivacije, budu 'prijateljski prema ljudima'
Eliezer Yudkowsky je 2008. godine pozvao na stvaranje "prijateljske AI" kako bi se ublažili egzistencijskii rizik od napredne vještačke inteligencije. On objašnjava: "AI vas ne mrzi, niti voli, ali ste napravljeni od atoma koje može koristiti za nešto drugo."
Steve Omohundro kaže da će dovoljno napredan AI sistem, osim ako se eksplicitno ne suprotstavi, pokazati brojne osnovne "pogone", kao što su nabavka resursa, samoodržanje i kontinuirano samousavršavanje, zbog unutrašnje prirode bilo kojeg ciljano vođenog sistema i da će ti nagoni, "bez posebnih mjera opreza", uzrokovati da AI pokaže neželjeno ponašanje.
Alexander Wissner-Gross kaže da se vještačka inteligencija vođena da maksimizira svoju buduću slobodu djelovanja (ili entropiju kauzalnog puta) može smatrati prijateljskom ako je njihov horizont planiranja duži od određenog praga, i neprijateljskim ako je njihov horizont planiranja kraći od toga praga.
Luke Muehlhauser, koji piše za Machine Intelligence Research Institute, preporučuje da istraživači mašinske etike usvoje ono što je Bruce Schneier nazvao "sigurnosnim načinom razmišljanja": umjesto da razmišljaju o tome kako će sistem funkcionirati, zamislite kako bi mogao propasti. Naprimjer, on sugerira da čak i AI koja samo daje tačna predviđanja i komunicira putem tekstualnog interfejsa može uzrokovati nenamjernu štetu.
U 2014., Luke Muehlhauser i Nick Bostrom naglasili su potrebu za 'prijateljskom AI'; ipak, poteškoće u dizajniranju 'prijateljske' superinteligencije, naprimjer programiranjem kontračinjeničnog moralnog razmišljanja, znatne su.
Također pogledajte
Afektivno računarstvo AI poravnanje AI efekat Preuzimanje AI Ambijentna inteligencija Primjena vještačje inteligencije Utrka u naoružanju vještačkom inteligencijom Integracija sistema vještačke inteligencije Autonomni agent Utjelovljeni agent Prepoznavanje emocija Egzistencijalni rizik od vještačke opće inteligencije Hibridni inteligentni sistem Eksplozija obavještajne službe Inteligentni agent Inteligentna kontrola Mašinska etika Institut za istraživanje mašinske inteligencije OpenAI Regulacija algoritama Rokov bazilisk Analiza sentimenta Singularitarizam – moralna filozofija koju zastupaju zagovornici Friendly AI Tehnološka singularnost Tri zakona robotike
Reference
Dopunska literatura Yudkowsky, E. Artificial Intelligence as a Positive and Negative Factor in Global Risk. In Global Catastrophic Risks, Oxford University Press, 2008.Discusses Artificial Intelligence from the perspective of Existential risk. In particular, Sections 1-4 give background to the definition of Friendly AI in Section 5. Section 6 gives two classes of mistakes (technical and philosophical) which would both lead to the accidental creation of non-Friendly AIs. Sections 7-13 discuss further related issues. Omohundro, S. 2008 The Basic AI Drives Appeared in AGI-08 - Proceedings of the First Conference on Artificial General Intelligence Mason, C. 2008 Human-Level AI Requires Compassionate Intelligence Appears in AAAI 2008 Workshop on Meta-Reasoning:Thinking About Thinking Froding, B. and Peterson, M 2021 Friendly AI Ethics and Information Technology volume 23, pp 207–214.
Vanjski linkovi Ethical Issues in Advanced Artificial Intelligence by Nick Bostrom What is Friendly AI? — A brief description of Friendly AI by the Machine Intelligence Research Institute. Creating Friendly AI 1.0: The Analysis and Design of Benevolent Goal Architectures — A near book-length description from the MIRI Critique of the MIRI Guidelines on Friendly AI — by Bill Hibbard Commentary on MIRI's Guidelines on Friendly AI — by Peter Voss. The Problem with ‘Friendly’ Artificial Intelligence — On the motives for and impossibility of FAI; by Adam Keiper and Ari N. Schulman.
Kategorija:Filozofija vještačke inteligencije Kategorija:Singularitarizam Kategorija:Transhumanizam Kategorija:Afektivno računarstvo