Машинна етика (або машинна мораль, обчислювальна мораль або обчислювальна етика) є частиною етики штучного інтелекту, яка стосується надання моральної поведінки машинам, що використовують штучний інтелект, інакше відомих як інтелектуальні агенти. Машинна етика відрізняється від інших етичних сфер, пов'язаних з технікою та технологіями. Машину етику не слід плутати з комп'ютерною етикою, що орієнтована на використання комп'ютера людьми. Її також слід відрізняти від філософії технології, яка стосується значних соціальних наслідків технології.

Історія До 21 століття машинна етика в основному була предметом науково-фантастичної літератури, головним чином через обмежені можливості обчислювальної техніки та штучного інтелекту. Хоча з тих пір визначення «машинної етики» значно еволюціонувало, сам термін був введений Мітчеллом Уолдропом у 1987 році у статті журналу AI Magazine, яка звалася «Питання відповідальності» :"Позаяк, одне, що видно з наведеного вище обговорення, полягає в тому, що інтелектуальні машини будуть втілювати цінності, ідеї та цілі, незалежно від того, планують їх програмісти свідомо чи ні. Таким чином, коли комп'ютери та роботи стають дедалі більш інтелектуальними, надзвичайно важливо, щоб ми ретельно і чітко продумували, які ці вбудовані цінності. Можливо, нам і справді потрібна теорія і практика машинної етики, в дусі трьох законів робототехніки А.Азімова ".

У книзі На шляху до машинної етикиAnderson, M., Anderson, S., and Armen, C. (2004) «Towards Machine Ethics» in Proceedings of the AAAI Workshop on Agent Organization: Theory and Practice, AAAI Press, яка була представлена на семінарі AAAI з питань агентських організацій: теорія та практикаAAAI Workshop on Agent Organization: Theory and Practice, AAAI Press у 2004 році, були викладені теоретичні основи машинної етики.

Питання про впровадження етичного виміру в автономних системах розглянули на симпозіумі AAAI з питань машинної етики восени 2005 року, де дослідники вперше зібрались. Різноманітні перспективи розвитку цього нового терміна можна знайти у зібраному виданні «Машинна етика», що надруковане із матеріалів симпозіуму AAAI восени 2005 року з машинної етики.

У 2007 р. у журналі AI Magazine була представлена стаття Машинна етика: створення етичного інтелектуального агентаAnderson, M. and Anderson, S. (2007). Creating an Ethical Intelligent Agent . AI Magazine, Volume 28(4)., в якій обговорювалося значення машинної етики, та необхідність в машинах, що чітко представляють етичні принципи, та проблеми, що стоять перед тими, хто працює над машинною етикою. Вона також продемонструвала, що машина, принаймні в обмеженій області, може абстрагувати етичний принцип від прикладів етичних суджень і використовувати цей принцип для управління власною поведінкою.

У 2009 р. видавництво Оксфордського університету опублікувало «Моральні машини», «Навчання роботів прямо з помилки», яку рекламували як «першу книгу, що вивчає проблему побудови штучних моральних агентів, глибоко досліджуючи природу прийняття рішень та етики людини». Тут процитовано більш як 450 джерел, близько 100 з яких стосувалися основних питань машинної етики.

У 2011 р. видавництво Кембриджського університету опублікувало збірник нарисів про машину етику під редакцією Майкла та Сьюзен Лі Андерсон, які також відредагували спеціальний випуск IEEE Intelligent Systems на цю тему в 2006 р. Збірка складається з питань, пов'язаних з проблемами додавання етичних принципів машинам.

У 2014 році Управління морських досліджень США оголосило, що протягом п'яти років розподілить 7,5 мільйона доларів грантів університетським дослідникам для вивчення питань машинної етики автономних роботів. Книга Ніка Бострома Суперінтелект: Шляхи, Небезпеки, Стратегії, в якій він розглянув етику машин як «найважливішу … проблему, з якою коли-небудь стикалося людство», досягла 17 місця у списку найбільш продаваних наукових книг у переліку «Нью-Йорк Таймс».

У 2016 році Європейський парламент опублікував документ (22-сторінковий PDF), щоб заохотити Комісію зайнятися питанням правового статусу роботів. Цей документ включав розділи, що стосуються юридичних зобов'язань роботів, за якими відповідальність встановлювалася пропорційно рівню автономності роботів. Документ також ставить під сумнів кількість робочих місць, які можуть бути замінені роботами зі ШІ.

Визначення Джеймс Х. Мур, один з теоретиків-новаторів у галузі комп'ютерної етики, визначає чотири типи етичних роботів. Як потужний дослідник вивчення філософії штучного інтелекту, філософії розуму, філософії науки та логіки, Мур визначає машини як агенти етичного впливу, неявні етичні агенти, явні етичні агенти або повністю етичні агенти. Машина може бути кількома агентами.

Етичні агенти впливу: це машинні системи, які здійснюють або не здійснюють етичний вплив за призначенням. У той же час ці агенти можуть діяти неетично. Мур наводить гіпотетичний приклад, який називається «агент Гудмана», названий на честь філософа Нельсона Гудмана. Агент Гудмана порівнює дати, але має помилку тисячоліття. Ця помилка виникла через програмістів, які представляли дати лише з двома останніми цифрами року. Тож будь-які дати після 2000 року будуть вважатися більш ранніми ніж ті, що були наприкінці ХХ століття. Таким чином, агент Гудмана був етичним агентом впливу до 2000 року, а неетичним агентом впливу після цього. Неявні етичні агенти: Для розгляду людської безпеки, ці агенти запрограмовані бути відмовостійкими, або мають вбудовану доброчесність. Вони мають не цілком етичний характер, а скоріше запрограмовані на уникнення неетичних результатів. Явні етичні агенти: це машини, які здатні обробляти сценарії та діяти за етичними рішеннями. Машини, які мають алгоритми етичної поведінки. Повноцінні етичні агенти: ці машини подібні до явних етичних агентів, оскільки вони можуть приймати етичні рішення. Однак вони також містять метафізичні особливості людини (тобто мають свободу волі, свідомість та навмисність).

(Див. .)

Основні напрямки машинної етики

Проблема управління ШІ Деякі вчені, такі як філософ Нік Бостром та дослідник ШІ Стюарт Рассел, стверджують, що якщо ШІ перевершить людство в загальному інтелекті і стане " надінтелектуальним ", тоді цей новий суперінтелект може стати надто потужним та некерованим: подібно до того, як залежить доля гірської горили від людської доброзичливості, так, можливо, доля людства залежатиме від дій майбутнього машинного суперінтелекту. У своїх відповідних книгах " Суперінтелект " і "Сумісність з людьми " обидва вчені стверджують, що, хоча існує велика невизначеність щодо майбутнього ШІ, ризик для людства є досить високим, щоб розпочати діяти вже в даний час.

Це і представляє проблему управління ШІ: як створити інтелектуального агента, який допоможе його творцям, уникаючи разом з тим ненавмисної побудови суперінтелекту, що матиме змогу зашкодити його творцям. Небезпека неправильного проектування контролю «з першого разу» полягає в тому, що суперінтелект зможе захопити владу над своїм оточенням і перешкодити людям вимкнути його. Можливі стратегії управління ШІ включають «контроль здібностей» (обмеження здатності ШІ впливати на світ) та «мотиваційний контроль» (побудова ШІ, цілі якого узгоджуються з людськими цінностями). Існує ряд організацій, які досліджують проблему управління ШІ, зокрема Інститут майбутнього людства, Інститут досліджень машинного інтелекту, Центр сумісного з людьми штучного інтелекту та Інститут майбутнього життя.

Алгоритми та навчання Обговорювались парадигми ШІ, особливо щодо їх ефективності та упередженості. Нік Бостром та Еліезер Юдковський надають аргументи щодо дерев ухвалення рішень (таких як ID3) через нейронні мережі та генетичні алгоритми на тій підставі, що дерева рішень підкоряються сучасним соціальним нормам прозорості та передбачуваності (наприклад, судовий прецедент). На противагу цьому Кріс Сантос-Ланг аргументував свою підтримку нейронних мереж та генетичних алгоритмів на тій підставі, що нормам будь-якого віку необхідно дозволити змінюватися, і що природна нездатність повністю задовольнити ці конкретні норми має важливе значення для того, щоб зробити людей менш вразливими, ніж машини до злочинних «хакерів».

У 2009 році в експерименті в Лабораторії інтелектуальних систем в Політехнічному університеті Ecole в Лозанні, Швейцарія, роботам зі ШІ було запрограмовано співпрацю між собою та завданням пошуку корисного ресурсу, уникаючи отруйних ресурсів.Evolving Robots Learn To Lie To Each Other , Popular Science, August 18, 2009 Під час експерименту роботи були згруповані в клани, а цифровий генетичний код успішних членів був використаний для наступного покоління, типу алгоритму, відомого як генетичний алгоритм. Після 50 послідовних поколінь у ШІ члени одного клану виявили, як відрізнити корисний ресурс від отруйного. Потім роботи навчились брехати один одному, намагаючись накопичити корисний ресурс на відміну від інших роботів.Evolving Robots Learn To Lie To Each Other, Popular Science, August 18, 2009 У тому ж експерименті ті самі роботи ШІ також навчились поводитися безкорисливо і сигналізували про небезпеку для інших роботів, а також рятуванню інших роботів ціною власної загибелі.Santos-Lang, Chris (2002). «Ethics for Artificial Intelligences». Archived from the original on 2011-12-03. Наслідки цього експерименту були оскаржені дослідниками машинними етики. В експерименті Ecole Polytechnique Fédérale цілі роботів були запрограмовані на «кінцеві». На відміну від людських мотивів які, як правило, вимагають нескінченного навчання.

Автономні системи озброєння У 2009 році науковці та технічні експерти відвідали конференцію, на якій обговорили потенційний вплив роботів та комп'ютерів та вплив гіпотетичної можливості того, що вони можуть стати самодостатніми та здатними приймати власні рішення. Вони обговорили можливість та ступінь, в якій комп'ютери та роботи можуть отримати будь-який рівень автономності, і наскільки вони можуть використовувати такі здібності, щоб представляти будь-яку загрозу чи небезпеку для людства. Експерти відзначили, що деякі машини отримали різні форми напівавтономії, включаючи можливість самостійно знаходити джерела живлення та можливість самостійно вибирати цілі для збройної атаки. Також зазначили, що деякі комп'ютерні віруси можуть ухилитися від ліквідації та досягли «інтелекту тарганів». Та зауважили, що самосвідомість, як у науковій фантастиці, мабуть, малоймовірна, але існують інші потенційні небезпеки та підводні камені.Scientists Worry Machines May Outsmart Man By JOHN MARKOFF, NY Times, July 26, 2009.

Деякі експерти та науковці ставлять під сумнів використання роботів для військового бою, особливо коли таким роботам надається певна ступінь автономних функцій.Call for debate on killer robots , By Jason Palmer, Science and technology reporter, BBC News, 8/3/09. Військово-морські сили США профінансували звіт, який вказує, що в міру ускладнення військових роботів слід приділяти більше уваги наслідкам їх здатності приймати самостійні рішення.Navy report warns of robot uprising, suggests a strong moral compass , by Joseph L. Flatley engadget.com, Feb 18th 2009. Президент Асоціації сприяння розвитку штучного інтелекту доручив провести дослідження, щоб, більш детально розглянути це питання.AAAI Presidential Panel on Long-Term AI Futures 2008—2009 Study , Association for the Advancement of Artificial Intelligence, Accessed 7/26/09. Вони вказують на такі програми, як пристрій для вивчення мови, який може імітувати людську взаємодію.

Інтеграція штучного загального інтелекту з суспільством Проведена попередня робота над методами інтеграції штучного загального інтелекту (повноцінних етичних агентів) з існуючими правовими та соціальними нормами. Підходи були зосереджені на врахуванні їх юридичного становища та прав.

Упередження машинного навчання