Элие́зер Шло́мо Юдко́вский (; род. 11 сентября 1979) — американский исследователь искусственного интеллекта, занимающийся проблемами технологической сингулярности и выступающий за создание дружественного ИИ. Ключевая фигура сообщества рационалистов.
Биография Элиезер Юдковский родился 11 сентября 1979 года в семье ортодоксальных евреев.
Научные интересы Юдковский — сооснователь и научный сотрудник Machine Intelligence Research Institute (MIRI). Он — автор книги «Создание дружественного ИИ»Creating Friendly AI , 2001, статей «Уровни организации универсального интеллекта»Levels of Organization in General Intelligence , 2002, «Когерентная экстраполированная воля»Coherent Extrapolated Volition , 2004 и «Вневременная теория принятия решений»Timeless Decision Theory , 2010. Его последними научными публикациями являются две статьи в сборнике «Риски глобальной катастрофы» (2008) под редакцией Ника Бострома, а именно «Искусственный интеллект как позитивный и негативный фактор глобального риска» и «Когнитивные искажения в оценке глобальных рисков». Юдковский не обучался в вузах и является автодидактом без формального образования в области ИИ.
Юдковский исследует те конструкции ИИ, которые способны к самопониманию, самомодификации и рекурсивному самоулучшению (Seed AI), а также такие архитектуры ИИ, которые будут обладать стабильной и позитивной структурой мотивации (Дружественный искусственный интеллект). Помимо исследовательской работы, Юдковский известен своими объяснениями сложных моделей на неакадемическом языке, доступном широкому кругу читателей, например, см. его статью «Интуитивное объяснение теоремы Байеса».
Юдковский был вместе с Робином Хансоном одним из главных авторов блога Overcoming Bias (преодоление предубеждений). В начале 2009 года он участвовал в организации блога LessWrong, нацеленного на «развитие рациональности человека и преодоление когнитивных искажений». После этого Overcoming Bias стал личным блогом Хансона. Материал, представленный на этих блогах, был организован в виде цепочек постов, которые смогли привлечь тысячи читателей — см. например, цепочку «теория развлечений».
Юдковский — автор нескольких научно-фантастических, рациональных рассказов, в которых он иллюстрирует некоторые темы, связанные с когнитивной наукой и рациональностью. В неакадемических кругах больше известен как автор фанфика «Гарри Поттер и методы рационального мышления» под эгидой LessWrong.
В начале 2020-х гг. начал публично выступать о высокой вероятности экзистенциальной катастрофы, вызванной искусственным интеллектом. В опубликованной в марте 2023 года статье для Time он написал, что без маловероятного всемирного моратория на обучение общих ИИ-моделей умнее GPT-4, который государства были бы готовы поддерживать силовыми методами (вплоть до уничтожения дата-центров, отказывающихся соблюдать ограничения, даже если есть шанс конфликта между ядерными державами), человечество обречено. Вслед за ним похожее беспокойство начали высказывать два из трёх «крёстных отцов» искусственного интеллекта, Йошуа Бенжио и Джеффри Хинтон.
Сочинения Our Molecular Future: How Nanotechnology, Robotics, Genetics and Artificial Intelligence Will Transform Our World by Douglas Mulhall, 2002, p. 321. The Spike: How Our Lives Are Being Transformed By Rapidly Advancing Technologies by Damien Broderick, 2001, pp. 236, 265—272, 289, 321, 324, 326, 337—339, 345, 353, 370.
Академические публикации
Статьи на русском Систематические ошибки в рассуждениях, потенциально влияющие на оценку глобальных рисков Искусственный интеллект как позитивный и негативный фактор глобального риска Рациональность: от ИИ до зомби
Примечания
Ссылки Personal web site Biography page at KurzweilAI.net Biography page at the Singularity Institute Downloadable papers and bibliography Less Wrong — «A community blog devoted to refining the art of human rationality» founded by Yudkowsky. Переводы статей по рациональному мышлению на русский Predicting The Future :: Eliezer Yudkowsky, NYTA Keynote Address — Feb 2003 Eliezer Yudkowsky on The Agenda with Steve Paikin discussion panel, «Robotics Revolution and the Future of Evolution» at the Quantum to Cosmos Festival, with Hod Lipson, Michael Belfiore, Cory Doctorow Less Wrong Q&A with Eliezer Yudkowsky: Video Answers Глава о Юдковском в книге «21st Century Technology and Its Radical Implications for Mind, Society and Reality»
Категория:Философы XX века Категория:Философы XXI века Категория:Активисты продления жизни Категория:Блогеры США Категория:Либертарианцы США Категория:Трансгуманисты США Категория:Специалисты по искусственному интеллекту