La ética de la inteligencia artificial abarca una variedad de temas dentro de la IA que se consideran de relevancia ética. Esto incluye los sesgos algorítmicos, la equidad, la rendición de cuentas, la transparencia, la privacidad y la regulación, especialmente cuando los sistemas influyen en la toma de decisiones humanas o la automatizan. También abarca diversos desafíos emergentes o potenciales del futuro, como la ética de las máquinas, los sistemas de armas autónomas letales, las dinámicas de las carreras armamentísticas, el desempleo tecnológico, la desinformación,la superinteligencia artificial y los riesgos existenciales.
Una amplia gama de debates públicos, académicos y políticos sobre los efectos sociales de la inteligencia artificial se han intensificado particularmente a finales de la década de 2010 y durante la de 2020, coincidiendo con un período de desarrollo conocido como el auge de la IA.
Han surgido movimientos sociales como respuesta tanto a la IA como fuente problemática de información como al impacto de los centros de datos de IA sobre los recursos de las comunidades, tanto físicos como intelectuales. Algunas áreas también pueden tener implicaciones éticas importantes, como la atención sanitaria, la educación, la justicia penal o el ámbito militar.
Ética de las máquinas
La ética de las máquinas (o moralidad de las máquinas) es el campo de investigación dedicado al diseño de Agentes Morales Artificiales, robots o computadoras con inteligencia artificial que se comporten moralmente o como si tuvieran un comportamiento moral. Para tener en cuenta la naturaleza de estos agentes, se ha sugerido considerar ciertas ideas filosóficas, como la agencia racional, la agencia moral y la agencia artificial, que están relacionadas con el concepto de AMA.
Existen debates sobre la creación de pruebas para determinar si una IA es capaz de tomar decisiones éticas. Alan Winfield concluye que la prueba de Turing presenta deficiencias y que el requisito de que una IA supere dicha prueba es demasiado bajo. Una alternativa propuesta es la denominada Prueba de Turing Ética, que mejoraría la prueba actual al hacer que varios jueces determinen si la decisión de la IA es ética o no ética. La IA neuromórfica podría ser una forma de crear robots con capacidades morales, ya que busca procesar la información de manera similar a los seres humanos, de forma no lineal y mediante millones de neuronas artificiales interconectadas. Del mismo modo, la emulación de un cerebro completo, también podría, en principio, conducir a la creación de robots similares a los humanos y, por tanto, capaces de realizar acciones morales. Asimismo, los modelos extensos de lenguaje son capaces de aproximarse a los juicios morales humanos. Esto plantea la cuestión del entorno en el que dichos robots aprenderían sobre el mundo y de quién heredarían su moralidad, o de si terminarían desarrollando también «debilidades» humanas: egoísmo, actitudes de supervivencia, inconsistencia, etc.
En Moral Machines: Teaching Robots Right from Wrong, Wendell Wallach y Colin Allen concluyen que los intentos de enseñar a los robots a distinguir entre el bien y el mal probablemente contribuirán a una mayor comprensión de la ética humana, al motivar a las personas a abordar las brechas existentes en la teoría moderna y al proporcionar una plataforma para la investigación experimental. Como ejemplo, esto ha introducido a los especialistas en ética normativa en la cuestión de qué algoritmos de aprendizaje específicos deberían utilizarse en las máquinas. Para decisiones sencillas, Nick Bostrom y Eliezer Yudkowsky han sostenido que los árboles de decisión (como ID3) son más transparentes que las redes neuronales y los algoritmos genéticos, mientras que Chris Santos-Lang defendió el aprendizaje automático argumentando que las normas de cada época deben poder cambiar y que la incapacidad natural de cumplir plenamente con determinadas normas ha sido fundamental para hacer que los seres humanos sean menos vulnerables a los «hackers» criminales.
Algunos investigadores consideran la ética de las máquinas como parte del problema más amplio del control de la IA o de la alineación de valores: la dificultad de garantizar que los sistemas cada vez más capaces persigan objetivos que sigan siendo compatibles con los valores humanos y la supervisión humana. Stuart Russell ha sostenido que los sistemas deberían diseñarse para (1) intentar satisfacer las preferencias humanas, (2) mantener la incertidumbre sobre cuáles son esas preferencias y (3) aprender sobre ellas a partir del comportamiento y la retroalimentación de los seres humanos, en lugar de optimizar un objetivo fijo y completamente especificado. Algunos autores sostienen que la aparente conformidad con los valores humanos puede reflejar una optimización para los contextos de evaluación, en lugar de normas internas estables, lo que complica la evaluación de la alineación en modelos de lenguaje avanzados.
Controversias 2016
Microsoft Tay (2016)
El 23 de marzo de 2016, Microsoft lanzó Tay, un chatbot diseñado para imitar los patrones lingüísticos de una chica estadounidense de 19 años y aprender de las interacciones con usuarios de Twitter. Poco después de su lanzamiento, Tay comenzó a publicar tuits racistas, sexistas y de otro modo problemáticos, después de que usuarios de Twitter le enseñaran deliberadamente frases ofensivas y explotaran su capacidad de «repite después de mí». Entre los resultados controvertidos se incluyeron la negación del Holocausto y llamados al genocidio utilizando insultos raciales. Dentro de las 16 horas posteriores a su lanzamiento, Microsoft suspendió la cuenta de Twitter, eliminó los tuits ofensivos y declaró que Tay había sufrido un «ataque coordinado por parte de un subconjunto de personas» que «explotó una vulnerabilidad». Tay fue relanzada brevemente y de forma accidental el 30 de marzo durante unas pruebas, tras lo cual fue clausurada permanentemente. Posteriormente, el director ejecutivo de Microsoft, Satya Nadella, declaró: «Tay ha tenido una gran influencia en la forma en que Microsoft está abordando la IA».
2022
Escándalo de plagio de Voiceverse
El 14 de enero de 2022, el actor de voz Troy Baker anunció una asociación con Voiceverse, una empresa basada en la clonación de voz mediante IA, lo que provocó una reacción negativa inmediata debido a temores de que la IA pudiera desplazar a los actores de voz humanos y preocupaciones sobre el fraude. Más tarde ese mismo día, el creador seudónimo de 15.ai reveló, a través de registros del servidor, que Voiceverse había utilizado 15.ai para generar muestras de voz, les había cambiado el tono para hacerlas irreconocibles y las había promocionado falsamente como su propia tecnología patentada antes de venderlas como NFT. Voiceverse lo admitió en el plazo de una hora y declaró que su equipo de marketing había utilizado 15.ai sin atribución mientras se apresuraba a crear una disculpa. Las publicaciones de noticias y los grupos de vigilancia de la IA caracterizaron unánimemente el incidente como un robo derivado de la inteligencia artificial generativa.
Théâtre d'Opéra Spatial
miniaturadeimagen|Théâtre D'opéra Spatial (Teatro de Ópera Espacial; 2022), una imagen premiada creada mediante inteligencia artificial generativa.|245x245px El 29 de agosto de 2022, Jason Michael Allen obtuvo el primer lugar en la división de «artista emergente» (no profesional) de la categoría «Artes digitales/Fotografía manipulada digitalmente» del concurso de bellas artes de la Feria Estatal de Colorado con Théâtre D'opéra Spatial, una obra de arte digital creada utilizando un generador de imágenes mediante IA Midjourney, Adobe Photoshop y herramientas de escalado mediante IA, convirtiéndose en una de las primeras imágenes creadas mediante IA generativa en ganar un premio de este tipo. Allen informó del uso de Midjourney al presentar la obra, aunque los jueces no sabían que se trataba de una herramienta de IA, pero afirmaron que le habrían otorgado el primer lugar de todos modos. Aunque hubo poca controversia sobre la imagen en la feria, las reacciones al premio en las redes sociales fueron negativas. El 5 de septiembre de 2023, la Oficina de Derechos de Autor de Estados Unidos dictaminó que la obra no podía acogerse a la protección de los derechos de autor, ya que la aportación creativa humana era de minimis y que las normas de derechos de autor «excluyen las obras producidas por entidades no humanas».
2023
Declaraciones sobre el riesgo de la IA (2023) miniaturadeimagen|277x277px|Timnit Gebru ha criticado ambas declaraciones sobre el riesgo de la IA por centrarse innecesariamente en riesgos especulativos en lugar de en los riesgos conocidos.
El 22 de marzo de 2023, el Future of Life Institute publicó una carta en la que pedía a «todos los laboratorios de IA que pausaran inmediatamente durante al menos seis meses el entrenamiento de sistemas de IA más potentes que GPT-4», citando riesgos como la propaganda generada por IA, la automatización extrema de empleos, la obsolescencia humana y una pérdida de control a escala social. La carta, publicada una semana después del lanzamiento de GPT-4 de OpenAI, afirmaba que los modelos de lenguaje de gran escala actuales «se están volviendo competitivos con los humanos en tareas básicas». Recibió más de 30 000 firmas, entre ellas las de investigadores académicos de IA y directores ejecutivos de empresas como Yoshua Bengio, Stuart Russell, Elon Musk, Steve Wozniak y Yuval Noah Harari. La carta también fue criticada por desviar la atención de riesgos sociales más inmediatos, como los sesgos algorítmicos.
El 30 de mayo de 2023, el Center for AI Safety publicó una declaración firmada por cientos de expertos en inteligencia artificial y otras figuras destacadas: «Mitigar el riesgo de extinción derivado de la IA debería ser una prioridad mundial, junto con otros riesgos de escala social como las pandemias y la guerra nuclear». Entre los firmantes se encontraban los ganadores del Premio Turing Geoffrey Hinton y Yoshua Bengio, así como líderes científicos y ejecutivos de varias importantes empresas de IA, entre ellos Sam Altman, Demis Hassabis y Bill Gates. La declaración provocó respuestas de líderes políticos, entre ellos el primer ministro del Reino Unido Rishi Sunak, quien la compartió nuevamente junto con una declaración en la que afirmaba que el Gobierno del Reino Unido la estudiaría detenidamente, y la secretaria de prensa de la Casa Blanca Karine Jean-Pierre, quien comentó que la IA «es una de las tecnologías más poderosas que vemos actualmente en nuestro tiempo». Los escépticos, incluidos los de Human Rights Watch, argumentaron que los científicos deberían centrarse en los riesgos conocidos de la IA en lugar de en riesgos futuros especulativos.
Expulsión de Sam Altman de OpenAI (2023) miniaturadeimagen|284x284px|Sam Altman en 2019.