En este artículo se exponen algunos de los principales problemas éticos relacionados con la inteligencia artificial (IA). Estas herramientas de IA se han ido implantando en infinidad de áreas, como el ámbito laboral, médico, judicial o administrativo. Si bien estas tecnologías prometen mejorar nuestras prácticas y hacerlas más eficientes, problemas éticos como los sesgos, la discriminación o la vulneración de la privacidad resultan preocupantes. Tras una exposición inicial sobre estos problemas éticos de la IA, se hace una llamada (...) de atención a la necesidad de incorporar las reflexiones de la ética del cuidado a la ética de la inteligencia artificial. (shrink)

The first part of this paper contextualizes the debate on the ethical regulation of Artificial Intelligence, and then reviews the main Anglo-Eurocentric elements of public initiatives about the ‘Ethics of AI’ that have recently emerged. All this with the ultimate purpose of analyzing the basis of principlism of the Ethics of AI. We refer to this with the specific purpose of presenting it in terms of a paradigmatic case of ‘colonized’ ethics that hides the different moral judgments and the (...) alternative cultural axiologies. We begin with the hypothesis that there is a possibility of questioning the real purpose and contribution of this applied ethics, using a dilemmatic perspective specific to human and legal sciences. In order to execute this type of analysis, which is highly required to understand what the future of these proposals is and how it can affect the regulation of AI, an analysis related to the contemporary literature from the Decoloniality field will be performed. (shrink)

Este artículo examina la incorporación de la ética aplicada a la inteligencia artificial (IA) en los currículos universitarios chilenos, destacando la urgencia de implementar un marco de acción integrado. Mediante un análisis documental, se evidencia que la mayoría de los programas de educación superior no declaran cursos de ética en IA en sus currículos, lo que alerta la necesidad de sistematizar esta integración institucionalmente. En respuesta, proponemos un enfoque basado en el feminismo en la ciencia y (...) el feminismo de datos, promoviendo la inclusión de diversas perspectivas y experiencias en la enseñanza de la ética aplicada. Este marco busca mejorar la integración de la ética en el currículo y también preparar a los estudiantes para resolver dilemas éticos en contextos sociotécnicos complejos, reforzando la necesidad del razonamiento ético aplicado en la formación en disciplinas asociadas a la IA. (shrink)

El acelerado proceso de degradación ambiental alerta sobre una grave situación en la que la inteligencia artificial (IA) no puede mantenerse al margen. Las propuestas de Aimee van Wynsbergue y Mark Coeckelbergh sobre una IA comprometida con la sostenibilidad ambiental, suponen un primer paso para plantear un desarrollo alternativo de esta tecnología disruptiva. Sin embargo, es necesario ofrecer un fundamento teórico para plantear una inteligencia artificial sostenible (IAS). Este fundamento puede originarse en dos propuestas éticas familiarizadas (...) con la responsabilidad y el cuidado. Por un lado, se encuentra la ética de la responsabilidad de Hans Jonas; y por otro, las éticas del cuidado de Carol Gilligan y los pueblos indígenas, fuertemente sensibilizados con la naturaleza. (shrink)

Este trabajo analiza algunos temas de inteligencia artificial y ética. Desde una óptica humanista pone en el centro la reflexión antropológica para pasar a una exploración de la dimensión ética. En definitiva, el artículo realiza una defensa del ser humano, indaga sobre la responsabilidad ética de esa ciencia y muestra gran interés en que todos (pobres y ricos) se vean beneficiados por sus avances. La inteligencia artificial nos obliga a reflexionar de nuevo sobre (...) los procesos éticos. Durante un tiempo parecía que la ética de esta ciencia estaba dominada por filosofías transhumanistas. Es hora de poner al hombre en todas sus dimensiones en el centro del pensamiento. (shrink)

La inteligencia artificial (IA) es una realidad cuyo desarrollo plantea múltiples problemas en la actualidad. El conflicto surge entre las posibilidades técnicas reales, y las consecuencias éticas de implementarla hasta sus últimas consecuencias. El presente trabajo analiza alguna de estas problemáticas y sostiene que la IA, es un instrumento al servicio del ser humano y sólo así debe ser utilizado, so pena de convertirse en un recurso ingobernable. Urge, por tanto, un ejercicio de responsabilidad que proteja el humanismo (...) y los derechos fundamentales, defendiendo que, el ser humano es, y debe seguir siendo, el centro de la creación. (shrink)

El presente trabajo se centra en la ética de la IA y en los principios que la inspiran. Antes de las normas que regulan la IA es necesario conocer las cuestiones éticas relacionadas con el desarrollo, la implementación y el uso responsable de los sistemas de IA. El concurso de estos fundamentos éticos es necesario para proteger los derechos y la dignidad de las personas, garantizar la equidad en el acceso y tratamiento de datos, minimizar los sesgos y riesgos (...) asociados con los algoritmos, promover la transferencia en las decisiones automatizadas y auspiciar la confiabilidad en la tecnología, el beneficio humano y el bienestar social.También se propone el estudio de la ética de la IA desde un punto de vista omnicomprensivo que integre tanto la ética aplicada como la metaética de la IA. (shrink)

A menudo, el destello de los beneficios que reporta la inteligencia artificial en numerosos espacios, eclipsa los impactos medioambientales de esta tecnología. En este sentido, en un contexto marcado por la superación de los límites planetarios, es conveniente iniciar una senda reflexiva que aspire a plantear una inteligencia artificial sostenible. El compromiso con la responsabilidad y el cultivo del cuidado modelan un marco ético para la realización de la sostenibilidad como un ideal moral indispensable para el (...) presente y el futuro de los intelectos sintéticos. El reconocimiento y la estimación de la vulnerabilidad de la biosfera constituyen dos piezas claves para comprender los efectos de una agencia moral mediada por la tecnología. (shrink)

La irrupción de la utilización generalizada de inteligencia artificial en el ámbito de la comunicación y en concreto en el periodismo muestra un resultado claroscuro que cabe analizar desde una perspectiva crítica. Este artículo aborda desde un perspectiva crítica la revolución que la presencia creciente de la inteligencia artificial está provocando tanto los métodos como en los resultados periodísticos, afectando a sus garantías de calidad y excelencia. El texto sostiene que es necesario acercarse críticamente al impacto (...) actual, así como al potencial, que este presenta para los profesionales, las organizaciones y la sociedad, y propone hacerlo desde el método hermenéutico-crítico de las éticas aplicadas. El estudio se estructura en dos partes. Una primera que realiza una aproximación a la irrupción de la inteligencia artificial en la práctica del periodismo, explicitando las recomendaciones que desde diferentes instancias se ofrecen para orientar esta incorporación de la inteligencia artificial en la práctica comunicativa, concretamente en la periodística. Una segunda parte que identifica los principales riesgos éticos, recomendaciones y principios éticos para afrontarlos desde la autorregulación ética. (shrink)

La dimensión ética respecto al uso de la inteligencia artificial es hoy un debate obligado en diversas áreas del conocimiento. Los beneficios de la IA en la educación son innegables, sin embargo, invitan a los educadores a una reflexión profunda respecto a los objetivos que se espera alcanzar en los aprendizajes, así como a los riesgos que este tipo de tecnología presenta. A través de una revisión bibliográfica sobre los alcances éticos en educación, se constata la existencia (...) de diversas regulaciones que, desde la perspectiva humanista, apuntan a un uso responsable, sin perder de vista que el fin último es la persona y su dignidad. La ética corre tras los avances tecnológicos, pues la reflexión sobre el uso adecuado de ellas no logra anticiparse a su rápida implementación. Unesco y el Consenso de Beijing señalan que la IA debe estar al servicio de la educación y que es crucial promover una utilización equitativa e inclusiva, transparente y responsable. Generar confianza debe ser el pilar fundamental de esta construcción ética, por ello exige que los líderes escolares y los docentes reflexionen la finalidad del uso; se promueva una adecuada capacitación; se identifiquen beneficios y riesgos y se incorpore a toda la comunidad educativa. (shrink)

La expansión acelerada de tecnologías disruptivas como la Inteligencia Artificial Generativa y su aplicación progresiva a las distintas esferas de la sociedad han evidenciado las enormes potencialidades transformadoras que poseen, pero también los grandes riesgos que se derivan de su uso generalizado. Sobre esa base, el presente artículo analiza y reflexiona acerca del rol que deben tener los poderes públicos como únicas instituciones capaces de preservar la ética pública, los valores públicos y el bien común ante el (...) desarrollo tecnológico. Con ello, la creación de valor público y la preservación de una ética pública han de constituir un marco de referencia para situar las tecnologías disruptivas al servicio de la ciudadanía y construir una adecuada gobernanza pública. Esta propuesta reafirma, por consiguiente, la importancia de que los poderes públicos configuren un modelo eficaz de gobernanza social de esta tecnología disruptiva, lo que debería ser entendido como un aspecto prioritario en la agenda pública. Cualquier respuesta distinta de las instituciones públicas, ya sea pasiva, reactiva o inhibitoria, pondría en riesgo no solo la gestión de lo público, sino también la esencia misma del orden democrático representativo vigente. (shrink)

Este artículo muestra que la ética del discurso en versión de la ética cordis contribuye a mantener una actitud crítica de discernimiento ante las tecnologías de la inteligencia artificial. Propone distinguir entre opinión pública y razón pública, para destacar el sentido crítico del uso público de la razón en la línea de Kant, Rawls, Habermas y Cortina. Y afrontar las dificultades para ejercer la razón pública en la era digital: impacto de la inteligencia artificial (...) en la comunicación, hiperconectitividad, datificación, “panóptico digital” y la espiral del silencio, que ponen en peligro el uso de la razón y la intimidad personal. (shrink)

El uso de la Inteligencia artificial (IA) en la Medicina de laboratorio (ML) ha provocado un salto cualitativo en el diagnóstico de enfermedades que aquejan al ser humano. El desarrollo de robots para la medición, cálculo y predicción ha aumentado la confiabilidad, validez y reproducibilidad de las pruebas diagnósticas con IA, induciendo a una fácil elección de dicha tecnología en el laboratorio clínico. Sin embargo, la IA en la ML entraña una serie de reflexiones éticas que deben considerarse. (...) La incipiente tecnología en desarrollo, la presencia de sesgos cognitivos en los algoritmos y datos, la incertidumbre del funcionamiento del robot, las limitaciones tecnológicas, la amenaza a la privacidad y la ausencia de un marco legal abren conflictos éticos que laceran la equidad, la seguridad y la autonomía del hombre. El imperativo tecnológico de la IA en la ML no debe superar la responsabilidad, ni atentar contra la dignidad de la persona. (shrink)

Las tecnologías de la inteligencia artificial (IA) hacen emerger con mayor fuerza una pregunta central para la filosofía contemporánea: ¿cómo se generan los desplazamientos éticos a través de la producción de nuevas formas de convivencia tecnológica? Saber en qué consisten estos desplazamientos y si contribuyen, o no, a determinados tipos de convivencia es más urgente que precipitarse a una producción de normativa que no se enfrenta a los cambios inherentes al nuevo entorno. Pero una de las consecuencias que (...) apuntan en este enfoque es que la programación, sometida a las lógicas de la anticipación, no puede resolver el problema simplemente. La programación tiende a la formación de nichos o esferas en los que los individuos se desenvuelven perdiendo visión de la complejidad; la delegación de los cálculos a las máquinas hace que disminuya no sólo la capacidad del cálculo aritmético sino la imaginación matemática, creando nichos epistémicos crecientemente reservados a las máquinas; la minería de datos borra las diferencias entre lo público y lo privado, afianzando modos de comportamiento que esquivan la autorreflexión y el escrutinio de nuestras acciones en relación al bien común. Pero ¿pueden los programas desenvolverse en un sentido contrario, fortaleciendo las destrezas epistémicas, haciendo visible la complejidad, la participación política y la diversificación de bienes comunes en un mundo tecnológicamente denso? O en otros términos, ¿podemos encontrar en ellos claves para una ética robusta de la convivencia tecnológica? Las contribuciones de este número desgranan las transformaciones en las nociones de autonomía, creatividad y precariedad en el contexto de la IA. (shrink)

¿Puede la inteligencia artificial (IA) hacernos más morales o ayudarnos a tomar decisiones más éticas? El libro Más (que) humanos. Biotecnología, inteligencia artificial y ética de la mejora, editado por Francisco Lara y Julian Savulescu (2021), puede inspirarnos filosóficamente sobre este debate contemporáneo. En esta nota crítica, contextualizo la aportación general del volumen y analizo los dos últimos capítulos de Monasterio-Astobiza y de Lara y Deckers, quienes argumentan a favor del uso de la IA para (...) hacernos mejores agentes morales. El objetivo es ampliar y matizar críticamente algunas cuestiones clave sobre cómo la IA puede asistirnos para tomar decisiones más éticas. (shrink)

Desde hace ya bastante tiempo existe una tendencia a afirmar que el derecho o las normas de diferente tipo no son adecuadas o aplicables para las diferentes nuevas tecnologías que van apareciendo de forma continua. Este trabajo intentará dar la vuelta a ese razonamiento y, centrándose en la inteligencia artificial, tratará de plantear criterios adecuados para que esa tecnología y muchas otras sean desarrolladas y aplicadas de forma adecuada a los derechos fundamentales en general y a la privacidad (...) en particular. Dentro de esos criterios se analizará lo que debe aportar la explicabilidad de la tecnología mencionada y se profundizará en algunos conceptos adicionales como la posibilidad y la necesidad de controlar y de auditar sistemas de inteligencia artificial. Para realizar la mencionada profundización se recurrirá a lo que se conoce como objetivos de protección y a los principios de la ciberética, incluyendo una referencia especial a la sostenibilidad y a la resiliencia de este tipo de sistemas. (shrink)

En 1956, se introdujo el término de inteligencia artificial (IA) para referirse a una tecnología que es capaz de emular las operaciones cognoscitivas del ser humano mediante el uso de sistemas computacionales y programas informáticos, con el fin de ayudar a la toma de decisiones en distintas áreas de conocimiento.Sin embargo, se ha llegado a cuestionar si debe emplearse el calificativo de inteligencia a esos usos de la tecnología digital. También, se ha generado preocupación sobre sus implicaciones (...) éticas, debido a que la inteligencia artificial consiste en sistemas no autónomos que no son capaces de actos libres y responsables, lo cual exige que sean guiados por personas. Por tanto, el presente trabajo tiene como objeto presentar algunos fundamentos de la filosofía realista de santo Tomás de Aquino que nos permitan hacer una valoración de la inteligencia artificial. (shrink)

La irrupción de la Inteligencia artificial (IA) causa esperanzas e incertidumbres, por las amplias posibilidades que tiene, pero también por los riesgos que representa. Luego de explicar sucintamente en qué consiste la IA, se exponen ejemplos de la presencia de sistemas y aplicaciones en distintos y dispares campos: en la industria, la biotecnología, el cambio climático, la medicina, los negocios, el entretenimiento y las finanzas. Los efectos que la IA puede causar en el planeta, en la cultura y (...) en la vida de los seres humanos hace necesaria una reflexión sobre la eticidad de esas aplicaciones, pues su omnipresencia puede derivar en una algor-cracia (la era digital gobernada por algoritmos) por lo que es necesario pensar y desarrollar una algor-ética, que oriente la utilización de la IA y sus aplicaciones. Se ofrece un decálogo de pautas éticas que permitirán que aquello es técnicamente posible, esté a favor de los seres humanos y nunca les haga daño, ni propicie condiciones adversas o lesivas para ellos. Además de la regulación ética y bioética, las aplicaciones de la IA necesitan un marco jurídico. Se comenta brevemente la Ley de Inteligencia artificial, aprobada por el Parlamento Europeo en marzo del 2024 y redactada con un enfoque basado en el riesgo. Se concluye que son imprescindibles unos parámetros éticos y bioéticos que humanicen la IA, sobre la base de una antropología verdadera, que garantice su utilización al servicio de lo humano, poniendo en el centro la primacía de la dignidad humana. (shrink)

Actualmente la inteligencia artificial se encuentra en un punto de desarrollo nunca visto prometiendo grandes beneficios que trascienden en las distintas esferas sociales. Una problemática al respecto es la aparente neutralidad de los algoritmos utilizados en su programación y su impacto a gran escala en relación con la discriminación generada a partir de los sesgos inmersos en ellos, provenientes de sus diseñadores. Esto como resultado de una mirada parcial a la realidad y la persona misma. La solución a (...) la segregación es posible hallarla no solo en las llamadas paridades, que son una respuesta que pretende ompensar errores en la programación y trae como consecuencia desigualdades en oportunidades y privilegios para ciertos grupos, sino en una mirada a la totalidad de la persona. (shrink)

En las últimas décadas, la inteligencia artificial ha revolucionado el campo del derecho permitiendo su uso para analizar jurisprudencia y predecir decisiones judiciales. Las Administraciones Públicas y las empresas legales emplean herramientas de inteligencia artificial para procesar datos jurídicos, redactar contratos y asesorar en la interpretación de textos legales. La lógica y la filosofía del derecho son fundamentales para formalizar el conocimiento en los sistemas inteligentes. El proceso de toma de decisiones jurídicas se está optimizando con (...) herramientas de inteligencia artificial que buscan y analizan jurisprudencia, gestionan casos y realizan análisis predictivos. Sin embargo, es crucial abordar los desafíos éticos, asegurando la transparencia, la equidad y la responsabilidad en los sistemas automatizados. Las tecnologías emergentes prometen realizar análisis más complejos y adaptarse a nuevas situaciones legales, pero su implementación debe ser regulada para garantizar una justicia imparcial y accesible. (shrink)

En la era del Antropoceno y en el contexto de la Cuarta Revolución Industrial, la inteligencia artificial representa un elemento que profundiza los problemas relacionados con la degradación ambiental. En este sentido, figuras destacadas como Aimee van Wynsberghe y Mark Coeckelbergh han comenzado a plantear el concepto de inteligencia artificial sostenible (IAS). Sin embargo, es importante conectar esta propuesta conceptual con un modelo de innovación que permita su realización en aras de la sostenibilidad. La quíntuple hélice (...) constituye una oportunidad para el impulso de la IAS a través de una innovación comprometida con la participación social y el cuidado ambiental. (shrink)

Los constantes avances tecnológicos han provocado una verdadera revolución en nuestro modus vivendi que, todavía, impactan de forma exponencial a la sociedad como un todo. Vivimos en la era de la información y, en ella, uno de los principales temas que emerge es el que concierne a la privacidad y a la protección de datos personales. Con la introducción de los sistemas informáticos en prácticamente todos los sectores sociales, nuestros datos son cada vez más útiles pero vulnerables a la vez, (...) siendo colectados, tratados y transferidos, muchas veces, de una manera desprovista de preocupaciones éticas. Teniendo esto en cuenta, el presente estudio busca provocar una reflexión acerca de los impactos de la sociedad de la información, la comprensión y el alcance da la Inteligencia Artificial, y, sobre todo, alentar la discusión sobre la importancia de considerar los valores éticos y morales en conjunto con el desarrollo tecnológico, intentando poner sobre la mesa los riesgos de que la tecnología, sin la observación de los principios éticos, pueda crear nuevos problemas sociales. (shrink)

Instituciones políticas como la Comisión Europea y el Gobierno de España han manifestadosu interés y predisposición para sentar las bases de una gobernanza ética de la Inteligencia Artificial (IA). En particular, han planteado el impulso de una Inteligencia Artificial confiable a través de unconjunto de directrices y estrategias. A pesar del beneficio que reportan estas iniciativas políticas, no es posible apreciar en su conjunto una estrategia educativa específica que contribuya a la generación de un ecosistema (...) ético de IA fundamentado en la confianza. En ese sentido, el objetivo principal de este trabajo consiste en explicar que la enseñanza de la ética aplicada en los estudios de ingeniería constituye una apuesta para el fortalecimiento profesional, la gobernanza ética yuna investigación e innovación responsables. Para alcanzar este objetivo, en primer lugar, serándetallados algunos de los aspectos esenciales que dotan de un valor significativo a la enseñanza de la ética aplicada, subrayando la responsabilidad social que presentan las universidades en este terreno. En segundo lugar, se mostrará una clasificación de las asignaturas de ética relacionadas con la ingeniería en el entorno de las universidades públicas españolas. Y, en tercer lugar, se ofrecerá un marco teórico enraizado en la ética discursiva, promoviendo una mirada cívica en el contexto educativo de las profesiones. (shrink)

El discurso sobre la seguridad que viene planteándose en el ámbito de la Inteligencia Artificial (IA) se caracteriza por un predominio de las perspectivas técnica y normativa. Los efectos ambivalentes de esta tecnología y su consideración como un sistema sociotécnico plantean la necesidad de complementar este discurso integrando una perspectiva moral. Así pues, el objetivo principal de este trabajo consiste en argumentar que la seguridad moral es un elemento indispensable para alcanzar una IA confiable, en virtud de las (...) diversas situaciones donde la dignidad humana puede verse comprometida. (shrink)

El aumento considerable de la capacidad de la inteligencia artificial (IA) implica un alto consumo de recursos energéticos. La situación ambiental actual, caracterizada por la acuciante degradación de ecosistemas y la ruptura del equilibrio, exige tomar medidas en diversos ámbitos. La IA no puede quedar al margen, y aunque es empleada para objetivos de sostenibilidad, debe plantearse como sostenible en términos integrales. La propuesta de una inteligencia artificial sostenible se argumenta a partir de una evaluación (...) class='Hi'>ética constructiva, donde la inclusión y la participación de los grupos de interés representan dos elementos fundamentales. (shrink)

Abstract:This article examines the incorporation of applied ethics into artificial intelligence (AI) within Chilean university curricula, emphasizing the urgent need to implement an integrated framework of action. Through a documentary analysis, it becomes evident that most higher education programs do not explicitly include AI ethics courses in their curricula, highlighting the need for institutionalizing this integration systematically. In response, we propose an approach grounded in feminist science and data feminism, advocating for the inclusion of diverse perspectives and experiences in (...) the teaching of applied ethics. This framework aims not only to enhance the integration of ethics into the curriculum but also to prepare students to address ethical dilemmas in complex sociotechnical contexts, underscoring the importance of applied ethical reasoning in AI-related disciplines. -/- Keywords: AI ethics, professional ethics, sociotechnics, feminist epistemology, diversity. -/- Resumen: Este artículo examina la incorporación de la ética aplicada a la inteligencia artificial (IA) en los currículos universitarios chilenos, destacando la urgencia de implementar un marco de acción integrado. Mediante un análisis documental, se evidencia que la mayoría de los programas de educación superior no declaran cursos de ética en IA en sus currículos, lo que alerta sobre la necesidad de sistematizar esta integración institucionalmente. En respuesta, proponemos un enfoque basado en el feminismo en la ciencia y el feminismo de datos, promoviendo la inclusión de diversas perspectivas y experiencias en la enseñanza de la ética aplicada. Este marco busca mejorar la integración de la ética en el currículo y también preparar a los estudiantes para resolver dilemas éticos en contextos sociotécnicos complejos, reforzando la necesidad del razonamiento ético aplicado en la formación en disciplinas asociadas a la IA. -/- Palabras clave: ética de IA, ética profesional, sociotecnología, epistemología feminista, diversidad. (shrink)

Presentación de la sección «Ética aplicada para una Inteligencia Artificial confiable» del número monográfico de Daimon Revista Internacional de Filosofía, nº 90 (septiembre - diciembre 2023).

La llegada de inteligencias artificiales ―que acompañen a las personas vulnerables e incluso sean nuestros amigos y amantes, por ejemplo― es cada vez menos un sueño lejano, por lo que muchas de estas cuestiones éticas han de plantearse en un horizonte temporal a medio plazo, entre los problemas actuales y la hipotética llegada de la inteligencia artificial general. Plantearse las cuestiones correctas es una labor muy complicada en general, y más si cabe en el campo de la (...) class='Hi'>inteligencia artificial, lleno de declaraciones y anuncios rimbombantes por parte de expertos, conspiraciones y miedos basados en las historias de ciencia ficción y un temor bien fundado a la luz del creciente número de escándalos causados por las malas prácticas de los proveedores de servicios a la hora de gestionar los datos que extraen de nuestra actividad en la red. La intención del presente trabajo es exponer una serie de problemas cuyo tratamiento normalmente queda en un segundo plano en la bibliografía a favor de otros debates, con el fin de contribuir a una visión más informada y crítica de la tecnología que parece que está por llegar para combatir el escepticismo basado en creencias de ciencia ficción y despertar un escepticismo bien informado. (shrink)

El enorme potencial del desarrollo de la inteligencia artificial (IA) puede observarse en un aumento de su presencia en diversos entornos para ofrecer soporte en actividades que destacan por un alto nivel de complejidad. En ese sentido, instituciones como la Comisión Europea (CE) advierten la necesidad de promover un cultivo de la confianza en la IA para garantizar una gobernanza que sitúe al ser humano en el centro de sus preocupaciones y beneficios. Un cultivo que implica un compromiso (...) con el fortalecimiento de la habilidad comunicativa de los expertos científicos como una estrategia para favorecer la comprensión ciudadana y su participación. Una comunicación científica preocupada por el principio ético de la explicabilidad implica poner en valor la interacción con la ciudadanía para reconocer sus testimonios y experiencias de vida, incorporándolos en los procesos de investigación e innovación. (shrink)

En 2019, el Grupo de Expertos sobre Inteligencia Artificial, impulsado por la Comisión Europea (CE), publicó Directrices éticas para una inteligencia artificial fiable. Este documento, junto con otros, pretende cimentar las bases europeas para una inteligencia artificial (IA) confiable. Es decir, una serie de condiciones indispensables, principios éticos y estrategias que señalan el camino para asegurar un proyecto europeo humanocéntrico, alineado con las necesidades y las expectativas de los seres humanos. En el presente ar- (...) tículo se detecta que esta propuesta se encuentra ante dificultades relacionadas con la imagen esencialmente negativa de la IA, que surge del ámbito de la literatura (complejo de Frankenstein), influye en el imaginario colectivo y se representa actualmente en las artes audiovisuales. De acuerdo con ello, se analizan algunos casos recientes con el objetivo de establecer un diagnóstico y ofrecer posibles soluciones, cuestión que dificulta el camino ético y político que se pretende emprender en el espacio europeo y requiere de una educación estética profunda, de la que actualmente hay una carencia sistémica. (shrink)

Desde el 22 de noviembre de 2022, con la liberación de ChatGPT, la inteligencia artificial generativa (GenAI) ha emergido como un tema central en el ámbito educativo. Este artículo explora la evolución de los lenguajes políticos en torno a la GenAI en la educación, analizando las dinámicas de poder y los umbrales de historicidad que han moldeado su desarrollo. A través de una perspectiva de historia crítica conceptual praxeológica, siguiendo las metodologías de Elias Palti y basándose en experiencias (...) docentes, se cuestiona el uso problemático del término "Inteligencia Artificial" y se examinan los presupuestos epistemológicos que subyacen a las interpretaciones dominantes sobre la GenAI en la educación. Se analizan los "tipos ideales" que promueven una visión tecnocéntrica y optimista de la GenAI, como la personalización del aprendizaje, la democratización del acceso y la eficiencia administrativa. El artículo critica estos enfoques por perpetuar desigualdades, profundizar el determinismo tecnológico y minimizar las dimensiones sociales, culturales y éticas de la educación. Además, se exploran los procesos de dominación y las relaciones de saber-poder asociados con la implementación de la GenAI, destacando la dependencia tecnológica, la dominación epistémica y la vigilancia sobre estudiantes y docentes. Finalmente, se aboga por la necesidad de promover narrativas de soberanía digital y autodeterminación tecnológica, especialmente en el sur global, para desarrollar soluciones tecnológicas que respondan a contextos locales y fomentar un debate más crítico y pluralista sobre el papel de la IA en la educación. (shrink)

Se aborda la intersección entre la ética, la inteligencia artificial (IA) y el capitalismo digital. Se plantean tres supuestos: primero, que la IA incrementa su efectividad a expensas de nuestra intimidad y autonomía, fundamentales para la condición humana. Segundo, que es crucial entender la IA dentro del contexto del capitalismo digital, donde se convierte en un producto ideológico y mercantil. Tercero, se enfatiza la necesidad de regulaciones tanto globales como nacionales para salvaguardar los derechos humanos frente a (...) los riesgos que presenta la IA. Se destaca que la digitalización ha transformado las relaciones sociales, creando un mundo donde la IA puede vulnerar nuestra dignidad. Además, criticamos la falta de regulación adecuada, advirtiendo que sin un marco ético, la IA podría ser utilizada para manipular y vigilar a las personas. Finalmente, se aboga por una ética de la IA que priorice la dignidad humana y fomente un uso responsable de la tecnología, reconociendo sus beneficios, pero también los riesgos que conlleva en un mundo cada vez más digitalizado. (shrink)

El discurso sobre la seguridad que viene planteándose en el ámbito de la Inteligencia Artificial (IA) se caracteriza por un predominio de las perspectivas técnica y normativa. Los efectos ambivalentes de esta tecnología y su consideración como un sistema sociotécnico plantean la necesidad de complementar este discurso integrando una perspectiva moral. Así pues, el objetivo principal de este trabajo consiste en argumentar que la seguridad moral es un elemento indispensable para alcanzar una IA confiable, en virtud de las (...) diversas situaciones donde la dignidad humana puede verse comprometida. (shrink)

Presentation of the section on Artificial Intelligence, Data and Objectivity: The Return of Data Naturalism? in the Monograph on Artificial Intelligence of Daimon - International Journal of Philosophy. Nº 90 (September - December 2023). Presentación de la sección sobre Inteligencia artificial, datos y objetividad. ¿El regreso del naturalismo dataista? en el Monográfico sobre Inteligencia Artificial de Daimon - Revista Internacional de Filosofía. Nº 90 (septiembre - Diciembre 2023).

Frente a una narrativa distópica presente en los medios de comunicación y cultura popular que caracteriza el avance y desarrollo de la inteligencia artificial como una amenaza o riesgo existencial (e.g. desempleo tecnológico, sistemas de armas autónomas letales, robots asesinos, propaganda política computacional etc.) quiero valorar de manera crítica y constructiva el rol de la inteligencia artificial para el bien común (AI4SG). La tecnología digital también se puede aplicar para la solución de grandes problemas de la (...) humanidad, como los 17 Objetivos de Desarrollo Sostenible y sus 169 metas de la agenda 2030. En este artículo, comentaré distintos casos de uso y aplicación de la inteligencia artificial y la robótica encaminados a conseguir los 17 Objetivos de Desarrollo Sostenible y qué principios éticos deben guiar su aplicación para que la inteligencia artificial consiga la ambiciosa agenda 2030. También comentaré el plan de acción de España y la estrategia nacional para cumplir la agenda 2030 y de qué manera incorpora las TIC. (shrink)

Tras los procesos de investigación e innovación en el campo de la inteligencia artificial subyacen relaciones políticas que pueden ser sometidas a una reflexión ética. La ciencia cívica pone en valor la comunicación como una herramienta para fortalecer los vínculos democráticos entre los entornos científicos y la ciudadanía. En este sentido, el propósito de este trabajo gira en torno a la formulación del concepto de inteligencia artificial responsable impulsado desde los laboratorios abiertos como un espacio (...) deliberativo para hacer posible el cultivo de habilidades cívicas y democráticas en el contexto tecnológico. Proporcionando de ese modo una orientación pragmática y fronética de los sistemas artificiales hacia los Objetivos de Desarrollo Sostenible. Este trabajo es el resultado de una investigación bibliográfica. (shrink)

Las normas del Derecho Internacional Humanitario establecen límites al uso de los medios y métodos de combate en el desarrollo de las hostilidades. Si bien en su origen el DIH no fue elaborado teniendo en cuenta los desafíos planteados por el desarrollo de la inteligencia artificial en ese contexto, es una realidad que en la actualidad la evolución de esta inteligencia, los algoritmos y su aplicación militar emergente constituyen un desafío a la luz de las normas humanitarias. (...) Ese desafío comprende tres ámbitos fundamentales: el técnico, el legal y el ético. Si bien se puede decir que la IA, en la etapa actual de desarrollo, permite que un programa computerizado basado en algoritmos realice ciertas tareas en un entorno complejo e incierto, a menudo con mayor precisión que los seres humanos, también debemos destacar que no hay tecnología que haga que una máquina se comporte como un ser humano, quien puede determinar si una acción es lícita o ilícita y decidir no continuar con lo programado, teniendo como objetivo primordial la protección de las víctimas. Los Estados deben adoptar regímenes de verificación, prueba y monitoreo como parte del proceso para determinar e imponer limitaciones o prohibiciones de acuerdo a los principios esenciales de distinción y proporcionalidad que el DIH establece en la utilización de armas durante los conflictos armados internacionales o no internacionales. Tanto desde una perspectiva legal como ética el ser humano está en el centro de esta problemática, ya que la responsabilidad por el uso de la fuerza no puede transferirse a sistemas de armas o algoritmos, y sigue siendo una responsabilidad humana. (shrink)

Este artículo explora las consideraciones éticas que rodean el uso de la Inteligencia Artificial (IA) en la academia. Se establecen principios éticos generales para la IA en este ámbito, como la transparencia, la equidad, la responsabilidad, la privacidad y la integridad académica. En cuanto a la educación asistida por IA, se enfatiza la importancia de la accesibilidad, la no discriminación y la evaluación crítica de los resultados. Se recomienda que la IA se use para complementar y no para (...) reemplazar la enseñanza tradicional. En cuanto al ámbito de la investigación, se hace énfasis en la necesidad de garantizar la calidad y la veracidad de los datos utilizados, así como la transparencia en los métodos y resultados. Se deben considerar los posibles sesgos y riesgos de la IA en la investigación. El artículo concluye que la adopción responsable de la IA en la academia requiere una reflexión crítica sobre sus implicaciones éticas. Se recomienda la creación de marcos éticos específicos para cada contexto y la participación de diversos actores en la toma de decisiones. (shrink)

Este artículo propone una doble reflexión sobre las diferencias cognitivas entre humanos y máquinas desde la ética. En primer lugar, se tratará de diferenciar entre pensamiento humano y procesamiento máquina mediante métodos etimológicos, semánticos y comparativos que revelarán por qué no es posible atribuir capacidades pensantes a las inteligencias artificiales. Por otra parte, estos términos se relacionarán con la praxis de la democracia representativa a través de varios ejemplos. Este análisis se basa en tres pilares: la necesidad del reconocimiento (...) recíproco mediante el lenguaje; el compromiso adquirido a través de la palabra; y la democracia como expresión de la justicia. (shrink)

En este artículo examino el estado actual de la “segunda ola” de la ética en la inteligencia artificial (IA), la cual se centra en la integración de principios éticos fundamentales como la justicia, la privacidad, la transparencia y la explicabilidad en el diseño, uso e implementación de sistemas de IA. Argumento que, aunque esta fase ha sido criticada por su naturaleza abstracta y su falta de contextualización, es imperativo que la emergente “tercera ola” adopte un cambio paradigmático (...) hacia un “desvelar ético”. Propongo que este desvelar ético debería involucrar un profundo y continuo proceso hermenéutico que no solo interprete cómo las tecnologías de IA reconfiguran nuestras estructuras sociales, políticas y personales, sino que también actúe como un medio de liberación del enmarcamiento tecnológico Heideggeriano. Este enfoque sugiere que la ética debe ser considerada no solo como un complemento, sino como un componente esencial y fundamental en el ciclo de vida del desarrollo de la IA, fomentando así una integración más profunda de consideraciones éticas que guíen tanto la innovación tecnológica como su implementación práctica. (shrink)

El uso de la Inteligencia Artificial (IA) y su desarrollo en los últimos años, así como el papel que jugó durante la pandemia en 2020 ha suscitado, por un lado, un gran interés en sus aplicaciones en favor de la vida y, por el otro, temores respecto a su apego a criterios éticos que promueven y defienden la dignidad humana, la justicia, el principio de sociabilidad y de subsidiaridad. Por ello surge la intención del papa Francisco y de (...) monseñor Paglia, desde la Academia Pontificia para la Vida, de lanzar el llamado a reflexionar sobre la incorporación de la ética en la IA; a la par, la fundación RenAIssance alberga el llamado para que, desde una perspectiva global y en todos los sectores, se incorporen principios éticos en las diferentes aplicaciones de la IA. (shrink)

Las posibilidades que ofrece el desarrollo de la inteligencia artificial y el manejo de macro datos son ingentes. Sus aplicaciones se extienden también al ámbito sanitario en el que resulta difícil separar la práctica médica y el proceso creciente de digitalización. Sin embargo, no todo es luz en este nuevo universo algorítmico. Existe también otro lado apenas perceptible, más opaco, pero impregnado de brumas provenientes de los intereses y expectativas económicos de las grandes empresas multinacionales. De ahí la (...) necesidad de incidir en la protección de los datos personales sanitarios, así como en la salvaguarda de la privacidad del paciente; teniendo presente que la defensa de los derechos fundamentales constituye un instrumento inequívoco de limitación del poder, en este caso, tecnocientífico. (shrink)

Reseña del libro “La inteligencia artificial o el desafío del siglo: Anatomía de un antihumanismo radical” Autor: Éric Sadin Editorial Caja Negra Buenos Aires, 2020, 328 pp. ISBN: 978-987-1622-86-3.

La integración de la tecnología en el ámbito del derecho penal plantea desafíos significativos debido a la falta de regulación de la inteligencia artificial (IA), lo que podría comprometer los derechos fundamentales. Este estudio se centra en abordar estos desafíos y proponer soluciones mediante un análisis exhaustivo de la situación actual y las posibles implicaciones de la IA en el sistema jurídico penal. El objetivo principal de esta investigación es analizar los problemas, desafíos y oportunidades que surgen con (...) la implementación de la inteligencia artificial en el ámbito penal. Se busca identificar la necesidad de una regulación específica para la IA en el derecho penal, con el fin de proteger los derechos fundamentales de las personas y garantizar un sistema jurídico justo y equitativo. Para abordar esta problemática, se adoptó un enfoque metodológico cualitativo. Se llevó a cabo una revisión bibliográfica detallada para examinar los antecedentes, problemas y desafíos asociados con la IA en los sistemas jurídicos, especialmente en el ámbito penal. Además, se realizaron análisis de criterios y opiniones de expertos en derecho para obtener una comprensión más profunda de la situación y las posibles soluciones. Los resultados de este estudio revelan la necesidad urgente de establecer una normativa específica para regular la aplicación de la inteligencia artificial en el ámbito penal. Se destaca que la falta de regulación representa un riesgo significativo para los derechos fundamentales, especialmente en lo que respecta a la configuración de delitos con el apoyo de la IA. Además, se identifican diferentes dimensiones que deben abordarse en la regulación, incluyendo principios y reglas básicas del derecho, supervisión humana de los sistemas de IA y la promoción de la innovación responsable en este campo. Este artículo subraya la importancia de establecer una regulación efectiva para la inteligencia artificial en el ámbito penal. Esta regulación no solo protegerá los derechos fundamentales de las personas, sino que también promoverá un uso responsable y progresivo de la IA como una herramienta valiosa para los profesionales del derecho. Es crucial que la regulación sea integral y adaptable para garantizar un sistema jurídico justo y equitativo en la era digital. (shrink)

El presente artículo explora cómo el mundo digital ha transformado no solo la comunicación humana, sino también la naturaleza misma del ser humano. Este nuevo entorno antropológico requiere una adaptación de la teología y la moral a la lógica digital. Se requiere una “cibermoral”, respuesta ética que permita un desarrollo integral del hombre en este contexto. La cibermoral aborda los desafíos y oportunidades que presentan las redes sociales y la inteligencia artificial y ofrece principios éticos que guíen (...) su uso responsable. El artículo analiza cómo estas tecnologías influyen en la identidad, la relacionalidad y la sociabilidad del ser humano y promueve una relacionalidad integral basada en la dignidad, la empatía y las virtudes cardinales y teologales, con el fin de lograr una auténtica comunión en el ámbito digital. (shrink)