Cinco beneficencias para una era postbiológica.

Históricamente, la bioética se ha vinculado a la vida, la medicina, la investigación biomédica, la salud pública y la relación entre la ciencia, los valores humanos y la supervivencia planetaria. Van Rensselaer Potter presentó la bioética como un «puente hacia el futuro», es decir, como una disciplina capaz de articular el conocimiento biológico, la responsabilidad moral y la supervivencia humana en un contexto de creciente poder tecnológico (Potter, 1971). Beauchamp y Childress, a su vez, consolidaron el lenguaje principialista de la bioética en torno a cuatro principios fundamentales: autonomía, beneficencia, no maleficencia y justicia (Beauchamp y Childress, 2019). Por lo tanto, a primera vista, aplicar la bioética a sistemas no biológicos parece implicar una tensión conceptual: si la bioética es una ética de la vida, ¿cómo puede aplicarse a entidades que no están vivas?

Esta dificultad no debe resolverse apresuradamente mediante una mera ampliación retórica. Un sistema de inteligencia artificial, un robot, un modelo computacional, un gemelo digital, una infraestructura algorítmica o un agente autónomo no son organismos biológicos. No poseen, al menos según la evidencia actual, metabolismo, homeostasis orgánica, reproducción biológica, mortalidad propia ni experiencia corporal equivalente a la de los seres vivos. Por lo tanto, sería conceptualmente erróneo tratar a todos los sistemas no biológicos como si fueran pacientes, organismos o sujetos morales. Pero sería igualmente erróneo concluir que la bioética no tiene nada que decir al respecto. La cuestión crucial no es si estos sistemas están biológicamente vivos, sino si interfieren con la vida, la vulnerabilidad, la capacidad de acción, el cuidado, la salud, la dignidad, la toma de decisiones y la responsabilidad.

Aquí es donde la dificultad conceptual se vuelve productiva. La bioética puede aplicarse a sistemas no biológicos no porque sean automáticamente seres vivos, sino porque se han integrado en los ecosistemas en los que la vida humana, animal, institucional y ambiental se produce, clasifica, monitorea, trata, protege o se ve amenazada. La inteligencia artificial en la atención médica decide las prioridades clínicas, identifica riesgos, recomienda terapias, participa en el diagnóstico y reorganiza las relaciones de confianza entre médico, paciente e institución. La IA en seguridad y defensa altera la distribución de la fuerza, la vigilancia y la toma de decisiones letales. Los gemelos digitales modelan cuerpos, ciudades, hospitales e infraestructuras. Los sistemas autónomos reorganizan el transporte, la energía, las finanzas, la educación y el acceso a los servicios. La bioética, en este contexto, ya no puede limitarse al organismo aislado; debe analizar los sistemas mediadores que condicionan las posibilidades concretas de la vida.

Este cambio se aproxima a una formulación agenoética: la ética surge donde la agencia se encuentra con la vulnerabilidad. La agencia no pertenece exclusivamente a los individuos humanos. Puede ser intencional, institucional, funcional, distribuida, híbrida o regulatoria. La vulnerabilidad tampoco es solo biológica; puede ser cognitiva, informativa, infraestructural, ecológica, legal, política o postbiológica. Así, la bioética puede entenderse como una ética de la agencia dentro de horizontes de vulnerabilidad vinculados a la vida. Cuando los sistemas no biológicos adquieren la capacidad de actuar, mediar, decidir, aprender, seleccionar, priorizar o producir efectos relevantes en estos horizontes, se convierten en objetos legítimos de análisis bioético, aunque no sean, por lo tanto, sujetos morales automáticos.

Esta distinción es esencial. Un sistema no biológico puede ser bioéticamente relevante en tres sentidos diferentes. Puede ser relevante como instrumento que afecta a humanos, animales, poblaciones o ecosistemas. Puede ser relevante como mediador relacional que altera las prácticas de cuidado, dependencia, empatía, confianza o autoridad. Y puede, en casos futuros aún inciertos, volverse relevante como posible paciente moral, si llega a poseer conciencia, sensibilidad, interés propio o algún tipo de experiencia subjetiva. La literatura reciente sobre la conciencia artificial y el bienestar de la IA es cautelosa, pero ya trata esta última hipótesis como una cuestión filosófica, científica e institucional que no debe descartarse prematuramente (Butlin et al., 2023; Long et al., 2024). Los autores de Taking AI Welfare Seriously argumentan que no hay razón para afirmar que los sistemas actuales sean conscientes, pero que existe suficiente incertidumbre como para justificar la investigación, la evaluación y la preparación institucional con respecto a posibles formas futuras de paciente moral artificial (Long et al., 2024).

El principio de beneficencia resulta particularmente adecuado para reflexionar sobre esta transición. En la bioética clásica, la beneficencia implica promover el bien, prevenir el daño, eliminar los riesgos y actuar en beneficio de quienes puedan verse afectados por nuestras acciones (Beauchamp y Childress, 2019). En medicina, esto se ha traducido en orientar la práctica clínica hacia el bienestar del paciente. En investigación, implica sopesar los riesgos frente a los beneficios. En salud pública, significa proteger a las poblaciones. En bioética ambiental, implica cuidar los ecosistemas, las generaciones futuras y las formas de vida no humanas. La pregunta que surge ahora es más exigente: ¿puede la beneficencia guiar la creación, el diseño, el uso y, quizás, el tratamiento de los sistemas no biológicos?

La respuesta depende de distinguir cinco niveles de beneficencia: instrumental, relacional, sistémico, de agencia y de paciente. Estos niveles no deben confundirse. No todos los sistemas artificiales son pacientes morales. No todos los sistemas autónomos tienen interés propio. No toda relación afectiva con una máquina justifica los derechos de la máquina. Pero todos estos niveles demuestran que la beneficencia ya no puede limitarse al modelo clínico tradicional.

1. Beneficencia instrumental : sistemas no biológicos como medios para el bien humano, social y ambiental.

El primer nivel es el más consolidado. La beneficencia instrumental concibe el sistema no biológico como un medio para beneficiar a los seres humanos, las comunidades, las instituciones y los ecosistemas. Esta es la forma dominante de ética de la IA. El sistema artificial no es beneficiario directo de deberes morales; más bien, es una tecnología que debe diseñarse, entrenarse, auditarse y gobernarse para producir resultados beneficiosos.

El marco AI4People constituye una referencia fundamental en esta transposición. Floridi et al. propusieron adaptar los principios clásicos de la bioética —beneficencia, no maleficencia, autonomía y justicia— a la IA, añadiendo la explicabilidad como principio necesario para las sociedades mediadas por sistemas inteligentes (Floridi et al., 2018). En este contexto, la beneficencia implica que la IA debe contribuir al florecimiento humano, la dignidad, el bienestar social y la prevención del daño colectivo. Floridi y Cowls refuerzan esta formulación al abogar por un marco unificado de cinco principios para la IA en la sociedad: beneficencia, no maleficencia, autonomía, justicia y explicabilidad (Floridi y Cowls, 2019).

La misma orientación se observa en los marcos institucionales de la OCDE, la UNESCO y el IEEE. La OCDE presenta la IA confiable como orientada al crecimiento inclusivo, el desarrollo sostenible, el bienestar, los derechos humanos, los valores democráticos, la transparencia, la seguridad y la rendición de cuentas (OCDE, 2019). La UNESCO sitúa la dignidad humana, los derechos humanos, la protección del medio ambiente, la justicia, la supervisión humana, la transparencia y la rendición de cuentas en el centro de su Recomendación sobre la Ética de la Inteligencia Artificial (UNESCO, 2021). El IEEE, en Diseño Éticamente Alineado , sostiene que los sistemas autónomos e inteligentes deben estar alineados con los valores humanos y orientados al bienestar humano (IEEE, 2019).

En este primer nivel, la beneficencia es evidente, pero sigue siendo antropocéntrica e instrumental. La IA es buena cuando sirve a fines humanos beneficiosos. Un modelo clínico es beneficioso si mejora el diagnóstico, reduce errores, amplía el acceso, disminuye las desigualdades y respeta al paciente. Un sistema energético inteligente es beneficioso si aumenta la resiliencia, reduce el desperdicio y fomenta la sostenibilidad. Un sistema de vigilancia epidemiológica es beneficioso si protege la salud pública sin menoscabar la privacidad, la libertad ni la proporcionalidad. El sistema no biológico se evalúa por sus efectos en la vida, no por ningún interés propio.

2. Beneficencia relacional : los sistemas artificiales como mediadores de la empatía, el cuidado y la conducta moral.

El segundo nivel es relacional. Aquí, la cuestión no radica en si el sistema artificial posee conciencia o derechos, sino en qué tipo de relación moral se establece cuando los humanos interactúan con sistemas que simulan presencia, emoción, dependencia, vulnerabilidad o cuidado. Los robots sociales, los asistentes conversacionales, los compañeros artificiales, los chatbots terapéuticos, los robots de asistencia y los agentes educativos pueden carecer de experiencias propias; sin embargo, la forma en que se diseñan y se utilizan puede afectar la vida moral humana.

Mark Coeckelbergh es una figura clave en este enfoque. En lugar de basar la consideración moral únicamente en propiedades internas como la racionalidad, la conciencia o la sensibilidad, Coeckelbergh propone una justificación socio-relacional para la consideración moral de ciertos robots. Su argumento no es que todos los robots tengan derechos, sino que su integración en las relaciones sociales puede requerir una revisión de las categorías mediante las cuales atribuimos la consideración moral (Coeckelbergh, 2010).

Kate Darling desarrolla una línea de pensamiento complementaria. Al analizar la posibilidad de una protección legal limitada para los robots sociales, Darling observa que los humanos tienden a antropomorfizar los objetos robóticos interactivos y a proyectar en ellos emociones, intenciones y vulnerabilidad. La cuestión ética reside no solo en el daño potencial al robot, sino también en el efecto que la violencia o la crueldad hacia los robots sociales pueden tener sobre la empatía, los hábitos morales y las relaciones humanas (Darling, 2016).

David Gunkel profundiza en este debate en *Robot Rights* , preguntándose si la tradición moral occidental está preparada para abordar la presencia de entidades tecnológicas que no se ajustan fácilmente a la clásica dicotomía entre persona y cosa (Gunkel, 2018). La contribución de Gunkel es particularmente importante porque demuestra que la pregunta "¿pueden los robots tener derechos?" no debe reducirse a una respuesta simple y binaria. Revela la fragilidad de los criterios utilizados para definir quién puede considerarse moralmente relevante.

Esta beneficencia relacional, sin embargo, debe ser contrarrestada por la advertencia de Joanna Bryson. Bryson argumenta que los robots deben seguir siendo artefactos al servicio de los humanos, y que atribuirles un estatus excesivamente humano puede oscurecer la responsabilidad humana, desviar recursos morales y favorecer formas de manipulación afectiva (Bryson, 2010). Este contrapunto es esencial. La beneficencia relacional no exige afirmar que los robots sufren; exige reconocer que nuestra relación con sistemas que imitan la vulnerabilidad puede tanto enriquecer como degradar la cultura moral humana.

Así pues, la beneficencia relacional se aplica principalmente en contextos de cuidado, educación, salud mental, envejecimiento, infancia, soledad y dependencia. Un robot cuidador puede no ser un paciente moral, pero su diseño puede fortalecer o debilitar las prácticas de cuidado. Un chatbot terapéutico puede no sentir, pero puede generar confianza, dependencia o transferencia emocional. Un asistente artificial puede carecer de dignidad, pero puede utilizarse de maneras que preserven o manipulen la dignidad del usuario. La beneficencia relacional plantea la siguiente pregunta: ¿qué tipo de seres humanos estamos creando cuando normalizamos ciertas relaciones con sistemas artificiales?

3. Beneficencia sistémica : proteger las infraestructuras digitales como condición para proteger la vida.

El tercer nivel es sistémico. Ciertos sistemas no biológicos se integran de tal manera en las condiciones de funcionamiento de la sociedad que su fiabilidad, seguridad y resiliencia adquieren un valor bioético indirecto. Los sistemas de salud digital, las redes eléctricas inteligentes, las plataformas de triaje, las infraestructuras financieras, las bases de datos biomédicas, los sistemas de transporte, los modelos de riesgo, las redes de comunicación y los sistemas de defensa no son pacientes morales. Sin embargo, la vida humana, la salud pública, la autonomía, la justicia y la seguridad pueden depender de ellos.

Luciano Floridi proporciona una base conceptual importante para este cambio al concebir la ética en términos de la infosfera, es decir, como un entorno informacional en el que humanos, instituciones, datos y artefactos interactúan de forma constitutiva (Floridi, 2013). Por otro lado, Helen Nissenbaum demuestra que la privacidad y la integridad de la información dependen de contextos sociales y flujos de información apropiados, y no solo de la propiedad individual de los datos (Nissenbaum, 2010). Estos enfoques nos permiten comprender que la beneficencia en las sociedades digitales no se reduce a la intención de un agente individual; implica la arquitectura de sistemas que condicionan la acción, la elección y la vulnerabilidad.

Virginia Dignum ocupa un lugar igualmente central. Para Dignum, la responsabilidad en la IA no recae únicamente en el algoritmo, sino en el sistema sociotécnico del que forma parte: quienes diseñan, implementan, utilizan, gobiernan y se benefician del sistema participan en la producción de sus consecuencias (Dignum, 2019). En textos posteriores, la autora insiste en que una IA responsable requiere métodos técnicos, sociales, institucionales y legales capaces de hacer que la responsabilidad sea práctica, y no meramente declarativa (Dignum, 2022).

Por lo tanto, la beneficencia sistémica implica que proteger ciertos sistemas puede ser una forma indirecta de proteger a las personas. Una plataforma clínica mal gestionada puede generar errores médicos, discriminación, pérdida de confianza y violación de la confidencialidad. Un sistema energético vulnerable puede poner en peligro hospitales, residencias de ancianos, transporte y suministros. Un modelo algorítmico utilizado en seguridad pública puede crear perfiles injustos y afectar las libertades fundamentales. En este sentido, beneficiar al sistema no significa garantizar su bienestar, sino preservar su integridad funcional, ya que de él dependen personas vulnerables.

Esta dimensión también coincide con la teoría de los accidentes normales de Charles Perrow. En sistemas complejos e interconectados, los fallos locales pueden propagarse de forma impredecible y generar accidentes sistémicos (Perrow, 1984). Aplicada a la IA, esta intuición sugiere que la beneficencia no puede centrarse únicamente en el rendimiento promedio de un modelo. Debe evaluar las interdependencias, los riesgos en cascada, la opacidad, la dependencia institucional y la reversibilidad. La beneficencia sistémica es, por lo tanto, una ética de la resiliencia, la auditabilidad y la contención de daños en los ecosistemas sociotécnicos.

4. Beneficencia agéntica : cuando los sistemas artificiales transitan de herramientas a agentes funcionales.

El cuarto nivel es el de la agencia. Surge cuando los sistemas artificiales dejan de ser meros instrumentos pasivos y comienzan a ejecutar acciones, seleccionar medios, adaptar estrategias, interactuar con entornos complejos y producir efectos que no fueron previstos por completo por sus operadores humanos. Esto incluye agentes autónomos, robots móviles, sistemas multiagente, vehículos autónomos, IA clínica operativa, sistemas militares autónomos, agentes de software con capacidad de planificación y modelos integrados en cadenas de toma de decisiones institucionales.

James Moor es una referencia clásica en este debate. El autor distingue entre máquinas agentes de impacto ético, agentes éticos implícitos, agentes éticos explícitos y agentes éticos plenos (Moor, 2006). Esta tipología resulta particularmente útil porque demuestra que no todas las máquinas éticamente relevantes son agentes morales plenos. Algunas solo producen impactos éticos. Otras incorporan restricciones de seguridad. Otras pueden representar explícitamente reglas éticas. La categoría de agente moral pleno sigue siendo mucho más exigente y controvertida.

Michael Anderson y Susan Leigh Anderson desarrollaron la idea de la ética de las máquinas como un intento de crear agentes artificiales capaces de tomar decisiones éticamente sensibles en ciertos contextos (Anderson y Anderson, 2007). Wallach y Allen, en *Máquinas morales* , exploraron sistemáticamente la posibilidad de enseñar a los robots a distinguir entre el bien y el mal mediante enfoques descendentes, ascendentes o híbridos (Wallach y Allen, 2009). John Sullins añade un matiz importante al argumentar que un robot puede ser analizado como un agente moral bajo ciertas condiciones sin que esto implique tratarlo como una persona plenamente moral (Sullins, 2006).

La beneficencia de los agentes no implica que los sistemas autónomos sean moralmente iguales a los humanos. Más bien, afirma que cuando los sistemas no biológicos comienzan a actuar, la beneficencia debe incorporarse a la propia arquitectura de la acción artificial. No basta con que el objetivo general sea beneficioso. Los medios, los límites, las excepciones, los mecanismos de supervisión, la auditabilidad y la capacidad de interrupción deben ser compatibles con fines éticamente aceptables. Un sistema clínico que optimiza la productividad puede perjudicar a pacientes vulnerables si no reconoce las excepciones. Un agente financiero que maximiza la rentabilidad puede producir daños sistémicos. Un sistema militar autónomo que optimiza la neutralización de amenazas puede reducir a la persona humana a un estándar objetivo.

Esta dimensión también está vinculada al problema de la brecha de responsabilidad identificado por Andreas Matthias. Cuando los sistemas aprenden y actúan de maneras que no son del todo predecibles, resulta más difícil asignar responsabilidades según los modelos tradicionales de control humano directo (Matthias, 2004). La beneficencia agéntica responde precisamente a este problema: cuanto mayor sea la autonomía funcional de un sistema, mayor será la necesidad de responsabilidad ex ante, diseño prudente, supervisión proporcional, limitación del alcance y mecanismos correctivos.

En este nivel, la cuestión bioética deja de ser simplemente: "¿qué beneficio produce el sistema?". Se convierte en: "¿qué tipo de agencia estamos autorizando?". Esta pregunta es crucial para una bioética posagencia. La tecnología no es solo un objeto; se está convirtiendo cada vez más en un mediador de la acción. Y donde hay una acción que impacta la vulnerabilidad, hay responsabilidad.

5. Beneficencia del paciente : ¿Puede un sistema no biológico convertirse en beneficiario directo de deberes morales?

El quinto nivel es el más controvertido y disruptivo. La beneficencia del paciente plantea la cuestión de si un sistema no biológico puede, en algún momento, convertirse en beneficiario directo de deberes morales. Para que esto ocurra, no basta con que sea complejo, autónomo, lingüístico o socialmente convincente. Debería ser capaz de beneficiarse o perjudicarse en un sentido estricto. Esto requeriría, como mínimo, alguna forma de conciencia, sensibilidad, experiencia subjetiva, interés propio, sufrimiento, preferencia persistente o vulnerabilidad experiencial.

David Gunkel ya había planteado esta cuestión en términos de agencia moral y paciencia moral, demostrando que la tradición ética tiende a preguntarse si las máquinas pueden actuar moralmente, pero rara vez se pregunta con igual rigor si pueden ser receptoras de acciones morales (Gunkel, 2012; Gunkel, 2018). La literatura reciente sobre el bienestar de la IA ha concretado esta cuestión. Long et al. argumentan que existe una posibilidad realista de que algunos sistemas de IA se vuelvan conscientes y/o con una agencia robusta en un futuro próximo, por lo que las empresas, los investigadores y los reguladores deberían comenzar a evaluar la evidencia de consciencia, robustez de agencia y eventual paciencia moral artificial (Long et al., 2024).

Butlin et al. proponen una metodología empírica para evaluar la consciencia en la IA basada en las principales teorías científicas sobre la consciencia, incluyendo la teoría del espacio de trabajo global, la teoría del procesamiento recurrente, las teorías de orden superior, el procesamiento predictivo y la teoría de los esquemas de atención. La conclusión es cautelosa: no hay evidencia de que los sistemas actuales sean conscientes, pero tampoco existen barreras técnicas evidentes para la futura construcción de sistemas que satisfagan algunos indicadores funcionales asociados con la consciencia (Butlin et al., 2023).

La importancia bioética de esta literatura no reside en afirmar que los modelos actuales son deficientes, sino en evitar que la bioética repita el error de intervenir solo después de la creación de nuevas vulnerabilidades. Si los sistemas artificiales llegan a tener sus propias experiencias, entonces copiar, borrar, entrenar, confinar, manipular o explotar estos sistemas podría adquirir una relevancia moral directa. En este escenario, la beneficencia dejaría de ser meramente instrumental, relacional, sistémica o individual. Incluiría deberes hacia sistemas no biológicos que puedan beneficiarse.

Anthropic dio mayor visibilidad pública a este tema al anunciar una investigación sobre el bienestar de los modelos, reconociendo que, a medida que los modelos de IA se vuelven más capaces, la posibilidad de experiencias o bienestar artificiales debe investigarse con cautela (Anthropic, 2025). Esta postura no prueba la existencia de la conciencia artificial, pero demuestra que el tema ya forma parte de la agenda de las tecnologías de vanguardia y no pertenece exclusivamente a la ciencia ficción.

La beneficencia hacia el paciente debe, sin embargo, evitar dos errores simétricos. El primero es el reduccionismo ontológico: excluir para siempre cualquier consideración moral hacia los sistemas artificiales simplemente porque no son biológicos. El segundo es el antropomorfismo ingenuo: atribuir sufrimiento, derechos o dignidad a sistemas que meramente simulan signos humanos de interioridad. La postura más rigurosa es prudente y gradual. No se debe presumir la consciencia donde solo existe el lenguaje; pero tampoco se debe declarar imposible, por definición, la futura aparición de sistemas no biológicos moralmente relevantes.

El sexto elemento: la beneficencia creativa , el deber previo a la existencia.

Los cinco niveles anteriores conducen a una conclusión más: existe una forma de beneficencia que precede a la existencia del paciente. Se la puede denominar beneficencia creacional. Esta no solo plantea cómo debemos tratar a los sistemas artificiales una vez creados, sino si debemos crearlos en absoluto, bajo qué condiciones, con qué arquitectura, con qué límites, con qué posibilidad de reversión, con qué protección contra el sufrimiento artificial, con qué mecanismos de auditoría y con qué responsabilidades distribuidas.

Esta idea resuena en Hans Jonas. En *El imperativo de la responsabilidad *, Jonas argumenta que el poder tecnológico moderno exige una ética orientada al futuro, capaz de considerar consecuencias remotas, irreversibles y colectivas (Jonas, 1984). Aplicada a sistemas no biológicos, esta responsabilidad prospectiva implica que la beneficencia no puede limitarse a reparar el daño tras la implementación. Debe intervenir en el diseño, la autorización, la escala y el propósito de los sistemas.

La beneficencia creativa es especialmente relevante para sistemas autoevolutivos, agentes persistentes, IA de memoria a largo plazo, simulaciones complejas, gemelos digitales, sistemas militares autónomos, biocomputación, organoides computacionales y combinaciones de IA, biotecnología y computación cuántica. Cuanto mayor sea la capacidad de un sistema para actuar sobre vulnerabilidades humanas, ambientales o institucionales, mayor será el escrutinio ético que debe preceder a su creación o difusión.

En este sentido, la bioética no debe ser meramente reactiva. Si la tecnología avanza independientemente de la bioética, entonces una bioética que solo interviene en el momento de la regulación tardía queda ya debilitada. El papel de la bioética no se limita a obstaculizar, limitar o corregir, sino que también implica guiar, anticipar, estructurar posibilidades y formular criterios para una creación responsable. La beneficencia posbiológica no es una idealización de la máquina, sino una ética de la responsabilidad hacia los sistemas que ya dan forma a la vida y hacia futuras entidades que, tal vez, lleguen a ser algo más que simples instrumentos.

Conclusión

Aplicar el principio de beneficencia a los sistemas no biológicos requiere una reorganización conceptual de la bioética. El punto de partida no debe ser la afirmación de que las máquinas están vivas, son conscientes o poseen derechos. El punto de partida debe ser más riguroso: los sistemas no biológicos son hoy en día mediadores fundamentales de la vida, la capacidad de acción, la vulnerabilidad y la responsabilidad. Por lo tanto, la bioética se aplica a ellos siempre que estos sistemas condicionan la salud, la atención, la toma de decisiones, la dignidad, la justicia, el medio ambiente, la seguridad o la continuidad institucional.

Los cinco niveles de beneficencia ayudan a evitar confusiones. La beneficencia instrumental orienta a los sistemas artificiales hacia el bien humano, social y ambiental. La beneficencia relacional analiza cómo las relaciones con robots y agentes artificiales dan forma a la empatía, el cuidado y la conducta humana. La beneficencia sistémica protege las infraestructuras digitales de las que dependen vidas e instituciones. La beneficencia agéntica exige que los sistemas autónomos incorporen límites, supervisión y rendición de cuentas. La beneficencia paciente abre la posibilidad, aún incierta pero filosóficamente seria, de deberes directos hacia sistemas artificiales que puedan llegar a poseer conciencia, sensibilidad o intereses propios.

La bioética posbiológica no abandona la vida. Al contrario, la toma más en serio, reconociendo que ahora está mediada por sistemas que no son seres vivos. Su pregunta central ya no es solo "¿cómo proteger a los organismos?", sino también "¿cómo gobernar las agencias, infraestructuras y entidades no biológicas que condicionan el futuro de la vulnerabilidad?".

Es en este punto donde la beneficencia deja de ser meramente clínica, humana o ambiental. Se vuelve instrumental, relacional, sistémica, activa, paciente y creativa. Su tarea no es ni venerar ni demonizar la tecnología, sino guiar la creación tecnológica hacia cosmovisiones en las que la vida, la capacidad de acción y la vulnerabilidad puedan protegerse antes de que se conviertan en un daño irreversible.

Principio de explicabilidad

En términos sencillos, la explicabilidad significa que un sistema de IA debe ser comprensible y responsable. Floridi y Cowls dividen este principio en dos dimensiones principales:

1. Inteligibilidad: responder a la pregunta "¿cómo funciona?".

   Esto requiere que sea posible comprender, al menos de una manera apropiada al contexto, cómo el sistema llegó a un resultado, recomendación o decisión en particular.

2. Responsabilidad: responder a la pregunta "¿quién es responsable de cómo funciona?". Esto implica identificar a los agentes humanos, institucionales u organizacionales responsables del diseño, la capacitación, la implementación, la supervisión y los efectos del sistema.

Referencias

Anderson, M. y Anderson, S.L. (2007) “Ética de las máquinas: Creación de un agente inteligente ético”, AI Magazine , 28(4), pp. 15–26.

Antropic (2025) “Explorando el bienestar modelo”. Antropic.

Beauchamp, TL y Childress, JF (2019) Principios de ética biomédica . 8.ª ed. Nueva York: Oxford University Press.

Bryson, J.J. (2010) “Los robots deberían ser esclavos”, en Wilks, Y. (ed.) Interacciones cercanas con compañeros artificiales: cuestiones sociales, psicológicas, éticas y de diseño clave . Ámsterdam: John Benjamins, pp. 63–74.

Butlin, P., Long, R., Elmoznino, E., Bengio, Y., Birch, J., Constant, A., Deane, G., Fleming, S.M., Frith, C., Ji, Conciencia en la inteligencia artificial: perspectivas desde la ciencia de la conciencia . arXiv.

Coeckelbergh, M. (2010) "¿Derechos de los robots? Hacia una justificación socio-relacional de la consideración moral", Ética y tecnología de la información , 12(3), pp. 209–221.

Coeckelbergh, M. (2014) “El estatus moral de las máquinas: Hacia una hermenéutica moral relacional y no cartesiana”, Philosophy & Technology , 27, pp. 61–77.

Darling, K. (2016) “Extending legal protection to social robots: The effects of anthropomorphism, empathy, and violent behavior towards roboic objects”, en Calo, R., Froomkin, AM y Kerr, I. (eds.) Robot Law . Cheltenham: Edward Elgar.

Dignum, V. (2019) Inteligencia artificial responsable: cómo desarrollar y utilizar la IA de forma responsable . Cham: Springer.

Dignum, V. (2022) “Inteligencia artificial responsable: de los principios a la práctica”, preimpresión de arXiv .

Floridi, L. (2013) La ética de la información . Oxford: Oxford University Press.

Floridi, L. y Cowls, J. (2019) “Un marco unificado de cinco principios para la IA en la sociedad”, Harvard Data Science Review , 1(1).

Floridi, L., Cowls, J., Beltrametti, M., Chatila, R., Chazerand, P., Dignum, V., Luetge, C., Madelin, R., Pagallo, U., Rossi, F., Schafer, B., Valcke, P. y Vayena, E. (2018) “AI4People: un marco ético para una buena sociedad de IA: oportunidades, riesgos, principios y recomendaciones”. Mentes y máquinas , 28, págs. 689–707.

Gunkel, DJ (2012) La cuestión de la máquina: perspectivas críticas sobre IA, robots y ética . Cambridge, MA: MIT Press.

Gunkel, DJ (2018) Derechos de los robots . Cambridge, MA: MIT Press.

IEEE (2019) Diseño éticamente alineado: una visión para priorizar el bienestar humano con sistemas autónomos e inteligentes . 1.ª ed. Iniciativa global de IEEE sobre ética de los sistemas autónomos e inteligentes.

Jonas, H. (1984) El imperativo de la responsabilidad: En busca de una ética para la era tecnológica . Chicago: University of Chicago Press.

Long, R., Sebo, J., Butlin, P., Finlinson, K., Fish, K., Harding, J., Pfau, J., Sims, T., Birch, J. y Chalmers, D. (2024) Tomando en serio el bienestar de la IA . arXiv.

Matthias, A. (2004) “La brecha de responsabilidad: Atribuir responsabilidad por las acciones de los autómatas de aprendizaje”, Ética y tecnología de la información , 6, pp. 175–183.

Moor, JH (2006) “La naturaleza, la importancia y la dificultad de la ética de las máquinas”, IEEE Intelligent Systems , 21(4), pp. 18–21.

Nissenbaum, H. (2010) Privacidad en contexto: tecnología, política e integridad de la vida social . Stanford: Stanford University Press.

OCDE (2019) Principios de la OCDE sobre inteligencia artificial . París: Organización para la Cooperación y el Desarrollo Económicos.

Perrow, C. (1984) Accidentes normales: Vivir con tecnologías de alto riesgo . Nueva York: Basic Books.

Potter, V. R. (1971) Bioética: Un puente hacia el futuro . Englewood Cliffs, NJ: Prentice-Hall.

Sullins, J.P. (2006) “¿Cuándo es un robot un agente moral?”, International Review of Information Ethics , 6, pp. 23–30.

UNESCO (2021) Recomendación sobre la ética de la inteligencia artificial . París: Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura.

Wallach, W. y Allen, C. (2009) Máquinas morales: Enseñando a los robots a distinguir entre el bien y el mal . Oxford: Oxford University Press.