Los dilemas éticos en torno a la inteligencia artificial: ¿cómo podemos abordarlos?
- Miguel Gurrola
- 1 minute ago
- 21 min read
Nota sobre el estatuto de lo que sigue. Este texto mezcla tres maderas distintas y conviene decir cuál es cuál antes de empezar. Hay datos verificables, con fuente y fecha, y van citados. Hay interpretaciones mías, sostenidas por más de doce años de práctica de campo, que declaro como tales y que ceden ante los datos. Y hay un símbolo al final, una imagen literaria que no pretende demostrar nada y que solo pide ser leída como imagen. No las presento como equivalentes. Esta es una perspectiva personal, no una verdad establecida ni asesoría legal.
I. Contexto: una irrupción que exige interpretación, no pánico
Si llevas algunos años liderando equipos, ya sabes que esto no es la primera vez. La imprenta, la máquina de vapor, la electricidad, internet: cada una llegó a cambiar de golpe el paradigma económico, político y social de su época, y cada una nos obligó a aprender a interpretar lo nuevo casi siempre a las prisas y casi nunca a tiempo, sin caer ni en el rechazo ciego ni en la adopción acrítica.
La conversación sobre la Inteligencia Artificial ya está instalada en las familias, entre colegas, en las universidades, en los comités directivos y, con particular intensidad, en LinkedIn. Y no es un tema menor: estamos en la antesala de decisiones que pueden vulnerar derechos fundamentales, empezando por el derecho de una persona sobre sus propios datos, incluidos los que hablan de su salud física, mental, emocional y espiritual.
Quiero traer aquí lo que he visto en el terreno. No un pronóstico sobre la tecnología, que no me corresponde, sino algo más modesto y más útil: cómo se ven estos dilemas desde dentro de un comité directivo, y qué hace la diferencia entre nombrarlos y dejarlos correr.
Antes de opinar, pongámonos de acuerdo en las palabras
Probablemente ya tienes una postura sobre la Inteligencia Artificial. Antes de defenderla, vale la pena detenerse en dos palabras que usamos sin pensarlas demasiado.
La Real Academia Española define dilema, en su uso corriente, como la situación en que hay que elegir entre dos opciones igualmente buenas o malas; y ética como la parte de la filosofía que estudia el comportamiento humano desde la perspectiva del bien y del mal, junto con los principios que deben regir la conducta con esa finalidad.
La tradición anglosajona añade un matiz que al liderazgo le sirve mucho: un dilema ético no es una decisión incómoda. Es una situación en la que dos principios igualmente legítimos entran en conflicto y ninguno se impone automáticamente, de modo que cualquier camino tiene un costo. Esto importa porque en la vida organizacional llamamos «dilema» a lo que muchas veces es simple falta de valentía para nombrar una elección entre lo correcto y lo conveniente. (Interpretación mía, y la sostengo.)
Adela Cortina ha insistido en que la ética no es un lujo de filósofos ni una imposición ajena a los negocios: es la articulación razonada de los mínimos de justicia que cualquier sociedad plural puede compartir, junto con los máximos de plenitud que cada persona y cada cultura cultivan de manera legítimamente distinta. En su trabajo más reciente sobre este tema, ¿Ética o ideología de la inteligencia artificial? El eclipse de la razón comunicativa en una sociedad tecnologizada (2024), añade una advertencia que me parece decisiva para nuestro oficio: no todo lo que se presenta como «ética de la IA» lo es. A veces es ideología: un discurso que se viste de ciencia para atraer inversión o ganar posición de poder, mientras en el espacio público triunfa la razón estratégica y se eclipsa la razón comunicativa, esa que hace posible ponerse de acuerdo argumentando.
Traducido a tu comité: la pregunta no es solo si tienes principios de IA publicados. Es si esos principios cambian alguna decisión, o si son una capa de relato sobre decisiones ya tomadas por otras razones.
Romano Guardini, en sus lecciones de ética en Múnich, sostenía que lo ético no es un sistema que se aplica desde fuera, sino algo que ocurre en la persona concreta que responde ante un bien concreto. Lo cito porque describe exactamente el momento que aquí nos interesa: no el de la política corporativa, sino el de el líder que, un martes por la tarde, tiene que decidir sobre una persona con nombre.
Y Mauricio Beuchot Puente, mi maestro y creador de la hermenéutica analógica, aporta la clave del método: un dilema no es un callejón sin salida entre dos extremos. Es la señal de que la interpretación se quedó atrapada entre dos posturas igualmente pobres: la rigidez de aplicar una sola regla sin mirar el contexto, o la relatividad de creer que ya no existe ningún criterio compartido. La ética, para él, es la capacidad de interpretar con prudencia: sostener un núcleo que no se negocia y dejar un margen legítimo para la situación concreta.
Una definición desde la Efectividad con Sentido Humano
Después de más de dos décadas acompañando procesos de transformación humana y cultural, propongo esta definición operativa:
Un dilema ético, en el contexto de la Inteligencia Artificial, es toda situación en la que la eficiencia técnica, financiera u operativa que la tecnología promete entra en tensión legítima con la dignidad, el bienestar o los derechos fundamentales de las personas involucradas (tus colaboradores, tus clientes, tu comunidad), y por lo tanto exige un acto de discernimiento y no solo una decisión técnica.
Miguel Angel Gurrola.
Vale la pena tomarlo en serio porque gestionarlo mal, o ignorarlo, es un riesgo medible para tu credibilidad y para el compromiso de tu gente. Un líder coherente se reconoce por la alineación entre lo que piensa, lo que dice, lo que siente y lo que hace. Pocos temas ponen esa coherencia a prueba con tanta exigencia:
¿Qué piensas realmente sobre el uso de tus datos y los de tu equipo?
¿Qué dices públicamente al respecto?
¿Qué sientes cuando una decisión automatizada afecta a una persona concreta de tu organización?
¿Y qué haces cuando nadie más está observando?
Cuando esos cuatro factores están alineados, tu credibilidad y la atractividad de tu organización como lugar de trabajo se disparan, tanto para quienes ya están contigo como para el talento que quieres atraer mañana.
II. Por qué vale la pena instalar la conversación
Antes de examinar las resistencias, reconozcamos con honestidad el valor de instalar esta conversación de manera deliberada.
Primero, la coherencia entre discurso y práctica es hoy un activo de mercado, no un lujo moral. Tus colaboradores, en especial los más jóvenes, evalúan a tu organización no solo por los resultados que produce, sino por la forma en que los produce. Y aquí hay un dato incómodo: la encuesta Work in America de la American Psychological Association encontró que, aunque uno de cada cuatro trabajadores usaba herramientas de IA al menos semanalmente, solo el 18 % sabía si su empleador tenía una política oficial sobre su uso aceptable (APA, 2024). Ese hueco entre adopción real y regla explícita es el terreno donde nacen los dilemas de este artículo.
Segundo, anticiparse es gestión de riesgo, no activismo. La Recomendación sobre la Ética de la Inteligencia Artificial de la UNESCO, adoptada en 2021 por 194 Estados, sostiene que el respeto a los derechos humanos y a la dignidad debe ser el cimiento de cualquier sistema de IA, sostenido por transparencia, equidad y supervisión humana permanente.
Y aquí conviene un dato duro, porque el calendario regulatorio produjo en 2026 una lección hermenéutica de manual. El Reglamento Europeo de Inteligencia Artificial (UE 2024/1689) fijaba el 2 de agosto de 2026 para las obligaciones de sistemas de alto riesgo. El Digital Omnibus on AI (Reglamento (UE) 2026/1744, publicado el 24 de julio y en vigor desde el 27 de julio de 2026) aplazó esas obligaciones: al 2 de diciembre de 2027 para los sistemas autónomos del Anexo III (entre ellos reclutamiento, evaluación de desempeño, asignación de tareas, promoción y terminación laboral, crédito y educación) y al 2 de agosto de 2028 para la IA embebida en productos regulados del Anexo I. El motivo declarado fue la falta de normas técnicas armonizadas, no un cambio de fondo.
Lo interesante, para nuestro tema, es lo que no se movió: las prácticas prohibidas del artículo 5 y el deber de alfabetización en IA rigen desde febrero de 2025; las obligaciones de proveedores de modelos de propósito general, desde agosto de 2025; y los deberes de transparencia y etiquetado de contenido del artículo 50, desde agosto de 2026. Las sanciones máximas alcanzan 35 millones de euros o el 7 % de la facturación global.
La fecha se movió; el requisito no. (Interpretación mía:) quien leyó el aplazamiento como una cancelación cometió un error de interpretación, no de cumplimiento. Es univocismo puro: una sola lectura, rígida, sin contexto. Y le va a costar dieciséis meses de ventaja frente a quien siguió construyendo.
Tercero, esta conversación no frena la innovación: la hace sostenible. McKinsey ha documentado que las organizaciones aumentaron el número de riesgos de IA que gestionan activamente, de un promedio de dos en 2022 a cuatro en su medición más reciente, y al mismo tiempo que el 51 % de las organizaciones que usan IA ya experimentó al menos una consecuencia negativa, siendo la inexactitud la más frecuente (The State of AI, 2025). Las que integran gobernanza desde el principio sufren menos retrocesos regulatorios, menos crisis reputacionales y una adopción interna más fluida, porque la confianza interna es condición de una adopción exitosa.
Cuarto, y es el argumento más cercano a tu experiencia cotidiana: nombrar el dilema dignifica a quien lo vive. El colaborador cuyo desempeño mide un algoritmo que no comprende. El candidato descartado por un filtro automatizado. El cliente cuyos datos de salud alimentan un modelo predictivo sin su consentimiento pleno. Nombrar es, en sí mismo, un acto de respeto.
III. Las resistencias que el entusiasmo no siempre reconoce
La primera es casi reflexiva: hablar de ética en las organizaciones se percibe como terreno subjetivo, abierto a mil interpretaciones y por lo tanto poco útil para decidir. «Cada quien tiene su moral», se dice, y de ahí se concluye que no hay criterio aterrizable. Esa resistencia confunde la legítima diversidad de sensibilidades morales con la ausencia de todo criterio compartido. En el lenguaje del Dr. Mauricio Beuchot, es equivocismo: se renuncia de antemano a encontrar proporción.
La segunda es jerárquica y muy comprensible: frente a la urgencia trimestral, la pregunta «¿es esto correcto?» compite en desventaja contra «¿es esto rentable?». Y pierde. No porque los líderes carezcan de valores, sino porque no existe un mecanismo que traiga la pregunta ética a la mesa con la misma disciplina con la que llegan los indicadores financieros. Un comité no discute lo que no está en el orden del día.
La tercera, menos discutida y igual de decisiva, es de personalidad y de cultura: no todos los líderes de tu equipo sienten la misma urgencia ni sostienen los mismos valores frente a estos dilemas. Esa diversidad, si no se hace consciente, produce decisiones inconsistentes que la organización lee, con razón, como falta de coherencia institucional.
Lo que sigue atiende esas tres resistencias no desde la exhortación moral, sino desde la ciencia del comportamiento y de la cultura, que es donde la Efectividad con Sentido Humano ha construido su método.
IV. Los diez dilemas, en palabras sencillas
Antes, el método en una frase. Frente a cualquier «texto» (una decisión, una conversación, una orden tomada casi en silencio) El Dr. Mauricio Beuchot identifica tres formas de interpretar:
● Univocismo: la lectura única y rígida. «La IA es una amenaza que hay que resistir.» O su espejo, igual de rígido: «Es una herramienta neutral que hay que adoptar sin restricciones porque lo exige la competitividad.»
● Equivocismo: todo vale y nada se comparte. «Cada área decide por su cuenta qué es ético.»
● Analogía: la proporción entre ambos. Un núcleo explícito de principios no negociables —dignidad, transparencia, no maleficencia, justicia— y un margen legítimo de aplicación según el contexto, la cultura y la naturaleza de cada decisión.
Los dilemas que siguen no se resuelven con un manual que pretenda anticipar cada caso, ni se disuelven en la discrecionalidad de cada líder. Se calibran. Cada uno viene con la escena en la que aparece, lo que está realmente en tensión, un dato con fuente y una pregunta abierta. La pregunta es lo más importante: he aprendido que se ayuda mucho más con preguntas bien pensadas que con recetas para el éxito.
1. Personalizar el servicio o respetar lo que nadie nos autorizó a saber
La escena. Marketing presenta un modelo que anticipa la necesidad del cliente antes de que la exprese. Funciona. Nadie pregunta de dónde salieron los datos que lo alimentan.
En tensión. La calidad de la experiencia contra el consentimiento informado real. No el de la casilla aceptada hace cuatro años, sino el que la persona daría hoy si le explicaran, en una frase, qué se sabe de ella. Cuando el modelo toca datos de salud física, mental, emocional o espiritual, la tensión deja de ser comercial y pasa a ser de derechos.
La pregunta. Si tuvieras que explicarle a este cliente, cara a cara y en treinta segundos, qué sabemos de él y cómo lo supimos, ¿lo harías con la misma tranquilidad con la que presentamos el modelo?
2. Medir cada movimiento o confiar en el oficio
La escena. Se instala una herramienta que registra actividad, tiempos y patrones. El argumento es la productividad. Nadie le llama vigilancia; se le llama analítica.
En tensión. La visibilidad operativa contra la confianza, que es el activo más caro de reconstruir y el único que no aparece en el balance.
El dato. La APA encontró que el 51 % de los trabajadores sabía que su empleador usaba tecnología para monitorearlos (2023; 44 % en 2024). Entre los monitoreados, el 45 % reportó que su entorno de trabajo afecta negativamente su salud mental, frente al 29 % de los no monitoreados; el 51 % se sintió micromanejado, contra el 33 %; y el 39 % reportó agotamiento emocional en el último mes, contra el 22 %. La correlación no prueba causalidad, y conviene decirlo. Pero la brecha es demasiado consistente para archivarla.
La pregunta. ¿Qué decisión concreta vamos a tomar con estos datos que hoy no podemos tomar sin ellos? Si no hay respuesta clara, lo que estamos comprando no es información: es la ilusión de control.
3. Automatizar el proceso o acompañar a quien lo hacía
La escena. El caso de negocio del proyecto de automatización tiene tres cifras: inversión, ahorro, plazo de recuperación. No tiene una cuarta: qué pasa con las diez personas que hacían ese trabajo.
En tensión. La eficiencia legítima contra la responsabilidad hacia quien la hizo posible durante años.
El dato. El Foro Económico Mundial proyecta, hacia 2030, 170 millones de empleos creados y 92 millones desplazados —una rotación estructural del 22 % de los 1,200 millones de puestos analizados, con saldo neto positivo de 78 millones (Future of Jobs Report, 2025). El saldo tranquiliza hasta que uno recuerda que no son las mismas personas. Y el ritmo real es más lento de lo que se anuncia: McKinsey encontró que solo el 14 % de las organizaciones reporta que la IA contribuyó a una reducción de plantilla en el último año, frente al 32 % que lo esperaba doce meses antes (The State of AI, 2026). (Interpretación mía:) esa brecha entre expectativa y hecho es una ventana, y se está cerrando. El 85 % de los empleadores declara que priorizará la recapacitación de su gente; el 63 % identifica la brecha de habilidades como su principal barrera. Entre lo declarado y lo presupuestado hay una distancia que solo tú puedes medir en tu organización.
La pregunta. ¿El plan de recapacitación tiene presupuesto asignado, responsable con nombre y fecha, o solo tiene menciones en la presentación?
4. Filtrar más rápido o filtrar mejor
La escena. El sistema de reclutamiento reduce el tiempo de contratación en un 40 %. Seis meses después, alguien nota que la diversidad de las contrataciones cayó y nadie sabe explicar por qué.
En tensión. La velocidad del proceso contra la equidad del resultado. Un modelo entrenado con el historial de contrataciones de tu organización aprende, con toda fidelidad, a reproducir a quien tu organización ya contrataba. Si estabas intentando cambiar eso, acabas de automatizar el pasado.
El dato. El reclutamiento y la evaluación de desempeño están clasificados como sistemas de alto riesgo en el Anexo III del Reglamento Europeo de IA. La obligación se aplazó a diciembre de 2027, no se eliminó.
La pregunta. ¿Alguien ha revisado los resultados del filtro desagregados por género, edad y origen? Si la respuesta es no, no sabemos si el sistema es eficiente: solo sabemos que es rápido.
5. Instalar hoy o poder explicarlo mañana
La escena. Un colaborador pregunta por qué el sistema lo clasificó así. Su jefe no puede explicárselo. El proveedor tampoco, o no del todo.
En tensión. La velocidad de implementación contra la explicabilidad. Y detrás de ella, algo más básico: la dignidad de recibir una razón. Una persona afectada por una decisión tiene derecho a entenderla, y ese derecho no depende de la arquitectura del modelo.
La pregunta. ¿Podemos explicar esta decisión, en lenguaje llano y en menos de dos minutos, a la persona a la que afecta? Si no, no está lista para producción, por buena que sea la demostración comercial.
6. Producir más contenido o saber de quién es
La escena. El equipo produce cuatro veces más material que hace un año. Nadie sabe con certeza qué parte es originalmente suyo, y el área legal no ha sido consultada.
En tensión. La productividad creativa contra la autoría y la propiedad intelectual. Y también contra algo menos jurídico: el oficio. Un equipo que deja de escribir deja de pensar; escribir es una forma de pensar despacio.
El dato. Las obligaciones de transparencia y etiquetado de contenido generado por IA (artículo 50 del Reglamento Europeo) rigen desde agosto de 2026, con el marcado de contenido sintético exigible desde diciembre de 2026.
La pregunta. ¿Existe una regla interna, escrita y conocida, sobre qué se declara y qué no? Y una segunda, más difícil: ¿estamos produciendo más de lo que alguien va a leer?
7. Delegar la decisión o dejar a alguien que responda por ella
La escena. El sistema se equivocó. Se pide una explicación. La respuesta que llega, en distintas variantes, es: «así lo determinó el modelo».
En tensión. La eficiencia de la delegación operativa contra la responsabilidad humana, que no es delegable. En decisiones de crédito, de salud o de personal, «el sistema decidió» no es una explicación: es una vacante de responsabilidad.
La pregunta. Para cada sistema que toma o recomienda decisiones sobre personas: ¿quién tiene nombre y apellido, y responde? Si tarda más de diez segundos en aparecer la respuesta, no hay responsable.
8. Ganar la atención o cuidarla
La escena. Una prueba A/B muestra que la variante B aumenta el tiempo de uso en un 18 %. Se aprueba. Nadie pregunta por qué funciona mejor.
En tensión. Los objetivos de negocio contra el bienestar de quien está del otro lado de la pantalla. La personalización algorítmica y los patrones de diseño persuasivo pueden optimizar el consumo o el tiempo de uso a costa de la persona, y lo hacen sin que nadie tome una decisión visiblemente cuestionable. (Interpretación mía:) este es el dilema que menos se discute en los comités y el que más se parece a lo que Cortina llama el eclipse de la razón comunicativa: se persuade en lugar de argumentar.
La pregunta. ¿Aumentó el uso porque el producto es mejor, o porque es más difícil dejarlo? Y si es la segunda, ¿lo diríamos así en voz alta?
9. Innovar sin freno o saber lo que cuesta
La escena. Se aprueba el despliegue de un modelo de alto consumo. En la misma sesión, dos puntos antes, se revisó el avance de los compromisos de sostenibilidad. Nadie conectó los dos temas.
En tensión. La presión por innovar contra la coherencia con tus propios compromisos públicos.
El dato. Según la Agencia Internacional de Energía, el consumo eléctrico mundial de los centros de datos creció 17 % en 2025, y el de los centros orientados a IA se disparó 50 % ese mismo año. La proyección central es pasar de unos 485 TWh en 2025 a cerca de 950 TWh en 2030, alrededor del 3 % de la demanda eléctrica global, con un crecimiento anual cercano al 15 %, más de cuatro veces el del resto de los sectores. El 3 % relativiza el alarmismo; el 15 % anual explica por qué las redes eléctricas se volvieron el cuello de botella.
La pregunta. ¿Conocemos la huella de los modelos que ya usamos? No la del sector: la nuestra.
10. La misma herramienta para todos o el mismo acceso para todos
La escena. El despliegue global se declara exitoso: 100 % de cobertura. En una planta, tres meses después, la herramienta se usa para lo mínimo indispensable y nadie lo ha reportado.
En tensión. La estandarización tecnológica, que es legítima y eficiente, contra la realidad desigual de acceso, alfabetización digital y madurez cultural de tus equipos. Desplegar lo mismo para todos no es tratar a todos por igual: es crear una nueva desigualdad interna y llamarla equidad.
El dato. Aquí las dimensiones de Geert Hofstede son especialmente útiles, con una advertencia que repito siempre: describen sociedades, no individuos. Confundir los niveles es la falacia ecológica, y he visto intervenciones costosas naufragar exactamente ahí. Con esa reserva: en la investigación original, México registra una distancia al poder de 81 y Alemania de 35. En una cultura de distancia al poder alta, un colaborador que no entiende la herramienta difícilmente lo dirá en una reunión con su jefe presente. Tu tablero de adopción marcará verde.
La pregunta. ¿Cómo sabríamos que esto no está funcionando en el lugar donde nadie nos lo va a decir?
Estos diez no son hipótesis de laboratorio. Se reflejan primero en las encuestas de clima (en las puntuaciones bajas de confianza en el liderazgo y claridad de propósito) y después en los resultados: rotación de talento clave, litigios, pérdida de reputación. La analogía es directa: así como los resultados financieros exigen equilibrio con las necesidades humanas de tu gente, la adopción de IA exige el mismo equilibrio entre eficiencia técnica y dignidad.
V. ¿Cómo abordarlos? Un protocolo de calibración analógica
La pregunta del título merece una respuesta operativa, no una exhortación. Esto es lo que uso en el terreno. Cinco movimientos, y ninguno requiere presupuesto nuevo.
1. Nombrar antes de resolver. Convierte la incomodidad en pregunta y ponla en el orden del día, con dueño y con tiempo asignado. Un comité no discute lo que no está agendado. Y al nombrar, declara de qué madera está hecho lo que sabes: esto es un dato, esto es una interpretación, esto es una hipótesis. Buena parte de las malas decisiones que he visto no vinieron de mala fe, sino de tratar una hipótesis como si fuera un dato.
2. Declarar el núcleo, dejar libre el margen. Escribe los mínimos innegociables de tu organización —dignidad, transparencia, no maleficencia, justicia— en un lenguaje que un supervisor de planta pueda repetir de memoria. Cuatro frases, no cuarenta páginas. Y deja explícitamente libre el margen: cómo se aplican en cada país, cada área y cada decisión. Eso es la analogía en la práctica: núcleo firme, aplicación proporcionada. Lo contrario tiene dos nombres conocidos: manual rígido que nadie consulta, o discrecionalidad que nadie puede auditar.
3. Medir lo humano en la misma tabla que lo financiero. Si el caso de negocio de una iniciativa de IA tiene tres cifras y ninguna es humana, está incompleto. Agrega dos o tres indicadores que ya tienes: confianza en el liderazgo, claridad de propósito, intención de permanencia, y mídelos antes y después. No para frenar el proyecto, sino para saber lo que costó.
4. Poner nombre y apellido a cada decisión automatizada. Un inventario simple: qué sistemas toman o recomiendan decisiones sobre personas, quién responde por cada uno, y cómo se explica la decisión a quien la recibe. Si un sistema no tiene responsable humano identificable, no está gobernado.
5. Falsar a los noventa días. Vuelve a la hipótesis que justificó la decisión y revisa si se sostuvo. Aprendí esta disciplina inspirado en Karl Popper, y no soy seguidor acrítico de esa escuela, pero rescaté de ella algo indispensable: someter a prueba las supuestas verdades de una organización para ver si resisten. He descartado capas enteras de análisis propio por no alcanzar coherencia interna, y he tenido que reconocer por escrito hipótesis mías que se ajustaban con elegancia al relato y resultaron falsas. Un ajuste demasiado elegante es una señal de alarma, no una prueba. Consignar los errores cuesta ego y ahorra años.
El diagnóstico previo: qué mueve a cada líder, y qué permite cada cultura
Este protocolo no funciona en el vacío. Funciona sobre personas concretas, con motivaciones distintas, dentro de culturas que premian cosas distintas. Y aquí está el aporte específico del método.
A nivel individual, trabajo estos dilemas con el Motives, Values and Preferences Inventory (MVPI) del Dr. Robert Hogan, porque permite ver qué mueve genuinamente a cada líder frente a un dilema: quién prioriza la seguridad ante la incertidumbre que introduce un sistema automatizado, quién valora el cumplimiento normativo, quién está motivado por el reconocimiento o el poder que la eficiencia tecnológica le otorga, y quién sostiene, ante todo, la protección de la persona afectada. Conviene dar retroalimentación individual antes de cualquier sesión de equipo, precisamente para que la dinámica grupal no homogenice esa diversidad de manera prematura. Un comité que decide sin haber hecho consciente lo que mueve a cada uno de sus miembros no está deliberando: está negociando sin saberlo.
A nivel colectivo, la lectura cultural de Hofstede (distancia al poder, individualismo y colectivismo, evitación de la incertidumbre) es especialmente relevante para decidir cuánta autonomía delegar a un sistema y cuánta supervisión humana debe permanecer innegociable.
Y aquí insisto en el punto que me parece el más importante de todo el artículo, porque es donde nace buena parte del ruido de este mercado: el individuo no es a la sociedad lo que la personalidad es a la cultura. Los instrumentos de personalidad describen a una persona; las dimensiones culturales describen a una colectividad. Mezclarlos produce conclusiones convincentes y falsas.
El uso inteligente de la tecnología: tres reglas de la casa
Sostengo la integración de la ciencia y el humanismo mediante el uso inteligente de la tecnología. No como consigna: como oficio. Y un oficio se reconoce por sus reglas. Estas son las tres que rigen en mi propia práctica, y las ofrezco por si sirven.
La técnica se somete a una tradición de sentido, o se pone a mandar. El sistema de inteligencia artificial con el que trabajo se llama Hildegard, por Hildegard von Bingen. El nombre no es decorativo: es una declaración de jerarquía. Ella resolvió, hace novecientos años, la tensión que hoy nos ocupa, unir ciencia y humanismo sin que ninguna se disuelva en la otra, y entre 1158 y 1171, pasados los sesenta, emprendió cuatro viajes de predicación por el Rin: fue, literalmente, una itinerante.
La tecnología amplifica la autoría; no la sustituye. Todo lo que sale de mi práctica declara qué aportó la herramienta y qué aportó la persona. Esa declaración no es un trámite de cumplimiento: es lo que permite que la responsabilidad siga teniendo dueño.
Ninguna herramienta entra sin que otra salga. Es la regla más simple y la que más resistencia genera, en mi propia práctica incluida. Sin ella, la organización acumula herramientas del mismo modo en que acumula iniciativas: hasta que nadie recuerda para qué servía ninguna.
Un símbolo, y lo declaro como tal
Aldous Huxley describió en 1932 un futuro en el que una dictadura podría revestirse de la apariencia de una democracia, convirtiéndose en una prisión sin muros donde nadie soñaría con escapar, porque el consumo y el entretenimiento habrían enseñado a los propios prisioneros a amar su servidumbre.
No cito esto como evidencia, y quiero ser explícito: es un símbolo, no un dato ni una hipótesis falsable. La cito porque describe con precisión el riesgo del univocismo tecnológico sin discernimiento: el de una eficiencia tan bien diseñada, tan cómoda y tan silenciosa, que deja de sentirse como una decisión que alguien tomó y empieza a sentirse, simplemente, como el aire que se respira.
VI. Conclusión
Los dilemas éticos en torno a la Inteligencia Artificial no son la amenaza apocalíptica que anuncia el discurso alarmista ni el problema menor que el entusiasmo prefiere no mirar. Son, como toda irrupción científico-tecnológica que la humanidad ha enfrentado antes, una invitación a interpretar con proporción: evitar el univocismo de quien impone una sola lectura de rechazo o de adopción incondicional, y el equivocismo de quien renuncia a todo criterio compartido, sosteniendo en su lugar un núcleo de principios no negociables junto con la prudencia situada que cada contexto, cada cultura y cada persona merecen.
Este es el corazón de la Efectividad con Sentido Humano aplicada a la Inteligencia Artificial: ninguna herramienta crea valor sostenible si se instala sin calibrarse con la ciencia disponible sobre personalidad y cultura, y sin el juicio prudencial de líderes dispuestos a interpretar, y reinterpretar, lo que está en juego cada vez que una decisión automatizada toca la vida de una persona real.
Frente a cada uno de los diez dilemas, las dos preguntas que organizan todo mi trabajo siguen siendo las que más rinden:
¿Desde dónde hago lo que hago? La pregunta por el origen, los supuestos heredados, la presión real que hay detrás de la decisión.
¿Para qué lo hago? La pregunta por el fin, que es la única que convierte la eficiencia en algo digno de ser buscado.
Una decisión de IA tomada sin respuesta a la primera es frágil. Una tomada sin respuesta a la segunda es, con frecuencia, dañina.
Y lo que finalmente hará que te recuerden no serán tus resultados de negocio, sino la forma en que trataste a los demás y cómo los hiciste sentir. Bien interpretados, estos dilemas no frenan el progreso de tu organización: son, quizás, la prueba más exigente y más reveladora de la coherencia genuina de tu liderazgo.
¿Cuál de estos diez dilemas ya está viviendo tu organización? Me encantaría leerte en los comentarios.
Nos leemos pronto.
Fuentes de inspiración
American Psychological Association. (2023). 2023 Work in America survey: Artificial intelligence, monitoring technology, and psychological well-being. APA.
American Psychological Association. (2024). 2024 Work in America survey: Psychological safety in the changing workplace. APA.
Beuchot, M. (1997). Hermenéutica, analogía y símbolo. Herder.
Beuchot, M. (2000). Tratado de hermenéutica analógica: Hacia un nuevo modelo de interpretación (2.ª ed.). Universidad Nacional Autónoma de México.
Beuchot, M. Hermenéutica analógica, filosofía y dignidad humana.
Cortina, A. (1986). Ética mínima: Introducción a la filosofía práctica. Tecnos.
Cortina, A. (2024). ¿Ética o ideología de la inteligencia artificial? El eclipse de la razón comunicativa en una sociedad tecnologizada. Paidós.
Guardini, R. Ética. Lecciones en la Universidad de Múnich. BAC.
Hofstede, G., Hofstede, G. J., & Minkov, M. (2010). Cultures and organizations: Software of the mind (3.ª ed.). McGraw-Hill.
Hogan Assessment Systems. MVPI — Motives, Values and Preferences Inventory: Technical manual.
Huxley, A. (1932). Brave New World [Un mundo feliz]. Chatto & Windus.
International Energy Agency. (2026). Electricity 2026 y Key questions on energy and AI. IEA.
McKinsey & Company. (2025, 2026). The state of AI: Global survey. QuantumBlack, AI by McKinsey.
Popper, K. (1934/1959). La lógica de la investigación científica.
Real Academia Española. (s.f.). Dilema y Ético, ética. En Diccionario de la lengua española. https://dle.rae.es
Unión Europea. Reglamento (UE) 2024/1689 (Reglamento de Inteligencia Artificial) y Reglamento (UE) 2026/1744 (Digital Omnibus on AI), publicado en el Diario Oficial el 24 de julio de 2026.
UNESCO. (2021). Recommendation on the ethics of artificial intelligence.
World Economic Forum. (2025). Future of Jobs Report 2025.
World Health Organization. (2022). Guidelines on mental health at work. WHO.
Y la literatura aplicada de Hogan Assessments, Korn Ferry, el Center for Creative Leadership y PROSCI, que me obligan a que las ideas rindan cuentas en el terreno.
Nota de transparencia
Este texto fue elaborado en colaboración entre el autor, que aporta el encargo, la vivencia de campo, el marco interpretativo (hermenéutica analógica) y el marco de sentido (Efectividad con Sentido Humano), y un sistema de inteligencia artificial generativa (Claude, de Anthropic), que aporta apoyo de redacción, estructuración y verificación de fuentes. La responsabilidad interpretativa, editorial y decisoria es exclusivamente humana.
Autoría y propiedad intelectual. La autoría intelectual de este artículo es obra exclusiva del autor y así se reserva en su totalidad. Comprende, de manera enunciativa mas no limitativa: el concepto de Efectividad con Sentido Humano (Human-Centric Effectiveness), metodología de creación propia desarrollada a lo largo de más de dos décadas de investigación aplicada y consultoría en transformación humana y cultural; la aplicación original de la hermenéutica analógica del Dr. Mauricio Beuchot Puente al ámbito organizacional y, en este artículo, al análisis ético de la Inteligencia Artificial; la integración de la ciencia cultural de Geert Hofstede con los instrumentos de personalidad Hogan, particularmente el MVPI; el protocolo de calibración analógica presentado en el apartado V; y los hallazgos de campo, casos y observaciones profesionales derivados de la experiencia directa del autor en múltiples países y sectores. Ninguna herramienta de inteligencia artificial es reconocida como autora, coautora o titular de derecho alguno sobre este contenido.
Se declara conforme a APA (2023) sobre citación de herramientas de IA generativa, a la Recomendación de la UNESCO sobre la ética de la inteligencia artificial, al Convenio de Berna, al Acuerdo sobre los ADPIC/TRIPS y al Código de Ética de Conscious Performance GmbH, Artículo IV — Uso Ético de la Inteligencia Artificial.
Las puntuaciones culturales citadas provienen de la obra publicada de Geert Hofstede y de estudios arbitrados desarrollados dentro de su programa de investigación.
Describen sociedades, no individuos.
Los datos regulatorios reflejan el estado del Reglamento Europeo de IA a septiembre de 2026 y pueden haber cambiado. Este texto es una perspectiva personal: no constituye asesoría médica, psicológica, legal ni financiera.
© 2026 Miguel Ángel Gurrola Rodríguez. Todos los derechos reservados.
Conscious Performance GmbH · Königstein im Taunus · Deutschland
Applied Research Institute TCPS SIA · Riga, Latvia
Comments