Cuando los datos no bastan: inteligencia artificial, ética y juicio humano en la toma de decisiones
 |
Introducción
Este artículo sostiene que la toma de decisiones no puede ni debe descansar exclusivamente en datos, inteligencia artificial o modelos algorítmicos. La tesis central es que los datos constituyen insumos valiosos para la deliberación, pero no sustituyen el juicio humano, la responsabilidad política, la evaluación ética ni la comprensión del contexto social. En la práctica, la evidencia cuantitativa permite identificar patrones, anticipar riesgos y comparar escenarios; sin embargo, muchas decisiones públicas y organizacionales también involucran legitimidad, confianza, equidad, derechos, historia institucional y relaciones de poder. Cuando estos factores se ignoran, una decisión técnicamente consistente puede devenir socialmente injusta, políticamente inviable o éticamente inaceptable. En este marco, la transformación digital y la IA solo son defendibles si se articulan con gobernanza, calidad de datos, participación y supervisión humana, es decir, si se orientan por un enfoque genuinamente humano-céntrico.
En los últimos años se ha consolidado una narrativa según la cual las mejores decisiones son, por definición, las decisiones “basadas en datos”. Esa visión se ha expandido con el auge de la analítica descriptiva, diagnóstica, predictiva y prescriptiva, con la automatización de procesos, y con la creciente incorporación de sistemas de IA en gobiernos, empresas y universidades. Desde esta perspectiva, el dato aparece como sinónimo de objetividad, y el algoritmo como promesa de neutralidad, eficiencia y precisión. La expectativa no es absurda: el uso estratégico de datos puede mejorar servicios, fortalecer el análisis de políticas y reducir arbitrariedades. Pero el problema comienza cuando esa promesa se convierte en dogma y se supone que la cuantificación equivale, por sí misma, a comprensión. (OECD, 2019, Tabrizi et al., 2019).
La transformación digital contemporánea ha amplificado este imaginario. Se invierte en plataformas, dashboards, automatización y modelos predictivos con la expectativa de que la tecnología resuelva, casi por sí sola, problemas de coordinación, desempeño o gobernanza. Sin embargo, como advierte Solano, implementar IA o digitalización sobre procesos mal definidos, datos deficientes y culturas organizacionales inmaduras no corrige el desorden: lo escala. De manera convergente, la literatura de gestión ha subrayado que la transformación digital no es, ante todo, un problema tecnológico, sino de estrategia, cultura, procesos y experiencia humana. De ahí que la tesis de este artículo sea clara: los datos deben comprenderse como apoyo para deliberar, no como sustituto deljuicio humano, la valoración ética ni la responsabilidad política. (Solano, 2025, Tabrizi et al., 2019).
La promesa de los datos y los límites de la racionalidad técnica
Sería un error responder al reduccionismo algorítmico con una postura antitecnológica. Los datos sí aportan valor real. La OCDE ha señalado que un sector público guiado por datos puede mejorar la calidad de los servicios, aumentar la efectividad del gasto y fortalecer decisiones mejor informadas. Asimismo, la analítica permite describir lo ocurrido, explicar causas, estimar probabilidades y sugerir acciones posibles. En ese sentido, la toma de decisiones apoyada en evidencia es un avance frente a decisiones puramente intuitivas, opacas o capturadas por arbitrariedades informales. (OECD, 2019).
No obstante, reconocer el valor del dato no implica atribuirle autosuficiencia. Herbert Simon mostró, desde mediados del siglo XX, que la teoría clásica de la elección racional descansaba en supuestos excesivamente exigentes: conocimiento completo de alternativas, capacidad para calcular consecuencias y criterios estables para comparar opciones heterogéneas. Frente a ello, propuso sustituir la idea de una racionalidad “global” por una forma de racionalidad compatible con la información realmente disponible y con las capacidades cognitivas efectivamente poseídas por las personas y organizaciones. En su desarrollo posterior, Simon insistió en que las decisiones reales se toman bajo búsqueda limitada, conocimiento imperfecto, incertidumbre y procesos heurísticos, no a partir de una optimización perfecta. (Simon, 1955, 1979).
La relevancia de Simon para la discusión actual es profunda. Si incluso los seres humanos y las organizaciones operan bajo racionalidad limitada, entonces los sistemas de datos y los modelos algorítmicos no pueden interpretarse como mecanismos de acceso a una verdad pura y descontextualizada. Los datos no “hablan solos”: se producen, seleccionan, limpian, jerarquizan e interpretan desde marcos previos. Los indicadores expresan decisiones sobre qué medir, con qué periodicidad, para quién y con qué propósito. Aun cuando el procesamiento sea estadísticamente sofisticado, el problema inicial sigue siendo humano e institucional: qué problema se formula, qué variables se consideran relevantes y qué costos se aceptan como tolerables. (Simon, 1979, OECD, 2019).
Por ello, el límite no reside en el dato en sí, sino en la pretensión de que la racionalidad técnica puede absorber todas las dimensiones relevantes de una decisión. Las organizaciones no deciden en el vacío. Deciden bajo restricciones de tiempo, información incompleta, incentivos cruzados, presiones políticas, inercias culturales y asimetrías de poder. En ese entorno, los modelos cuantitativos pueden ordenar la discusión, pero no clausurarla. Cuando se les asigna ese papel clausurante, se produce una ilusión de objetividad que desplaza preguntas fundamentales: quién gana, quién pierde, qué no se está midiendo y quién asume la responsabilidad cuando la decisión causa daño. (Simon, 1955, 1979, NIST, 2023).
El reduccionismo algorítmico y las dimensiones cualitativas, sociales y políticas
Jerry Z. Muller ha formulado una crítica especialmente útil para este debate. Su argumento no es que debamos abandonar las métricas, sino que la obsesión por medir y por convertir la medición en sustituto del juicio genera distorsiones previsibles. En la presentación editorial de The Tyranny of Metrics, se resume que la presión por cuantificar el desempeño puede desviar esfuerzos hacia aquello que es fácil de contar, incentivar el “gaming” de indicadores y apartar la atención de lo que realmente importa. En reseñas del libro se destaca, además, que el punto central de Muller consiste en usar las métricas para informar el juicio, no para reemplazarlo. (Muller, 2018).
Esta advertencia es crucial en la era de la IA. Muchas de las dimensiones más importantes de una decisión no son fácilmente reducibles a variables numéricas: la dignidad, la confianza, la justicia procedimental, la legitimidad, la oportunidad política, el sentido de pertenencia, la memoria institucional, la vulnerabilidad diferencial o la percepción ciudadana de trato justo. Medir algunas variables puede ser útil, suponer que eso agota el problema, no. El reduccionismo algorítmico nace justamente ahí: cuando lo medible se vuelve sinónimo de lo importante, y lo no medible pasa a ser tratado como ruido o irrelevancia. (Muller, 2018, UNESCO, 2021).
Por eso los marcos contemporáneos de IA responsable insisten en algo más amplio que el desempeño técnico. Los Principios de IA de la OCDE promueven una IA innovadora y confiable que respete los derechos humanos y los valores democráticos, incluyen no discriminación, igualdad, dignidad, autonomía, privacidad, diversidad, justicia social y mecanismos de agencia y supervisión humana. UNESCO, por su parte, establece que los sistemas de IA no deben desplazar la responsabilidad humana última, y añade exigencias de equidad, no discriminación, transparencia, responsabilidad y gobernanza multisectorial. NIST, en el AI RMF, afirma explícitamente que la gestión del riesgo en IA debe considerar impactos sobre individuos, organizaciones y sociedad, e incorpora la necesidad de documentación, participación de actores relevantes, mecanismos de apelación y revisión humana, y recursos para comunidades afectadas. (OECD, 2019, UNESCO, 2021, NIST, 2023).
En otras palabras, el debate ya no es únicamente tecnológico. Es institucional y político. La OCDE ha subrayado, incluso en contextos de seguridad social, que la IA confiable requiere datos de alta calidad, marcos de gobernanza, salvaguardas y participación, también advierte que las fallas o sesgos en los datos pueden producir consecuencias serias sobre personas concretas. Este punto converge con Solano, quien argumenta que la IA no obra milagros y que, sin procesos claros, liderazgo, planificación y datos confiables, lo que muchas organizaciones llaman “transformación” termina amplificando el caos. Su crítica resulta pertinente cuando algunos directivos pretenden imponer la IA como moda o símbolo de modernidad, antes de haber resuelto lo básico: gobernanza, calidad de datos, claridad de procesos y apropiación humana del cambio. (Solano, 2025, OECD, 2025, European Commission, 2022, 2026).
Bajo este marco, una decisión puede ser estadísticamente correcta y, al mismo tiempo, socialmente injusta, puede ser eficiente en un tablero de control y, sin embargo, destruir confianza institucional, puede ser consistente con un histórico de datos y, aun así, políticamente insostenible. La legitimidad de una decisión pública no depende solo de su racionalidad técnica, sino también de la forma en que reconoce a las personas afectadas, distribuye cargas y beneficios, y se hace cargo de los valores que la sociedad considera irrenunciables. Esa es la razón por la cual la transformación digital debe ser humano-céntrica: no para negar el dato, sino para situarlo dentro de una arquitectura más amplia de juicio, derechos, responsabilidad y deliberación. (OECD, 2019, UNESCO, 2021, European Commission, 2026).
El algoritmo de calificaciones del Reino Unido como caso paradigmático
El caso del algoritmo de calificaciones en Inglaterra durante 2020 ofrece un ejemplo especialmente revelador. Ante la cancelación de exámenes por la pandemia, docentes y centros educativos debían remitir calificaciones estimadas y rankings de estudiantes. Para “estandarizar” esas notas y mantener la comparabilidad nacional, el modelo de Ofqual combinó las evaluaciones docentes con resultados históricos de cada centro y con el desempeño previo de cohortes comparables. El propio Comité de Educación de la Cámara de los Comunes describió que el modelo utilizaba resultados históricos del centro, logro previo del estudiantado y la distribución nacional esperada. Anthony Kelly documentó, además, que Ofqual evaluó once algoritmos y finalmente eligió el Direct Centre Performance Model, diseñado principalmente para contener la inflación de calificaciones y preservar perfiles similares a los de años anteriores. (Kelly, 2021, House of Commons Education Committee, 2020).
Desde una perspectiva estrictamente técnica, la lógica era comprensible. Si se descartaban los exámenes presenciales, el regulador temía que las predicciones docentes fueran demasiado generosas y que se erosionara la comparabilidad entre centros. El modelo buscaba, por tanto, proteger un criterio estadístico agregado: mantener la distribución nacional de notas dentro de parámetros históricamente consistentes. Ese objetivo respondía a una racionalidad institucional reconocible: disminuir arbitrariedad intercentros, contener inflación y ofrecer señales relativamente homogéneas a universidades y otros actores. (Kelly, 2021, UK Government, 2020).
El problema surgió cuando aquel criterio agregado se tradujo en decisiones individuales de altísimo impacto. Kelly reporta que, una vez publicados los resultados, cerca de 36% de las calificaciones A-Level quedaron por debajo de las centre assessed grades y 3% descendieron dos grados. Además, el diseño del algoritmo eximía de ajustes a cohortes pequeñas, las cuales eran más frecuentes en escuelas privadas de pago, mientras que estudiantes de centros estatales más grandes y con políticas de acceso amplio veían caer sus predicciones para ajustarse a curvas históricas del centro. Reportes periodísticos previos a la publicación habían estimado que alrededor de 39% de las notas docentes serían rebajadas por el proceso de estandarización, la diferencia entre 39% y casi 36% obedece, por tanto, al contraste entre estimaciones previas y resultados ya publicados, no a una contradicción sustantiva del caso. (Kelly, 2021, The Guardian, 2020).
Aquí aparece con nitidez la tensión central de este artículo. Un modelo puede ser defendible como instrumento para observar tendencias agregadas y, sin embargo, ser inaceptable como base para decidir la trayectoria educativa de personas concretas. Kelly es particularmente severo al respecto: usar características de escuela o cohorte para ajustar el resultado de individuos constituye una falacia ecológica. En otros términos, el modelo trasladó promedios institucionales al destino singular de cada estudiante. La estadística agregada desplazó a la justicia individual. El algoritmo podía ordenar un sistema, no necesariamente podía reconocer el mérito, el esfuerzo y la situación específica de cada persona. (Kelly, 2021).
La reacción social y política fue inmediata. Según el gobierno británico, el proceso produjo demasiados resultados inconsistentes e injustos, minando la confianza en el sistema. El 17 de agosto de 2020, el Departamento de Educación y Ofqual anunciaron la reversión: estudiantes de Inglaterra recibirían sus calificaciones basadas en la evaluación del centro cuando esta fuera superior a la calculada. El episodio no fue solo una falla técnica, fue una crisis de legitimidad pública. Un estudio posterior de Heaton y colegas sobre la discusión pública en Twitter mostró que, en el imaginario social, la responsabilidad no recayó únicamente en “el algoritmo”, sino también en Ofqual y en el gobierno, y que el cambio a calificaciones docentes ocurrió tras una fuerte presión pública. (UK Government, 2020, Heaton et al., 2023).
La enseñanza del caso es decisiva. Los datos y el modelo sugerían que mantener el algoritmo protegía la consistencia estadística del sistema, la realidad política demostró que esa consistencia no bastaba para sostener la decisión. En educación, donde están en juego derechos, movilidad social y oportunidades de vida, la racionalidad técnico-estadística debía someterse a un examen más amplio de equidad, legitimidad y responsabilidad pública. El caso del Reino Unido demuestra, así, que los datos pueden sugerir una decisión técnicamente defendible, pero no necesariamente una decisión legítima. Cuando una política afecta trayectorias vitales, la pregunta correcta no es solo “¿el modelo está calibrado?”, sino también “¿la decisión reconoce a la persona, distribuye justamente el costo del error y puede ser públicamente defendida?”. (Kelly, 2021, UNESCO, 2021, OECD, 2019).
Otros escenarios donde los datos no bastan
El caso británico no es una anomalía. En Países Bajos, el escándalo de los subsidios para cuidado infantil mostró cómo un sistema algorítmico de perfilamiento de riesgo, utilizado para detectar fraude, incorporó la nacionalidad como factor y produjo discriminación y perfilamiento racial. Amnistía Internacional reportó que decenas de miles de familias principalmente de ingresos bajos fueron afectadas, y que el caso terminó dañando vidas, derechos y legitimidad institucional. La lección vuelve a ser la misma: una herramienta puede mejorar la detección de patrones y, al mismo tiempo, volverse intolerable si vulnera principios básicos de justicia y no discriminación. (Amnesty International, 2021).
En política pública y subsidios sociales, por ejemplo, un modelo puede concluir que cierto programa es ineficiente porque su costo por beneficiario es alto o porque presenta filtraciones. Sin embargo, eliminarlo sin más puede profundizar pobreza, conflictividad o exclusión territorial. Si la política solo maximiza eficiencia presupuestaria, pero ignora el efecto amortiguador que el subsidio cumple sobre hogares precarios, la decisión puede ser fiscalmente elegante y socialmente devastadora. En este tipo de casos, la cuestión no es negar el diagnóstico cuantitativo, sino someterlo a una evaluación más amplia del daño distributivo y la responsabilidad estatal. (OECD, 2019, 2025).
En educación superior ocurre algo semejante. Los datos pueden sugerir cerrar una asignatura con baja matrícula porque su costo unitario es alto. No obstante, si la materia es requisito de graduación o forma parte de una cadena curricular crítica, su cierre puede atrasar injustamente a estudiantes que ya están cerca de terminar. Un análisis exclusivamente financiero mirará demanda agregada, un análisis institucional más serio incorporará trayectorias, equidad temporal y responsabilidad académica. La decisión “correcta” no siempre será la que minimiza costo inmediato, sino la que evita transferir costos desproporcionados a quienes tienen menos margen de maniobra.
En servicios públicos para zonas rurales, las métricas de demanda pueden recomendar cerrar ventanillas, oficinas o puntos de atención porque atienden pocos casos y cuestan mucho. Pero esa misma decisión puede dejar sin acceso real a población mayor, comunidades alejadas o personas con baja conectividad. Una administración verdaderamente humano-céntrica no puede medir éxito solo por volumen o rentabilidad operativa, debe considerar accesibilidad, inclusión y derechos. La propia política digital europea insiste en una transformación justa, sostenible y centrada en personas, no solamente en eficiencias abstractas. (European Commission, 2022, 2026).
Algo similar vale para la gestión de inventarios educativos. Un sistema puede indicar que cierto material impreso tiene baja rotación y recomendar suprimirlo. Sin embargo, para estudiantes sin conectividad, personas privadas de libertad o poblaciones con necesidades específicas, ese recurso puede seguir siendo esencial. El dato de “baja salida” no captura por sí solo el valor público del insumo. Lo mismo sucede en recursos humanos: una analítica de desempeño puede mostrar productividad inferior al promedio, pero una decisión responsable exige analizar capacitación, carga laboral, liderazgo, salud, condiciones familiares y contexto organizacional. Resolver lo humano como si fuera una simple desviación estadística es, en estos casos, una forma de mala administración, no de racionalidad avanzada.
Hacia una toma de decisiones híbrida y humano-céntrica
La conclusión operativa no es abandonar datos ni IA. Es integrarlos en un modelo de decisión más robusto. Un enfoque equilibrado debe combinar, al menos, cinco componentes: evidencia cuantitativa, análisis cualitativo, juicio experto, evaluación ética y social, y deliberación política o institucional. La evidencia cuantitativa permite ver patrones, el análisis cualitativo aporta comprensión contextual, el juicio experto interpreta límites y excepciones, la evaluación ética examina daños, derechos y equidad, y la deliberación política decide qué costo está dispuesto a aceptar legítimamente una organización o una sociedad. (Simon, 1979, NIST, 2023, UNESCO, 2021).
Este modelo híbrido ya está insinuado en los marcos internacionales más sólidos. NIST recomienda alinear gobernanza de IA con gobernanza de datos, definir funciones y responsabilidades, habilitar mecanismos de monitoreo, apelación y override, incorporar retroalimentación de comunidades afectadas y establecer procesos de evaluación de impacto. UNESCO exige supervisión humana y responsabilidad última no desplazable. La OCDE, por su parte, insiste en salvaguardas, trazabilidad, transparencia y posibilidad de cuestionar resultados adversos. Todo ello apunta a una idea simple pero poderosa: una buena decisión con IA no se define solo por su exactitud técnica, sino por la calidad del arreglo institucional que la contiene. (NIST, 2023, UNESCO, 2021, OECD, 2019).
En términos prácticos, una organización debería formular siempre un conjunto de preguntas previas a la adopción de una recomendación algorítmica: ¿qué dicen los datos y qué no dicen?, ¿a quién afecta la decisión?, ¿qué grupos pueden ser perjudicados de forma desproporcionada?, ¿qué aspectos relevantes no están siendo medidos?, ¿la decisión es compatible con derechos y valores institucionales?, ¿es socialmente legítima y políticamente sostenible?, ¿cuáles serían las consecuencias no deseadas?, ¿existe una vía clara de revisión o corrección humana? Cuando estas preguntas se omiten, la organización no está siendo más racional, está, en realidad, delegando su responsabilidad en un dispositivo técnico. (NIST, 2023, OECD, 2025, Solano, 2025).
Desde este ángulo, la transformación digital humano-céntrica no es una consigna cosmética. Es una exigencia de diseño institucional. Implica reconocer que la tecnología debe adaptarse a la realidad de las personas y de las organizaciones, no al revés. También implica aceptar que una cultura verdaderamente orientada a datos no idolatra los números: los usa con prudencia, los contrasta con experiencia y los somete a fines públicos o institucionales explícitos. Cuando la evidencia cuantitativa se combina con deliberación y responsabilidad, el dato deja de ser un oráculo y se convierte en lo que realmente debe ser: una herramienta al servicio de decisiones más razonables, más justas y más defendibles. (European Commission, 2026, OECD, 2019, Muller, 2018).
Conclusiones
Los datos y la inteligencia artificial son herramientas poderosas. Permiten ver regularidades antes invisibles, anticipar riesgos, mejorar coordinación y apoyar decisiones mejor informadas. Pero de esa utilidad no se sigue su suficiencia. Este artículo ha argumentado que una decisión puede ser eficiente pero injusta, precisa pero ilegítima, automatizada pero irresponsable. La razón es sencilla: decidir no consiste solo en calcular, consiste también en interpretar, ponderar, responder por consecuencias y reconocer la densidad humana, social y política de cada contexto.
El caso del Reino Unido en 2020 mostró con crudeza que un modelo estadístico puede parecer razonable como mecanismo agregado y, aun así, resultar inaceptable cuando determina oportunidades individuales de vida. Los marcos de OCDE, NIST y UNESCO, así como las reflexiones recientes sobre transformación digital humano-céntrica, convergen en una misma dirección: la IA debe operar bajo supervisión humana, principios de equidad, mecanismos de revisión, participación y responsabilidad pública. Si además se acepta, que sin buena organización y buena calidad de datos la tecnología solo multiplica desorden, entonces el horizonte correcto no es “más automatización a cualquier costo”, sino mejor gobernanza del cambio.
En la era de la inteligencia artificial, el reto no es decidir sin datos, sino evitar que los datos decidan sin contexto. La verdadera inteligencia organizacional no consiste en obedecer ciegamente a los algoritmos, sino en integrar evidencia, juicio, ética y comprensión social para tomar decisiones más humanas, legítimas y responsables. Esa es, en última instancia, la diferencia entre digitalizar procedimientos y gobernar con sabiduría.
Referencias
- · Amnesty International. (2021). Xenophobic machines: Discrimination through unregulated use of algorithms in the Dutch childcare benefits scandal. Amnesty International. https://www.amnesty.org/en/documents/eur35/4686/2021/en/
- · European Commission. (2019). Ethics guidelines for trustworthy AI. High-Level Expert Group on Artificial Intelligence. https://digital-strategy.ec.europa.eu/en/library/ethics-guidelines-trustworthy-ai
- · European Commission. (2022, 30 de junio). The Commission adopts a new digital strategy to address transformation opportunities of a post-pandemic world. https://commission.europa.eu/news-and-media/news/commission-adopts-new-digital-strategy-address-transformation-opportunities-post-pandemic-world-2022-06-30_en
- · European Commission. (2026). What we do: Communications Networks, Content and Technology. https://commission.europa.eu/about/departments-and-executive-agencies/communications-networks-content-and-technology/what-we-do-communications-networks-content-and-technology_en
- · Heaton, D., Nichele, E., Clos, J., & Fischer, J. E. (2023). “The algorithm will screw you”: Blame, social actors and the 2020 A Level results algorithm on Twitter. PLOS ONE, 18(7), e0288662. https://doi.org/10.1371/journal.pone.0288662
- · House of Commons Education Committee. (2020). Getting the grades they’ve earned: Covid-19: The cancellation of exams and ‘calculated’ grades. House of Commons. https://publications.parliament.uk/pa/cm5801/cmselect/cmeduc/617/61702.htm
- · Kelly, A. (2021). A tale of two algorithms: The appeal and repeal of calculated grades systems in England and Ireland in 2020. British Educational Research Journal, 47(3), 725–741. https://doi.org/10.1002/berj.3705
- · Muller, J. Z. (2018). The tyranny of metrics. Princeton University Press. https://press.princeton.edu/books/hardcover/9780691174952/the-tyranny-of-metrics
- · National Institute of Standards and Technology. (2023). Artificial Intelligence Risk Management Framework (AI RMF 1.0). U.S. Department of Commerce. https://doi.org/10.6028/NIST.AI.100-1
- · OECD. (2019). Recommendation of the Council on Artificial Intelligence. OECD Legal Instruments. https://legalinstruments.oecd.org/en/instruments/OECD-LEGAL-0449
- · OECD. (2019). The path to becoming a data-driven public sector. OECD Publishing. https://doi.org/10.1787/059814a7-en
- · OECD. (2025). Harnessing artificial intelligence in social security: Unlocking the potential of trustworthy AI in social security. OECD Publishing. https://www.oecd.org/en/publications/harnessing-artificial-intelligence-in-social-security_b52405c1-en.html
- · Office of Qualifications and Examinations Regulation. (2020). Awarding GCSE, AS, A level, advanced extension awards and extended project qualifications in summer 2020: Interim report. Ofqual. https://www.gov.uk/government/publications/awarding-gcse-as-a-level-advanced-extension-awards-and-extended-project-qualifications-in-summer-2020-interim-report
- · Simon, H. A. (1955). A behavioral model of rational choice. The Quarterly Journal of Economics, 69(1), 99–118. https://doi.org/10.2307/1884852
- · Simon, H. A. (1979). Rational decision making in business organizations. The American Economic Review, 69(4), 493–513. https://www.jstor.org/stable/1808698
- · Solano Segura, J. A. (2025). Transformación digital e inteligencia artificial: la tecnología no hace magia. Revista DOS Tecnología y Negocios, 1(1). https://www.dostecnologiaynegocios.com/2025/11/transformacion-digital-e-inteligencia.html
- · Tabrizi, B., Lam, E., Girard, K., & Irvin, V. (2019, 13 de marzo). Digital transformation is not about technology. Harvard Business Review. https://hbr.org/2019/03/digital-transformation-is-not-about-technology
- · UK Government. (2020, 17 de agosto). GCSE and A level students to receive centre assessment grades. https://www.gov.uk/government/news/gcse-and-a-level-students-to-receive-centre-assessment-grades
- UNESCO. (2021). Recommendation on the Ethics of Artificial Intelligence. UNESCO. https://unesdoc.unesco.org/ark:/48223/pf0000380455
When Data Is Not Enough: Artificial Intelligence, Ethics, and Human Judgment in Decision-Making
Abstract
This article critically examines the limits of data-driven decision-making in the context of artificial intelligence, digital transformation, and algorithmic governance. Although data analytics and AI systems provide valuable support for identifying patterns, improving efficiency, anticipating risks, and informing institutional decisions, they should not be understood as substitutes for human judgment, ethical reflection, or political responsibility. The article argues that not all decisions can or should be based exclusively on quantitative data or algorithmic outputs, since organizational and public decisions are shaped by qualitative, social, ethical, institutional, personal, and political dimensions. Through the analysis of international principles on trustworthy AI, bounded rationality, the risks of metric-based management, and the 2020 United Kingdom grading algorithm controversy, the article shows that a technically consistent decision may still be socially unjust, politically unsustainable, or ethically questionable. It concludes that human-centered digital transformation requires a hybrid decision-making approach that integrates evidence, expert judgment, social context, ethical evaluation, and institutional deliberation.
