Introducción

La promesa de la Inteligencia Artificial (IA) en el campo de la medicina se presenta a menudo con una narrativa de infalibilidad; en las aulas de la Universidad Autónoma de Sinaloa (UAS), en la Facultad de Medicina y en la de Informática, por ejemplo, se discute el potencial de las redes neuronales para diagnosticar enfermedades con una precisión ―se dice― que podría superar la capacidad humana. Sin embargo, detrás de la sofisticación de los modelos de machine learning se esconde una realidad incómoda: los algoritmos no son entes autónomos de sabiduría pura; son construcciones matemáticas alimentadas por datos que arrastran las cicatrices de la desigualdad social.

En el contexto de la salud pública mexicana, la implementación de estas tecnologías enfrenta un desafío ético sin precedentes. La IA aprende de patrones históricos, y si la historia de nuestra salud pública ha estado marcada por la fragmentación, el sesgo de género y la invisibilización de las comunidades indígenas y rurales, el algoritmo corre el riesgo de automatizar y perpetuar estas injusticias. No se trata simplemente de un error técnico en el código, sino de una transferencia de prejuicios humanos al dominio de la computación.

A través de un enfoque interdisciplinario, este escrito explora la necesidad de una «justicia algorítmica» que proteja la diversidad fenotípica y socioeconómica de nuestra población. Para la comunidad universitaria, este análisis es un llamado a la reflexión sobre la soberanía tecnológica y el imperativo moral de no delegar la ética médica exclusivamente a las líneas de código.

La anatomía del sesgo: ¿cómo aprende a discriminar una máquina?

Para comprender el riesgo de esta herramienta en la salud pública es necesario desmitificar el funcionamiento de la IA; y si la mayoría de los sistemas de diagnóstico actuales se basan en el aprendizaje supervisado, los modelos matemáticos son «opiniones encerradas en matemáticas», como señala Verma (2019) en su comentario sobre el libro Weapons of Math Destruction (O’Neil, 2017). Así, si un algoritmo diseñado para detectar patologías cardiacas se entrena predominantemente con datos de pacientes varones de mediana edad, su capacidad para identificar síntomas atípicos en mujeres ―que a menudo presentan cuadros clínicos distintos― se verá mermada.

En el caso mexicano, el sesgo se manifiesta en dos vertientes principales:

1. El sesgo de representación genómica

Gran parte de las bases de datos mundiales utilizadas para entrenar IA en genómica y medicina de precisión provienen de poblaciones de ascendencia europea. Según estudios recientes, más  del  80 % de los estudios de asociación del genoma comple- to (GWAS) se han realizado en individuos de origen caucásico (Popejoy y Fullerton, 2016). Para un estado como Sinaloa, con una riqueza genética producto del mestizaje y la presencia de grupos originarios, la aplicación directa de estos modelos puede derivar en diagnósticos erróneos o en la ineficacia de tratamientos farmacológicos personalizados que no consideran las variantes genéticas locales.

1. El sesgo socioeconómico y la «invisibilidad digital»

La salud pública en México está intrínsecamente ligada a los determinantes sociales. Los algoritmos de salud a menudo utilizan variables subrogadas (proxies) para medir la gravedad de una enfermedad, como el gasto en salud o la frecuencia de visitas al hospital. En un sistema donde el acceso a la salud está estratificado, una IA podría interpretar erróneamente que un paciente de una  zona rural está «menos enfermo» simplemente porque tiene menos registros en el sistema, cuando en realidad su falta de datos es consecuencia de la falta de acceso. Este fenómeno, descrito por Obermeyer et al. (2019), demuestra que el algoritmo puede concluir que se debe invertir menos en los pacientes más pobres, no por su estado de salud, sino por su historial de gasto

El contexto de la salud pública en México: un terreno fragmentado

La estructura del Sistema Nacional de Salud en México añade una capa de complejidad al problema del sesgo. A diferencia de sistemas centralizados, México opera bajo una fragmentación institucional (IMSS, ISSSTE, Secretaría de Salud, sector privado) que genera datos inconsistentes y de difícil integración.

La NOM-024-SSA3-2012, que regula el expediente clínico electrónico, ha buscado la interoperabilidad, pero la realidad en los centros de salud de primer nivel (en regiones como el noroeste mexicano) es el uso de registros híbridos o incompletos. Cuando la IA se nutre de datos «sucios» o fragmentados, la capacidad de generalización del modelo se desploma. Esto plantea una interrogante fundamental para los futuros profesionales de la UAS: ¿cómo podemos confiar en la inteligencia de los datos si la captura de estos refleja una infraestructura institucional debilitada?

Sesgo de género: el silencio de los datos femeninos

En las facultades de Ciencias Sociales y de Psicología de la UAS, se ha discutido ampliamente cómo las estructuras de poder influyen en la ciencia. En la IA aplicada a la salud, esto se traduce en un sesgo de género que pone en riesgo el bienestar  y  la  vida de las pacientes, ya que, históricamente, la investigación médica ha tomado el cuerpo masculino como el estándar universal, relegando la fisiología femenina a una variante o «caso especial».

Cuando los algoritmos de aprendizaje automático analizan bases de datos de servicios de urgencias en México, a menudo encuentran registros donde los síntomas de enfermedades cardiovasculares en mujeres (como fatiga extrema o náuseas) fueron diagnosticados erróneamente como cuadros de ansiedad o estrés. Si la IA se entrena con estos diagnósticos sesgados, el sistema aprenderá a «normalizar» el error. Según Criado Pérez (2019), esta brecha de datos de género crea un círculo vicioso donde la tecnología no solo hereda el sexismo médico, sino que lo escala a una velocidad algorítmica.

Para  el estudiante de medicina en Sinaloa, esto significa que una herramienta de apoyo a la decisión clínica podría sugerir un tratamiento menos agresivo para una mujer con los mismos indicadores biológicos que un hombre, simplemente porque el modelo «leyó» que históricamente las mujeres reciben menos intervenciones coronarias. La justicia algorítmica exige, por tanto, una desatención consciente de los sesgos históricos para priorizar la realidad fisiológica.

La ética de la opacidad: el problema de la «caja negra»

Un concepto crucial para las facultades de Infor- mática y Derecho es el de la «caja negra» (black box). Muchos algoritmos de IA, especialmente los de aprendizaje profundo, son tan complejos que incluso sus creadores no pueden explicar exactamente cómo llegaron a una conclusión específica. En el contexto de la salud pública mexicana, esto plantea un conflicto ético y legal profundo.

Si un algoritmo en un hospital público de Culiacán determina que un paciente no es candidato para un trasplante basándose en un análisis predictivo de supervivencia, ¿cómo puede el médico explicar esa decisión a la familia? La Ley General de Salud en México enfatiza el derecho a la información y el consentimiento informado. Sin embargo, la opacidad algorítmica vulnera la autonomía del paciente. Como argumenta Pasquale (2015), el poder de los algoritmos para clasificar y calificar a los seres humanos requiere un nivel de transparencia y rendición de cuentas que actualmente la regulación mexicana no cubre totalmente.

Desafíos técnicos y regionales: el caso de Sinaloa

La implementación de IA en la salud no ocurre en el vacío; sucede en territorios con infraestructuras específicas. En Sinaloa, la transición hacia la digitalización total de la salud pública aún enfrenta retos de conectividad en zonas rurales y serranas.  Este «apartheid digital» genera un sesgo de selección: la IA solo conocerá a los sinaloenses que tienen acceso a hospitales tecnificados.

Para que la comunidad universitaria de la UAS pueda liderar una verdadera transformación, debe proponer soluciones de IA de bajo recurso. Esto implica desarrollar modelos que no requieran grandes infraestructuras de nube, sino que puedan operar localmente y con datos que reflejen la realidad epidemiológica regional, como las enfermedades transmitidas por vectores o las patologías asociadas al uso de agroquímicos en nuestros valles.

Hacia un marco regulatorio y la soberanía de datos

La soberanía de datos no es solo un concepto técnico, es un posicionamiento político. México no puede limitarse a ser un consumidor de tecnologías desarrolladas en el norte global. La dependencia de modelos extranjeros nos condena a ser diagnosticados por estándares que no nos pertenecen.

Desde la academia, es urgente impulsar:

• Auditorías algorítmicas: así como se exigen certificados de calidad en los medicamentos, los algoritmos de salud deben pasar por pruebas de equidad antes de su implementación en la población mexicana.
• Interdisciplinariedad real: el diseño de  estas herramientas debe incluir a bioeticistas, sociólogos y médicos desde la primera línea de código.
• Educación crítica: la UAS debe formar profesionales que vean a la IA como una herramienta asistencial, no como una autoridad incuestionable.

Conclusión: el humanismo digital como horizonte

La inteligencia artificial en la salud pública de México se encuentra en una encrucijada. Ofrece la posibi- lidad de optimizar recursos y salvar vidas mediante la detección temprana, y al mismo tiempo, amenaza con profundizar las brechas de desigualdad si no se corrigen los sesgos de origen.

Para la comunidad de la UAS, el reto no es solo aprender a usar estas herramientas, sino cuestionarlas. La justicia algorítmica es, en última instancia, una extensión de la justicia social. Nuestro compromiso como universitarios debe ser asegurar que la tecnología aplicada en la salud no sea una barrera de exclusión, sino un puente hacia una medicina más equitativa, humana y profundamente consciente de la diversidad de nuestra gente. Solo a través de una reflexión crítica y una acción interdisciplinaria podremos garantizar que el algoritmo del futuro nos vea a todos, sin prejuicios ni omisiones.