Las políticas sanitarias impulsadas por la IA están privando a los necesitados en uno de los países más pobres del mundo.

Kenia prometía un mayor acceso a una atención médica más asequible. Sin embargo, una nueva investigación ha revelado que su sistema basado en algoritmos está dificultando la vida de las personas a las que supuestamente debía ayudar. Según informes de The Guardian , Africa Uncensored y Lighthouse Reports , el nuevo sistema de la Autoridad de Salud Social de Kenia utiliza un algoritmo predictivo de aprendizaje automático para estimar cuánto deberían pagar las personas por el seguro médico público.

El sistema se puso en marcha por primera vez en octubre de 2024 como parte de la promesa del presidente William Ruto de ampliar el acceso a la atención médica a la numerosa fuerza laboral informal de Kenia.

Cómo el algoritmo está perjudicando a los kenianos

El problema radica en cómo el sistema calcula la capacidad adquisitiva de las personas. El sistema SHA de Kenia utiliza una prueba de recursos indirecta, un método que estima los ingresos basándose en datos del hogar como los materiales del techo, los inodoros, el ganado, el tamaño de la familia y otras condiciones de vida. Esta investigación reveló que el sistema ha estado sobreestimando los ingresos de los hogares más pobres, mientras que los ha subestimado para los ciudadanos adinerados.

Un voluntario de SHA describió sus visitas a hogares en Nairobi, donde observó cómo personas que ya tenían dificultades para costearse la comida recibían primas muy superiores a sus posibilidades. Según el informe, algunos enfrentaban cargos equivalentes al 10% o 20% de sus escasos ingresos.

Cuando un proyecto de ley bloquea el tratamiento

Las consecuencias son reales y la situación parece crítica. Los kenianos sin seguro médico privado que no pueden pagar sus primas del SHA corren el riesgo de ser rechazados en los centros de salud o de recibir facturas hospitalarias exorbitantes. El informe cita casos de personas gravemente enfermas que no recibieron tratamiento porque el sistema les indicó que debían más de lo que podían pagar. Una madre soltera afirmó que su contribución mensual se fijó en 3500 chelines kenianos, mientras que otros reportaron aumentos considerables con respecto a lo que pagaban anteriormente bajo el sistema anterior. Por lo tanto, la nueva política está costando vidas.

Aunque Ruto ha descrito el sistema como impulsado por IA, el informe señala que no utiliza IA generativa al estilo de ChatGPT. En cambio, emplea aprendizaje automático predictivo, basado en una herramienta de políticas con décadas de antigüedad que ha sido criticada durante mucho tiempo por identificar erróneamente quiénes cumplen los requisitos para recibir ayuda. Muchos han calificado este sistema de defectuoso e inequitativo incluso antes de su implementación.

Más de 20 millones de personas están inscritas en SHA, pero solo unos 5 millones pagan sus primas con regularidad. Los hospitales también registran grandes déficits debido a los reembolsos impagados. Este es el peligro de los sistemas de bienestar social basados ​​en algoritmos.