Inteligencia artificial para todos: lecciones de la intersección entre tecnología e inclusión
7 de enero, 2025 | By Vicki Hyman
Desde la concesión de créditos a microempresarios colombianos hasta la reducción de las tasas de morbilidad materna en Etiopía y la entrega de información vital a refugiados de todo el mundo, el poder de la inteligencia artificial se está combinando con el potencial de inclusión y empoderamiento económico.
Cinco organizaciones que buscan redefinir el uso de la IA para generar impacto social desarrollarán y ampliarán sus soluciones como ganadoras del Desafío de Inteligencia Artificial para Acelerar la Inclusión , que recibió más de 500 propuestas en 82 países. Los ganadores, que también incluyen una empresa social para apicultores en pequeña escala en la India y una iniciativa estadounidense que conecta a pacientes con beneficios federales subutilizados, recibirán $200,000 y asistencia técnica y tutoría con Mastercard y data.org , que patrocinaron el desafío.
La sala de prensa de Mastercard habló con los líderes de las organizaciones ganadoras sobre los desafíos de crear soluciones de IA en el sector social, cómo están mitigando los sesgos y entrenando a sus modelos para que sean inclusivos, y qué otros sectores son los más prometedores para la tecnología.
Quipu: cerrando la brecha de financiación para las pequeñas empresas en Colombia
En Colombia, cerca de 6 millones de empresas son microempresas, que operan con menos de 10 empleados y un pequeño capital. De ellas, solo el 9 por ciento puede acceder a préstamos formales, debido a la falta de información sobre su desempeño y la ausencia de historial financiero, lo que genera una enorme brecha de financiamiento.
Quipu cierra la brecha de información en la economía informal al utilizar inteligencia artificial para evaluar con mayor precisión la solvencia crediticia de estas pequeñas empresas a través de un modelo de puntuación que analiza datos no tradicionales, como historiales de transacciones móviles, interacciones en redes sociales, SMS y patrones de pago, y desembolsos y cobros de créditos inteligentes. También proporciona una plataforma de financiamiento y microcréditos que permiten a estas empresas construir una puntuación crediticia alternativa basada en información financiera y no financiera. A través de la aplicación de Quipu, los clientes pueden solicitar en minutos capital de trabajo que se desembolsa en menos de dos días.
Reforzar la atención sanitaria comunitaria en Etiopía: IDinsight
Hace dos décadas, Etiopía puso en marcha un nuevo modelo de atención sanitaria rural, capacitando y desplegando a miles de trabajadores de extensión sanitaria para servir a las comunidades locales, lo que ha dado como resultado mejoras significativas en la salud materna e infantil y disminuciones en las nuevas infecciones por VIH y en las muertes relacionadas con la tuberculosis y la malaria, por nombrar solo algunas.
Para aprovechar ese éxito, IDinsight se ha asociado con Last Mile Health y el Ministerio de Salud de Etiopía para crear un centro de llamadas con tecnología de inteligencia artificial al que los trabajadores de extensión sanitaria pueden contactar para obtener orientación médica en tiempo real sobre casos complejos. La solución de inteligencia artificial de la organización incluirá un sistema de gestión de casos y un servicio de respuesta a preguntas basado en las directrices integrales del Ministerio de Salud, que brindará apoyo en tiempo real a los agentes del centro de llamadas que transmitirán información crítica a los trabajadores de la salud por teléfono, lo que les permitirá centrarse en la atención al paciente y brindar una atención médica de alta calidad.
Entrega de información vital a personas en crisis en todo el mundo: Proyecto Signpost del Comité Internacional de Rescate
Un récord de 120 millones de personas se encuentra desplazadas en todo el mundo por conflictos, desastres naturales, pobreza y violencia. Las personas afectadas por crisis deben tomar decisiones críticas que les cambian la vida a lo largo de su viaje hacia la seguridad con información limitada. En 2015, el Comité Internacional de Rescate lanzó el Proyecto Signpost , que establece centros de ayuda digitales para que los usuarios encuentren información precisa y oportuna, accedan a servicios críticos y hagan preguntas directas a los moderadores locales, como, por ejemplo, ¿Cómo puedo acceder a una vivienda? ¿Podré obtener un permiso de trabajo temporal? ¿Puedo inscribir a mis hijos en la escuela? Signpost tiene casi 30 programas activos en todo el mundo, con más de 6 millones de usuarios de Signpost en 2024.
Sin embargo, las necesidades de información aumentan junto con el número de personas desplazadas. Durante la crisis de 2023 en Afganistán, una publicación en Facebook generó 30.000 mensajes en un mes, lo que abrumó al equipo local de Signpost, compuesto por seis moderadores. En 2024, el proyecto Signpost, dirigido por el IRC, lanzó Signpost AI para mejorar la entrega de información crítica a través de agentes de inteligencia artificial y supervisión humana. Este sistema tiene como objetivo reducir la carga de los moderadores, permitiéndoles centrarse en casos más complejos, al tiempo que garantiza respuestas oportunas y precisas que mejoren el acceso a los recursos y servicios para las poblaciones desplazadas en todo el mundo.
Buzzworthy Ventures crea una colmena de conocimientos para apicultores en India
La India sigue siendo un motor agrícola mundial, pero hay una cadena de valor agrícola que no está cobrando impulso: la apicultura. En la India hay 400.000 apicultores en pequeña escala, muchos de los cuales luchan por mantener su sustento, y mucho menos por aumentar el potencial económico de la polinización por insectos para mejorar el rendimiento de los cultivos. En la India, la polinización por insectos aporta 22.520 millones de dólares al año, cifra que supera con creces el tamaño del mercado de la miel y los productos de la colmena, pero el potencial sigue estando enormemente infrautilizado para los cultivos esenciales para la economía y la nutrición de la India.
Por eso, Buzzworthy Ventures creó Beekind , una aplicación móvil impulsada por IA para empoderar a los apicultores en pequeña escala, en particular a las mujeres, los pequeños terratenientes, los agricultores sin tierra y las poblaciones tribales en comunidades rurales y marginadas. Proporciona información en tiempo real y análisis predictivos, lo que ayuda a los apicultores a gestionar la salud de sus colmenas, diagnosticar enfermedades, mejorar la producción de miel y adaptarse a las condiciones climáticas cambiantes.
Cómo cerrar la brecha entre salud y riqueza en Estados Unidos: Link Health
El médico de urgencias Alister Martin solía ver que la pobreza era el factor que impulsaba las visitas de los pacientes al servicio de urgencias. Se dio cuenta de que el “dinero como medicina” (ayudar a los pacientes a acceder a asistencia en efectivo y prestaciones federales) podía abordar las causas fundamentales de la mala salud cerrando la brecha entre salud y riqueza.
Esto llevó a la creación de Link Health , un programa que conecta a los pacientes con programas de ayuda federal no utilizados como SNAP, WIC y Lifeline para aliviar la tensión financiera que exacerba las disparidades en materia de salud. La plataforma de inscripción y el chatbot habilitados con inteligencia artificial tienen como objetivo desbloquear $10 millones en beneficios estatales y federales para aliviar la pobreza, reducir el estrés financiero y mejorar el bienestar
¿Cuál fue el mayor desafío para poner en marcha su solución?
Mercedes Bidart, directora ejecutiva y cofundadora de Quipu
”El mayor desafío fue conseguir la primera cantidad de capital para comenzar a prestar para mejorar nuestras puntuaciones. Crear una nueva solución de suscripción es como el problema del huevo y la gallina: necesitas capital para desarrollar la solución, pero no lo consigues hasta que la pruebas."
Sid Ravinutula, científico jefe de datos, IDinsight
“El primer desafío es técnico. En un contexto de atención médica, los tratamientos y las recomendaciones deben ser 100% precisos, no hay lugar para las alucinaciones. Esto requiere un enfoque diferente a la arquitectura popular de generación aumentada por recuperación. Necesitamos construir un gráfico que capture con precisión los tratamientos y los protocolos de diagnóstico.“
El segundo desafío es crear puntos de referencia representativos y conjuntos de validación. Antes de iterar y mejorar el modelo, necesitamos un conjunto de datos de preguntas y respuestas que estos trabajadores probablemente hagan. Este conjunto de datos debe abarcar todos los temas sobre los que pueden preguntar y dar cuenta de cómo podrían hacerlo (utilizando abreviaturas, términos coloquiales, emojis, etc.). Crear un conjunto de datos de referencia de alta calidad es costoso, ya que a menudo requiere anotaciones humanas”.
André Heller, director de programas de Signpost
“Uno de los mayores desafíos ha sido desarrollar herramientas de IA que sean inclusivas y contextualmente precisas. Entrenar a la IA para que comprenda idiomas minoritarios, dialectos regionales y contenido con matices culturales requiere una amplia selección de datos, experiencia humana y pruebas. Además, garantizar que las respuestas generadas por IA respeten los principios humanitarios y no perpetúen los sesgos ha requerido la creación de sólidas salvaguardas, como la supervisión humana y la revisión de la constitución para garantizar la ética de los resultados. Equilibrar la innovación con estos rigurosos estándares ha sido exigente pero esencial”.
Monika Shukla, directora ejecutiva y cofundadora de Buzzworthy Ventures
“El principal desafío consistía en cerrar la brecha entre la tecnología avanzada de inteligencia artificial y su adopción en entornos rurales de base. Si bien la conectividad a Internet en la India ha crecido exponencialmente (con más de 700 millones de usuarios de Internet en 2023, impulsada en gran medida por teléfonos inteligentes asequibles), el acceso sigue siendo desigual. Esta brecha digital, sumada a la cobertura de red irregular en bosques y aldeas remotas, planteó un obstáculo importante para implementar soluciones impulsadas por inteligencia artificial que requieren conectividad constante e interacción del usuario”.
Alister Martin, CEO, Link Health
“Navegar y acceder a los beneficios públicos puede ser un obstáculo para muchas familias. Sin embargo, el mayor desafío fue integrar la intervención de Link Health sin problemas en entornos de atención médica donde los proveedores ya están abrumados. Esto requirió generar confianza entre los trabajadores de la salud, asegurando que los navegadores no interrumpieran la atención al paciente y al mismo tiempo mostraran beneficios mensurables para los pacientes y los sistemas de atención médica”.
¿Cómo puede garantizar que su solución sea personalizada e inclusiva?
Mercedes Bidart, Quipu: “Para mitigar los sesgos, utilizamos diversos conjuntos de datos, auditamos periódicamente nuestros modelos de IA y aplicamos una validación con participación humana para garantizar evaluaciones crediticias justas y equitativas. Nuestros algoritmos se prueban rigurosamente para evitar sesgos de género y raciales, y los monitoreamos y actualizamos continuamente para que se ajusten a los estándares éticos. También ofrecemos a los usuarios procesos de reparación accesibles, lo que les permite impugnar o apelar las decisiones de la IA”.
Sid Ravinutula, IDinsight: “En primer lugar, estamos desarrollando esta solución como una solución de código abierto. Esperamos que esto acelere la implementación de herramientas similares en otros contextos al permitir que las organizaciones la adapten a sus necesidades específicas. En segundo lugar, nos aseguramos de que se pueda personalizar y ampliar fácilmente para los contextos locales. Esto incluye cumplir con las pautas locales, cambiar los modelos de IA o agregar nuevas barreras de protección. Al crear un modelo común que se pueda ajustar para cada contexto, garantizamos que la solución sea ampliamente aplicable y, al mismo tiempo, respete los requisitos únicos de cada entorno”.
André Heller, Signpost: “La IA de Signpost se entrena con datos seleccionados y verificados de fuentes confiables y ONG locales. Esto garantiza que la IA refleje dialectos regionales, normas culturales e idiomas minoritarios, llenando brechas críticas para poblaciones desatendidas. Los agentes de IA admiten entradas de voz y texto, lo que permite la accesibilidad para personas con bajo nivel de alfabetización. Las herramientas se prueban y perfeccionan con hablantes nativos y moderadores de la comunidad para validar la precisión y la inclusión. Nuestra Constitución de IA establece democráticamente reglas éticas, incluida la no discriminación y el lenguaje sensible al trauma, con auditorías continuas para mitigar el sesgo”.
Monika Shukla, Buzzworthy Ventures: “Beekind adapta sus soluciones tecnológicas y táctiles a las condiciones regionales, ecológicas y de cultivo específicas, integrando factores hiperlocales como el clima, la flora y las prácticas agrícolas. Para lograrlo, involucramos activamente a apicultores locales, investigadores, expertos agrícolas y líderes comunitarios en el diseño conjunto de prácticas, modelos y estrategias de implementación, garantizando que la solución se alinee con las realidades vividas de las personas a las que sirve. Priorizamos a las mujeres y a los pequeños agricultores, contribuyentes clave, pero desatendidos al ecosistema agrícola de la India. Por ejemplo, al brindar capacitación sensible al género y crear espacios inclusivos para el diálogo, empoderamos a las mujeres para que participen activamente y se beneficien de la cadena de valor de la apicultura. La inclusividad no es solo un principio; es una piedra angular práctica de nuestro enfoque”.
Monika Shukla, Buzzworthy Ventures: “Beekind adapta sus soluciones tecnológicas y táctiles a las condiciones regionales, ecológicas y de cultivo específicas, integrando factores hiperlocales como el clima, la flora y las prácticas agrícolas. Para lograrlo, involucramos activamente a apicultores locales, investigadores, expertos agrícolas y líderes comunitarios en el diseño conjunto de prácticas, modelos y estrategias de implementación, garantizando que la solución se alinee con las realidades vividas de las personas a las que sirve. Priorizamos a las mujeres y a los pequeños agricultores, contribuyentes clave, pero desatendidos al ecosistema agrícola de la India. Por ejemplo, al brindar capacitación sensible al género y crear espacios inclusivos para el diálogo, empoderamos a las mujeres para que participen activamente y se beneficien de la cadena de valor de la apicultura. La inclusividad no es solo un principio; es una piedra angular práctica de nuestro enfoque”.
¿Cuál es su mayor preocupación en torno a la IA?
Mercedes Bidart, Quipu: “La pieza más importante a la hora de construir modelos de IA es el conjunto de datos. Un buen modelo es aquel que tiene un resultado bueno y justo, y la única forma de hacerlo posible es entrenando modelos con conjuntos de datos diversos que representen las particularidades de cada región. La otra pieza importante del rompecabezas es la persona o el equipo que construye el modelo. Solo el 20% de los trabajos de IA son realizados por mujeres, lo que significa que los resultados no se están evaluando desde una perspectiva de género. Necesitamos más mujeres liderando soluciones de IA”.
Sid Ravinutula, IDinsight: “Fiabilidad. En el ámbito sanitario, un diagnóstico incorrecto o un tratamiento incompleto pueden tener consecuencias catastróficas. Sin embargo, los modelos de IA presentan una aleatoriedad inherente. Por ejemplo, si se le hace a una IA la misma pregunta varias veces, es posible que obtenga respuestas ligeramente diferentes. De manera similar, si se reformula una pregunta, pueden obtenerse respuestas diferentes. Si bien es probable que la mayoría de las respuestas transmitan el mismo mensaje, algunas pueden ser incompletas o engañosas, lo que podría causar daños. Es esencial contar con medidas de seguridad sólidas para garantizar que todas las respuestas sean correctas, completas y respetuosas”.
André Heller, de Signpost: “La mayor preocupación es el potencial de la IA para causar daño a través de sesgos, desinformación o exclusión. Para las poblaciones vulnerables, la información incorrecta puede tener consecuencias que alteren la vida. Garantizar que la IA sea contextualmente precisa, transparente y ética requiere una supervisión, pruebas y colaboración constantes con expertos locales. Abordamos esto implementando la supervisión humana en el circuito para el control de calidad, auditorías de sesgos y revisiones éticas para refinar las respuestas, y marcos transparentes como la Constitución de la IA, que rige los resultados y mitiga los riesgos nocivos. Seguimos atentos para equilibrar la innovación en IA con la rendición de cuentas y la confianza”
Monika Shukla, Buzzworthy Ventures: “Cuando los modelos de IA se entrenan con datos que no son totalmente representativos de las comunidades a las que pretenden servir, existe el riesgo de reforzar las desigualdades existentes. Por ejemplo, muchos sistemas de IA se entrenan con datos en los principales idiomas, lo que deja a los dialectos locales y las lenguas orales subrepresentados. En la India, numerosas comunidades tribales y regionales hablan idiomas que a menudo carecen de conjuntos de datos digitales sólidos. Esta falta de representación puede dar lugar a modelos que no logran interpretar o responder con precisión a las necesidades de estas comunidades. Además, los acentos regionales, los patrones de habla y las prácticas vividas a menudo se pasan por alto, lo que hace que las soluciones de IA sean menos efectivas o incluso dañinas para estos grupos”.
Alister Martin, de Link Health: “La mayor preocupación es la posibilidad de que los sistemas de IA perpetúen los sesgos existentes, en particular cuando trabajan con poblaciones desatendidas. Sin una supervisión cuidadosa, los algoritmos podrían excluir inadvertidamente a los más necesitados o no tener en cuenta las desigualdades sistémicas a las que se enfrentan. Garantizar la transparencia, la rendición de cuentas y el uso ético de la IA en la toma de decisiones es fundamental para evitar que se agraven las disparidades. Por eso también mantenemos a los humanos informados en los momentos críticos del proceso, y por eso seguiremos manteniéndolos informados a medida que evolucionamos nuestras herramientas de IA”.
¿Qué sector, además del suyo, tiene el potencial de beneficiarse más de la IA?
Mercedes Bidart, Quipu: “El sector educativo. Creo que la educación ha cambiado y tenemos la oportunidad de democratizarla. Lo que hemos hecho en Quipu en torno a la educación es un asistente de inteligencia artificial de última generación en WhatsApp que apoya a nuestros clientes con la gestión de sus negocios. No es necesario tener un consultor por negocio. Con un bot podemos apoyar la educación y el crecimiento de millones”.
Sid Ravinutula, IDinsight: “IDinsight no tiene en cuenta ningún sector. Si bien este proyecto se centra en la salud, hemos desarrollado soluciones de IA en educación y protección social. Los agricultores enfrentan barreras similares a las de los trabajadores de salud comunitarios para acceder a la información. Necesitan saber cuáles son los mejores cultivos para su región y las combinaciones óptimas de fertilizantes, y asistencia para diagnosticar enfermedades y tratamientos de los cultivos. En educación, los casos de uso de IA incluyen tutores personalizados, planes de lecciones generados por IA y evaluaciones y valoraciones impulsadas por IA. Hemos utilizado IA para identificar a niñas que no asisten a la escuela en la India para una ONG que trabaja para aumentar la matriculación de niñas en las escuelas. Por último, la IA puede ayudar a los ciudadanos a acceder a los beneficios gubernamentales. Puede ayudar a identificar la elegibilidad y a navegar por el complejo proceso de solicitud”.
André Heller, de Signpost: “Con los avances en IA, es difícil pensar en un sector que no se transforme. La pregunta es cuándo: ¿en dos años o en cinco? Desde las operaciones comerciales hasta el análisis de datos, pasando por el diagnóstico en el ámbito de la atención sanitaria y la investigación en prácticamente cualquier campo, todo avanzará a un ritmo que aún no hemos visto. Es solo una cuestión de cuándo la gente podrá hacer un uso eficaz de la IA. Un ejemplo práctico: la conexión entre la meteorología y la gestión de desastres. Las alertas meteorológicas y los sistemas de alerta temprana de desastres, como inundaciones, huracanes, sequías y fenómenos meteorológicos extremos, tienen un inmenso potencial para beneficiarse de la IA. Los modelos avanzados de IA pueden analizar datos meteorológicos e hidrológicos en tiempo real para pronosticar desastres con mayor precisión y proporcionar alertas tempranas para una respuesta más integral que incluya a las personas vulnerables, las empresas locales, las cadenas de suministro y el gobierno. Signpost ya ha comenzado a aprovechar la IA para la respuesta a las inundaciones a través de FloodHub, combinando predicciones de IA con actualizaciones procesables en tiempo real para ayudar a las comunidades a prepararse y mitigar el impacto de las inundaciones”.
Monika Shukla, Buzzworthy Ventures: “El sector de la salud se beneficiará significativamente de la IA, en particular en el diagnóstico, la medicina personalizada y la optimización de las cadenas de suministro de atención médica, especialmente en las zonas rurales. Las herramientas impulsadas por IA pueden ayudar a la detección temprana de enfermedades como la malaria y la tuberculosis a través de imágenes médicas o pruebas de diagnóstico. Por ejemplo, los modelos de IA pueden analizar radiografías de tórax o muestras de sangre para detectar signos tempranos de enfermedad, incluso en entornos de bajos recursos. Esto puede conducir a diagnósticos y tratamientos más rápidos, lo que en última instancia salva vidas y reduce los costos de la atención médica en regiones desatendidas. La IA también puede agilizar la logística en sistemas de atención médica remotos, asegurando la entrega oportuna de suministros médicos y vacunas a áreas desatendidas, lo que es crucial para los países con grandes poblaciones rurales”.
Monika Shukla, Buzzworthy Ventures: “El sector de la salud se beneficiará significativamente de la IA, en particular en el diagnóstico, la medicina personalizada y la optimización de las cadenas de suministro de atención médica, especialmente en las zonas rurales. Las herramientas impulsadas por IA pueden ayudar a la detección temprana de enfermedades como la malaria y la tuberculosis a través de imágenes médicas o pruebas de diagnóstico. Por ejemplo, los modelos de IA pueden analizar radiografías de tórax o muestras de sangre para detectar signos tempranos de enfermedad, incluso en entornos de bajos recursos. Esto puede conducir a diagnósticos y tratamientos más rápidos, lo que en última instancia salva vidas y reduce los costos de la atención médica en regiones desatendidas. La IA también puede agilizar la logística en sistemas de atención médica remotos, asegurando la entrega oportuna de suministros médicos y vacunas a áreas desatendidas, lo que es crucial para los países con grandes poblaciones rurales”.
