Abordar los impactos sociales de la IA desde una perspectiva crítica y práctica fue el reto de este panel del encuentro BIG.AI@MIT.
El trabajo del investigador Michiel Bakker da cuenta del potencial de la IA para facilitar consensos en contextos polarizados mediante sistemas que simulan elecciones grupales, lo que permite decisiones colectivas más efectivas. De hecho, ya ha llamado la atención desde terapeutas de pareja hasta personas interesadas en la resolución de grandes cuestiones geopolíticas.
La dificultad de medir y mitigar la discriminación algorítmica, especialmente en contextos como la contratación laboral o la justicia penal, donde los sesgos son sutiles y contextuales, fue otro de los temas, estudiado en este caso por Manish Raghavan. Su especialización se extiende hasta el estudio de la equidad, concepto para el que no existe una definición universal. La percepción de lo “justo” varía según el entorno y los actores involucrados, por lo que la propuesta de este investigador se basa en construir soluciones específicas por dominio.
La alineación de los modelos con los valores humanos también representa otro escollo para la IA. La necesidad de incorporar diversidad de opiniones y marcos participativos en el diseño de sistemas, además de aplicar métodos como el aprendizaje por refuerzo con retroalimentación humana, están contribuyendo a su mejor desarrollo.
Frente a la lacra de la desinformación, los ponentes enfatizaron la necesidad de usar modelos para para fortalecer el pensamiento crítico, lo cual depende del diseño del sistema. Aunque expresaron preocupaciones sobre el mal uso de la IA por actores poderosos y el riesgo de que estas tecnologías aumenten la capacidad individual para causar daño, el encuentro lanzó un mensaje de esperanza por el enorme potencial de la IA para avanzar en múltiples ámbitos, como ciencia, salud y energía, siempre que se aborde con responsabilidad y ética.
