Toda innovación tecnológica importante trae potencial o daño social. La capacidad de procesamiento y análisis de datos de la inteligencia artificial puede ayudar a aliviar algunos de los problemas más apremiantes del mundo, desde el desarrollo del diagnóstico y tratamiento de enfermedades hasta el transporte, el desarrollo urbano y la mitigación del cambio climático. Sin embargo, las mismas habilidades también pueden ayudar a monitorear a los más vulnerables en un grado sin precedentes, identificar y discriminar y revolucionar la economía para que ningún programa de capacitación laboral pueda seguir funcionando. Y a pesar de los pasos críticos en el desarrollo de la IA, la llamada «revolución de la inteligencia artificial» tiene solo una década.
A continuación se presentan algunas formas en que la IA puede ayudar o dañar a las sociedades. Tenga en cuenta que incluso los usos de IA «útiles» pueden tener consecuencias negativas. Muchas aplicaciones de IA para el cuidado de la salud, por ejemplo, plantean graves amenazas para la protección de la privacidad y el riesgo para las comunidades desatendidas y se centran en la propiedad de los datos en las grandes empresas.
Al mismo tiempo, el uso de la IA para mitigar el daño puede no resolver los problemas subyacentes y no debe considerarse una cura para los problemas sociales. Por ejemplo, aunque la IA puede aliviar la necesidad de médicos desatendidos, no proporciona los recursos o estímulos que los profesionales necesitan para reubicarse. Del mismo modo, hubo algunos casos de un uso calificado como “nocivo” debido a buenas intenciones pero que han causado un daño importante.
Beneficios de la IA
Acceso mejorado a la atención médica y predicción de brotes de enfermedades: Ya se lograron avances significativos en el diagnóstico y la prevención de enfermedades mediante el uso de la IA. La IA también se utiliza en regiones que carecen de acceso a la atención médica. AI también permite que los funcionarios de salud intervengan temprano para contener un brote antes de que comience.
Hacer la vida más fácil a las personas con discapacidad visual: Las herramientas de reconocimiento de imágenes ayudan a las personas con discapacidad visual a navegar mejor por Internet y el mundo real.
Optimización de la agricultura y adaptación de los agricultores al cambio: AI combina imágenes satelitales globales con datos meteorológicos y agrícolas para ayudar a los agricultores a mejorar la producción de cultivos, diagnosticar y tratar enfermedades de las plantas y adaptarlas a entornos cambiantes. Este enfoque se conoce como agricultura de precisión y puede contribuir a aumentar la productividad agrícola para alimentar a más personas en el mundo.
Mitigación del cambio climático, predicción de desastres naturales y conservación de la vida silvestre: Con los efectos del cambio climático a nivel mundial, el aprendizaje automático ayuda a los científicos a hacer que los modelos climáticos sean más precisos. La IA ya se utiliza para clasificar los modelos climáticos, pronosticar fenómenos meteorológicos extremos, anticipar mejor los fenómenos meteorológicos extremos y responder a los desastres naturales. La IA también ayuda a identificar y capturar animales salvajes y a localizar y atrapar animales que propagan enfermedades.
Para aumentar la eficiencia y accesibilidad de los servicios gubernamentales: Si bien el uso de nuevas tecnologías suele ser lento, los gobiernos de todo el mundo utilizan la IA para hacer que los servicios públicos sean más eficientes y accesibles a nivel local y nacional, con énfasis en el desarrollo de «ciudades inteligentes». La IA también sirve para asignar recursos gubernamentales y optimizar presupuestos.
Riesgos de la IA
Sesgo continuo en la justicia penal: En el sistema de justicia penal, muchos casos documentados de AI están equivocados. El uso de IA a menudo ocurre en este contexto en dos áreas diferentes: evaluación de riesgos, para evaluar si es probable que un acusado reincida o no para recomendar una sentencia y fianza, o la llamada «policía predecible», utilizando información de varios puntos de datos para predecir qué o cuándo ocurrirá un delito y dirigir la acción policial.
Es muy probable que estos esfuerzos sean bien intencionados. Se anuncia que el uso del aprendizaje automático para evaluar los riesgos del acusado elimina la conocida parcialidad humana de los jueces en las decisiones sobre sentencias y fianzas. Y los esfuerzos policiales predictivos están dirigidos a la mejor asignación de recursos policiales frecuentemente restringidos para prevenir el crimen, aunque la misión siempre es de alto riesgo. Sin embargo, las recomendaciones de estas IA a menudo exacerban la naturaleza perjudicial de estos sistemas, ya sea directamente o incorporando factores que son sustitutos del prejuicio.
Facilitar el monitoreo masivo: Dado que la IA brinda la capacidad de procesar y analizar múltiples flujos de datos en tiempo real, no es de extrañar que la vigilancia masiva ya se esté utilizando en todo el mundo. La IA en el software de reconocimiento facial es el ejemplo más generalizado y peligroso. Si bien la tecnología sigue siendo imperfecta, los gobiernos buscan la tecnología de reconocimiento facial como una herramienta para monitorear a sus ciudadanos, facilitar la creación de perfiles de grupos e incluso identificar y localizar personas.
Perfilado discriminatorio: El software de reconocimiento facial se usa no solo para monitorear e identificar, sino también para apuntar y discriminar.
Propagación de la desinformación: La IA puede desarrollar y difundir propaganda dirigida, que se ve agravada por algoritmos de redes sociales que probablemente promuevan contenido. El aprendizaje automático permite a las empresas de redes sociales desarrollar perfiles de usuarios de publicidad dirigida. Además, los bots disfrazados de usuarios reales difunden material de círculos de redes sociales específicos compartiendo enlaces a fuentes falsas e interactuando activamente con los usuarios como chatbots a través del procesamiento del lenguaje natural.
Además, los sistemas de inteligencia artificial que producen grabaciones de audio y video realistas de personas reales creen que la tecnología se utilizará con fines maliciosos para hacer videos falsificados de líderes mundiales. Si bien las falsedades profundas todavía parecen tener que usarse como parte de la propaganda real o las campañas de desinformación, y el audio y el video falsificados aún no son lo suficientemente buenos para ser completamente humanos, todavía existe la posibilidad de sembrar el caos, desencadenar conflictos y causar una crisis de la verdad no debe ser descartada.
Perpetuando el sesgo del mercado laboral: Durante mucho tiempo, los procedimientos de contratación han estado llenos de prejuicios y discriminación. En respuesta, surgió toda una industria que utiliza la IA para eliminar los prejuicios humanos. En última instancia, sin embargo, muchos productos corren el riesgo de perpetuar sus propios prejuicios. La razón principal de esto es el uso común de datos históricos de empleados «exitosos» anteriores para entrenar el modelo ML, reproduciendo naturalmente el sesgo en el reclutamiento anterior.
Discriminación financiera contra los marginados: Los algoritmos se han utilizado durante mucho tiempo para crear puntajes de crédito e informar la evaluación de crédito. Sin embargo, con el auge de los grandes datos, los sistemas ahora incorporan y analizan puntos de datos no financieros con un método de aprendizaje automático para determinar la solvencia, cómo vive la gente, cómo navegan por Internet y cómo compran. Los resultados de estos sistemas se conocen como puntajes electrónicos y en su mayoría no están regulados, a diferencia de los puntajes de crédito formales. Como señaló la científica de datos Cathy O’Neil, estos puntajes a menudo son discriminatorios y provocan comentarios dañinos.