Consecuencias no deseadas de la IA
Más allá de que IA y advanced analytics tienen muchos aspectos positivos, también pueden causar consecuencias no deseadas (o intencionales) significativas para las personas, las organizaciones y la sociedad.
Personas
Seguridad física
Seguridad digital
Salud financiera
Equidad y trato justo
Organizaciones
Desempeño financiero
Desempeño no financiero
Cumplimiento legal y regulatorio
Integridad de la reputación
Sociedad
Seguridad nacional
Estabilidad económica
Estabilidad política
Labor-market stability
Integridad de la infraestructura
1/13
Personas
Seguridad física
• Mal funcionamiento de vehículos autónomos que resulta
en lesiones o muerte
• Exceso de confianza en decisiones incorrectas sobre
mantenimiento predictivo que conduce a lesiones en
los trabajadores
• Diagnóstico incorrecto de enfermedades basado en
modelos de aprendizaje automático
3/13
Seguridad digital
• Distorsión de información personal manifestada en forma
de calumnias o difamación a través de medios digitales
4/13
Salud financiera
• Recomendaciones financieras de mala calidad que
provocan la gestión inadecuada de fondos de
consumidores o empleados
• Uso de técnicas sofisticadas de phishing para extraer
y explotar en beneficio propio información financiera
de terceros
5/13
Equidad y trato justo
• Modelo de suscripción que discrimina inadvertidamente,
rechazando las solicitudes de crédito hipotecario de
grupos minoritarios
• Algoritmo de crédito que se basa en las conexiones en
medios sociales y asigna mejores puntajes a personas con
redes de mejor calidad percibida, penalizando al resto
2/13
Privacidad y reputación
• Uso de datos privados sin consentimiento de los
consumidores
• Almacenamiento inseguro de información personal
identificable (PII) que deriva en filtración de datos y
consecuencias negativas para los individuos
6/13
Desempeño financiero
• Algoritmos de negociación imposibilitados de adecuarse
correctamente a nuevas circunstancias (e.g., cambios
repentinos en los tipos de cambio) que provocan grandes
pérdidas financieras
• Decisiones de pricing que miden incorrectamente la
elasticidad a los precios de los consumidores y derivan
en malas decisiones de producción
Organizaciones
7/13
Desempeño no financiero
• Uso de algoritmos complejos de contratación y promoción
que conducen inadvertidamente a una fuerza laboral poco
diversa o a comportamientos no deseados
• Estimaciones sub-óptimas de los fondos o los recursos
requeridos en el contexto de emergencias o desastres
naturales que inciden en la capacidad de respuesta
8/13
Cumplimiento legal y regulatorio
• Discriminación no intencional incorporada a decisiones
de crédito que genera reclamos de consumidores
• Divulgación de información confidencial sobre la salud
de los consumidores
9/13
Integridad de la reputación
• Falta de claridad acerca de la configuración de privacidad
que provoca reacciones adversas de los usuarios
• Algoritmo publicitario basado en información personal
invasiva que lleva al público a asociar a la compañía con
prácticas intrusivas o desleales
10/13
Seguridad nacional
11/13
Estabilidad económica
• Algoritmos automatizados de negociación que elevan la
volatilidad de los mercados financieros
• Algoritmos que producen inestabilidad en los mercados
monetarios, reduciendo el volumen de operaciones
• Instrumentos financieros basados en modelos “black-box”
que provocan riesgos sistémicos no deseados
12/13
Estabilidad política
• Manipulación de procesos institucionales nacionales
(e.g., elecciones, designaciones) a través de la
tergiversación de información o mensajes falsos
13/14
Labor-market stability
• Mass intelligent machine-led automation leads
to instability of labor market
• As medical diagnoses are automated, medical workforce
de-skills (ie, health professionals lose expertise), creating
problems when unforeseen circumstances create need for
nonautomated doctors
13/13
Integridad de la infraestructura
• Concentración de riesgos que afectan sustancialmente la
infraestructura social al interconectar un mayor número de
procesos y decisiones (e.g., interrupción simultánea de
servicios de electricidad, agua y comunicaciones)
• Sistemas inteligentes que provocan el uso excesivo o
indebido de la infraestructura (e.g., sistemas GPS que
dirigen a los automóviles por calles laterales, generando
niveles de tráfico inusuales en áreas residenciales)
Personas
Personas
Personas
Personas
Organizaciones
Organizaciones
Organizaciones
Sociedad
Sociedad
Sociedad
Society
Sociedad
• Actores con intenciones maliciosas que utilizan objetos
basados en IA (e.g., drones, armas) y los emplean en
actividades ilegales
• Violaciones de datos sensibles que exponen
vulnerabilidades militares o secretos técnicos
Privacidad y reputación
