Los algoritmos están diseñados para perseguir un único objetivo matemático, pero los dilemas morales son mucho más complejos. Las máquinas entrenadas para valorar las consecuencias de varias opciones devolverían la responsabilidad de tomar la decisión final a las personas.
El uso de algoritmos para tomar decisiones éticas es cada vez más común. Quizás el mejor ejemplo sea la versión de alta tecnología sobre el problema ético conocido como dilema del tranvía: si un coche autónomo no puede evitar matar a uno de los dos peatones, ¿cómo debería el software de control del coche elegir quién vive y quién muere?
Aunque este dilema no refleja de forma demasiado realista el comportamiento de un coche autónomo, muchos otros sistemas en uso (o muy cerca de implementarse) se enfrentan a todo tipo de decisiones éticas reales. Las herramientas de evaluación que se utilizan actualmente en el sistema de justicia penal deben considerar los riesgos para la sociedad frente los daños a los acusados individuales. Las armas autónomas deberán considerar las vidas de los soldados frente a las de los civiles.
Leer más: Problema ético de la IALa tecnología no lo resuelve todo y al contrario puede generar problemas si no se hace un buen uso de ella. Tecnología no es innovación necesariamente. La innovación se logra de muchas formas: con nuevos procesos, diferentes modelos de negocio o nuevos productos o servicios que adopten los consumidores.
La inversión en tecnología debe tener como propósito solucionar una dificultad. Es común escuchar que se han cometido errores al enamorarnos del servicio que lanzamos, que no siempre resuelve la problemática de los clientes. Esto genera esfuerzos innecesarios e inversión de recursos en servicios que no cumplen el objetivo.
Leer más: ¿Por qué las Pymes deben invertir en tecnología?