Algoritmos autoritarios

14/05/2017
01:58
-A +A

Todo indica que los algoritmos llegaron para quedarse por un buen rato, los usamos desde hace tiempo para un sinfín de tareas, nos acompañan en múltiples actividades que efectuamos con nuestros dispositivos digitales.

Los algoritmos nos permiten sistematizar muchas cuestiones. En el futuro las interfaces de voz parece que serán la principal vía de interacción que tendrán muchas personas con su entorno, es lo que les permitirá conducir su vehículo, comprar un producto en línea en donde trabará interacción con un bot, etcétera. Algunos, incluso, preludian que los algoritmos, de mano de la inteligencia artificial, serán capaces de despertar en las personas emociones genuinas y vívidas.

No obstante, en estos momentos no hay muchas personas que estén dispuestas a dejar en las manos de un algoritmo la conducción de su automóvil. Eso deriva de que los humanos se consideran más capacitados para efectuar esas actividades, y porque también se piensa que al hablar de un algoritmo se hace referencia a un laborioso proceso de cálculos preprogramados para alcanzar un fin.

Sin embargo, las personas pasan por alto que muchas actividades que llevan a cabo están en buena medida soportadas por el uso de algoritmos.

Pero sería de insensatos no tomar en consideración que los algoritmos cometen errores. En octubre pasado, por ejemplo, la libra esterlina sufrió un fuerte revés, se desplomó en los mercados asiáticos, y los operadores culparon a los algoritmos del derrumbe de esa moneda que se devaluó más del 6 por ciento.

Un hecho más cercano evidencia que los algoritmos no son infalibles, nos referimos al problema en que se embarcó la empresa United Airlines. La aerolínea vio que unas cuantas horas fueron suficientes para que el video de la evacuación violenta de un pasajero de un vuelo de esa aerolínea, el pasado 10 de abril, se tornara en Twitter en Trending Topic y derrumbara la reputación y valoración de esa firma en la bolsa de valores.

La cuestión es que ese no fue un error de unos empleados, sino resultado de la estupidez de unos algoritmos que dieron fe de inflexibilidad y autoritarismo, demostrando lo fácil que es para una empresa sumirse en un desastre.

Recientemente, John Robb (goo.gl/ykkUM5) indicó que ese incidente es un ejemplo claro de una decisión algorítmica rígida, autoritaria y evidencia cómo los mismos son capaces de crear graves problemas a las empresas. Él refiere que el algoritmo tomó la decisión de proponerle a varios pasajeros cambiar de vuelo a cambio de una buena compensación económica, pero derivado de favorecer a los clientes de mejor valor.

La propuesta que hizo el algoritmo no fue, pues, algo que se tomara al azar, sino que la hizo tomando en consideración la lealtad de los clientes y el tipo de boleto comprado. Es decir, una clara decisión discrecional que llevó a la tripulación de la aeronave a seguir la sugerencia del algoritmo y pedirle a los pasajeros seleccionados por el mismo que cambiaran de vuelo.

La cuestión es que esto terminó en una evacuación violenta, propalada en las redes sociales. Como recuerda Robb, esto es resultado de que las personas terminan por obedecer ciegamente a la decisión de los algoritmos. Para él, el caso ilustra cómo detrás de la programación de algoritmos están actitudes autoritarias, por lo que las empresas necesitan contar con esquemas que contrarresten las decisiones sesgadas de los mismos, lo que deben efectuar personas cuerdas y sensatas en situaciones críticas.

Es necesario que, en esas situaciones, regrese el sentido común, algo para lo cual están mejor pertrechados los seres humanos. Además, las empresas deben admitir públicamente sus fracasos, reconocer que sus soluciones automatizadas son defectivas, que cuando los mismos algoritmos fracasan, como fue el caso de la situación de United Airlanes, sean las acciones colectivas las que frenen los atropellos de la automatización.

 

Periodista y escritor especializado en cibercultura. @tulios41

Periodista y escritor especializado en cibercultura

 Twitter: @tulios41

Comentarios