Los algoritmos son de los fenómenos más grandes de la actualidad que a veces la misma gente que los programa no los termina de comprender. Por eso, muchos documentales hoy se dedican a hablar de los datos que utilizan las empresas a través del algoritmo para obtener información relevante entorno a los intereses de las personas.
El problema se agrava cuando tanto los algoritmos como los productos son mal utilizados y esto fue lo que sucedió en Amazon con la venta de un químico que se utiliza para conservar alimentos, un derivado del sodio. El producto comenzó a ser utilizado desde hace 3 años por decenas de personas con el fin de consumirlo como un veneno para suicidarse.
El algoritmo de Amazon identificó el producto como un artículo utilizado frecuentemente por personas con tendencias suicidas y detectó entonces que muchos usuarios lo llevaban también con diversos productos que se utilizaban para el mismo fin.
El sistema entonces empezó a sugerir este conservante en primer término a las personas que querían culminar con su vida. Algo que habla excelente del algoritmo, en torno a su precisión, pero pésimo desde el lado de la frialdad que tiene una máquina, ya que él mismo no ha sido programado con el sentido común y sentimental de un ser humano.
Amazon ya ha tenido repercusiones negativas por parte de este caso. En el 2019 un usuario denuncio en la web que un familiar había recurrido al producto para suicidarse y pidió por favor a Amazon que deje de promocionar el conservante.
Desde ahí, los casos no pararon de aumentar. En Estados Unidos fueron más de 50 los jóvenes que perdieron su vida por culpa del químico. Mientras que la madre de uno de los chicos fallecidos demandó a Amazon por negligencia.
El caso llegó a miembros de la Cámara de Representantes de los Estados Unidos que han dirigido una carta abierta al CEO de Amazon, Andy Jassy. Lo que solicitan son pruebas y detalles de las medidas que adoptó la compañía en base a este caso.
La única respuesta que hubo fue la de Brian Huseman, vicepresidente de políticas públicas de Amazon, quien expreso sus condolencias por los fallecidos y defendió el derecho de Amazon en base a las prácticas que siguen adelante.
“En Amazon ponemos a disposición de nuestros clientes una amplia selección de productos porque confiamos en que utilizarán esos productos tal y como lo han concebido los fabricantes”, y culminó con que el compuesto por desgracia puede ser mal utilizado...
Ahora bien, del algoritmo nada se ha dicho todavía. Pero hay una incógnita que marca este caso y es: ¿Qué tan lejos puede llegar el algoritmo con los datos de una persona?
