Abstract
Resulta sorprendente que en nuestro día a día convivimos de manera silenciosa con un mecanismo de control que tiene un poder inimaginable sobre nuestra vida: los algoritmos. Estas piezas de código computacional se encargan de decidir si seremos aptos para recibir cierta cobertura médica con una aseguradora, si seremos clasificados como posibles delincuentes o si seremos aceptados en cierta universidad. Poco a poco, los algoritmos nos han ido desplazando en el ámbito laboral, tomando la responsabilidad de decisiones que antes hubieran sido tomadas por seres humanos. En este ensayo analizaré mediante categorías éticas el actuar de las organizaciones al usar algoritmos para la toma de decisiones así como los dilemas que trae consigo el reemplazo de puestos de trabajo debido a la automatización.
El desarrollo inconsciente de algoritmos se relaciona con la dignidad humana pues ellos tienen la capacidad de limitar nuestras oportunidades y darle un giro a nuestro futuro como personas, ya que en general, muchos algoritmos se encargan de asignar un valor cuantificable a los individuos. Dicho valor repercute nuestro derecho a ser tratados con igualdad y justicia, por lo que se convierte en un tema de consideración ética.
El alcance y desarrollo del software ha traído consigo un avance tecnológico nunca antes visto, pero a la vez ha hecho que las condiciones sociales de los individuos se vean afectadas por la creciente automatización y reemplazo de puestos de trabajo. De manera paulatina, el papel del ser humano como ente productor ha sido sustituido, pero esto solo ha traído una mayor desigualdad y falta de oportunidades para grandes grupos de personas.
Palabras Clave: algoritmo, autonomía, dignidad humana, igualdad, libertad, trabajo decente.
Por naturaleza, un algoritmo se encarga de seguir pasos previamente establecidos (por un programador) para llegar a un resultado a partir de ciertas variables de entrada. Este resultado, sin embargo, va más allá de optimizar un proceso o encontrar la respuesta a un problema, sino que puede repercutir directamente la vida de las personas al punto de ser una pieza importante en elsistema global. Ante tanta importancia, resulta cuestionable que “a pesar de que los algoritmos están en todas partes y gobiernan múltiples esferas de nuestra vida y trabajo; estos están ocultos, son invisibles. […] Son invisibles porque resultan ser inescrutables entre las capas y capas de programación informática. Opacos en el sentido de que son casi herméticos a la interpretación, corrección, y mejora …” (Monasterio, 2017, p. 196). Esta invisibilidad ha generado, entre otras cosas, que nadie cargue con la responsabilidad de las decisiones tomadas por ellos.
Podemos partir de la definición kantiana del concepto de autonomía, que establece que la autonomía es “el fundamento de la dignidad de la naturaleza humana y de toda naturaleza racional” (Moreno, et al., 2008, p. 4). De esta aseveración se desprende que la voluntad humana consiste en gobernarse a sí mismo, pero teniendo unaconciencia real del entorno, es decir, de manera racional e informada. De ahí que consideramos al raciocinio y al conocimiento como requisitos para la autonomía. Pero, ¿no parece esto demasiado? Porque basados en esta definición incluso podríamos decir que alguien que ha caído en la ignorancia ni siquiera puede vivir su autonomía como ser humano. ¿Qué decir de los niños o de los iletrados? Si pensamos más en el tema, todos nosotros somos ignorantes de varios aspectos que conforman nuestra propia realidad y, por lo tanto, ninguno de nosotros es realmente autónomo. Solo creemos serlo.
Las ideas de Kant resultan de gran ayuda para nuestro objeto de estudio ya que a partir del primer concepto de autonomía podemos avanzar hacia otro par de ellos: la dignidad y la libertad.
Sobre la dignidad, como dijera Kant, se refiere a“aquello que constituye la condición únicamente bajo la cual algo puede ser fin en sí mismo no tiene meramente un valor relativo, esto es, un precio, sinoun valor interior, esto es, dignidad” (Moreno, et al., 2008, p. 5). De esta forma, aquello que tiene dignidad es aquello que no cabe en una escala de valor y por lo tanto está por encima de lo que tiene precio.
Asimismo, se define la libertad de una maneravinculada a la autonomía pues consiste en actuar enciertas situaciones de forma independiente a las causas ajenas que las determinen (Moreno, et al., 2008, p. 9). Es por medio de estos conceptos que podemos indagar sobre las faltas cometidas a la humanidad por parte de los algoritmos.
Lo anterior implica que estamos frente a un daño directo a la autonomía de las personas, ya que su libertad para actuar se ve sujeta a los veredictos de un ente nuevo al que no es posible apelar. Sumado a lo anterior, los algoritmos son entes extraños que son ignorados por los ciudadanos comunes. Muchas de las personas tal vez ni siquiera sepan dar una definición de los mismos ni del gran poder que tienen en su vida. Esto es alarmante pues al ser víctimas de la ignorancia perdemos nuestra propia autonomía. Podemos creer que actuamos con raciocinio, pero en la realidad estamos dejando ese raciocinio a una pieza de código informático sin sentimientos ni alma.
Incluso, más allá de la percepción personal de la autonomía, se señala claramente una afectación directa a la posibilidad del ser humano de encontrar un trabajo digno y que muchas veces pasa desapercibida. Tal como señala Monasterio, “… los algoritmos […] para la automatización de procesos desplazan a miles de trabajadores actualmente. Esta creciente automatización del trabajo y de la vida […] creará una fractura sin precedentes en el mercado laboral convirtiendo en inempleables a millones de personas a medio y largo plazo…” (Monasterio, 2017, p. 188).
En suma, el daño causado en las últimas décadas no se limita a la esfera kantiana de la dignidad humana, sino que incluso desde el punto de vista de los Derechos Humanos ha ocurrido una afectación notoria en el derecho al trabajo decente, haciendo de la mano de obra humana algo prescindible e indeseado. La Organización Internacional del Trabajo (OIT) define al trabajo decente como aquel “digno y productivo en condiciones de libertad, equidad, seguridad y dignidad, en el cual los derechos son protegidos y que cuenta con remuneración adecuada y protección social” (Gálvez, et al., 2016,72), y es un hecho que el uso de máquinas ha reemplazado el lugar de millones de mujeres y hombres en sus puestos de trabajo. Lo anterior, resta valor al individuo, pues abiertamente es comparado con máquinas automatizadas y llegamos al punto en que por poco olvidamos que hablamos de personas reales con derechos que hay que resguardar.
El problema mencionado hasta ahora no solo es acerca de los mecanismos usados, sino de la excesiva invasión de estos, misma que puede ser vista como una auténtica invasión a nuestra vida privada. Se puede observar que la proliferación de los sistemas digitales que almacenan información de los usuarios ha presentado un aumento exponencial en las últimas décadas. Lo anterior ha permitido el nacimiento de la industria del Big Data, cuyo modelo, menciona Martínez-Martínez, “implica el aprovechamiento y gestión de cantidades masivas de datos. […] datos sobre los perfiles digitales y el comportamiento en internet de los usuarios” (Martínez-Martínez, 2017, p. 204). Usualmente esta minería masiva de datos tiene como objetivos la mercadotecnia, propaganda e incluso el control sobre el individuo. Bajo el esquema de la ética kantiana, lo anterior resulta inadmisible pues la persona se limita a ser un medio que sirve a una empresa u organismo a llegar a un fin dado, como puede ser, alcanzar una meta de ventas o promover una idea política. Incluso, al pasar al contexto ético de nuestra generación, la minería masiva de datos es un atentado a la privacidad de los individuos pues la obtención de estos datos se hace por mecanismos no autorizados y sobre los que muchas veces no hay suficiente comprensión de ambas partes. Ante la ignorancia del sujeto, no podemos decir que de manera libre y autónoma ha decidido ser parte de un experimiento masivo como el que ocurre con la industria de los datos.
Lamentablemente, no hay señales de alerta por parte de las generaciones más jóvenes que con la mayor facilidad y disposición aceptan convertirse en entradas númericas de bases de datos inmensas. Se menciona, con referencia a los individuos jóvenes que “el comportamiento online de éstos no parece reflejar inquietud. Esta ‘paradoja de la privacidad’ suele darse en relación con variables de comportamiento tales como la percepción de riesgo o de beneficio potencial” (Martínez-Martínez, 2017, p. 205). Autores como Pfeiffer manifiestan que “reconocer el derecho a la privacidad respecto de un conocimiento o información es reconocer el derecho de que cualquiera pueda guardar para sí ciertos conocimientos” (Pfeiffer, 2008, p.22), este hecho se relaciona con el respeto a la dignidad de las personas, pues tratar de indagar sobre lo que una persona conoce es una forma de atentar contra ella.
Si analizamos la problemática en términos de supremacía, los algoritmos lo ejercen de manera indiscriminada y sin medir consecuencias. Para entender el concepto de supremacía podemos usar las ideas de Max Weber, quien al hablar sobre la “ética del hombre político” mencionaba que se trata de alguien “comprometido en un mundo violento, nose tomará la molestia de hacer reflexiones sobre el bien y el mal para salvar su vida y afirmar su supremacía” (Mestre, A., 2005, p. 243). Martínez nos advierte, “el impacto de las conclusiones que ofrece un programa en la esfera de derechos de una persona, podría ser radical. Podría transformar su vida a mejor o a peor” (Martínez, 2017, p. 155).
Muchas veces, estos atropellos están justificados desde el punto de vista utilitarista,corriente ética que privilegia lo útil y para la cual, lo útil es lo bueno. De este modo, se llega a mencionar que un programa tomará mejores decisiones que un humano y tratará de encontrar la solución que beneficie a más personas. Sin embargo, dicha postura en favor de un bienestar imparcial posee argumentos ilusorios, ya que no es posible saber si efectivamente las decisiones que un algoritmo toma sobre la vida de una persona son siempre las más adecuadas. Más aún, dicha hipótesis se pone en duda cuando se piensa que los algoritmos se diseñan en favor de su fabricante (como puede ser una empresa o el gobierno) y no en favor de los sujetos subordinados a estos. Habiendo establecido lo anterior, la falta de regulación de los algoritmos puede resultar en una amenaza a la vida digna de las personas.
Otra vertiente de nuestro análisis señala que los algoritmos pueden representar una causa de injusticia, esto debido a las decisiones que pudieran tomar en favor de un grupo de individuos sobre otro. Se señala que estos sistemas “toman decisiones autónomas que deben ser de algún modo confrontadas” (Colmenarejo, 2018, p. 121).
La discriminación en ciertos sistemas automatizados de selección ha sido ampliamente documentada. Se ha manifestado que “las categorías empleadas por los algoritmos tratan de coherencia entre objetos no relacionados, hecho que contribuye a que los individuos sean descritos (posiblemente errónea) por medio de modelos clasificatorios simples. Las acciones y conocimientos que habitan en el colectivo pueden repercutir al nivel del individuo” (Mittelstadt et al., 2016, p.5). De manera precisa, podemos señalar que al tomar decisiones sobre grandes grupos de personas, se pierde la individualidad de éstas y son dejadas a merced de posibles causas injustas o juicios erróneos. Es posible que una persona sea juzgada por variables como la tasa de criminalidad de su código postal o la cantidad de dinero que hay en su cuenta de banco. La doctrina kantiana de nuevo entra en juego al señalar la falta de ética que ocurre en estos casos, pues no hay imparcialidad en la toma de decisiones que deberían ser justas.
Una vez señaladas tantos puntos en contra de la proliferación desmedida de los algoritmos, queda pendiente el aspecto de la responsabilidad. Y es que, ¿quién puede ser responsable por la decisión de un programa informático que deja a una familia en la calle? ¿El programador puede deslindarse de su creación? Sobre este este término, Max Weber mencionaba que la ética de la responsabilidad se entiende como “aquella actitud de una persona que, en sus acciones, considera el conjunto de las previsibles consecuencias, y se pregunta cuáles son […] las consecuencias mejores en conjunto, y entonces actúa en consecuencia” (Mestre, A., 2005, p. 243). Ante estos señalamientos, es necesario establecer una ética enfocada a la toma decisiones a gran escala. Los programadores, con sus acciones tienen que asumir la responsabilidad sobre el código que han creado, pues las temidas consecuencias negativas ya las podemos observas hoy en día.Aunado a lo anterior, Colmenarejo señala que dicha ética va enfocada a “grupos de expertos, pero también tendría una parte de ética empresarial en tanto que dichos expertos trabajan en corporaciones de ámbito privado o público que deben desarrollar una determinada cultura” (Colmenarejo, 2018, p. 116).
Es necesario hacer un llamado al conocimiento y a la verdad para que todos y todas estemos enterados de los fines para los cuales somos usadosde manera indirecta por empresas, organismos y por estos entes invisibles e inauditables llamados algoritmos. No es posible señalar como culplable al avance tecnológico, sino a las mentes que están detrás de dichos mecanismos de control. Urge como sociedad recobrar nuestra autonomía y libertad en favor de un mundo donde cada vez tengamos más dignidad como seres humanos. Y como mencionamos al inicio de esta lectura, el primer paso consiste en estar informados.
Referencias
Colmenarejo, R. (2018). Ética aplicada a la gestión de datos masivos. Revistas de la Universidad de Granada, 52, 113-129. Recuperado derevistaseug.ugr.es/index.php/acfs/article/download/6553/5674
Gálvez Santillán, E., Gutiérrez Garza, E., PicazzoPalencia, E., & Osorio Calderón, J. (2016). El trabajo decente, una alternativa para reducir la desigualdad en la globalización: el caso de México. Región y Sociedad, XXVIII (66), 55-94. Recuperado de https://www.redalyc.org/articulo.oa?id=10244884003
Mittelstadt, B. D., Allo, P., Taddeo, M., Wachter, S., & Floridi, L. (2016). The ethics of algorithms: Mapping the debate. Big Data & Society. Recuperado de https://journals.sagepub.com/doi/pdf/10.1177/2053951716679679
Martínez-Martínez, I., Aguado, J. y Boeykens, Y. (2017). Implicaciones éticas de la automatización de la publicidad digital: caso de la publicidad programática en España. El profesional de la información, 2, 1699-2407. Recuperado de http://www.elprofesionaldelainformacion.com/contenidos/2017/mar/06_esp.pdf
Martínez, R. (2017). Cuestiones de ética jurídica al abordar proyectos de Big Data. El contexto del Reglamento general de protección de datos. Dilemata, 24, 151-164. Recuperado de https://dialnet.unirioja.es/servlet/articulo?codigo=6066833
Mestre, A. (2005). La ética de la Responsabilidadsegún Robert Spaemann. Ecclesia, vol. XX. 243. Recuperado de http://www.redalyc.org/pdf/4761/476150829010.pdf
Moreno, C. (2008). El concepto de autonomía en la fundamentación de la metafísica de las costumbres de I. Kant. Cuadrante. Recuperado de https://javeriana.edu.co/cuadrantephi/pdfs/N.17/4.%20Kant.pdf
Pfeiffer, M. (2008). Derecho a la privacidad. Protección de los datos sensibles. Revista Colombiana de Bioética, vol. 3, pp. 11-36. Universidad El Bosque,Colombia. Extraído de:https://www.redalyc.org/articulo.oa?id=189217248002
No hay comentarios:
Publicar un comentario