Bailando al son del algoritmo
Están a nuestro alrededor, pero —en general— la mayoría de nosotros sigue sin percatarse de su presencia. ¿Qué hay detrás de los algoritmos y qué es lo que nos espera?
¿Alguna vez tuvo que aprender un baile de salón, ejecutando cada uno de sus diversos pasos en la secuencia correcta para un vals, una samba o un charlestón? En el mundo moderno nos hemos rodeado de computadoras que también siguen series de pasos secuenciales. Se los denomina algoritmos, y forman la base de la mayoría de los programas informáticos. En principio, se trata de algo bastante simple: una lista de instrucciones a seguir, con el fin de resolver un problema a través de un proceso que transforma información o energía. Lo esencial es que los pasos se sigan en el orden correcto.
Nuestro mundo está cada vez más centrado en algoritmos. Sea que estemos comprando en línea, nos veamos asediados por la publicidad o andemos viajando por el mundo, los algoritmos trabajan silenciosamente detrás de bambalinas. En el caso de la publicidad, por ejemplo, empresas como Facebook, Twitter y Google los aprovechan para seguir y analizar nuestras actividades, búsquedas y localizaciones. Sea que usemos una computadora de escritorio o un dispositivo móvil, recogen datos tales como páginas que nos gustan, aplicaciones que usamos, qué sitios web vemos (y por cuánto tiempo lo hacemos), con quienes nos comunicamos y hasta el contenido de esas comunicaciones. Las empresas utilizan esos datos con diversos propósitos, entre los que se encuentran predecir nuestras preferencias y mostrarnos publicidad relevante de sus clientes que pagan por ello.
Los algoritmos nos dicen qué ver, comprar, compartir y usar. Pueden predecir con precisión nuestras preferencias de citas y votaciones, nuestra orientación sexual, y nuestros hábitos, tanto buenos como malos. ¡Es toda una genialidad!: pequeñas piezas matemáticas en múltiples puntos de nuestra experiencia, funcionando —sin verlas— como un reloj, ayudando a conformar nuestra experiencia del mundo. Mientras corren en repetición, noche y día, pueden empezar a tomar connotaciones algo siniestras, un tambor perpetuo —si bien silencioso— que nos tiene bailando involuntariamente al son de sus creadores.
¿Cuál es el origen de los algoritmos? ¿Y qué pudiera contarnos su naturaleza acerca de la nuestra, y de lo que ello implica de cara al futuro?
«Lo que espero que la gente encuentre es que ante todo, los algoritmos están exponiendo los deseos de la propia humanidad, para bien o para mal».
Origen del término algoritmo
Dado que no podemos ver los algoritmos, su rol cada vez más influyente en los procesos de toma de decisiones puede haber pasado algo desapercibido. Más aún: es posible que creamos que se trata de un fenómeno moderno.
Sin embargo, la idea de fondo es bastante antigua. Alrededor del año 300 a.C., el matemático griego Euclides elaboró lo que hoy conocemos como el «algoritmo euclidiano» o «algoritmo de Euclides»; pero en sí, el término algoritmo data del siglo VIII o IX de nuestra era. Originado en Bagdad, es, en realidad, un epónimo: una palabra que lleva el nombre de una persona, en este caso el de un notable erudito persa llamado Muhammad ibn Musa al-Khwarizmi (circa 780–850), quien, en su calidad de director de la Casa de la Sabiduría de Bagdag, se interesó especialmente en las matemáticas, la astronomía, la astrología, la geografía y la cartografía.
Al-Khwarizmi escribió un libro titulado Concerning the Hindu Art of Reckoning, en el cual abogaba por la adopción occidental del sistema de numeración hindú-arábigo (incluyendo el punto decimal y el cero numeral como marcador de posición), para reemplazar la numeración romana. En la actualidad, no solo Occidente, sino el mundo entero usa ese sistema.
Hace unos novecientos años, al verter ese libro del árabe al latín, un traductor convirtió el nombre al-Khwarizmi’s en Algoritmi (de sonido más latino); de él deriva el término algoritmo. Al-Khwarizmi también le dio al mundo la palabra álgebra, tomada del título de otra de sus obras.
A pesar de su influencia perdurable, poco sabemos con respecto al propio al-Khwarizmi. Aunque elaboraba horóscopos —lo cual habría estado más en consonancia con el zoroastrismo—, en al menos una de sus obras, al-Khwarizmi se presenta a sí mismo como un musulmán piadoso. Es posible, pues, que haya sido criado como zoroástrico; de hecho, vivió en una época en la que las conversiones de esa religión al islamismo eran comunes.
La posibilidad de la influencia zoroástrica se ve tal vez reforzada por un relato del historiador medieval iraní Muhammad ibn Jarir al-Tabari, quien confiere a al-Khwarizmi el título «al-Majusi», o mago, de donde proviene la palabra magia. Los magos se interesaban en la astronomía y la astrología. Este título se usaba específicamente como designación étnica para sacerdotes practicantes de la religión zoroástrica. Los eruditos siguen divididos en lo que respecta a la única referencia de al-Tabari; algunos la toman en sentido literal, mientras otros insisten en que se trata de un error textual. De lo que no cabe duda es que, como los magos zoroástricos, al-Khwarizmi practicaba la astrología.
Lo también notable es que se consideraba que Ahura Mazda —el «Sabio Señor», la suprema deidad creadora trascendental del Zoroastrismo— obraba a través de emanaciones, como causa primera de una creación específicamente secuencial. Como señalara el experto en religiones del mundo S.A. Nigosian, «todo sigue la secuencia que él ha ordenado desde el principio».
Todo esto resulta interesante dado que cualquier influencia zoroástrica en este sentido pudo haber tenido lugar en la formulación de las secuencias matemáticas de los algoritmos de al-Khwarizmi.
La ruta hacia la ubicuidad
Considerando el efecto sísmico de las matemáticas de al-Khwarizmi en Occidente, es sorprendente que no se haya hablado mucho de él, aunque el término al cual prestó su nombre entró poco a poco en uso. En el latín medieval, el término algorismus se refería al sistema de numeración decimal. El término apareció de nuevo en los siglos XIII y XIV, incluso en los escritos de Chaucer.
A fines del siglo XIX, algoritmo había pasado a significar un conjunto de reglas sucesivas para resolver un problema. En 1936, el pionero matemático británico Alan Turing teorizó que una máquina podría seguir instrucciones paso a paso para resolver problemas matemáticos de alta complejidad. Conocido hoy como padre de la informática, Turing prosiguió a construir la Bomba, una máquina basada en algoritmos que logró descifrar con éxito los códigos de la máquina nazi Enigma en la Segunda Guerra Mundial. Desde entonces, los algoritmos se han vinculado mayormente con las computadoras.
Marcus du Sautoy, profesor de matemáticas de la Universidad de Oxford, señala que una de las funciones principales del algoritmo, en términos informáticos, es la de clasificar datos y volver a ensamblarlos.
Sin embargo, su uso es mucho más amplio que eso. Du Sautoy los define nada menos que como «el secreto de nuestro mundo digital», explicando que «la esencia de un algoritmo realmente bueno —su magia, se podría decir— es matemática». Describe los algoritmos como «extrañamente bellos, aprovechando el orden matemático que fundamenta cómo funciona el universo».
«Los algoritmos están en todas partes. Estos pequeñísimos fragmentos matemáticos se han vuelto esenciales en nuestra vida diaria. Pero como son invisibles, tendemos a darlos por sentado; incluso a malinterpretarlos».
Comerciando en terrenos inestables
El potencial beneficio comercial de los algoritmos informáticos no pasó inadvertido en el mundo de los negocios y las finanzas. Es aquí donde vemos su valor crucial en los anuncios para el comercio minorista y la publicidad en las redes sociales. Según se informa, alrededor de noventa y ocho por ciento de los ingresos de Facebook proceden de la publicidad. Esto equivalió a sesenta y nueve mil setecientos millones de dólares en 2019, en comparación con ciento treinta y cuatro mil ochocientos millones para Google y más de tres mil millones para Twitter. Las ventas netas de Amazon en su «otra» categoría, que consiste principalmente en ingresos de publicidad, fue de catorce mil cien millones de dólares en 2019. Los algoritmos son cruciales para las inmensas ganancias de estas y de una lista cada vez mayor de otras empresas, grandes y pequeñas.
Del lado de la cerca de los anunciantes, los algoritmos han revolucionado la focalización de una audiencia potencial a través de esas plataformas. La tecnología ha transformado radicalmente la forma en que adquieren tiempo y espacio publicitarios; el «marketing programático» utiliza algoritmos para comprar anuncios en línea o tiempo de anuncios en las redes sociales y en sitios de venta al por menor, y en plataformas como YouTube. Así que, donde la gente solía comprar espacio publicitario, en el dominio digital las computadoras pueden ahora usar datos no solo para comprar los anuncios, sino para determinar su valor, a menudo en tiempo real. Esos datos pueden incorporar una enorme cantidad de información muy detallada en su focalización, desde la edad de una persona, sus gustos personales y probables problemas médicos hasta las condiciones climáticas y el recuento de polen en su localidad. En 2018, 83% (cuarenta y nueve mil doscientos millones de dólares) de la publicidad de la pantalla digital estadounidense era programática. Por supuesto, no se trata de un fenómeno solo estadounidense. Según informes, China, por ejemplo, en 2018 gastó sesenta y cinco mil cuatrocientos millones de dólares en anuncios digitales.
Como era de esperarse, la publicidad programática no es una tecnología perfecta; el FBI ha estado investigando las prácticas de compra de espacio en los medios, citando la transparencia como su principal motivo de preocupación. Este enfoque automatizado en el que el juicio humano pasa a un segundo plano, puede también derivar en dólares publicitarios desperdiciados, fraude o el posicionamiento de un anuncio donde la marca no desea aparecer. Dos de las empresas que más invierten en anuncios publicitarios, Unilever y Procter &Gamble, han expresado su preocupación por la seguridad de sus marcas en plataformas basadas en algoritmos, tales como Instagram y YouTube. A pesar de las mejoras por parte de los gigantes de las redes sociales, algunos grandes anunciantes todavía se niegan a invertir en ciertos sitios.
Otro medio basado en algoritmos que ha captado la atención de los comerciantes es la biometría: «la ciencia de observar y analizar las características biológicas particulares de la gente», lo cual incluye el floreciente campo del reconocimiento facial. Un informe de eMarketer señala que «es posible que pronto la tecnología biométrica brinde a los comerciantes la oportunidad de aprender más acerca de sus clientes y entregarles mensajes personalizados». Y procede a advertir que «aunque esto podría resultar un beneficio potencial para las empresas, también tiene repercusiones importantes en materia de privacidad».
Los algoritmos desempeñan un papel fundamental y en expansión, tanto en Wall Street como en otros centros financieros del mundo. En lo que se conoce como comercio de caja negra o comercio algorítmico, se programan computadoras para que hagan decisiones sin emociones, pero bastante poco transparentes, de compra y venta rápidas. Una de sus estrategias integradas consiste en romper una transacción enorme en bloques pequeños, evitando así notificaciones y reduciendo el riesgo de una repentina caída del precio. Por supuesto, los operadores de la competencia usan sus computadoras y algoritmos para localizar tales transacciones a fin de hacer sus propias decisiones de compra-venta instantáneas. Como dijera Kevin Slavin en una popular charla de TED en 2011, «la misma matemática que se usa para dividir lo grande en millones de fragmentos pequeños se puede utilizar para encontrar un millón de fragmentos pequeños, unirlos de nuevo, y averiguar lo que realmente está pasando en el mercado… Lo que uno puede figurarse es un montón de algoritmos que están básicamente preparados para ocultarse, y un montón de algoritmos que están programados para ir a encontrarlos y actuar».
Dentro de esas combativas nubes matemáticas, las cosas a veces salen muy mal. Slavin cita a manera de ejemplo el llamado «Flash Crash of 2:45» (la caída relámpago de las 2:45) cuando, el 6 de mayo de 2010, el índice industrial Dow Jones cayó repentinamente 9%. La catástrofe duró apenas minutos y resultó en un desplome del mercado de acciones por valor de un billón de dólares antes de recuperarse casi con la misma rapidez.
En ese momento, nadie siquiera sabía qué había causado el desplome. No fue sino hasta el 21 de abril de 2015, cerca de cinco años después del incidente, que el Departamento de Justicia de Estados Unidos presentó 22 cargos penales, entre ellos los de fraude y manipulación del mercado, contra Navinder Singh Sarao, un corredor de bolsa que operaba desde su casa, cerca del aeropuerto de Heathrow, en Londres. Entre los cargos que se le imputaron figuraba el uso de los llamados algoritmos de suplantación, utilizados para superar a otros participantes en el mercado y para manipular el mercado fingiendo intereses.
Para aclarar la opacidad que caracteriza a los algoritmos, algunos han procurado visualizar los movimientos e impactos de la tecnología. Entre ellos, la empresa Nanex, que rastrea el mercado —los algoritmos en funcionamiento— y representa los resultados gráficamente, para que los financieros puedan ver mejor lo que está pasando. Usando terminología evocadora de du Sautoy, Slavin bromea diciendo que para extraer estas imágenes, Nanex utiliza «matemáticas y magia».
«Estamos escribiendo cosas que ya no podemos leer. Hemos emitido algo ilegible, y hemos perdido el sentido de lo que realmente está pasando en este mundo que hemos hecho».
Algoritmos humanos y casi humanos
Son cadenas de algoritmos las que constituyen la base de la inteligencia artificial (IA). A través del aprendizaje automático, los algoritmos siguen absorbiendo datos, construyendo así sobre ellos mismos, lo cual solo aumenta esa sensación de magia. Algunos teorizadores incluso hablan de una «Mente Web Mundial» con base en Internet, una red mundial autoconsciente, capaz de supervisar su propio sistema para optimizar el funcionamiento y la comercialización
Sin embargo, a pesar de toda su influencia oculta, aparentemente metafísica, los algoritmos no son mágicos; son matemáticos, y por lo tanto, inertes. Con todo, esto no los hace inofensivos, porque la naturaleza humana es parte integral de la ecuación.
Es verdad que en calidad de meros consumidores, poco —si algo— se nos ha permitido decir en cuanto al secretismo de los algoritmos detrás de la interfaz digital de nuestro mundo. Fue una cohorte relativamente pequeña de representantes empresariales, financieros y gubernamentales, la que determinó que estos programas matemáticos deberían dirigir silenciosamente muchas de nuestras opciones, respuestas y acciones individuales y colectivas. Sugerir que esas pocas personas estaban motivadas principalmente por la posibilidad de obtener ganancias políticas o comerciales no parecería exagerado.
Ahora bien, esto se pone más complicado dado que al parecer algunos algoritmos se han diseñado para ayudarnos, al librarnos de nuestra necesidad de pensar o de perder el tiempo clasificando información irrelevante. Sin embargo, a menudo hacemos todo lo posible para detenerlos, bloqueando avisos, evitando rastreos, desactivando cookies, etc. Anhelamos la conveniencia de una experiencia personalizada, pero hemos aprendido a desconfiar del modo en que otros usan las cantidades masivas de datos que están colectando, viéndolo como abusivo. Así y todo, es posible para las compañías tecnológicas entregar una experiencia personalizada sin espiar ni aprovecharse de los usuarios. ¿Ocurrirá? Lo cierto es que la manera en que nuestra información se use siempre se reducirá a una elección humana de parte de alguien.
En términos de regulación, entonces, ¿en quién podemos confiar para que piense en representación nuestra con respecto al «pensar» que los algoritmos hacen en nuestro nombre? ¿Podemos evitar que se tomen decisiones por razones egoístas o de explotación? ¿Es suficiente la legislación actual para delimitar las maquinaciones comerciales de gran tecnología o, incluso, en el caso de las reclamaciones hechas contra el Huawei de China, el espionaje potencial por parte de gobiernos estatales?
En ciertos aspectos, el cerebro humano funciona simplemente como una serie de algoritmos, llevando a algunos a sugerir que el ser humano es un animal proclive al jaqueo. De hecho, se está intentando simular el cerebro humano mediante algoritmos informáticos. El objetivo de esto es dar a la humanidad lo que algunos consideran como única puerta de entrada a formas de inteligencia superiores capaces de salvarnos de nuestra propia naturaleza defectuosa. Pero… cabe preguntarse: ¿Se podrá alguna vez programar un cerebro digital con rasgos de moralidad y conciencia?
«Debemos resistir la idea, que nos imponen la élite tecnológica de Silicon Valley y sus ideólogos, en cuanto a que no hay diferencia en especie entre nosotros y los algoritmos que ellos quieren usar para manejar nuestros pensamientos y conducta para su beneficio».
Tal vez la característica más temible de la IA sea el grado en que refleja la naturaleza humana: una versión digital de gente altamente falible. De hecho, los problemas y dificultades que enfrentamos parecen estar ligados a nuestros propios algoritmos internos, los comportamientos y hábitos repetidos que determinan lo que hacemos.
Pocos expertos negarían que los problemas inherentes a la naturaleza humana son fundamentales para cualquier análisis en materia de IA. Específicamente, si la IA puede siquiera parcialmente replicar las funciones del cerebro humano, nuestra naturaleza defectuosa será, necesariamente, parte de ella. Esto no es asunto de poca monta, pues los esfuerzos para simular los más de ochenta y seis mil millones de neuronas interconectadas y billones de sinapsis empacadas en el cerebro humano están, como ya se ha señalado, bien en marcha. A pesar de las limitaciones actuales de la potencia informática necesaria, los algoritmos mismos se están volviendo cada vez más sofisticados. Los miedos con respecto a un futuro de distopía no son, pues, sin fundamento. Los científicos informáticos están muy familiarizados con el principio de «si metes basura, sacas basura», y ciertamente se aplica aquí. Los algoritmos son, al fin y al cabo, un producto de sus creadores, por lo que las tendencias, sesgos y actitudes de los creadores afectarán inevitablemente el producto final.
Lamentablemente, no es difícil encontrar muestras de ello. Un informe de mayo de 2016 exponía que un programa de computadora utilizado por muchos de los tribunales estadounidenses para predecir la reincidencia era racista, manifiestamente tendencioso contra los prisioneros de color. Según la organización de periodismo de investigación ProPublica, el programa en cuestión —Correctional Offender Management Profiling for Alternative Sanctions (Elaboración de perfiles para sanciones alternativas por parte de la administración penitenciaria [COMPAS por sus siglas en inglés])— tendía a señalar a los acusados negros como más propensos a cometer más delitos después de su excarcelación. De hecho, la tasa de error (los que el software etiquetara como de mayor riesgo, pero que no reincidieron) fue casi el doble para los acusados negros que para los blancos: 45% contra 23%.
Esto valida aún más la preocupación de que al crear una tecnología a la cual relegar parte de nuestra toma de decisiones, le pasaremos algunos de nuestros peores defectos. Es evidente que la IA no va a resolver las cuestiones de fondo en el corazón de nuestra propia naturaleza, así que cambiarnos a nosotros mismos es nuestra única esperanza para una solución verdadera.
Bailando al son de otro ritmo
Tras muchas empresas subyace una mentalidad de ganancias a toda costa, cosa que nosotros, como individuos, difícilmente vamos a cambiar. Pero nosotros somos participantes activos en nuestras propias vidas. Entonces, ¿qué podemos hacer? ¿Cómo podemos cortar las cuerdas que permiten a otros manipular nuestros pasos?
Sin duda, los algoritmos son útiles, pero no una panacea, y la gente los explota. Nosotros simplemente no podemos controlar todas las formas en las que nuestros datos personales pudieran utilizarse para bien o para mal, pero tampoco podemos darnos el lujo de ser complacientes. Debemos asumir cierta responsabilidad por los datos que otros son capaces de recoger. Revisar las configuraciones de privacidad en nuestros dispositivos digitales es un buen lugar para empezar.
Ante, al parecer, incontables razones para desconfiar de otros, podemos avanzar al esforzarnos por ser el tipo de personas en las que otros puedan confiar. La honradez, la integridad, la bondad, la equidad y la discreción son aspectos universales del buen carácter que nunca pasan de moda, aun cuando no parezcan ser ampliamente practicados. No podemos cambiar el carácter de los demás ni, tal vez, su forma de negociar. Pero podemos esforzarnos denodadamente para ser mejores personalmente —para tratar a los demás como quisiéramos que nos traten— y convertirnos en el tipo de personas que quisiéramos que los demás fueran.
Puede que no sea fácil cambiarnos a nosotros mismos, pero es posible… paso a paso.