(I PARTE)
Ted Chiang
Cuando hablamos de inteligencia artificial (IA), recurrimos a la metáfora, como hacemos siempre que tratamos con algo nuevo y desconocido. Las metáforas son, por naturaleza, imperfectas, pero aun así debemos elegirlas con cuidado, porque las malas pueden llevarnos por mal camino. Por ejemplo, se ha vuelto muy común comparar las IA potentes con los genios de los cuentos de hadas. La metáfora pretende resaltar la dificultad de hacer que entidades poderosas obedezcan tus órdenes. El informático Stuart Russell ha citado la parábola del Rey Midas, que exigía que todo lo que tocaba se convirtiera en oro, para ilustrar los peligros de que una IA haga lo que uno le dice que haga en lugar de lo que uno quiere que haga. Esta metáfora tiene múltiples problemas, pero uno de ellos es que extrae lecciones equivocadas del cuento al que se refiere. La idea de la parábola de Midas es que la codicia te destruirá y que la búsqueda de la riqueza te costará todo lo que es verdaderamente importante. Si la lectura de la parábola es que, cuando los dioses te conceden un deseo, debes formularlo con mucho, mucho cuidado, entonces te has perdido el mensaje.
Así que me gustaría proponer otra metáfora para los riesgos de la IA. Sugiero que pensemos en la IA como una empresa consultora de gestión de empresas, al estilo de McKinsey & Company. Las empresas como McKinsey son contratadas por una amplia variedad de motivos, y los sistemas de IA también se utilizan por muchos motivos. Pero las similitudes entre McKinsey -una consultora que trabaja con el noventa por ciento de las empresas de Fortune 100- y la IA también son claras. Las empresas de medios de comunicación sociales utilizan el aprendizaje automático para mantener a los usuarios pegados a sus canales de contenido. De forma similar, Purdue Pharma recurrió a McKinsey para averiguar cómo «turboimpulsar» las ventas de OxyContin durante la epidemia de opioides. Al igual que la IA promete ofrecer a los directivos un sustituto barato de los trabajadores humanos, McKinsey y empresas similares ayudaron a normalizar la práctica de los despidos masivos como forma de aumentar la cotización de las acciones y la remuneración de los ejecutivos, contribuyendo a la destrucción de la clase media en Estados Unidos.
Un antiguo empleado de McKinsey ha descrito la empresa como «ejecutores voluntarios del capital»: si quieres que se haga algo, pero no quieres ensuciarte las manos, McKinsey lo hará por ti. Esa evasión de responsabilidades es uno de los servicios más valiosos que prestan las consultorías de gestión. Los jefes tienen ciertos objetivos, pero no quieren que se les culpe por hacer lo necesario para alcanzarlos; contratando a consultores, la dirección puede decir que se limitó a seguir un consejo independiente y experto. Incluso en su forma rudimentaria actual, la IA se ha convertido en una forma de que una empresa eluda su responsabilidad alegando que sólo está haciendo lo que dice «el algoritmo», a pesar de que fue la empresa la que encargó el algoritmo en primer lugar.
La pregunta que deberíamos hacernos es: a medida que la IA se hace más potente y flexible, ¿hay alguna forma de evitar que se convierta en otra versión de McKinsey? Merece la pena plantearse la pregunta en diferentes acepciones del término «IA». Si pensamos en la IA como un amplio conjunto de tecnologías que se comercializan a las empresas para ayudarles a reducir sus costes, la pregunta es: ¿cómo evitamos que esas tecnologías funcionen como «ejecutores voluntarios del capital»? Alternativamente, si imaginamos la IA como un programa de software semiautónomo que resuelve problemas que los humanos le piden que resuelva, la pregunta es entonces: ¿cómo evitamos que ese software ayude a las empresas de forma que empeore la vida de las personas? Supongamos que hemos construido una IA semiautónoma que obedece totalmente a los humanos y que comprueba repetidamente que no ha malinterpretado las instrucciones que ha recibido. Este es el sueño de muchos investigadores de la IA. Sin embargo, este tipo de software fácilmente podría causar tanto daño como el que ha causado McKinsey.
Nótese que no puedes decir simplemente que vas a construir una I.A. que sólo ofrezca soluciones prosociales a los problemas que le pidas que resuelva. Eso equivaldría a decir que puedes desactivar la amenaza de McKinsey creando una consultora que sólo ofrezca ese tipo de soluciones. La realidad es que las empresas de Fortune 100 contratarán a McKinsey en lugar de a tu empresa prosocial, porque las soluciones de McKinsey aumentarán el valor para los accionistas más que las soluciones de tu empresa. Siempre será posible construir una IA que persiga el valor para el accionista por encima de todo, y la mayoría de las empresas preferirán utilizar esa IA en lugar de una limitada por tus principios.
¿Hay alguna forma de que la IA haga algo más que afilar la hoja del cuchillo del capitalismo? Para que quede claro, cuando me refiero al capitalismo, no hablo del intercambio de bienes o servicios a precios determinados por un mercado, que es una propiedad de muchos sistemas económicos. Cuando hablo de capitalismo, hablo de una relación específica entre capital y trabajo, en la que personas privadas que tienen dinero pueden beneficiarse del esfuerzo de otros. Así que, en el contexto de este debate, cuando critico el capitalismo, no critico la idea de vender cosas; critico la idea de que la gente que tiene mucho dinero pueda ejercer poder sobre la gente que realmente trabaja. Y, más concretamente, critico la concentración cada vez mayor de riqueza en un número cada vez menor de personas, que puede ser o no una propiedad intrínseca del capitalismo, pero que caracteriza absolutamente al capitalismo tal y como se practica hoy en día.
Tal como se aplica en la actualidad, la IA a menudo consiste en un empeño por analizar una tarea que realizan los seres humanos y encontrar la forma de sustituirlos. Casualmente, este es exactamente el tipo de problema que la dirección quiere resolver. Como resultado, la IA ayuda al capital a expensas de la mano de obra. En realidad, no existe nada parecido a una empresa de asesoría laboral que favorezca los intereses de los trabajadores. ¿Es posible que la IA asuma ese papel? ¿Puede la IA ayudar a los trabajadores en lugar de a la dirección?
Algunos dirán que la misión de la IA no es oponerse al capitalismo. Puede que sea cierto, pero tampoco es tarea de la IA reforzar el capitalismo. Sin embargo, eso es lo que hace actualmente. Si la IA no es capaz de reducir la concentración de la riqueza, es difícil afirmar que es una tecnología neutra, y mucho menos benefactora.
Mucha gente piensa que la IA creará más desempleo, y plantean la Renta Básica Universal, o RBU, como solución a ese problema. En general, me gusta la idea de la Renta Básica Universal; sin embargo, con el tiempo, me he vuelto escéptico sobre la forma en que la gente que trabaja en IA sugiere la RBU como respuesta al desempleo provocado por la IA. Sería diferente si ya tuviéramos una Renta Básica Universal, pero no la tenemos, así que expresarse a favor de ella parece una forma de que la gente que desarrolla la IA pase la pelota al gobierno. En efecto, están intensificando los problemas que crea el capitalismo con la expectativa de que, cuando esos problemas se agraven lo suficiente, el gobierno no tendrá más remedio que intervenir. Como estrategia para hacer del mundo un lugar mejor, esto parece dudoso.
Tal vez recuerden que, en el período previo a las elecciones de 2016, la actriz Susan Sarandon, ferviente partidaria de Bernie Sanders, dijo que votar a Donald Trump sería mejor que votar a Hillary Clinton porque provocaría la revolución más rápidamente. No sé hasta qué punto Sarandon había reflexionado sobre ello, pero el filósofo esloveno Slavoj Žižek dijo lo mismo, y estoy bastante seguro de que había reflexionado mucho sobre el asunto. Sostuvo que la elección de Trump sería una sacudida tan fuerte para el sistema que provocaría un cambio.
Lo que defendía Žižek es un ejemplo de una idea conocida en filosofía política como aceleracionismo. Hay muchas versiones diferentes del aceleracionismo, pero el hilo común que une a los aceleracionistas de izquierdas es la noción de que la única manera de mejorar las cosas es empeorarlas. El aceleracionismo dice que es inútil intentar oponerse o reformar el capitalismo; en su lugar, tenemos que exacerbar las peores tendencias del capitalismo hasta que todo el sistema se venga abajo. La única manera de ir más allá del capitalismo es pisar el acelerador del neoliberalismo hasta que el motor explote.
