Los vientos nunca vuelven a la caja

¡Qué bien nos lo hemos pasado viralizando por las redes sociales fotos de Donal Trump detenido por la policía o el papa Francisco vistiendo un abrigo supefashion! Tan divertidas eran, que el deseo de que fueran ciertas ha impulsado a muchos a creer que efectivamente lo eran. Así funciona la posverdad, la mentira que se cree emocionalmente. Si luego esos internautas engañados han descubierto que esas imágenes fueron generadas por la IAG, tampoco es que haya sido un gran motivo de preocupación. La mayoría han aplaudido el engaño con la complacida sonrisa del que es derrotado por un mago que ha sacado un conejo de la chistera. Ha sido una fiesta todo esto de la IA, al menos hasta que han llegado papá y mamá a decirnos que éramos como niños jugando con una pistola cargada. Papá y mamá son ese millar de expertos en tecnología y filósofos que han firmado una carta pidiendo una moratoria de seis meses en la investigación y desarrollo de la IA para tomarnos tiempo y prepararnos para lo que se nos viene encima. Dicho de otro modo, para que podamos desarrollar una autodefensa ética o legal contra los usos no tan divertidos de esta tecnología. Por lo visto la IA no es menos eficaz cuando quien la usa tiene intenciones perversas como difamar a un inocente mediante fake news o imágenes que parecen verdaderas. Por poner solo un ejemplo de los muchos posibles. Es la pistola cargada, y por ahora nada ni nadie puede impedir que se dispare. A cualquiera que lea la carta y se la tome en serio se le va a congelar la sonrisa de niño delante del mago. Se habla incluso del fin de la humanidad, o al menos del colapso de la civilización, que no es poca cosa. Y no lo firma cualquiera, sino pensadores como Yuval Noah Harari o pioneros de la era informática como Steve Wozniak.

Tal vez lo más inquietante de este documento sea la insistencia en que no hay control ni dirección en el desarrollo de la IA. Ni sus propios creadores son capaces de vaticinar hasta dónde puede llegar su propio invento. Se está sugiriendo en cierto modo que el deep learning puede haber llegado a esa frontera en la que la máquina puede estar aprendiendo sin la intervención o dirección humana… ¿pero aprendiendo qué?

En esas estábamos cuando otra foto, esta vez real, ha colonizado los debates de las redes sociales. Una mujer de 68 años sale de un hospital de Miami con un bebé en brazos gestado en un vientre de alquiler y un vendaval de argumentos a favor o en contra de la mercantilización de la maternidad recorre la ciberesfera. De nuevo la ciencia hace posible algo para lo que nuestros esquemas morales no estaban preparados. Nunca se pidieron moratorias para esto de la fecundación invitro y la experimentación genética. Tal vez porque en el fondo esas pausas para pensar en las consecuencias son quimeras en un mundo en el que los países y las multinacionales compiten por el liderazgo de un nuevo y lucrativo negocio. En esta carrera, el que se detiene por escrúpulos morales o miedos se queda atrás y no impide que otros le adelanten. Basta recordar que entre los más de mil firmantes de la carta que pide la moratoria figura Elon Musk, empresario que al fundar OpenIA abrió la caja de Pandora. Queda bien decir eso de que hay que parar a reflexionar, pero todos sabemos que una vez que han salido, los vientos nunca vuelven a la caja.