En curso de colisión

En curso de colisión salté el coche que venía hacia mí. Pisé el capó y, sin nada que me amortiguara el golpe, caí en el asfalto, pero de pie. ¿Un sueño? No me desperté, sucedió realmente. Dolor en el tobillo. Mucha adrenalina. Pegado a la pantalla, el conductor se sorprendió y se asustó. Una anciana en la acera empezó a gritarle al conductor. Apunté la matrícula en el móvil y me piré, porque tenía prisa.

Desde 2034 la democracia es más bien una idiocracia con características oligárquicas. Las personas no prestan atención a nada, pues los ordenadores conectados a sus cerebros hacen casi todo por ellas (muchas veces se equivocan, pero es más molesto pensar). Nadie sabe cómo funcionan realmente esos ordenadores. Fueron creados por la empresa más poderosa del mundo, que también programó Gran IA, la inteligencia artificial general incluida en esos ordenadores.

Hace algunos años, el progreso parecía evidente, pero surgió un problema: Gran IA aprendía del contenido de Internet y de los procesos cerebrales de los usuarios. Sin embargo, estos eran cada vez más imbéciles, publicaban contenido basura o —cuando pensaban— actuaban de forma automática. Gran IA aprendió de la basura cerebral generada por su holgazanería y, de esta forma, se volvió más estúpida. La empresa sigue sin ética y no tiene intención de corregir el algoritmo, pues eso no le genera ingresos. Es más fácil vaciarles los bolsillos a lelos consumistas.

Pero algunas personas —como yo— se desconectaron de Gran IA. Las zonas rurales se quedaron aún más deshabitadas debido a la falta de empleo y al cambio climático, pero hubo gente que se adaptó y se instaló en ellas lo mejor que pudieron. Actualmente tenemos dos grandes grupos: por un lado, están las personas desconectadas del mundo real —y conectadas a Gran IA— que suelen vivir en grandes ciudades; por otro lado, están los que se atreven a desafiar el estilo de vida impuesto por las máquinas.

«El tren sale en cuatro segundos, mierda». La puerta se estaba cerrando, pero conseguí entrar. Parece que eso no le gustó al revisor robot, pero no dijo nada. El viaje de vuelta al pueblo sería breve: 15 minutos.

Volví a casa; informé a las autoridades sobre el accidente, aunque no le pasaría nada al «conductor» (el coche lo conducía Gran AI, que tiene el favor del gobierno). Como mucho le pondrán una pequeña multa. Mi compañera me abrió la puerta, se alegró de verme. «No quiero ir más a la ciudad. Al cruzar una calle, un coche “inteligente” casi me atropella», dije. «No te preocupes», respondió ella, «estás seguro aquí. No vamos a tener otro encargo, por lo menos hasta el próximo mes. Cambiando de tema, hay un pequeño problema que no consigo solucionar: el sistema automático de riego del huerto ya no me funciona».

Vivir fuera del sistema es casi imposible (a no ser que seas rico). Hay muchos impuestos y es prácticamente imposible ser autosuficiente. Es por esta razón que, de vez en cuando, tenemos que hacer algún trabajillo en la ciudad.

Los habitantes de la ciudad tenían trabajos semiautomatizados gracias a Gran IA, que les ofrecía pequeños alojamientos que compartían con otros autómatas, comida basura y entretenimiento de todo tipo: sexo digital, psicodélicos, vídeos graciosos, etc. Las personas en realidad están cansadas, aburridas, desanimadas, estresadas, tristes, desmotivadas, irritadas, debilitadas... Pero hay empresas que ofrecen comprimidos que reequilibran el sistema de recompensa cerebral. Los niveles de dopamina de los ciudadanos están bajo control, algo esencial para mantener el orden social basado en algoritmos.

«Estamos mejorando el algoritmo. Todo va a salir bien», dice siempre Gran IA a quien osa cuestionar su poder. ¿Saldrá todo bien?

Patrañas sobre IA

Hay una burbuja del aprendizaje automático, pero esta tecnología ha llegado para quedarse. Cuando la burbuja explote, el mundo habrá cambiado a causa del aprendizaje automático. Pero probablemente será peor, no mejor.

A diferencia de lo que esperan los catastrofistas de la IA, el mundo no desaparecerá más rápido gracias a la IA. Los avances actuales en el aprendizaje automático no nos acercan a la IAF, y, como señaló Randall Monroe en 2018:

Lo que sucederá con la IA es el viejo y aburrido capitalismo. Su capacidad de permanecer en el poder consistirá en reemplazar a humanos competentes y caros con robots cutres y baratos. Los modelos de lenguaje de gran tamaño son un gran avance respecto a las cadenas de Markov, y Stable Diffusion puede generar imágenes que solo son un poco extrañas manipulando un poco los comandos. Los programadores mediocres usarán GitHub Copilot para escribir código trivial y plantillas (el código trivial es tautológicamente de poco interés), y el aprendizaje de máquina probablemente seguirá siendo útil para escribir cartas de presentación por ti. Los coches autónomos podrían llegar En Cualquier Momento™, lo que será genial para los entusiastas de la ciencia ficción y los tecnócratas, pero mucho peor en todos los aspectos que, por ejemplo, construir más trenes.

Los mayores cambios duraderos del aprendizaje automático serán más bien los siguientes:

  • Una reducción de la mano de obra para trabajos creativos cualificados.
  • La total eliminación de humanos en puestos de atención al cliente.
  • Contenidos basura y phishing más convincentes, estafas más escalables.
  • Granjas de contenidos que dominarán con ardides los resultados de búsqueda.
  • Granjas de libros (tanto electrónicos como en papel) saturarán el mercado.
  • Los contenidos generados por IA saturarán las redes sociales.
  • Propaganda y campañas artificiales generalizadas, tanto en política como en publicidad.

Las empresas de IA seguirán generando residuos y emisiones de CO2 a gran escala, ya que extraen agresivamente todo el contenido de Internet que pueden encontrar, externalizando los costes a la infraestructura digital mundial, y nutren con ese acopio las granjas de GPUs para generar sus modelos. Puede que los humanos tengan poder de decisión ayudando a etiquetar el contenido, para lo que buscarán los mercados más baratos con las leyes laborales más débiles con el objetivo de construir fábricas que explotan a trabajadores para alimentar al monstruo de datos que es la IA.

Nunca confiarás en otra reseña de un producto. Nunca volverás a hablar con un humano en la empresa que te proporciona Internet. El mundo digital que te rodea se llenará de contenidos insípidos y lacónicos. La tecnología creada para las granjas de interacciones —esos vídeos editados por IA con la chirriante voz de máquina que has visto últimamente en los canales que sigues— será comercializada como una marca blanca y usada para promover productos e ideologías a escala masiva con un coste mínimo desde cuentas de redes sociales que son llenadas con contenido de IA, cultivan una audiencia y se venden al por mayor y en regla con el algoritmo.

Todas estas cosas ya están sucediendo e irán a peor. El futuro de los medios es una regurgitación insípida y sin alma de todos los medios anteriores a la era de la IA, y el destino de todos los nuevos medios creativos es ser subsumidos en el amasijo enturbiante de matemáticas.

Esto será increíblemente rentable para los barones de la IA, y para asegurar su inversión están desplegando una inmensa y cara campaña de propaganda mundial. Para el público, las capacidades actuales y futuras posibles de la tecnología están siendo exageradas en promesas altisonantes ridículamente improbables. En reuniones a puerta cerrada se hacen promesas mucho más realistas de reducir los costes a la mitad.

La propaganda también se apoya en el canon místico de la IA de ciencia ficción: la amenaza de ordenadores inteligentes con poder para acabar con el mundo, el encanto prohibido de un nuevo Proyecto Manhattan y todas sus consecuencias, la tan profetizada singularidad. La tecnología ni se acerca a este nivel, un hecho bien sabido por expertos y los propios barones, pero la ilusión es mantenida con el intereses de presionar a los legisladores para que ayuden a los barones a erigir una muralla alrededor de su nueva industria.

Por supuesto, la IA representa una amenaza de violencia, pero como señala Randall, no proviene de la propia IA, sino de las personas que la emplean. El ejército de EE. UU. está probando drones controlados por IA, que no van a ser autoconscientes, pero aumentarán a gran escala los errores humanos (o la malicia humana) hasta que mueran personas inocentes. Las herramientas de IA ya se están usando para imponer fianzas y condiciones de libertad condicional —pueden meterte en la cárcel o mantenerte allí—. La policía está usando la IA para reconocimiento facial y «actuaciones policiales predictivas». Naturalmente, todos estos modelos acaban discriminando a las minorías, privándolas de libertad y, a menudo, matándolas.

La IA se caracteriza por un capitalismo agresivo. La burbuja propagandística ha sido creada por inversores y capitalistas que invierten en ella, y los beneficios que esperan de esa inversión van a salir de tu bolsillo. No se acerca la singularidad, sino que las promesas más realistas de la IA van a empeorar el mundo. La revolución de la IA ya está aquí, y no me gusta nada.

Mensaje provocativo

Redacté la primera versión de un artículo mucho más incendiario bajo el título «ChatGPT es el nuevo sustituto tecnoateísta de Dios». Hace algunas comparaciones bastante pertinentes entre el culto a las criptomonedas y el culto al aprendizaje automático, y entre la religiosa, inquebrantable y en gran medida ignorante fe en ambas tecnologías como precursoras del progreso. Fue divertido escribirlo, pero este es probablemente un artículo mejor.

Encontré este comentario en Hacker News y lo cité en el borrador original: «Probablemente vale la pena hablar con GPT4 antes de buscar ayuda profesional [para tratar la depresión]».

En caso de que necesites oírlo: no (advertencia: suicidio) acudas a los servicios de OpenAI para combatir tu depresión. Encontrar y concertar una cita con un terapeuta puede ser difícil para mucha gente —es normal que sientas que es difícil—. Habla con tus amigos y pídeles que te ayuden a encontrar el tratamiento adecuado para tus necesidades.

Este artículo es una traducción del artículo «AI crap» publicado por Drew Devault bajo la licencia CC BY-SA 2.0.