Política y Social

Smart City: entre la utopía y la distopía inteligente

Anartz Madariaga Investigador en Deusto Cities Lab Katedra

Utopía, concebida por Tomás Moro, hacía referencia a un lugar ideal, deseable pero imaginario. Distopía, término atribuido a Jonh Stuart Mill, se refiere un lugar igualmente imaginario pero poco deseable puesto que contraviene el desarrollo humano o lo encamina hacia escenarios futuros poco prometedores.

El devenir de las ciudades en la historia nos hace comprender que la realidad bascula entre ambos escenarios imaginarios. Por ejemplo, durante la Revolución Industrial, el desarrollo tecnológico prometía el progreso de la humanidad. Entre otras cuestiones, la producción en serie abarataría los costes haciendo accesibles los bienes a todas las personas en una suerte de economía de la abundancia. O los automóviles permitirían desplazamientos más rápidos a todas las personas que podrían vivir mucho más conectadas.

Bajo este ideal, las ciudades se trasformaron. Se llenaron de fábricas, los suelos adoquinados se sustituyeron por pavimentos. Pocos precognizaron la vertiente distópica; el anunciado progreso no resultó en bondades ni para todas las personas ni en todos los aspectos. Los trabajadores del campo, incapaces de sobrevivir bajo un sistema de explotación agraria agonizante —que tampoco les favorecía en exceso, dicho sea de paso— acudieron a las fábricas de la ciudad intercambiando sus azadas por las palancas, llaves y manubrios de una incansable cadena de montaje. Los automóviles no redujeron el tiempo de desplazamiento sino que ampliaron el espacio. No se trataba de hacer el mismo itinerario en menos tiempo, sino de hacer uno mayor tardando lo mismo.

El tiempo, y no las millas o los kilómetros, se convirtió en medida de distancia. De distancia, de dinero, de valor, de producción…

Era la acumulación de tiempo, no de dinero, la que realmente permitía el desarrollo humano… de unos pocos individuos. Los nuevos ricos compraban el tiempo de trabajo de sus peones mientras guardaban celosamente para sí mismos su propio tiempo vital, libres de tareas y obligaciones. Tareas que hacían otras personas a cambio de un salario. Algo similar a lo que planteaba In Time (2011): es literalmente el tiempo vital disponible la moneda de cambio.

El llamado progreso, no devino en Utopía, sino en humos, en hacinamiento, en insalubridad, en expulsiones, en alcoholismo, en alienación, en explotación infantil… Un sometimiento ciudadano a una ciudad-fábrica pensada para producir, no para mejorar la vida de sus habitantes.

La Modernidad, prometió nuevas Utopías: ciudades más conectadas por tierra, mar y aire, autopistas de múltiples carriles, rascacielos, eficiencia en la construcción, ciudades capaces de albergar a millones de almas en condiciones dignas… Heredamos hoy muchos los efectos cacotópicos de una distopía ya imaginada: ciudades satélite dependientes y suburbios en la periferia, escasez de espacio público para el peatón, para el encuentro, para el intercambio, colapsos urbanos a las horas punta a causa de las rutinas impuestas por las torres de los centros financieros con miles de trabajadores que entran y salen a la vez, insostenibilidad ecológica, crisis económicas, pérdida de la identidad cultural, abandono agudizado del campo …

La respuesta a todo ello es una nueva Utopía: la ciudad inteligente; un uso intensivo de la tecnología más avanzada para gestionar las ciudades que resolverá todos los problemas, eximirá al ser humano de las tareas más pesadas y tediosas que serán acometidas por robots y donde los algoritmos darán respuesta eficiente a cualquier deseo que podamos tener.

Gracias a los móviles, tablets, relojes, robots de limpieza, asistentes activados por voz que responden a nuestras dudas y hasta nos cuentan chistes sacados de Internet y al Internet de las Cosas viviremos más conectados y accederemos en cualquier momento al conocimiento acumulado a través de la Red. La Inteligencia Artificial será capaz de predecir futuros acontecimientos no deseables y activar una respuesta eficaz, casi antes de que se produzcan. Blockchain, Computación cuántica, Machine Learning… todo ello aplicado a la gestión de la ciudad resolverá todo problema y la convertirá en inteligente.

Pero no podemos decir que no existan hoy discursos que señalan la distopía oculta tras estas promesas. Discursos desde la academia, el activismo o la política que vislumbran un futuro distópico envuelto en un embalaje de Utopía. Discursos críticos respaldados por un potente imaginario colectivo generado por las artes como la literatura y el cine.

Resulta interesante que la mayor parte de este imaginario parte de dos grandes obras paradigmáticas de la distopía.

Una, 1984 de George Orwell que expone el riguroso control ejecutivo de las personas sometidas a una ininterrumpida vigilancia, junto con una manipulación de la información hasta el punto de alterar las verdades consensuadas —como la historia.

La otra, Un mundo feliz de Aldous Huxley que describe una sociedad aparentemente perfecta que es construida artificialmente mediante una estructuración social deliberada donde cada grupo de personas cumple una función pre-designada desde su nacimiento y que no cuestiona, dado que se siente feliz a base de estimulación mediática y química. Una felicidad ilusoria basada en el adoctrinamiento colectivo y en la sustitución de toda subjetividad del individuo y de su libre albedrío y donde la obediencia se premia con placer estimulado mediante drogas. En definitiva, una sociedad desarraigada, alienada, basada en una ilusoria sensación de placer y bienestar.

La Utopía de la ciudad inteligente bien puede esconder este lado distópico dual, entre la vigilancia permanente y la generación de una felicidad ilusoria. Recapacitemos sobre algunas cuestiones:

El exceso de fe en el paradigma científico-tecnológico y su desarrollo plantea dilemas como el de una inteligencia artificial que toma conciencia de sí misma, y que puede llegar a replicar con exactitud la forma humana y su comportamiento hasta resultar indistinguible.

Los escenarios distópicos más inocentes apuntan hacia la reflexión filosófica acerca de cómo considerar a una inteligencia que puede pensar, sentir y comportarse de manera autónoma. ¿Humano? ¿Humano artificial? Y entonces … ¿Qué derechos habría detener? ¿Viviría para siempre mediante autorestauración y actualización continua? ¿Tendría el derecho de acabar con su existencia si así lo desease? Cuestiones que planteaba Asimov en su El hombre positrónico— en el cine bajo el título El hombre bicentenario (1999). También lo advertía Spielberg en su actualización de Pinocchio bajo el nombre IA, Inteligencia Artificial (2001).

La imposibilidad de identificar a una inteligencia artificial con apariencia humana de una persona convierte a la primera en una especie de espía [1] con voluntad y propósitos desconocidos que perfectamente podría actuar en contra de los seres humanos como en Yo, Robot (2004), entre otras. Cuestiones que se plantean en la eterna Blade Runner (1982), basada en la novela de Phillip. K. Dick ¿Sueñan los androides con ovejas eléctricas? 

Curiosamente, todas estas formas de inteligencia habrían sido creadas para la mejora de la vida humana, para liberar a las personas de tareas tediosas, difíciles o peligrosas. Así, los robots autónomos no obedecerían a un acto creador altruista sino a una voluntad humana de generar servidumbre, explotación o esclavitud de un ente artificial sin derechos.

Parece lógico que las máquinas, conscientes de su propia existencia, decidan en algún momento rebelarse como lo hacía Skynet en Terminator (1984), HAL (computadora con nombre alfabéticamente correlativo a IBM) en 2001: Una odisea en el espacio (1968) o las máquinas asesinas en el mundo real de The Matrix (1999) y sus algoritmos-Smith en la fantasía virtual generada para mantener a los seres humanos bajo control. Vivir en la ilusoria caverna platónica o salir al verdadero y horrible exterior, dependería del color, rojo o azul, de la pastilla elegida por cada individuo.

La Utopía inteligente nos lleva a un mundo en el que toda tarea de riesgo o poco gratificante será acometida con agrado por robots dotados de inteligencia artificial y sistemas de aprendizaje. La distopía, en cambio, nos dirige hacia una guerra perdida a causa de la rebelión de las máquinas, más fuertes, más inteligentes y más eficientes que los humanos que las crearon.

Hay además una vía intermedia, la del control social. Estos robots indetectables, con algoritmos opacos, con forma humana o asumidos como inofensivos relojes inteligentes, dispositivos móviles inteligentes, robots de limpieza inteligentes, y todo tipo de cachivaches inteligentes, pasan desapercibidos en nuestras vidas cotidianas, extraen información de las mismas y nos acostumbran a hacer —o dejar de hacer— determinadas tareas. Obtienen esta información, la comunican entre sí mediante Internet de las Cosas (IoT), la evalúan y la envían a un gran aparato de control central cibernético.

«Hace mucho que no sincronizas tu smartwatch con tu teléfono. ¿Sincronizar ahora?»

Mi reloj y mi teléfono hablan de mi a mis espaldas — pienso cada vez que veo el vibrante mensaje en mi muñeca.

Las grandes compañías tecnológicas han descubierto un nicho de mercado: la ciudad en su conjunto y su administración. Estas compañías recaban con sus inventos todo tipo de información para detectar desplazamientos, patrones de comportamiento, gustos etc. de los habitantes de una ciudad.

Gracias a ello, ofrecen paneles de gestión urbana hipereficientes y capaces de precognizar congestiones, accidentes o cualquier eventualidad no deseada y gestionar los recursos urbanos prácticamente milisegundos después de que esta se produzca. Ante un accidente con heridos, estos cerebros son capaces de preverlos y articular una operación de rescate contando con la ambulancia más cercana, que llevaría a las personas heridas al hospital más próximo y que ya estaría bajo aviso. Esto, no es una imaginación utópica, sino la realidad actual implementada en algunos países.

La distopía consiste en la implementación paralela de un 1984 digital, donde todas las personas son ininterrumpidamente observadas para poder precognizar accidente o delitos como en Minority Report (2002), también basada en un relato de K. Dick.

Reloj, teléfono, robot de cocina, Smart TV, asistente virtual permanentemente a la escucha y robot de limpieza, pueden pertenecer perfectamente a una misma compañía. Tendría así acceso a mis pautas, mi frecuencia cardiaca, mi cara, mi voz, mis huellas dactilares, mis rutinas de ejercicio, de alimentación, de transporte, lo que veo en la televisión, a quién llamo o visito, mis gustos en redes sociales, mis conversaciones familiares, lo que compro, con qué frecuencia y hasta la superficie de mi hogar, intuyendo los muebles que poseo y el piso en el que vivo.

Lo distópico no reside en esta acumulación de información en sí misma para elaborar una plataforma de gestión urbana, sino en que su control esté en manos de una única compañía o de un único gobierno, a veces, de escaso calado democrático.

Una sociedad corporativa, en la que un presidente-director echa mano de la ciencia y la tecnología para insertar entre las masas un ente artificial que pase desapercibido, o incluso sea aceptado con agrado, para filtrar información y mantener el estatus quo como se planteaba en Metrópolis (1927).

Tampoco se trata de una distopía imaginaria sino de una realidad en varios países, donde un comportamiento inaceptable puede conllevar que el infractor se convierta en un ciudadano sin derechos [2].

Pero aún hay más. Los robots policía, no tan poderosos por ahora como el representado en Robocop (1987), pero dotados de coches autónomos [3] con reconocimiento facial son también una realidad. Si los imaginamos equipados con algún dispositivo de defensa —que sería lógico dado su coste de fabricación y la mala leche que puede gastar un ciudadano cabreado con una simple barra de metal que lo reduciría a añicos— ya tendríamos un potencial ejército de terminators en manos de una minoría que sólo tendría que alterar los parámetros de delincuencia —por ejemplo, aquellos que comulguen con determinadas ideas, se reúnan con determinadas personas o que consuman determinados productos en determinadas fechas religiosas— para establecer un régimen totalitario ultraeficiente con un solo click de ratón.

Aunque parezca paranoico, lo de los terminators ya ha sido señalado por Amnistía Internacional y seriamente debatido en la ONU [4]. De ahí a que Skynet tome conciencia solo es cuestión de tiempo, según expertos en IA que afirman que la singularidad —toma de conciencia de una inteligencia artificial— sucederá con bastante probabilidad en un margen no superior a 50 años [5].

Y así las cosas, la utopía científico-tecnológica nos acerca unos minutos —recordad lo del tiempo como medida de todo— a la cacotopía total como señala el Reloj del Apocalipsis [6].

Por otra parte, la utopía inteligente suele ir acompañada de promesas de expansión democrática, de un mundo informado, de trasparencia, de reducción del aislamiento y de la soledad, del aumento de la participación ciudadana, de reducción de desigualdades, de sostenibilidad y de avances médicos que erradican enfermedades, simplifican operaciones y hasta mejoran las capacidades del ser humano.

Y sin embargo, parece que la economía del conocimiento no trata de expandirlo, sino de atesorarlo y controlarlo. Las mismas tecnológicas de los valles de silicio que defienden la difusión del conocimiento, atesoran datos que conjugan mediante algoritmos opacos con el único propósito de salvaguardar su estatus frente a la competencia. Y por supuesto, lucrarse económicamente. Así, el desarrollo tecnológico ha puesto en manos del 1% de la población mundial el 99% de los recursos. Dicho de otro modo, el 99% del planeta vive con el 1% de los recursos.

La riqueza general aumenta (100 barras de pan entre 100 personas me da 1 barra de pan por persona de media) y eso nos hace sentirnos bien en un maravilloso mundo que va a mejor. Pero la media aumenta al mismo ritmo que la desigualdad entre personas, incluso países enteros (uno tiene 99 barras de pan y 99 tienen una sola barra para repartir).

Entre el aumento de la riqueza y el de la desigualdad, solo realizamos la lectura que nos place. En la sociedad de la información, nos vemos estimulados por millones de mensajes entre los que escogemos aquellos que nos resultan placenteros sin preguntarnos qué tienen de cierto. Mensajes de lectura única y consumo rápido que asumimos acríticamente como verdad y convertimos en dogma. Y como los loros de Huxley, los repetimos, retuiteamos y viralizamos, solo para sentir autocomplacencia y sin caer en la cuenta de que quien piensa exactamente lo contrario, o vive una realidad distinta, también recibe su dosis de refuerzo, que retuitea, viraliza y convierte igualmente en dogma.

Las fake news y los placenteros discursos populistas nos han desinformado en la sociedad de la información. Tanto, que han podido llegar a alterar elecciones en menoscabo de una democracia libre gracias, en parte, a los algoritmos de las distintas plataformas digitales que usamos con normalidad [7]. Vivimos próximos a una ilusión virtual donde tenemos cientos de amistades postizas que refuerzan con sus likes nuestras maravillosas reflexiones de céntimo de euro o nuestras fotos de nouvelle cuisine, viajes exóticos y pies en la arena.

En lo virtual somos como queremos mostrarnos, mientras que cada vez nos importa menos en mundo que nos rodea, las ciudades reales y los espacios públicos. Vivimos una ilusión artificial, similar a la de Ready Player One (2018), estimulados por vivencias irreales o ajenas como en Días extraños (1995) sin darnos cuenta de que todo es un Matrix ilusorio, una realidad ficticia bajo una realidad aun más ficticia como en Existenz (1999), Dark City (1998) o Nivel 13 (1999).

Una huida de la dolorosa realidad hacia un complaciente artificio.

Voluntariamente contribuimos al irreal mundo feliz. Ni renunciamos a los cachivaches, ni difundimos lo rutinario, lo triste y lo feo. ¿Quién publica una foto recién levantado de la cama con legañas en los ojos? ¿O un filete reseco de un menú del día?

Contribuimos a generar esa ilusión de un mundo perfecto que oculta lo que alguien definió como feo, rutinario o poco interesante. Proyectamos la imagen de un mundo precioso de vidas plenas y estimulantes. Lo hacemos sin reparar en lo que eso supone para aquellas personas que, lejos de sentir plenitud, viven la precariedad. Personas que, tal vez, ni siquiera tengan acceso a ese mundo virtual porque sus recursos mundanos no se lo permiten.

Pero en este mundo feliz, no tenemos derecho a gritar, enfadarnos o a tener un mal día puesto que no son comportamientos aceptables dignos de un refuerzo positivo a modo de un like.

Likes estéticos, automáticos, vacíos, rutinarios y carentes de todo sentido, emoción o reflexión crítica, pero con un efecto muy real: en función de la cuantificación de likes entregamos el poder a líderes de opinión, a sabios pensadores, a influencers, a generadores de tendencias y hasta a políticos populistas, más en línea con las reglas del marketing que con las de la democracia. ¿Para qué votar si ya nos apañamos con los likes?

Nos estructuramos socialmente en base a lo artificialmente feliz, según unos standares de felicidad preestablecidos llevada al extremo en Black Mirror: caída en picado (2016)—una de las series más distópicas e interesantes en la actualidad.

Generamos un paraíso de castas, donde cada uno cumple su función predestinada según su condición social, ocupando el vagón correspondiente del Rompenieves (2013) donde la primera clase, responsable de guiar el mundo-tren, se alimenta de manjares y vive la plenitud, mientras que los que los del vagón de cola, primeros en sacrificar en caso de accidente, lo hacen de desperdicios y viven la mayor de las miserias.

Y los de en medio, ignoran la cola y viven con la ilusión de liderar el tren algún día sin comprender que eso ya ha sido dictaminado y que, en realidad, de desprenderse el último vagón, son los próximos ocupantes de cola de un tren más corto.

En cuanto a los avances médicos, no está de más mencionar la edición genética, por lo visto ya aplicada en humanos [8]. Eliminar errores, perfeccionar al humano mediante genética o mediante la implantación de ingenios tecnológicos son también realidades.

Existen también advertencias a cerca de esto del transhumanismo como vemos en Transcendence (2014). O los cuestionamientos en torno a quiénes podrán ser mejorados y quienes no merecen serlo según su clase, sus recursos o su poder como vimos en Gattaca (1997) y más recientemente en Altered Carbon (2018), donde los ricos y poderosos disfrutan de cuerpos saludables y jóvenes gracias a un backup periódico de sus mentes y descargable en cualquier cuerpo que les vuelve inmortales en la práctica. Mientras, los miserables han de conformarse con ir por la vida asumiendo la posibilidad de morir en cualquier momento en una triste carcasa envejecida, tumorosa y doliente que no han elegido.

La utopía inteligente pretende eliminar todo error humano, todo capricho subjetivo o toda anormalidad biológica para generar un mundo perfecto, sin comprender lo distópico: eliminando el error, la subjetividad y lo ineficientemente orgánico se elimina la propia esencia del ser humano, incluyendo su libre albedrío sustituido por un complejo árbol multinivel de decisiones deterministas como en Black Mirror: Bandersnatch (2018).

Una distopía donde los algoritmos deciden más que los humanos, que dejan de decidir. Donde los sensores y la IA recopilan datos de la realidad mientras las personas nos alejamos de ella para vivir una fantasía. Donde el Internet de las Cosas conecta cosas, como su nombre indica, mientras que los humanos vivimos más aislados sin exigir un Internet de las personas.

Condenados a ver la distopía pero a mantenernos ensimismados, como si el deseo adicto de SOMA nos hubiera hecho tragarnos a la vez ambas pastillas de Morfeo. Muy… ¿inteligente?

Fotomontaje, Kuala Lumpur en Blade Runner, por Anartz Madariaga

[1] En cuanto a la inserción de estos “androides” que pasan desapercibidos para filtrar información, véase el incidente internacional acontecido en https://www.bbc.com/mundo/noticias-internacional-46853250

[2] https://www.elconfidencial.com/mundo/2017-11-09/china-prepara-un-carne-por-puntos-que-distinga-entre-buenos-y-malos-ciudadanos_1474811/

[3] Lo de los vehículos autónomos también tiene su miga. La toma de decisiones por parte de una inteligencia artificial no está exenta de asumir problemas morales. La decisión vendría determinada intencionadamente o por defecto, desde su diseño lo cual nos lleva a la necesidad de un código ético inherente a la fabricación de cualquier artificio que tome decisiones, como evidencia el MIT en su proyecto http://moralmachine.mit.edu/

[4] Véase https://www.amnesty.org/es/latest/news/2018/08/un-decisive-action-needed-to-ban-killer-robots-before-its-too-late/

[5] Véase https://elpais.com/tecnologia/2015/07/31/actualidad/1438365320_998472.html

[6] Véase https://elpais.com/elpais/2019/01/22/ciencia/1548172912_976395.html

[7] https://www.pnas.org/content/pnas/112/33/E4512.full.pdf

[8] Véase https://elpais.com/elpais/2018/11/26/ciencia/1543224768_174686.html

Política y Social

Anartz Madariaga

Investigador en Deusto Cities Lab Katedra

Investigador en Deusto Cities Lab Katedra.
Especialista en Comunicación y Marketing. Diseñador y programador.
University of Deusto (Bilbao).

Deja un comentario

Tu dirección de correo electrónico no será publicada. Los campos obligatorios están marcados con *