Archivos Mensuales: octubre 2014

El Gobierno del Software o Cómo controlar a las masas con las redes sociales

Habrán leído sobre los polémicos experimentos llevados a cabo por Facebook entre sus usuarios. Me gustaría profundizar aquí en las inquietantes y poco comentadas consecuencias finales de este tipo experimentos, puesto que la polémica en la red se ha centrado tan sólo principalmente en su no respeto a la privacidad, y al hecho de que no se ha pedido a los usuarios su consentimiento expreso para participar en los mismos: estos dos puntos son sólo la punta del iceberg.

Para los que no han estado al tanto de estos experimentos, simplemente les resumiré que Facebook realizó experimentos no consentidos con las cuentas de casi 700.000 usuarios de habla inglesa. Los experimentos eran bastante básicos, y se limitaban a comprobar el nivel de interacción y uso de la red social dependiendo de si los usuarios leían de sus amigos comentarios o bien positivos en un primer grupo, o bien negativos en un segundo grupo. La red social argumentó que era legítimo tratar de obtener información para su negocio sobre cómo fidelizar y aumentar el uso de la plataforma, y que este tipo de prácticas, conocidas en el sector como “A/B testing”, son habituales en muchas webs, que prueban si una forma de presentar los contenidos es más adecuada que otra para fidelizar a sus usuarios. Los usuarios se quejaban de que los experimentos sentaban un precedente muy peligroso para discriminar a unos usuarios frente a otros, cuando los algoritmos deberían ser igualitarios y tratar por igual a todos los usuarios.

Sin tomar parte por unos o por otros, profundicemos en el tema de los experimentos sociales, que aquí hay mucha miga. Ya les comenté hace tiempo en el post “La profecía de George Orwell o El 1984 de las Redes Sociales” que las redes sociales pueden servir de vehículo para la vigilancia y seguimiento intensivo de los individuos. Son herramientas que, en caso de ser mal utilizadas, dan al que las gobierne un poder casi absoluto sobre la ciudadanía. Por otro lado, los políticos siempre han sentido una lógica debilidad por la psicología social y de masas; como muestra de ello, no hay más que ver lo acostumbrados que nos tienen a los bailes cruzados de intereses y escándalos con los medios de comunicación tradicionales. Las nuevas posibilidades que en este sentido abren las redes sociales suponen una peligrosa herramienta, incluso en tiempos de democracia como los actuales, puesto que el que gobierna las masas, gobierna los votos, y acaba gobernando el país, con todo lo que ello conlleva.

La prensa tradicional era mucho menos intrusiva que las redes sociales. Todos nos podíamos hacer una cierta idea de la afiliación política de nuestro entorno por el periódico que compraban, pero ahora con las redes sociales la información es mucho más profusa y detallada. Antes no se sabía la reacción de cada lector ante cada noticia o tema concreto. Ahora, con las redes sociales, la opinión sobre todo like de Facebook que se mueva es cuasi-pública y, lo más peligroso, queda registrada. Lo único que puede permanecer privado hoy en día es lo que no se teclea.

Pero la cosa no queda en catalogar a los usuarios y conocer su opinión sobre todo lo que circula por las redes sociales. Los experimentos sociales abren la puerta a nuevas posibilidades para manipular en masa la opinión de los ciudadanos, lo cual, en países y tiempos de democracia y “libertad”, es igual o más tentador que en tiempos de represiones violentas. Es tecnológicamente muy sencillo analizar el impacto de una forma u otra de exponer una noticia, de cómo nos afecta el que la primera información que nos llega de un tema sea un comentario de un amigo de aprobación o desaprobación… y aprender de ello. Al final nuestras opiniones corren el riesgo de acabar dependiendo de cómo estén programados los algoritmos sociales que nos presentan en Facebook o Twitter unas u otras noticias en base a nuestro perfil y a cómo se nos ha segmentado. Ante ustedes tienen una nueva era tecnológica basada en la ingeniería social, la Era del Gobierno del Software, y, efectivamente, con esto se puede conseguir ponerle puertas al campo, o más bien, a nuestras mentes.

¿Creen que todo esto es un tema un poco paranoico?. Recuerden que el futuro es impredecible, y que muchas veces la realidad supera a la ficción. Para que puedan valorar un poco más el tema que tratamos, les animo a que lean un artículo que, si bien en condiciones normales podría ser calificado de curioso, tras los párrafos anteriores adquiere un matiz inquietante. El artículo en cuestión es “How Advanced Socialbots Have Infiltrated Twitter”  Les resumiré que la noticia habla de un estudio por el que una universidad brasileña ha liberado en Twitter unos cuantos robots que se dedicaron a publicar ciertos tuits sintéticos sobre ciertos temas, y a hacerse seguidores de otros usuarios. Lo sorprendente del asunto es que muchas cuentas reales se hicieron seguidores suyos, con lo cual su capacidad de influenciar a personas reales se volvió relevante. Como muestra de ello, el índice Klout (estándar que mide la influencia de un usuario) que obtuvieron superó en algunos casos incluso la de reputados académicos en los temas de los tuits sintéticos. Ahí es nada. Recuerden lo que les comentaba antes de los experimentos sociales y de cómo nos pueden influenciar las personas a las que seguimos en Twitter o Facebook, si ahora añadimos que esas personas que nos influyen pueden ser robots programados, ya tienen ustedes un mando de control remoto que, en vez de abrir la puerta de su garaje, abre o cierra nuestras mentes a determinadas ideas, siempre a conveniencia del programador del bot en cuestión.

Me despediré haciéndoles reflexionar sobre el hecho de que tal vez a día de hoy puedan ustedes confiar en Facebook o en Google, pero su información y sus relaciones en las redes sociales ya les pertenecen a ellos, y nadie sabe de qué señor serán vasallos en el futuro. Recuerden la famosa frase que dice que, en internet, cuando ustedes usan un servicio gratis, el producto que están vendiendo es usted. Añadimos con este post que esto puede ocurrir también para servicios de pago, bien sea para segmentarnos y vendernos algo, bien sea para vender la capacidad de influencia sobre nuestra forma de pensar. Lo segundo en concreto abre peligrosamente una caja de Pandora que no debería abrirse jamás.

Sígueme en Twitter: @DerBlaueMond

Anuncios

Ni Asimov llegó nunca a imaginar algo así o Cloud Robotics como la última tendencia en Cloud Computing

Hace unas semanas leí una noticia que yo creo que el mismo Isaac Asimov, tras su celebérrima Saga de la Fundación, habría calificado como entre las más futuristas y premonitorias de las últimas décadas. La noticia en cuestión es la siguiente: “Los robots quieren convertir a internet en su cerebro colectivo“. Para los que no tengan el tiempo o las ganas de leer el artículo entero, les resumiré que la noticia relata cómo ya hay varias universidades de prestigio mundial poniendo en marcha un piloto para que haya en internet un repositorio de “conocimiento” compartido entre robots. De esta manera se replica en el mundo de la robótica una de las facetas más importantes que ha aportado internet a los seres humanos: lo que el sistema de inteligencia artificial de cualquier robot haya aprendido en cualquier punto del planeta, estará a disposición de todos los demás robots para que puedan incorporarlo a sus tomas de decisiones sin necesidad de que ni siquiera se les haya planteado todavía el mismo problema. Aprender de la robótica experiencia ajena, vamos. Y todo ello con la rigurosidad y falta de subjetivismo que supone que los robots estén gobernados por programas informáticos, un subjetivismo que en el caso de los humanos muchas veces nos ciega y no nos permite valorar adecuadamente datos y conclusiones de otros humanos, errores que no se cometerían en el caso de los robots.

El carácter innegablemente innovador por seguir una tendencia lógica en el sector de la tecnología, puede tener a largo plazo implicaciones revolucionarias si lo miramos desde una óptica futurista. Pero revolucionarias de verdad, y tal vez no para el bienestar humano precisamente.

Empecemos por los argumentos que les expuse en el post “En el futuro todo el mundo será famoso durante 15 minutos o Redes Sociales vs Inteligencia Artificial”. Ahí les comentaba que las redes sociales y la web 2.0 iban a permitir que, mediante la compartición global, los seres humanos conservasen y potenciasen su principal valor añadido frente a las máquinas: la creatividad y la imaginación.

El caso es que el Cloud Robotics ha iniciado sus andaduras como la compartición de conocimientos entre robots, pero no va a pararse ahí. No hay nada que impida que el conocimiento humano que hay en la red sea también aprovechado por los sistemas de aprendizaje y de toma de decisiones de los robots. Me explico, la Web 2.0 implica que a largo plazo todos los humanos acabarán poniendo en la red de una u otra manera las conclusiones y resultados de su creatividad e imaginación, y la conjunción de esto con el Cloud Robotics hará que dicha información estará accesible para que todos los robots la repliquen, utilicen y aprendan de ella. La compartición 2.0 que inicialmente les expuse como la tabla de salvación de las capacidades humanas, con este nuevo avance en robótica se ha tornado en una soga al cuello. Digo una soga al cuello porque, partiendo de la disponibilidad de la misma información, un robot siempre va a tener una memoria infinitamente más fidedigna que un ser humano, y además en sus búsquedas de información y consideración de la misma es mucho más metódico, objetivo, y riguroso que un ser humano. Y ahora, como parte de esa información 2.0, estarán disponibles para ellos también los resultados de los factores clave de diferenciación la preciada mente humana. En un futuro tal vez menos lejano de lo que parece, puede ser que los seres humanos pasen a ser un recurso fabril más para alimentar a la verdadera inteligencia colectiva de la nueva civilización (que ya no humanidad): la inteligencia artificial.

Pero vayamos más allá. En otro post “La Teoría del Caos 2.0 o La potencialidad de un comentario en las Redes Sociales” les expuse cómo las redes sociales y la web 2.0 permitían hacer extensiva la Teoría del Caos a la humanidad. Un tuit o un comentario publicado por cualquier persona en cualquier punto del planeta podría en cuestión de horas cambiar el parecer de (potencialmente) la humanidad entera, y por lo tanto cambiar el curso de la Historia. Esto ahora se podrá aplicar a los robots. Ya no habrá una inteligencia artificial parcelada, dependiente del algoritmo que un fabricante haya programado en un autómata producto de un proceso industrial de fabricación. Ahora, con el Cloud Robotics, lo que un simple robot de juguete aprenda en Japón sobre la expresión facial de su dueño para saber si siente miedo, puede ser utilizado de forma instantánea por un robot bélico en la otra punta del planeta para aterrorizar aún más a la persona a cuyo interrogatorio está asistiendo. O incluso aún más, entrando en el terreno de la ciencia ficción, podríamos pensar en cómo en una futurista guerra entre humanos y androides, que un robot en el frente de Nueva York aprenda sobre la mortal utilidad en humanos de una nueva cepa de virus desarrollada en un clandestino laboratorio androide, implicará que instantáneamente todos los robots del planeta dispongan de esa información y sepan cómo sintetizar su ADN para imprimir en el acto nuevas cepas en 3D, y así derrotar a los biológicamente vulnerables humanos.

Fantasías aparte, como poso de este futurista y controvertido post, me gustaría que se quedasen con que los robots van a ser muchos más, más especializados, más inteligentes, más creativos y más imaginativos que los humanos. En principio (sólo en principio), los robots no tienen por qué ser nuestros enemigos, sino más bien todo lo contrario. Eso sí, si en el futuro la fantasía robótico-belicista se vuelve realidad, y algún día los robots nos tratan de extinguirnos, a ver cómo se las arreglan sin nosotros. Les dejo con una frase del genial Isaac Asimov: “Sólo hay una guerra que puede permitirse el ser humano, la guerra contra su extinción”. Pero yo añadiría que tal vez el quid de la cuestión no sea si los robots van a extinguirnos o no, sino que más bien el riesgo es que intenten subyugarnos y esclavizarnos para seguir alimentando con nuestras creativas ideas sus sintéticas mentes.

Sígueme en Twitter: @DerBlaueMond

A %d blogueros les gusta esto: