Inteligencia Artificial: Entre el Leviatán y el Nuevo Orden Mundial

Introducción. Un lienzo nuevo

Desarrollo, progreso, prosperidad, ¿Es así cómo podemos calificar a nuestra sociedad actual?, en las últimas décadas hemos avanzado tanto en ciencia y tecnología a un ritmo sin precedentes, más de lo que hicimos en siglos como raza humana, nos encontramos en una nueva era que responde a la satisfacción de necesidades como especie, donde disciplinas como la ciencia de datos han alcanzado un abrupto crecimiento, por primera vez podemos alzar la mirada y decir que los retos que parecían imposibles hoy pueden ser majados.

El desafío tecnológico que se presenta en el siglo XXI, no solo está en el desarrollo del mismo, plantea un escenario aún más complicado, las grandes crisis políticas y sociales que se presentan hoy en día hacen que la inteligencia artificial sea un terreno bastante accidentado e incluso desconocido, si algo nos ha enseñado la historia es que no podemos predecirla con certeza, pero podemos cuestionarnos sobre nuestro fututo para darle certidumbre, ¿Cuál será el camino que se trazará como civilización para enfrentar los cambios que están por venir?, no hay respuestas simples a preguntas que parecen simples, no cuando existe un movimiento científico y tecnológico como ningún otro en la historia, el cual llega a desestabilizar desde los cimientos a pilares que concedíamos como sólidos, que aportaron estabilidad y dieron forma a la civilización humana, la percepción de los derechos humanos, de la religión, de la política, de la libertad, se sacuden como nunca, la inteligencia artificial y los macrodatos se coronan llevando a un nivel que no imaginamos a la raza humana.

En el despertar de esta era nos encontramos con dilemas que van más allá de la pérdida de empleos de obreros por maquinas que los superan físicamente, nos enfrentamos sistemas que pueden igualar e incluso superar la cognición humana y en ese punto es válido cuestionarse sobre que pasara con las teorías que han fundamentado nuestra razón de ser y que han dado estabilidad por tanto tiempo a nuestra civilización.

Instintos primigenios

‘Cualquier loco inteligente puede hacer las cosas más grandes, más complejas y más violentas. Pero hace falta un toque de genialidad —y mucho valor— para moverse en la dirección opuesta’ : Ernst Friedrich Schumacher

Somos una especie singular y caprichosa, siempre estamos en una búsqueda de conocimiento que no tiene fin, no solo buscamos la satisfacción sino algo mayor, algo que supere a todo lo ya existente, en otras palabras, trascender, tal vez está impreso en nuestro código genético, nuestros antepasados pasaron de vivir en cavernas, a vivir en metrópolis, hoy miramos hacia el cielo y apuntamos a las estrellas imaginándonos habitar planteas donde pueda florecer de nuevo nuestra especie. Es esta ambición lo que nos ha llevado a mantenernos a través del tiempo sobrellevando los peores deseos de la naturaleza, a las más atroces acciones qué le puede provocar un ser humano a otro ser humano, irónicamente incitados por esta misma ambición, pero al final modificamos nuestro entorno para construir lugares que llamamos hogar, construimos algo tan intangible como el pensamiento mismo, hemos hecho leyes, sistemas de gobierno y organizamos sociedades enteras de una forma tan compleja para garantizar nuestra permanencia, en pleno siglo XXI seguimos siendo esos alquimistas que son capaces de transformar y de crear lo intangible y eso nos llega a asustar un poco.

Cuando el primer homo spiens apareció en el planeta tierra, este empezó a maquinar estructuras tan complejas a las que hoy llamamos culturas, que se fueron transformando conforme evolucionaron nuestros ancestros y dieron pauta algo tan increíble como lo fue la cooperación entre masas, pero ¿Qué es la cultura? Y ¿Cómo fue que algo tan incorpóreo se convirtió en la base de la evolución humana?

“Una cultura se caracteriza por ciertos supuestos básicos sobre los valores supremos, comunes a todos sus miembros. Esas creencias destacan un valor sobre otros: el orden del todo, […]. La armonía, la justicia, la santidad, la felicidad, la libertad han sido vistos como valores supremos en distintas culturas.” (Villoro, 1997, p. 45). En esencia estos valores supremos, son socialmente adquiridos y rigen la forma de actuar de cada individuo y de las instituciones que forman parte de un país. Cuando grupos reducidos de personas empezaron a reunirse formaron asentamientos que a medida que su población crecía, de una forma u otra, se convirtieron en impresionantes urbes e imperios que compartían una cultura similar, que les fue trasmitida por sus padres y posteriormente ellos tendrán la misma tarea de trasmitirla a sus hijos, dichos lazos creados consiguieron que cientos e incluso miles de personas desconocidas colaboraran entre sí, este hecho marcó el inicio de los grandes saltos de civilización cuyo éxito está estrechamente ligado a la responsabilidad que asume cada individuo dentro de su colectivo, iniciando así una teoría que después se consideró como liberalismo, en el septiembre de 1987 en una polémica entrevista para la revista Woman’s Own Margaret Thatcher afirmo lo siguiente: “La sociedad no existe, solo existen hombres y mujeres individuales”, lo conceptualiza como un tapiz vivo, donde su belleza depende de que también estamos preparados para responsabilizarse de sí mismos, ¿Tenía razón?.

Con la Revolución francesa la idea de que la igualdad y la libertad eran valores fundamentales fue extendiéndose poco a poco. En el intento fallido de las facciones socioeconómicas conocidas como comunismo y fascismo, dio pauta a que el liberalismo se alzara como el régimen que podría traer bonanza y paz al mundo, despertando de nuevo las ideas románticas de la revolución francesa, desde hace ya décadas estos conceptos se han dado por sentado en casi todo el globo, la democracia hoy en día es el sistema de gobierno que han adoptado la mayoría de las naciones, la globalización, el libre mercado y los derechos humanos son sus estandartes.

La idea de emprender una campaña para globalizar y liberalizar en un sentido político y económico a todo el mundo, enamoró a centenares de personas, pese a un rechazo profundo de opositores, el liberalismo creo los vínculos necesarios para traer objetivos globales, para unir a las naciones y sus habitantes a pesar de tener culturas tan diversas. Estas ideologías convergieron creando la cooperación entre de los individuos de una forma masiva, y sí, hoy hay naciones liberales que tienen tiranos en el poder, pobreza, una marcada falta de movilidad social, sin embargo el liberalismo fue la mejor de las opciones entre el muy limitado abanico de posibilidades que se presentó en la época.

Indudablemente el mundo gira por esas chispas de genialidad a las que llamamos ideas, en la búsqueda de encontrar la mejor combinación que garantice una reorganización eficientemente y estable de la civilización humana, nos encontramos en un sendero tan cambiante que sea vuelto todo un arte el tratar de predecirlo, Zygmunt Bauman, uno de los más grandes pensadores que tuvo el siglo XX, conceptualizo de forma sorprendente lo que el llamo la modernidad liquida, una sociedad cambiante, inestable e incluso precaria, en otras palabras, una sociedad liquida, describió el mundo moderno como pocos lo han hecho. En palabras de Bauman las sustancias liquidas son aquellas que tienen dificultad para conservar su forma, necesitan una gran presión o fuerza para conservarla y lo mismo pasa con las estructuras institucionales actuales, esto da paso a una disipación de la colectividad es decir la ausencia de la sociedad por la pérdida de poder en el espacio global, todos éstos elementos en conjunto llevan una transitoriedad de todo los aspectos sociales, culturales y económicos de la sociedad humana.

Si bien gran porción del tejido social ha permanecido unido en parte por las ideas liberales contemporáneas, hoy esas ideas enfrentan a la liquidez descrita por Bauman. En el segundo trimestre del 2008 ocurrió un hecho que dejo a todos los gobiernos del mundo atónicos, el mercado inmobiliario de Estados Unidos de América empezó a desplomarse y las instituciones bancarias que habían otorgado créditos hipotecarios, las llamadas hipotecas basura, presentaban cifras alarmantes en contra de toda teoría económica, con la quiebra de Lehman Brothers, una a una de las institucionales financieras empezaron a caer, como si, de piezas de dominó se tratara, no tardó mucho en que esta infección se esparciera de forma global sumergiendo a todo el mundo en una gran depresión económica, dicho acontecimiento marco un antes y un después en el entendimiento de las ideas liberales en nuestra historia más reciente, el sociólogo Alain Touraine en su libro el fin de las sociedades marca a este hecho como el acelerante de la desmantelación de lo que llamamos sociedad, comprendida en el entorno global, personas del todo mundo empezó a cuestionarse sobre si realmente el camino liberal era el indicado a seguir y se produjo un profundo resentimiento, en el 2016 dicho sentimiento cobró estragos en hechos que muchos consideraron un retroceso en el liberalismo, el ascenso a la presidencia de Donald Trump y la votación a favor del referéndum por separarse de la Unión Europea por parte del Reino Unido, dos naciones pilares en la construcción de estas ideologías han apostado a una política meramente nacionalista, fenómeno que se ha presentado alrededor del mundo, Rusia, India, Brasil, Francia han sido algunos de los países donde resonaron discursos nacionalistas, ¿Es esta la solución para enfrentar los grandes problemas de nuestra época?, ¿Acaso el nacionalismo puede presentar respuestas favorables a los dilemas planteados por la disrupción tecnológica?, necesitamos redimensionar la perspectiva de cooperación global para seguir avanzando porqué al final de cuentas somos una única civilización tratando de permanecer de pie, sin embargo nos quedamos sin opciones en un mundo totalmente cambiante, donde el liberalismo está sumergido en una decadencia sistémica donde le es casi imposible recuperarse, a las luces presentadas en los últimos años esta aseveración puede que no es muy clara para muchos, sería demasiado osado afirmar que el liberalismo este próximo a desaparecer, pero algo si es seguro se tiene que reinventar para estar a la altura de todos los problemas que enfrentamos y de los que estamos a punto de enfrentar, que sin duda lo rebasan y nos rebasan como individuos, una vez más nuestra lucha por permanecer en la cúspide del orden natural nos pone en una encrucijada, con un conjunto de posibilidades no aplicadas, gracias a un miedo descomunal de un cambio de paradigma, estamos inmersos en un mundo totalmente cambiante al cual tratamos de dar sentido y certeza, donde nuevas tecnologías tienen un papel fundamental en un sentido general.

Inteligencia artificial y liberalismo. ¿Una alianza fatídica?

¿Los conceptos de libertad se pueden deslindarse del liberalismo? La repuesta es un tanto obvia, no se puede hablar de un liberalismo sin libertad y es imposible no hablar de ambos, concedimos a la libertad como hecho natural, es decir algo que por derecho tenemos y el cual se nos otorgó desde el momento de nacer, aunque la percepción de la libertad no ha sido la misma a lo largo del tiempo, en las últimas décadas damos por sentado que es uno de los derechos más valiosos que tenemos como individuos gracias a el posicionamiento del liberalismo, sin embargo ya no estamos en esos años donde las ideas liberales predominaban, un creciente descontento por parte de los individuos se hace evidente, lo que hace que reflexionemos sobre si el liberalismo está en un punto crítico y si este se lleve consigo a la aplicación moderna de libertad, innegablemente las estructuras de contención que han establecido las instituciones en torno al derecho de libertad no la dejaran caer tan fácilmente, es aquí donde las nuevas tecnologías del siglo XXI juegan un papel crucial que podía redefinirlo todo, ¿Cuál sería este papel crucial y harían desequilibrar lo que hoy conocemos como ideas de cooperación global?

Hablamos de la libertad como valor supremo que ínsito a alianzas entere personas y redefinió la forma de pensar como un solo, su concepto históricamente no ha sido inmutable, en La Republica de Platón la concepción de libertad es un autodominio racional, es decir, una persona es libre si sus deseos racionales dominan sobre sus deseos irracionales, más adelante esta concepción fue catalogada como precursora de las ideas sobre la libertad positiva, este tipo de libertad se define según Hegel, como la capacidad de auto-realizarse. Si existen ciertos recursos, habilidades o capacidades para la autorrealización, entonces el tener estos recursos se considera como parte de la libertad, al intervenir el estado como proveedor este se convierte en un pilar fundamental para la libertad, en otras palabras, la libertad positiva corresponde al hecho de formar parte de decisiones públicas o controlarlas. En 1958 Isaiah Berlin publica su tratado llamado Dos conceptos de libertad donde defiende que el valor de la libertad emana de la gran diversidad de valores presentes en la experiencia humana, Berlin también describe el otro concepto de libertad, la libertad negativa que complementa perfectamente a la libertad positiva, Hobbes a pesar de no tener ideas liberales, muchos lo describen como un individualista y autoritario, emplea el concepto de libertad negativa de una forma muy elocuente, según la teoría hobbesiana la libertad es la ausencia de oposición, es decir la ausencia de elementos externos que puedan afectar la realización de las tareas que el individuo hace en virtud de su ingenio. Al final sin importar la evolución y la aplicación del concepto todos los pensadores liberales clásicos y contemporáneos convergen en que la libertad humana es el valor más importante, ¿Dónde nace la necesidad de tener en alta estima a la libertad?, Miguel Azaña dijo: “La libertad no hace felices a los hombres, los hace sencillamente hombres”, y si es así ¿Qué es lo que hace al ser humano, humano?, la capacidad de elegir y decidir es en esencia lo que nos hace humano, en otras palabras, la libertad es lo que hace que nuestra existencia tenga sentido.

Por su parte esta disrupción tecnológica promete revolucionar cada aspecto de nuestra la vida, desde lo más cotidiano hasta los más técnico y especifico, pero la ciencia de datos y el desarrollo de inteligencia son aspectos que han provocado que entremos a dilemas que hace cincuenta años solo se trataban en novelas de ciencia ficción, hoy tenemos aplicaciones a la vuelta de la esquina, la invención del robot humanoide sophia, por parte de la compañía Hanson Robotics, es un ejemplo, este robot está dotado con un potente algoritmo de inteligencia artificial, ha desconcertado a toda persona que ha tenido contacto con él, por esto es gracias a la gran capacidad de autoaprendizaje que exhibe y la forma tan eficiente con la que interactúa con los humanos, hace reflexionar sobre la delgada línea que existe en lo que consideramos como máquinas y el inmenso poder de los datos, con cada vez que utilizamos un dispositivo electrónico, cada vez que realizamos una búsqueda en la red o le damos un me encanta en una red social, transferimos minuto a minuto datos, entregamos una llave con la facultad de abrir cualquier puerta, ¿Cuántos datos se generan cada minuto?, es así como la empresa Domo abre la séptima edición de su litografía Data Never Sleeps (los datos nunca duermen), con cifras que dejan boquiabiertos a más de uno, por ejemplo cada minuto del día se ven 4,500,000 videos e YouTube, se postean 55,140 fotos en Instagram, se hacen 4,497,420 búsquedas en Google. Si bien el acopio de estos datos puede ser satanizado, con un buen uso y tratamiento de estos se puede hacer grandes cosas, en teoría los grandes problemas que enfrentamos actualmente se pueden resolver con éxito gracias de inteligencia artificial y macrodatos, por ejemplo, para predecir las variaciones en los mercados, las sequias, la escasez de alimentos, la tasa de delincuencia y la prevención del delito, la marginación de las poblaciones, el comportamiento de enfermedades, en fin, la lista es interminable y pese a lo que muchos opinan, el beneficio que se puede obtener para la humanidad es espectacular.

Y ahora bien ¿Cuáles son las repercusiones tiene que las potenciales aplicaciones de la inteligencia artificial en la concepción las ideas de globalización y del liberalismo?, a simple vista se podría pensar que no hay conexión alguna, sin embargo, va más allá de eso, si la posibilidad de elegir y decidir nos da sentido de existencia como individuos y es visto como valor clave para el liberalismo, es totalmente valido tratar de definir de donde viene esta capacidad, este libre albedrio nace con forme a nuestras experiencias, emociones y sentimientos, que veces responden a deseos tan básicos y primitivos heredados por nuestros ancestros, Marvin Minsky, uno de los más grandes visionaros de la época moderna, plantea que las emociones, los sentimientos y conceptos un poco más abstractos como la conciencia son producto de redes de procesos cerebrales complejos cuyo funcionamiento puede ser analizado y replicado en una computadora, al fin de cuentas se trata de procesos donde interfieren señales bio-eléctricas y una serie de cálculos rápidos. La visión a la que Minsky le dedico toda su vida ha sido una labor titánica, pero nos acercó más a entender como algoritmos pueden ser capaces de comportarse como la mete humana, es decir convertirlos cada vez más en humanos, no obstante no hace falta alzar la mirada hacia este mundo un tanto utópico, sophia es solo un ejemplo de esto, en este momento existen sistemas que si bien no replican el conjunto de procesos neuronales llevados a cabo por un ser humano, pueden comprender la psicología y tomar las decisiones eficientes que se adapten a las necesidades de las personas con los que estos interactúa, la plataforma de streaming conocida como Netflix genera una gran cantidad de datos que recopila de sus usuarios, un algoritmo es el encargado de analizar dichos datos, cada vez que un usuario ve cierto contenido, el algoritmo da una serie de recomendaciones personalizadas, algo similar pasa con Amazon, una de las plataformas de ventas por internet más grande de mundo, su algoritmo da recomendaciones de compras de acuerdo a los datos de consumo de cada cliente, otro ejemplo es el motor de búsqueda Google, los datos que son recabados por sus marcadores hacen que se produzca un mundo tan sofisticado donde navegan miles de datos con una infinidad de aplicaciones, una de estas aplicaciones y la más conocida es el ofrecer publicidad especifica en otras plataformas como YouTube o Facebook, y hablando de este último te has preguntado ¿Cómo funciona el sistema de feed de noticias que se presentan en esta red social o como presenta tus sugerencias de amistad?, todo es gracias a este mundo de datos que les proporcionamos consciente o inconscientemente a estos algoritmos, un arma increíblemente poderosa. Estos casos pueden sonar banales, pero existe un trasfondo bastante interesante, el comprender como es que cada vez es mayor la toma de decisiones por parte de algoritmos y como podría repercutir en la vida de las personas, es un tema fundamental.

Existen dos factores que pueden determinar un antes y un después en la forma de comprender nuestra realidad, el primero es que empieza a dar da paso a una población inútil, que espera a la solución de problemas por una inteligencia artificial y el segundo, de más interés para este escrito, es que empieza a socavar lentamente la capacidad que tienen los individuos para decidir, y aclaro no es afirmar o catalogar a estos avances como negativos, al contrario, las decisiones que pueden sugerir estos algoritmos hoy o en un futuro son en teoría las mejores gracias a todos los datos recabados, pero ¿Qué pasara cuando algoritmos empiecen a elegir con quién cazarte, que estudiar?, al decidir elecciones cruciales en la vida de las personas, si una inteligencia artificial elije al candidato más apto ¿Qué pasara con el sistema democrático?, si se decide aspectos tan cotidianos de la vida ¿Qué pasara con los valores supremos mencionados por Luis Villoro?

Hasta ahora se ha tratado el tema de como el desarrollo de inteligencia artificial puede inferir en la reorganización de ideas globales, específicamente en el concepto libertad, sin embargo, examinemos como puede cambiar la forma de ver un factor central en el liberalismo, la democracia como sistemas de gobierno, ¿Por qué los administraciones meramente totalitarias han fracasado en su ejercicio de gobernar al igual que la mayoría de las tiranías o de las dictaduras?, para responder esta pregunta primero recordamos las características que comparten los gobiernos totalitarios con las tiranías y las dictaduras, para Hannah Arendt, el totalitarismo fue un nuevo sistema de gobierno que se diferenciaba por el uso del terror, pero que compartía características con otras formas de gobernar, por ejemplo, revocación de las libertades y la concentración de poder en una sola persona, es en esta última se encuentra la falla, es imposible controlar la gran cantidad de información generada por una nación y agruparla en una sola persona o en un grupo reducido de personas, es así como estos gobiernos llevaron a sus administraciones a ser inviables, contraponiéndose a estas formas particulares de gobernar, las democracias descentralizaron el poder en instituciones capaces de gestionar de forma eficiente la información, pero con el uso de algoritmos las naciones totalitarias podrían retomar un gran auge en los años futuros, Fernando Mirles en su escrito, Civilidad y barbarie. Acerca de las relaciones entre la sociedad civil y la política hace una analogía entre la poesía y las dictaduras como un mundo mágico, describe a un dictador como aquel que confunde al estado con su propia biología, al estado en pueblo y al pueblo otra vez en sí mismo, ¿Qué pasaría si gobiernos como el del Kim Jong-un utilizara a la inteligencia artificial como principal recurso para perpetuarse?, en un mundo donde las instituciones que introdujo el liberalismo se desvanecen, este es un escenario que podrá convertirse en una realidad, más probable que robot asesinos tomando el control.

La humanidad desde sus primeros asentamientos trato de explicar lo que sucedía a su alrededor confiriendo toda clase de atributos a seres celestiales a tal punto que se convirtieron en leyes divinas, que hasta hace unos siglos regían cada aspecto de lo humano, hoy son las personas las que dirigen su propia libertad de elección, Yuval Noah Harari, platea una autoridad cambiante que pasara de los humanos a algoritmos, porque al fin y acabo la ciencia ha demostrado que lo que conocemos como libre albedrío proviene de una serie de cálculos cerebrales y de una bien orquestada maquina biológica totalmente reproducible o al menos esta era la visión idealista de grandes mentes como Minsky, concluyo diciendo que a pesar de los enormes beneficios que podemos obtener de la inteligencia artificial en general se enfrenta y se enfrentará en un camino totalmente accidentado con un innumerable número de dilemas sociales, religiosos, éticos y morales que ya están sobre la mesa, el liberalismo está en un punto de inflexión, donde las ideas de democracia, libertad y de derechos humanos, se vuelven vagas, se está redefiniendo la ideología que en los años noventa que dio forma al mundo actual, moldeando una nuevo panorama de objetivos globales y del sentido de pertenecía hacia la cooperación entre individuos, el futuro muchas veces es incierto y eso nos aterra, pero el progresó de nuestra especie no se puede frenar, y tal vez lo más difícil es que nos enfrentaremos a un cambio de paradigma sin precedentes, con escenarios sin precedentes algunos favorables y otros que simplemente ponen a temblar a cualquiera. Cuando nacemos en una determinada época damos por sentado nuestra realidad como si se tratara de un dogma, de ahí viene la complejidad de un cambio de visión, de lo anterior podemos decir que un cambio de paradigma es tan complejo como afirmar que todas las personas lo aceptarían, mas no es imposible, la humanidad se ha enfrentado desde que tomó conciencia de sí a cambios que dieron pie a la mejor versión esta especie puede tener, el ser conscientes que somos diferentes y al acepar cuestiones como la equidad de género y la homosexualidad son ejemplos de cambios de la forma de comprender el mundo, somos seres pensantes capaces de crear una infinidad de formas hermosas, la inteligencia artificial es una de ellas, solo nos queda aceptarla como lo que es, una herramienta que podía hacernos repercutir de una forma que ni siquiera podemos imaginar y controlar las aplicaciones destructivas que esta pueda tener, con cada salto tecnológico viene una revolución en nuestra forma de ver nuestro entorno, de nuestra forma de pensar y eso es lo que hace que una civilización evolucione.

Referencias

1. Ariza, S. (2017). El concepto de libertad en la República de Platón. Revista Archai, (19), 33-59. doi: 10.14195/1984-249x_19_2
2. Data Never Sleeps 7.0. (2019). Recuperado el 9 de agosto de 2019, de: https://www.domo.com/learn/data-never-sleeps-7#/
3. Gray, J. (1994). Liberalismo. Madrid: Alianza Editorial.
4. Harari, Y. (2016). Sapiens. De Animales a Dioses. Barcelona: Debate.
5. Harari, Y. (2018). 21 lecciones para el siglo XXI. Barcelona: Debate.
6. Minsky, M. (2010). La Máquina de las emociones. Barcelona: Debate.
7. Mires, F. (2001). Civilidad y barbarie. Acerca de las relaciones entre sociedad civil y política. Espiral 7(21), 59-97
8. Rodríguez, P., Rizzo, J., & Pentland, S. (2018). Inteligencia artificial. Barcelona: Ediciones Deusto.
9. Villoro, L. (1997). El poder y el valor. Mexico, D.F.: Fondo de Cultura Economica.
10. Touraine, A. (2016). El fin de las sociedades. Distrito Federal: Fondo de Cultura Económica.
11. Vargas, J. (2011). Los orígenes del totalitarismo de Hannah Arendt y la manipulación de la legalidad. Revista bolivariana de derecho (11), 114-131
12. Zygmunt, B. (2010). Modernidad líquida. Buenos Aires: Fondo de Cultura Economica.
13. ¿Cómo funciona el cerebro de Sophia, el robot con ciudadanía? (2019). Muy Interesante. Recuperado el 14 julio de 2019, de: https://www.muyinteresante.com.mx/ciencia-y-tecnologia/como-funciona-el-cerebro-de-sophia-el-robot-con-ciudadania/
14. Interview for Woman’s Own (‘no such thing as society’) (1987). Margaret Thatcher Foundation. Recuperado el 7 de agosto de 2019, de: https://www.margaretthatcher.org/document/106689.
15. Principio del formulario