Ética en la Evaluación y Aplicación de Inteligencia Artificial

Resumen

La ética en la ciencia y la tecnología, ensayo en el cual primeramente me gustaría destacar que la humanidad está inmersa en una revolución tecnológica sin antecedentes, la preocupación ética por la creación de nuevos tipos de inteligencia y tecnología requiere de un criterio moral para diseñar estas nuevas formas de ciencia. El algoritmo ha de ser capaz de descifrar y reconocer detalles presentes en acciones sociales y comunes que antes realizaba una persona. Con el creciente avance de la ciencia, el ser humano ha ido perdiendo poco a poco su ética personal, laboral y sobre todo social. Sin embargo, la manera en que las personas actúan consigo mismas y con los demás seres vivos, así como sus derechos, deberes y responsabilidades reflejan una gran ausencia de moralidad; la ética abarca todo un conjunto de principios, valores y creencias que contiene cada ser persona en su interior y que se encargan de determinar sus acciones en los diferentes ámbitos de la vida diaria. El debate sobre la IA está adquiriendo cada vez mayor relevancia social, una vez que se comienza a contemplar las posibles consecuencias para la economía, el empleo y la sociedad. Junto con este tipo de consideraciones, diversas instituciones se están comenzando a plantear también los dilemas éticos que serán la base de la legislación futura. etica y ciencia ensayo

Introducción

La IA es la ciencia que ha tenido un alto crecimiento en los últimos años, lo que unido a los acelerados progresos de la tecnología asociada a la informática, han obligado a investigadores y científicos a pronosticar el desarrollo de máquinas que no solo superen al hombre en el procesamiento de complejas operaciones matemáticas, ni en la manipulación de grandes volúmenes de información, el reto está en máquinas que han denominado ‘inteligentes’ porque serán capaces de realizar tareas que hasta el momento sólo desarrollan los humanos.

La evolución de la IA ha sido el detonante de importantes transformaciones en varios ámbitos de la vida, el dominio tecnológico interviene en nuestras vidas y las altera por su gran fuerza de expansión. La competición entre la inteligencia humana y la IA estará presente para las próximas décadas. Tampoco se trata de dejarnos convencer por afirmaciones sobre lógica especial de la tecnología, como si ésta estuviera por encima del bien y del mal, exenta de toda reflexión moral.

Se trata de conocer cuáles son los avances tecnológicos más relevantes en el campo de la IA, y ver qué implicaciones éticas tienen en ámbitos comunes de nuestra vida tales; es importante asumir responsabilidad desde una heurística de temor, teniendo cuidado, cegados por un tecno centrismo que puede llegar a esconder una superstición cientificista.

Para una primera toma de conciencia es fundamental tomar responsabilidad, una tarea que no es nada fácil, y más en un momento histórico en el que únicamente se nos muestran los aciertos de la IA, pero, como todo en nuestra realidad, también tiene errores y consecuencias.

Podemos coincidir que este puede ser el inicio de una novela o cuento de ciencia ficción, pero varios investigadores pronostican que vivimos una etapa, en la que debido al desarrollo de las ciencias y las tecnologías se perfila el comienzo de una nueva era, en la que las máquinas se irán poco a poco adueñando de la sociedad, era a la que se denomina post humana.

Historia de la inteligencia artificial

Norvig &Russell(Norvig, P., y Russell, 2014), indican que la IA (Artificial Intelligence, o AI) es la simulación de procesos de inteligencia humana por parte de máquinas, especialmente sistemas informáticos. Estos procesos incluyen el aprendizaje (la adquisición de información y reglas para el uso de la información), el razonamiento (usando las reglas para llegar a conclusiones aproximadas o definitivas) y la autocorrección.

Milla(Milla Lostaunau, 2017), presenta que se desarrollaron los primeros ordenadores en las décadas de los años 40 y 50, algunos investigadores escribieron programas que podían realizar tareas elementales de razonamiento. En 1956 John Mc Carthy y Clude Shanmon coeditaron un volumen titulado Autómata Studies. La mayoría de los artículos del volumen trataban sobre los fundamentos matemáticos de la teoría de autómatas, por lo que Mc Carthy, decepcionado, decidió poner el término IA y usarlo como título de una conferencia celebrada en Dartmonth en 1956.

López (López Takeyas, 2007), indica que el primer paso hacia la IA fue dado por Aristóteles (384-322 a. C.), cuando comenzó a explicar y a codificar ciertos estilos de razonamiento deductivo que él llamó silogismo. Posteriormente, Ramón Lull (1235-1316), un místico y poeta catalán, construyó una máquina de engranajes, llamada Ars Magna, que supuestamente era capaz de responder a todas las preguntas.

Hernández (Hernández Mauricio, 2012), indica que hubo científicos y matemáticos que perseguían la automatización del razonamiento, Martín Saydner atribuye a Gottfried Leibniz (1646-1716) el sueño de un álgebra universal, mediante la cual todo el conocimiento, incluyendo las verdades morales y metafísicas, pueda ser algún día representado en un único sistema deductivo. Leibniz llamó a su sistema Cálculo Filosófico o raciocinado, fue un sueño, que no pudo realizar por la distancia tecnológica de la época.

Payrumani(Payrumani Ino, 2012), muestra que el programa al que se le da el mérito de ser el primero que demostró la importancia de recoger grandes cantidades de conocimiento específico del dominio fue DENDRAL, un sistema para predecir la estructura de moléculas orgánicas, a partir de su fórmula química y de su espectrograma de masas (Teigenbunm, Buchanan y Lederberg, 1971 y Lindsay et al, 1980). Una de las áreas en las que se ha realizado progresos sustanciales, al escalar el tamaño del problema, es el área de los juegos. El 11 de mayo de 1977, un programa, ordenador de IBM, denominado DEEP BLUE, consiguió vencer al entonces campeón mundial en ajedrez Gary Kasparov, por 3,5 a 2,5 en un encuentro de seis partidas. Este alto nivel de juego se ha conseguido gracias a la sinergia de sofisticados algoritmos de búsqueda, ordenadores de alta velocidad y hardware específico para el juego de ajedrez.

Aporte tecnológico y científico de la inteligencia artificial

• Robótica

Barrietos et al(Barrientos, Peñin, Balaguer, & Aracil, 1997), presenta que la robótica es la ciencia investigación, estudio y tecnología de los robots la cual se ocupa del diseño, manufactura y aplicaciones de los robots. Fukkink (Fukkink, 2017) indica que la robótica combina diversas disciplinas como son: la mecánica, la electrónica, la informática, la IA y la ingeniería de control .

Martín(Martín, 2007), presenta que la historia de la robótica ha estado unida a la construcción de ‘artefactos’, que trataban de materializar el deseo humano de crear seres a su semejanza y que lo descargasen del trabajo.

Francis(Francis, 2016), presenta que el término robótica es acuñado por Isaac Asimov, definiendo a la ciencia que estudia a los robots. Además, creó también las Tres Leyes de la Robótica. Downton et al.(Downton, Gómez, & Royce, 2011), muestra que en la sociedad moderna, los robots ejecutan una diversidad de funciones, liberando a los seres humanos de tareas repetitivas y cotidianas, por un lado, a la vez que realizan trabajos peligrosos que trascienden las capacidades humanas, por el otro.

• Domótica

Coelho et al.(Coelho, Cruz, Coelho, & Cruz, 2017), indican que se denomina domótica al conjunto de sistemas capaces de automatizar una vivienda, aportando servicios de gestión energética, seguridad, bienestar y comunicación, y que pueden estar integrados por medio de redes interiores y exteriores de comunicación, cableadas o inalámbricas, y cuyo control goza de cierta omnipresencia, desde dentro y fuera del hogar. Se podría definir como la integración de la tecnología en el diseño inteligente de un recinto cerrado.

• Inmótica

Alaudell(Alaudell, 2009), indica que por inmótica entendemos la incorporación al equipamiento de edificios de uso terciario o industrial (oficinas, edificios corporativos, hoteleros, empresariales y similares), de sistemas de gestión técnica automatizada de las instalaciones, con el objetivo de reducir el consumo de energía, aumentar el confort y la seguridad de estos.

Hernández (Hernández, 2015), indica que bajo este nuevo concepto se define la automatización integral de inmuebles con alta tecnología. La centralización de los datos del edificio o complejo posibilita supervisar y controlar confortablemente desde una PC, los estados de funcionamiento o alarmas de los sistemas que componen la instalación, así como los principales parámetros de medida. La Inmótica integra la domótica interna dentro de una estructura en red.

• Urbótica

Gomis & Turón(Gomis & Turón-R., 2017), presentan que se denomina urbótica al conjunto servicios e instalaciones públicas que se encuentran automatizadas con el fin de mejorar la gestión energética, la seguridad, el bienestar o confort y las comunicaciones de todos los usuarios de estos servicios públicos. Se podría definir como la integración de la tecnología en el diseño inteligente de una ciudad.

1. Se pueden considerar sistemas Urbóticos los siguientes ejemplos:
2. Sistemas de Tele gestión y control del alumbrado público.
3. Sistemas de videovigilancia ciudadana.
4. Regulación semafórica.
5. Puntos de información ciudadana automatizados.
6. Recogida neumática de basuras.

 

Realidad virtual

Caballero et al(Caballero, Caballero, & Caballero, 2019)presentan que la realidad virtual es un sistema tecnológico, basado en el empleo de ordenadores y otros dispositivos, cuyo fin es producir una apariencia virtual que permita al usuario tener la sensación de estar presente en ella.

Levis(Levis, 1997), presenta que se consigue mediante la generación por ordenador de un conjunto de imágenes que son contempladas por el usuario a través de un casco provisto de un visor especial. Mundo virtual(Mundo-virtual, 2016), muestran que algunos equipos se completan con trajes y guantes equipados con sensores diseñados para simular la percepción de diferentes estímulos, que intensifican la sensación de realidad. Su aplicación, aunque centrada inicialmente en el terreno de los videojuegos, se ha extendido a otros muchos campos, como la medicina o las simulaciones de vuelo.

Castañares(Castañares, 2011), establece que es una nueva forma de relación entre el uso de las coordenadas de espacio y de tiempo, supera las barreras espaciotemporales y configura un entorno en el que la información y la comunicación se nos muestran accesibles desde perspectivas hasta ahora desconocidas al menos en cuanto a su volumen y posibilidades. La realidad virtual permite la generación de entornos de interacción que separen la necesidad de compartir el espacio-tiempo, facilitando en este caso nuevos contextos de intercambio y comunicación.

Ventajas y desventajas de la Inteligencia artificial

• Una ventaja importante de la IA es su potencial para completar tareas rutinarias a través de una intrincada automatización que aumentará la productividad. En teoría, esto puede incluso eliminar las tareas “aburridas” de los seres humanos y liberarlos para que sean cada vez más creativos.(Russell Stuart, n.d.)
• Decisiones más rápidas

El uso de la IA junto con las tecnologías cognitivas puede ayudar a tomar decisiones más rápidas y a llevar a cabo acciones rápidamente.(Russell Stuart, n.d.)

• Evitar errores

La frase “error humano” nació porque los humanos, naturalmente, cometen errores de vez en cuando. Los ordenadores, sin embargo, no cometen estos errores, suponiendo que estén programados correctamente. Con la IA, los datos pueden procesarse sin errores, sin importar el tamaño del conjunto de datos.(Russell Stuart, n.d.)

• Tomar riesgos en nombre de los seres humanos
• Con la IA, se puede argumentar que se pueden reducir los riesgos a los que se expone a los seres humanos en nombre de la investigación.
• Tomemos, por ejemplo, la exploración espacial y el rover de Marte, conocido como Curiosidad. Puede viajar a través del paisaje de Marte, explorándolo y determinando los mejores caminos a tomar, mientras aprende a pensar por sí mismo.(Russell Stuart, n.d.)
• El uso de la IA de esta manera podría dar lugar a beneficios masivos en áreas como el pronóstico de la demanda, el diagnóstico médico y la exploración petrolera.(Russell Stuart, n.d.)

 

Desventajas de la Inteligencia Artificial

• Altos costos

El hardware y el software necesitan actualizarse con el tiempo para cumplir con los últimos requisitos. Las máquinas necesitan ser reparadas y mantenidas, algo que supone un gran coste.(Russell Stuart, n.d.)

• No pueden pensar fuera de la programación

Los robots sólo pueden hacer el trabajo para el que están programados. No pueden actuar de forma diferente fuera de cualquier algoritmo o programación almacenada en sus circuitos internos. Y cuando se trata de una mente creativa, nada puede vencer a una mente humana.(Russell Stuart, n.d.)

Un ordenador no puede pensar diferente mientras hace o dibuja algo. Los pensamientos vienen de las emociones y experiencias que las máquinas no tienen. Así que la máquina no puede pensar fuera de la caja mientras que miles de nuevos pensamientos e ideas llegan a la mente humana.(Russell Stuart, n.d.)

• No pueden sentir compasión y simpatía

Russell(Russell Stuart, n.d.) indica que no hay duda de que las máquinas son mucho mejores cuando se trata de trabajar eficientemente, pero no pueden reemplazar la conexión humana que hace al equipo. Las máquinas no pueden desarrollar un vínculo con los humanos.(Russell Stuart, n.d.)

• Altamente dependiente de las máquinas

En la generación actual, la mayoría de la gente depende en gran medida de aplicaciones como Siri. Con tanta ayuda de la máquina, si los seres humanos no necesitan sus habilidades de pensamiento, estas disminuirán gradualmente. En el futuro, con el uso intensivo de la aplicación de la IA, el ser humano puede volverse totalmente dependiente de las máquinas, perdiendo sus capacidades mentales.(Russell Stuart, n.d.)

Análisis Ético

Un enfoque interesante para dotar de sentido común a las máquinas consiste en ubicar a las máquinas en entornos reales con el fin de que tengan experiencias que les doten de sentido común mediante aprendizaje basado en el desarrollo mental.

La cognición situada requiere que la IA forme parte de un cuerpo. Este resulta determinante para la inteligencia, ya que los sistemas perceptivo y motor definen lo que un agente puede observar y las interacciones que establece con su entorno. Se trata de una herramienta muy útil para automatizar procesos y solventar problemas cotidianos. Sin embargo, el desarrollo de esta tecnología debe ser responsable. Por ello, se hace hincapié en el tema de la ética en la IA. 

Elementos para tener en cuenta a la hora de desarrollar una inteligencia artificial ética

Ética y ciencia: ensayo en el cual a continuación hablaremos de los elementos éticos al emplear a la hora de desarrollar la AI, entre ellos están:

• Responsabilidad

Terrones (Terrones Rodríguez, 2018), analiza que los desarrolladores de IA son responsables de su resultado final. El juicio humano es el que permite crear algoritmos, que definen el éxito o el fracaso del sistema. Por ello, cada uno de los profesionales encargados de desarrollar IA deben tener en cuenta el potencial impacto que su tecnología puede tener sobre el usuario.

• El principio de responsabilidad de Hans Jonas

Terrones(Terrones Rodríguez, 2018), indica que en el año 1979, Hans Jonas publica El principio de responsabilidad en un ensayo sobre ética para la civilización tecnológica, una obra en la que plantea la necesidad de responder a los retos que la civilización actual nos presenta por medio de la tecnología. Esta obra se publica en un momento en el que la conciencia ecológica comienza a abrirse camino. Aunque esta obra está orientada a la formación de la conciencia ecológica, considero que las ideas que en ella se exponen son de suma valía para aplicarlas también a los desafíos futuros de la IA. El objetivo principal de El principio de responsabilidad es despertar la conciencia para asegurar la esencia de la humanidad en el futuro y la supervivencia de la naturaleza, mediante un cambio ético radical con la aplicación del principio de responsabilidad.

• Alineación de valores

Giraldo De La Caridad & Rodríguez(Giraldo De La Caridad & Rodríguez, 2017), presentan que para entender qué está bien o mal, los seres humanos nos basamos en nuestras experiencias, recuerdos, intereses y normas culturales, entre otras cosas. La IA no posee estos valores de base, por lo que es trabajo de los desarrolladores implementarlos. Por todo ello, la objetividad no existe ni siquiera en el caso de la IA.

• Equidad

Floridi(Floridi, 2007), menciona que los seres humanos estamos expuestos a sucesos de todo tipo. Por eso mismo, estos hechos pueden trasladarse a los sistemas que creamos. Una de las prioridades de toda IA debe ser minimizar los problemas en los algoritmos para que los datos en los que se basan sean equitativos y representen una muestra diversa.

• Derechos del usuario

Hernández & Pérez(Hernández-Pérez, 2018), indican que tener el control de nuestra propia información debería ser un derecho fundamental. Por eso, es importante respetar las normativas y leyes relativas a la protección de datos de los usuarios en función de su lugar de residencia.

• Mejoramiento humano

Terrones(Terrones Rodríguez, 2018), muestra que el enfoque del paradigma médico tradicional, el terapéutico, está fundamentado en una larga tradición judeocristiana, que hace que la reacción espontánea sea la de considerar la naturaleza humana como un elemento que tiene que ver con la “eternidad” y con lo “intangible”, de ahí que no sea posible en ningún caso mejorar, sino curar o reparar. Esto se debe principalmente a que la tradición judeocristiana ha plasmado en el espíritu tradicional de Occidente una idea de oposición a la alteración o modificación de la propia naturaleza humana. Pues bien, el transhumanismo se posiciona en contra de la postura tradicional judeocristiana, ya que se levanta sobre la máxima de un perfeccionamiento ilimitado y en desafío a la muerte y el envejecimiento, porque la ciencia y la tecnología nos brindan las herramientas necesarias para esos fines.

• Militar y de seguridad

Terrones(Terrones Rodríguez, 2018), muestra que nos enfrentamos a un importante cambio de visión de cómo se concibe el campo militar y de seguridad, que debe ser reflexionado desde la ética y siempre teniendo en cuenta el principio de responsabilidad

Para con la humanidad y para con el futuro, si queremos garantizar los derechos y la dignidad de los seres humanos, como dicta el Derecho Internacional Humanitario (DIH), es importante que se adquiera responsabilidad, siguiendo la línea de Jonas, y comenzar a pensar alternativas desde lo político y lo jurídico a partir de la incorporación de la IA en el campo militar. La COMEST –siglas en ingles de la Comisión Mundial de Ética del Conocimiento Científico y la Tecnología– ha reafirmado su compromiso con el mandato de la UNESCO –siglas en inglés de la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura– para promover y construir la paz, pues el objetivo principal es partir de análisis críticos y éticos sobre el uso de las tecnologías robóticas militar. La IA puede usarse en sistemas de entrenamiento con el proporcionamiento de enemigos impredecibles, el aumento de tropas, la automatización del combate, la optimización en la identificación de objetivos, etc.

Conclusiones

Al terminar el ensayo sobre la ética, ciencia y tecnología, en resumen diré que la tecnología nos está planteando escenarios que eran desconocidos. Sin embargo, se podría mantener que el hecho de que la humanidad tenga que enfrentar a nuevos desafios, como consecuencia de algún acontecimiento no es algo reciente, el nivel de complejidad es más alto que otras veces, pues la IA nos está conduciendo hacia situaciones que presentan riesgos significativos.

Es fundamental evaluar el impacto de la IA en nuestras vidas a un profundo debate académico, político, social, en el que todos aquellos sectores que se vean involucrados realicen un importante ejercicio de reflexión.

Las repercusiones de la IA en nuestras vidas fomentan la necesidad de imaginar alternativas y tiene que ver con la asunción de la responsabilidad. Como humanidad, nos enfrentamos a importantes desafíos, siendo necesario que discutamos desde el presente alternativas que garanticen un futuro de armonía. No se trata de comenzar la casa por el tejado, sino de dar los primeros pasos con humildad, pero con decisión, comenzando, desde los centros de estudio, desde los centros de trabajo, desde los círculos barriales, a discutir este gran acontecimiento que condicionará y comprometerá nuestra existencia en diversos campos.

La falta de reflexividad en el presente nos puede conducir a consecuencias inesperadas en el futuro. En este sentido, un ejercicio de cautela, en el que el principio de responsabilidad sirva como principio rector en todos los campos mencionados en este trabajo, puede permitir el inicio del camino de forjar la conciencia necesaria en este tiempo de gran poderío tecnológico y de consecuencias inesperadas.

Bibliografía

1. Alaudell, J. (2009). Domotica e inmótica, dos sistemas para un mismo objetivo. (Spanish). Directivos Construcción.
2. Barrientos, A., Peñin, L. F., Balaguer, C., & Aracil, R. (1997). Fundamentos de Robotica. In McGraw-Hill. https://doi.org/10.1109/PES.2004.1373159
3. Caballero, M. O., Caballero, I. O., & Caballero, A. O. (2019). REALIDAD VIRTUAL: In Salud y ciclo vital. https://doi.org/10.2307/j.ctvfb6z2h.18
4. Castañares, W. (2011). Realidad virtual, mímesis y simulación. CIC Cuadernos de Información y Comunicación. https://doi.org/10.5209/rev_CIYC.2011.v16.3
5. Coelho, D. F. B., Cruz, V. H. do N., Coelho, D. F. B., & Cruz, V. H. do N. (2017). Domótica. In Edifícios Inteligentes – uma visão das tecnologias aplicadas. https://doi.org/10.5151/9788580392210-02
6. Downton, G., Gómez, S., & Royce, C. (2011). Robots al rescate. Oilfield Review.
7. Floridi, L. (2007). Por Una Filosofía De La Información. Anthropos.
8. Francis, D. (2016). I, robot. World Oil.
9. Fukkink, R. (2017). Robotica. Management Kinderopvang. https://doi.org/10.1007/s41190-017-0104-x
10. Giraldo De La Caridad, I., & Rodríguez, L. (2017). La inteligencia artificial en la educación superior. Oportunidades y Amenazas. INNOVA Research Journal.
11. Gomis, J., & Turón-R., C. (2017). Implantación de elementos de sostenibilidad aplicados a la modernización de áreas productivas: España, un caso deficitario en la Europa del sur. DYNA. https://doi.org/10.15446/dyna.v84n202.57943
12. Hernández-Pérez, T. (2018). Ética y maximalismo digital: necesidad del pensamiento crítico sobre las tecnologías. Anuario ThinkEPI. https://doi.org/10.3145/thinkepi.2018.59
13. Hernández Mauricio. (2012). Agentes inteligentes.
14. Hernández, S. (2015). Automatización o control: La percepción de los usuarios de edificios de oficinas inmóticos. Revista Hábitat Sustentable.
15. Levis, D. (1997). ¿ Qué es la realidad virtual ? ¿ Qué es la realidad virtual ? Realidad Virtual.
16. López Takeyas, B. (2007). Introducción a la inteligencia artificial. Instituto Tecnológico de Nuevo Laredo.
17. Martín, S. et al. (2007). Historia de la robótica. Actas Urol Esp.
18. Milla Lostaunau, L. (2017). La inteligencia artificial. Quipukamayoc. https://doi.org/10.15381/quipu.v11i22.5480
19. Mundo-virtual. (2016). ¿Qué es la realidad virtual? Mundo Virtual.
20. Norvig, P., y Russell, S. (2014). Inteligencia artificial. In Elsevier Brasil. https://doi.org/M-26913-2004
21. Payrumani Ino, R. (2012). ¿Que es la Inteligencia Artificial? Revistas Bolivianas.
22. Russell Stuart. (n.d.). El próximo paso: la vida exponencial 1-PB. Retrieved from https://www.bbvaopenmind.com/wp-content/uploads/2017/01/BBVA-OpenMind-Inteligencia-artificial-de-beneficios-probados-Stuart-Russell.pdf
23. Terrones Rodríguez, A. L. (2018). Inteligencia artificial y ética de la responsabilidad. Cuestiones de Filosofía. https://doi.org/10.19053/01235095.v4.n22.2018.8311