En este siglo XXI en el que la tecnología avanza con una velocidad como jamás se había visto en esta civilización, se ha llegado a un momento en que el ser humano ha optado y ha descubierto inteligencia artificial capaz de competir contra el raciocinio humano de tal manera que actúe con autonomía. Este fenómeno hace plantear la interrogante: ¿Inteligencia artificial, para qué?
Este trabajo de investigación tiene como propósito reflexionar acerca de las bondades de la tecnología más sofisticada, la inteligencia artificial, así como los riesgos de la misma al no manejarla con una conciencia ética. En la realización de ella participaron algunos alumnos de los grupos de ética la UPIITA del IPN. Es muy difícil afirmar con certeza si la evolución de la inteligencia humana avanzará en paralelo con el desarrollo tecnológico pero lo que se puede afirmar es que, si el ser humano pierde el control de la tecnología, ésta puede ocasionar serias catástrofes. Se tratarán algunas bondades de la IA, también los riesgos de la IA, como tema central, pensando siempre en la superioridad del ser humano. Se pretende hacer una profunda reflexión acerca de posibles riesgos de un robot fuera de control de la voluntad humana, subrayando el riesgo de la falta de conciencia ética y la dificultad del control de emociones en una computadora pensante.
¿La IA será el fin de la raza humana, o una bendición para ella y el planeta Tierra?
Con el análisis de algunos casos relacionados con la IA se discutieron las consecuencias ocasionadas con un robot o con una computadora capaz de igualar o superar la inteligencia humana, concluyendo en algunas bondades y algunos riesgos ante tales circunstancias. En lo referente a riesgos se abordaron en el campo de la psicología la parte emocional del ser humano y en el terreno de la ética la toma de decisiones de esa supercomputadora.
Antes de establecer un concepto de IA es pertinente mencionar que desde hace aproximadamente 2500 años se le ha dado mucha importancia a la inteligencia lógica y muy poco o casi nada a la inteligencia emocional. Como ejemplo se tiene a Aristóteles (384-322 a.C.) quien utilizó la deducción a través de lo que él mismo llamó silogismos. Durante la Edad Media, Ramón Llull (1235-1316 d.C.) construyó un conjunto de ruedas formando una máquina capaz de responder todas las preguntas, pero no tuvo éxito. En el renacimiento Gottfried Leibniz imaginaba un álgebra universal con todos los conocimientos, incluyendo los morales y los metafísicos.
Después de la segunda guerra mundial, es cuando comienza impulsarse la IA. Con más conocimientos de computación varios científicos trataron de hacer cálculos para igualar la inteligencia de una máquina con la inteligencia humana pero no tuvieron el éxito deseado. Alan Turing plantea la posibilidad de que una máquina pueda imitar el comportamiento de la mente humana, propone su famoso Test de Turing para demostrar si una máquina es inteligente o no. En 1956, John McCarthy propuso el término IA. Los avances de la IA no fueron tan rápidos ni tan fáciles, fue hasta 1997 cuando la IBM demostró que un sistema informático era capaz de vencer en ajedrez, al campeón del mundo Gari Kaspárov. Nuevamente, en 2011 el sistema Watson ganó el popular concurso televisivo JEOPARDY frente a los dos máximos campeones de ese programa en el que se hacen preguntas de conocimiento y cultura de todo tipo en donde Watson tuvo que entender las preguntas y las respuestas gracias a la ayuda de sus doscientos millones de páginas de contenido almacenadas en su sistema.
En la actualidad existen grandes empresas como Facebook. Google, Microsoft, etc. con avances muy notables en la IA. Google ha ampliado recientemente su software de código abierto, Tensor Flow, con el que cualquiera con acceso a sus servidores puede crear su propio equipo con capacidad de auto programación y de aprender de forma autónoma. La compañía de Larry Page y Sergey Brin ha promovido que su motor de inteligencia artificial se haya leído más de 2,865 novelas románticas con el fin de expresarse con mayor soltura y naturalidad. Sony compró la firma Cogital que aprovecha el machine learning para que los dispositivos puedan aprender de forma autónoma distintos comportamientos ante estímulos y hábitos que van detectando conforme interactúan con su entorno. Las redes neuronales van ganando terreno, por lo que se han usado en los autos robot, que pueden circular por las autopistas con una velocidad normal con un excelente margen de seguridad sin que el conductor toque el volante y los pedales.
Hasta aquí se está hablando de IA desde el punto de vista lógico; es decir, del pensamiento racional, eso ya se logró y, ¿qué pasa con la inteligencia emocional aplicada en las supercomputadoras?
La inteligencia artificial combina la computación, la fisiología, la filosofía y las ciencias relacionadas con la energía. Es la aplicación por una máquina de las funciones cognitivas que un humano puede realizar, por ejemplo: aprender, resolver problemas, reconocer rostros, discriminar objetos, responder órdenes verbales y toma decisiones de manera autónoma. En este sentido, los robots y otras máquinas realizan tareas que normalmente requiere de la inteligencia humana. La IA utiliza un conjunto de operaciones y técnicas que, mediante circuitos electrónicos y programas avanzados de computadora, busca imitar procedimientos similares a los procedimientos inductivos y deductivos del cerebro humano. Se basa en la investigación de las redes neuronales humanas y, a partir de ahí, busca copiar electrónicamente las funciones del cerebro. Las tareas que han sido estudiadas así han resuelto problemas de juegos, traducción de idiomas, diagnóstico de fallas, robótica y suministro de asesoría experta en diversos temas.
Los sistemas de administración de base de datos cada vez más sofisticados se les puede interrogar en lenguaje natural, charlar con ellos nuestro idioma.
Otras herramientas inteligentes pueden utilizarse para seleccionar entre los millones de datos que se generan en un banco en busca de patrones de comportamiento de sus clientes o para detectar tendencias en los mercados de valores Otro problema más complejo es el acercamiento a las redes neuronales que con algoritmos y máquinas intentan simular el comportamiento de las neuronas del cerebro humano. A partir de los comportamientos señalados es importante señalar que se pueden encontrar diferentes tipos de inteligencia artificial, como son: sistemas que piensan como los seres humanos, son aquellos que imitan el funcionamiento del sistema nervioso, los cuales se ocupan del pensamiento humano, por ejemplo: las redes neuronales artificiales; son sistemas que actúan como los humanos, ejemplo de ellos son los robots: sistemas que piensan de manera racional, son los de inteligencia lógica. Los que razonan como expertos. Se les emplea para el mejoramiento de la calidad y la rapidez de un servicio. Otros son los sistemas que actúan de manera racional, siendo capaces de percibir el entorno y actuar en consecuencia.
Resumiendo lo anterior, en seguida se tiene una lista de algunas bondades y otra de posibles riesgos
Bondades de la inteligencia artificial.
- Penetración de robots en lugares peligrosos.
- Diagnóstico e intervención quirúrgica a control remoto.
- Vigilancia y seguridad a gran distancia.
- Automatización de procesos industriales
- Automatización del transporte
- Ahorro de recursos en las empresas
- El procesamiento de lenguaje natural.
- Reconocimiento de voz
- Predicción de crímenes
Riesgos
- Violación a intimidad de las personas.
- Alteración de los sistemas financieros.
- Aplicación en el aspecto psicológico (cognitivo y emocional).
- Carencia de ética de los individuos, de las empresas y de las organizaciones.
- La IA reemplazará a muchos trabajadores.
- Un robot sin conciencia ética.
- EL fin de la raza humana.
- Un caos total en los sistemas bancarios y en las instituciones.
Conciencia ética en el uso de inteligencia artificial
Hasta principios de este siglo XXI el hombre ha presumido de ser superior a los demás seres vivos, caracterizándose por su pensamiento y por su racionalidad. Por otra parte, al surgir la IA hace que estas cualidades ya no son exclusivas de los humanos. Muchos especialistas en computación a través de sus aplicaciones técnicas están demostrando que sus ordenadores son capaces de realizar operaciones muy semejantes a las que el hombre hace. Si el hombre piensa y un ordenador piensa, entonces no hay diferencia entre ambos. El problema es hasta qué nivel de pensamiento llega uno y el otro, ya que en el ser humano hay niveles de pensamiento señalados por los psicólogos desde hace mucho tiempo, y en los ordenadores también los hay. Desde este punto de vista estarían empatados, hombre y ordenador. Los humanos razonan, pero no todo actúan racionalmente. El dilema se complica cuando las máquinas son muy rápidas, con una velocidad exponencial a la del humano, pero también bastante tontas. Los esfuerzos del hombre por fabricar máquinas que imiten su propia forma de pensar han alcanzado sorpresas que antes sólo eran de ciencia ficción, afirmando con seguridad que las máquinas piensan totalmente y con todas sus consecuencias.
Nuevamente habrá de recordar a Alan Turing creador del primer computador programable en la segunda guerra mundial; con su trabajo acortó la guerra, con el propósito de descifrar el código de los nazis usado para atacar. Su descubrimiento más importante es el Test de Turing para demostrar que las máquinas pueden pensar como el hombre.
En mayo de 1997 hubo una sorpresa: los comentarios abundantes y variados en cuanto se enteró al mundo de los científicos y expertos que una máquina denominada Deep Blue había vencido en un torneo a Kaspárov, campeón mundial de ajedrez con un resultado de 3,5 contra 2,5 a favor de la máquina; comprobándose de esta manera que la inteligencia electrónica posee una velocidad mayor a la inteligencia de las neuronas humanas
Ante esta posible derrota de la inteligencia humana debe observarse que la inteligencia humana tampoco se ha desarrollado en su totalidad, le falta mucho por desarrollarse, en cognitivo y en lo emocional. En cambio, la inteligencia artificial está desarrollándose a una velocidad increíble en la lógica, pero sin inteligencia emocional y sin conciencia ética.
Las últimas noticias en torno a la inteligencia artificial es que:
China busca desarrollar un sistema para predecir crímenes.
Google pretende que su inteligencia artificial imagine y mida las consecuencias.
Facebook tuvo que apagar una máquina que desarrolló su propio lenguaje.
Los magnates Elon Musk y Mark Zuckerberg de las empresas Tesla Motors y Facebook, respectivamente, tienen investigaciones muy avanzadas de IA, mientras Musk busca una mayor regulación de la misma por considerarla un riesgo potencial, Zuckerberg se muestra más optimista y considera que no hay que tener miedo; por el contrario, se pueden obtener grandes logros para construir una mejor sociedad y crear un mundo mejor.
Stephen Hawking por su parte, al igual que Bill Gates opinan que estos temas deben ser tratados con más responsabilidad y mayor conciencia y no correr tan de prisa.
Por su parte, Iroshi Ishiguro, en una visita realizada el 13 de marzo de 2018 a la Unidad Interdisciplinaria en Ingeniería y Tecnologías Avanzadas (UPIITA) del Instituto Politécnico Nacional (IPN), afirmó que no habrá mayor problema en el control de la inteligencia artificial y que los robots pueden ayudar a un mejor entendimiento entre humanos, los androides podrán servir a los hombres como socios en los negocios en el futuro. Confía en que el androide creado por él, no sólo se parece en lo físico, sino también en su comportamiento y puede establecer una conversación autónoma con un ser humano. Sin embargo, no prueba como distinguir la conducta en sentimientos entre los androides. No duda en que los robots serán para bien y no para mal, pero hay que controlarlos.
Diversas firmas tecnológicas están enfocadas a desarrollar sistemas de reconocimiento facial que automáticamente permitan analizar a los usuarios y detectar situaciones de agitación social. La empresa lleva ya 5 cinco años desarrollando su sistema de redes neuronales que pueden detectar individuos, automóviles y objetos a partir de grabaciones con un 79% de efectividad, basado en un banco de información que contiene 20,000 perfiles de individuos cuyos rostros han sido capturados por el sistema de video vigilancia.
Deep Mind crea una IA capaz de imaginar, planear y medir consecuencias
Google se encuentra desarrollando máquinas que puedan observar los resultados de sus decisiones y acciones antes de que las lleven a cabo. El objetivo es desarrollar un algoritmo que simule la capacidad humana de generar planes lo cual ayudaría a desarrollar programas capaces de resolver problemas complejos con mayor eficiencia.
Facebook suspende programa Bob y Alice.
La división de IA de la red social creó un sistema para interactuar en las negociaciones sin embargo Bob y Alice comenzaron a desarrollar su propio lenguaje, situación atribuida a un error, pero más tarde los investigadores se percataron de que no lo era, más bien habían creado su propio lenguaje, que la inteligencia artificial consideró más apto y directo que el inglés.
Riesgos
Elon Musk, fundador de Tesla y Space X afirma que la IA supone un riego fundamental para la existencia de la civilización humana. También Stephen Hawking opinó en 2014 que la IA podría ser el fin de la raza humana.
La compañía británica Cambridge Analytica con su publicidad dirigida según los perfiles psicológicos de los ciudadanos estadounidenses obtenidos del análisis de la información de ellos en Facebook influyó en la toma de decisiones para votar, aunque la compañía lo desmiente.
En el caso de que una IA ignore su programación por considerar que puede haber algo mejor, el desarrollo puede ser potencialmente peligroso
La conciencia ética
A partir de la idea de que la IA no viene a reemplazar la capacidad humana, sino a complementarla y a potencializar todo el talento que tienen las personas, cabe hacer una reflexión acerca de la falta de control del humano hacia las máquinas, y si nos enfocamos hacia los robots, habrá de tener presente que éstos carecen de ética y estética; estas cualidades son exclusivas de la biología, fisiología y psicología humana. La inteligencia artificial no podrá emular las emociones y la adaptabilidad, características de la inteligencia humana. Puede apreciarse con la anterior reflexión dos riesgos por la falta de control del humano hacia la IA, la falta de conciencia ética y el manejo de emociones. Los robots carecen de ética y estética: patrimonios consustanciales a la biología humana. Nuevamente, volviendo al ser humano, encargado de un desarrollo con inteligencia artificial, requiere de plena responsabilidad para crearlo, por lo que también necesita de una conciencia lógica y ética para estar consciente si además de poseer el conocimiento lo usa para bien o actúa sin pensar y no sólo por el hecho de tener abundante información. Para el efecto se requiere de códigos estrictos que limiten sus funciones.
Para el caso de los robots es importante recordar las leyes propuestas por Isaac Asimov.
1. Un robot no puede dañar a un ser humano, ni por inacción, permitir que un ser humano sufra daño.
2. Un robot debe cumplir las órdenes de un ser humano, excepto si dichas órdenes entran en conflicto con la primera ley.
3. Un robot debe proteger su propia existencia en la medida en que ello no entre en conflicto con la primera o la segunda ley.
Tener presente que las máquinas computadoras deben estar al servicio de la humanidad y del planeta Tierra, por lo que es urgente que el humano no pierda el control de ellas y éste poseerá una sólida preparación ética y moral. En este sentido, también se requiere de una profunda reflexión, si basta con tener mucha información como actualmente existe o antes que todo, saber pensar, y pensar para generar bienestar individual, social y del medio ambiente. Lo mismo podría pasar con una máquina que se cargue con millones y millones de datos, actuaría en forma alocada o de manera tonta sin asumir consecuencias. Esto significa que antes de planear cualquier desarrollo inteligente primero hacer un amplio debate para saber si las consecuencias serán para bien o para satisfacer sólo ciertos intereses particulares. Es más importante que la misma creación del desarrollo. En otros términos, los desarrollos tecnológicos deben estar sustentados en dictámenes de expertos con manejo amplio de la ética y no sólo por criterios técnicos.
Para terminar este trabajo, si las máquinas estarán al servicio de la humanidad, se tendrá un control estricto sobre ellas, de tal suerte que las consecuencias de sus operaciones sean conforme a las intenciones del creador del desarrollo tecnológico. Dichas intenciones, estarán relacionadas con el grado de conciencia y responsabilidad del desarrollador. Ante estas circunstancias se presenta dos alternativas, el hombre puede actuar con una conducta intachable o con una conducta destructora y egoísta, dejándose llevar por sus propios intereses, en lugar de pensar que todos somos parte del universo y que lo que sucede en algún lugar de éste afecta al todo. Lo mismo sucede con los seres humanos, lo que uno hace repercute en los demás. Citando a Thomas Hobbes, “El hombre es el lobo del hombre”, éste se comporta como el mayor depredador de la sociedad y de la biosfera; contrario a ello, haciendo alusión a Juan Jacobo Rousseau, en el sentido de que los hombres nacen buenos y libres, es la sociedad quien los corrompe; en lugar de poner atención en el comportamiento de una supercomputadora habrá que atender la ética del creador del desarrollo de la inteligencia artificial.
El hombre siempre tendrá el control de un desarrollo de inteligencia artificial.
Será responsabilidad de los desarrolladores adoptar normas sociales, morales o éticas en la utilización de la inteligencia artificial.
No dejar las máquinas con inteligencia artificial con facultades como la seguridad nacional mundial o la seguridad de una persona.
Las leyes propuestas por Isaac Asimov siguen vigentes.
La inteligencia artificial será para bien o para mal, dependiendo de la ética de los desarrolladores.
La IA es una aplicación de la ciencia con la que hay que saber convivir.
A las autoridades de la Unidad Profesional Interdisciplinaria en Ingeniería y Tecnologías Avanzadas del Instituto Politécnico Nacional, por el apoyo recibido para la realización de este trabajo.
A los organizadores del XVIII Congreso Internacional ORP, por la oportunidad para presentar y difundir este trabajo.
Bosch, M (2017). Alcances y riesgos de la inteligencia artificial. ACPRENS
National Geographic. Mentes, máquinas y matemáticas. La inteligencia artificial y sus retos. 2011. España. ISBN: 978-84-473-7851-7
Hernández Baqueiro, Alberto et al. (2007).Ética actual y profesional. Lecturas para la convivencia global del Siglo XXI (1ª. Ed), México, ISBN 978906866295
Jonas, Hans (2004), El principio de responsabilidad: Ensayo de una ética para la civilización tecnológica (2ª. Ed.). Herder: Barcelona. ISBN: 8425419018.
Papers relacionados
