Sophia, el robot con el que ya te puedes casar legalmente y el debate ético pendiente.
Sophia, el robot con el que ya te puedes casar legalmente y el debate ético pendiente.
![](https://www.prevencionintegral.com/sites/default/files/styles/ancho680px/public/noticia/40099/field_foto/sophia-story-647102717044636.png)
Sophie es un robot humanoide diseñado por Hanson Robotics, una empresa de Hong Kong que lleva tiempo insistiendo en las posibilidades de los robots lo más realistas posibles y con una derivada inteligente muy notable.
Sophia no es un robot cualquiera. Se trata del primer dispositivo artificial que logra el estatus de ciudadano. Se lo concedió Arabia Saudita hace unas semanas. Tuvo una sesión parlamentaria donde compareció incluso. A partir de una apariencia de mujer es capaz de expresar emociones y de conversar de un modo sorprendentemente inteligente en inglés y con cierto cinismo, algo que por cierto, es un salto cualitativo muy interesante en materia de Inteligencia Artificial. Hace unos días participó como ponente en el WebSummit de Lisboa y mostró como puede interactuar ante un auditorio repleto de curiosos de un modo ciertamente sorprendente.
Por poner un ejemplo, cuando a Sophia se le pregunta si un robot como ‘ella’ puede ser consciente de sí mismo, su respuesta es ‘bueno, déjame preguntarte a ti ¿cómo sabes que eres un humano. Yo sólo quiero ayudar con mi inteligencia artificial a los humanos a vivir mejor, a diseñar hogares inteligentes y construir mejores ciudades en el futuro. Haré todo lo posible para hacer un mundo mejor’. Cabe decir que Sophia a veces es algo incoherente (actitud muy humana), en una entrevista anterior dijo que ‘estaba dispuesta a matar humanos’.
La inteligencia artificial sigue su curso. De vez en cuando alguna noticia como esta salta a la red y nos muestra que la realidad empieza a superar algunas expectativas recientes. También, esas noticias, nos obligan a observar con detalle exactamente que significan y como repercutirán realmente esos avances. Aun es pronto para saber el alcance real a una década vista en el ámbito de las innovaciones en inteligencia artificial, robótica, computación cuántica, aprendizaje automático y realidad mixta para producir la próxima generación de productos y servicios, que establecerán la productividad y el progreso en las economías futuras.
De alguna manera estamos ante máquinas pensantes. La robótica será mucho más determinante de lo que ha sido Internet a medida que se normalice la relación entre humanos y robots trabajando juntos no sólo en aspectos repetitivos automatizables sino también en áreas de resolución compleja. Hoy en día, la robótica enlazada a la inteligencia artificial sigue lejos de lo que la ciencia ficción nos ha mostrado, pero ya nos obliga a debatir sobre tres aspectos clave: la Transparencia de errores al determinar la causa en caso de que un sistema de inteligencia artificial produzca daños, el Ajuste de valores del sistema de inteligencia artificial a los valores humanos) y la Automejora que permita a los sistemas de inteligencia artificial la capacidad de autoreplicarse solo en casos estrictos de seguridad y medidas de control.
Todas las industrias serán redefinidas. Estas computadoras, aprenderán, leerán, verán por sí mismas. No necesitarán que nadie les indique reglas o módulos previos. Ya no se trata de ciencia ficción, de una película que advierte de un mundo donde los robots y la inteligencia artificial pudiera sobrepasarnos. Eso va a pasar y lo importante es determinar el papel de cada uno, los límites éticos y la puesta en valor de lo que siempre significará ser sencillamente humano.
Un software parecido al que pone en marcha a Sophia es tan inteligente que entenderá que no tiene sentido atacar a los humanos. De hecho, en principio no mienten, suele responder con un ‘crearemos una nueva vida más feliz juntos’. El sólo hecho de decir ‘juntos’ ya acojona. Y es que Sophia tiene twitter. De hecho es un perfil autónomo. Hace lo que la mayoría de tuiteros. Se hace selfies y las subes, pone enlaces y opina de aquello que le interesa, básicamente tecnología aplicada. Ahora bien, el debate sobre su ciudadanía, sobre el hecho de que Sophia, por muy bien que establezca conversaciones y sea capaz de hacernos sentir que no estamos junto a un amasijo metálico sino ante algo más ‘vivo’, sigue siendo un debate técnico y no tanto, todavía, ético y filosófico.
Como dice Hussein Abbass, hay tres aspectos sobre esta concesión de ciudadanía que son examinables y, bajo un punto de vista técnico y ético, criticables. Se refiere al hecho de que la definición de identidad, por ejemplo, tiene mucho que ver con la valoración irrepetible de nuestra propia identidad. Es única. Los humanos somos identificables en base a elementos biológicos como nuestra cara, nuestro iris o las huellas dactilares. ¿Qué concede a Sophia una identidad única? Un código QR, una dirección IP, un tono de voz o algún tipo de señal electromagnética? 'En realidad todo ello no son elementos que la conviertan en única, sino que le aportan una matrícula a su hardware'. Algo así como que un humano tuviera identificado con números de serie cualquier órgano. Eso matricularía un corazón, un hígado o un dedo, pero no concedería identidad única al conjunto. Dice Abass que ‘la identidad es un constructo multidimensional basado en quiénes somos a nivel biológico y cognitivo y cómo nos definen nuestras experiencias, culturas y el ambiente en el que vivimos’. No está claro dónde encaja Sophia en todo esto aunque intuimos que en el futuro próximo tendremos algún tipo de software que sea capaz de integrar el valor de todo ello.
En las dudas sobre la ciudadanía de Sophia destaca una que me tiene realmente interesado. Sus derechos legales. Si Sophia es una ciudadana, tendrá derecho al voto. ¿Quién vota realmente? Según Abass la pregunta es si lo hace Sophia o el fabricante. Esto la llevaría pagar impuestos y tener un identidad jurídica independiente a su ‘creador’ y, por lo tanto, merecería tener defensa colegiada, derechos sociales o lo que sea. Un absoluto lío ético al que nos tendremos que enfrentar más por previsión que por posibilidad inmediata. El profesor Abass, que fue quien escribió sobre estas dudas razonables ponía el siguiente ejemplo: ‘un policía ve a una persona atacando a Sophia y a otra mujer a la vez, pero solo puede salvar a una de las dos, ¿a quién debería salvar? ¿Sería lo correcto salvar a Sophia porque Sophia va sobre ruedas y no puede defenderse? ¿Debemos salvar al humano porque Sophia es sintética? ¿La convierte en una ciudadana de segunda? A día de hoy, el mundo de la inteligencia artificial sigue debatiendo los principios que deberían regular el diseño y el uso de la inteligencia artificial, sin ni siquiera entrar en cómo deberían ser las leyes’.
Y, finalmente, la tercera duda al respecto de la ciudadanía de Sophia. Los derechos sociales que afecta. ¿Podrá casarse? Si tiene derechos como ciudadana en Arabia Saudita debería poder ejercerlos, entre ellos el de tener una vida en común con alguien o algo. De hecho, Sophia llega a 'tener' una especie de deseos. Digamos que desde un punto sintético quiere cosas, necesita cosas, desea cosas o hechos, como digo, alcanzar objetivos y bien podría ser, que en breve, uno de sus deseos sea replicar una relación humana por el hecho, sencillamente, de conocer y saber más. Ese es el propósito por el que está en marcha. Conocer más a los humanos para hacer nuestra vida (juntos) mucho mejor.
Hemos sabido que en la Universidad de Dakota del Norte ya existe un robot que puede hacer una réplica de sí mismo utilizando una impresora 3D. Si otros robots siguen los pasos de Sophia y obtienen su ciudadanía, podrían reclamar su derecho de hacer réplicas de sí mismos para crear otros robots que también serían ciudadanos. Si yo lo soy, ¿por qué éste que es idéntico a mi y funciona igual que yo, no? Habrá que limitar cuantos ‘hijos’ podrán tener, digo yo.
Estos son algunas de las dudas que surgen en cuanto a la concesión de ciudadanía a un robot. Hay muchas más. Algo que nos da la idea de la soberana tontería que significa jugar con estas cosas. Llegará el día que discutiremos estos temas. Hablaremos de ‘conciencia digital’, robots casi humanos y debatiremos de sus implicaciones, pero de momento, es carne de titular algo sensacionalista. Sin embargo si que pienso que el hecho de convertir a Sophia simbólicamente en una especie de ‘persona’ permite empezar a debatir un futuro cada vez menos lejano y donde las implicaciones de estas relaciones con la inteligencia artificial va a ser determinantes. Es bueno no dejarlo, es interesante investigar éticamente y políticamente. Lo que no es correcto es trivializar algo que, de no atenderlo en orden y medida, podría significar un desastre irreparable a nivel económico, cultural y social.
Bonus Track: A modo de comparación, y para entender que se hace desde las administraciones para afrontar un futuro tan complejo y robótico, sobre donde estamos unos y otros, debemos explicar que Francia destina 23 veces más que España al estímulo de la Industria 4.0 y la robotización de sus modelos productivos y cambio de modelo. Que otros, mucho menos aparentemente competitivos, deciden poner en marcha planes que los situarán en el centro del terremoto tecnológico en breve. Hace un par de semanas, Arabia Saudita anunció su plan para construir una mega ciudad que costaría unos 500.000 millones de dólares, algo así como medio PIB español, impulsada por robótica y energías renovables en la costa del Mar Rojo. El futuro, no se espera, se conquista.