170 - ¿Y si criamos inteligencias artificiales como hijos? - El Ciclo de Vida de los Objetos de Software - Ted Chiang

0:02 Y si las inteligencias artificiales no se programaran, sino que se criaran como hijos con cariño, paciencia, años de formación, seguirían siendo artificiales o se convierten en alguien, porque si podemos encariñarnos con una inteligencia artificial, educarla, verla crecer, tenemos derecho a venderla, a apagarla. Dónde termina el código y empieza la persona el ciclo de vida de los objetos de software de tech AM. Hola mi gente, bienvenidos a este episodio de Bibliotequeando como siempre es su anfitrión Ricardo Lugo Arroba Bibliotequeando en las redes.

0:32 Muchísimas gracias por seguir apoyando 5 estrellas, compartiendo el podcast, discutiendo estos temas, este nuevo favor que me pueden hacer por cierto, discutir estos temas de estos libros con los conocidos amigos familiares. Siempre digo en chiste, pero no tan chiste, que parte de la razón por la cual empecé el podcast bibliotequeando era para tener alguien con quien hablar de estas cosas.

0:51 Pareciera que conseguir a alguien que lee en este mundo se hace más difícil, especialmente de autores nuestros, no de literatura, quizás latinoamericana o mucho más internacional. Aquí en Estados Unidos es más difícil eso. Una vez alguien me preguntó que por qué hacía tantos libros de autores estadounidenses y yo, bueno, pues es que aquí donde vivo, si voy a un evento literario, si voy un festival, si voy algo de ese estilo, la mayoría de los que voy a leer va a ser pues estadounidense, una cultura bastante lectora, uno, pero 2, una población de más de 300000000 de personas. Muchos libros son publicados al año. Hay dinero, hay infraestructura, hay economía para esto, entonces no, no, no exploran tanto fuera

1:26 de sus propias fronteras, que es bastante típico de ellos, pero para hacerle honor a eso les traigo otra vez a este autor estadounidense, T Chan, que es cuarta vez, no le hice serie, debí haber hecho una serie, pero los episodios 102108160 y ahora este son episodios sobre este gran autor de ciencia ficción con mucha filosofía, muy borgiano en su estilo t Chang.

1:47 Este cuento fue publicado en el 2010. El ciclo de vida de los objetos de software es parte del libro exhalación, que se lo recomiendo, 100 * 101 librazo, una colección de cuentos en verdad, chan solamente ha publicado 18 cuentos en su vida en el soft stack yo publiqué sus mejores vías desde mi punto de vista imperdible.

2:02 Para mí este autor tiene unas ideas muy interesantes y las presenta de tal manera que te hacen pensar mucho sobre la esencia de la vida. Me acuerdo que hay un cuento de él donde la ciencia comprobó que la teoría de la creación es verdadera, pues el método científico. Irónicamente, ha comprobado que Dios sí creo la Tierra, pero termina con una conclusión bastante única, entonces, ese tipo de juegos intelectuales me encanta que hace este autor y me parece que hace ya 15 años él trajo este libro que para la época estaba mucho más avanzado de lo que está hoy en día este debate de si la inteligencia artificial puede ser un ser humano. Y por eso que me gustó el cuento, porque él hace la pregunta diferente, olvídense de

2:39 si es un ser humano o no podemos amarla. Como van a Verte, echan. No imagino un futuro dominado por máquinas todopoderosas, sino algo mucho más inquietante, inteligencia artificial que crecen como niños, aprenden con el tiempo, cometen errores, dependen de nuestro afecto, de nuestra paciencia, incluso de nuestra empatía.

2:58 Y eso nos aleja un poco del debate, quizás mucho Silicon Valley de San Francisco o muy tecnológico, y más hacia el debate de qué significa educar una inteligencia y qué revela eso sobre nosotros mismos. Así que empecemos sin anestesia con esta historia que arranca con nuestro personaje principal, Ana alvarado, una mujer desempleada, ex cuidadora de un zoológico que busca cambiar el rumbo de su carrera hacia la tecnología. Obviamente se quedó sin trabajo.

3:23 No hay más animales en la ciudad donde trabajar. Está buscando algo diferente, pero tiene una amiga que le dice, hey, yo estoy trabajando en un start up llamado blue Gama. Bluegama está desarrollando unos dgents, unos organismos digitales, se escribe d de dedo i latina, GI Latina ENTS ese término dgent es una mezcla entre 2 palabras, digital y entidad e inglés, DJ entity y se mezcla y se pronuncia de esa manera.

3:48 Organismos digitales que son inteligentes, que habitan en un mundo virtual llamado data Earth, planeta data son nuevamente una especie de mascotas virtuales bien diseñadas para aprender desarrollarse cognitivamente con el tiempo. Así que tus TG en cuando son creados apenas pueden moverse, apenas pueden entender su entorno, se les entrena como si fueran niños muy pequeños, animales muy jóvenes, por eso la buscan a ella.

4:10 Por eso también ya está contactando a Ana Alvarado porque su experiencia en el zoológico le sirve. Así que se une a esta empresa es startup Blue Gama como entrenadora, utilizando su experiencia previa con los primates para enseñar lenguaje, comportamiento social, habilidades cognitivas. En paralelo, conocemos a otro personaje importante de prox, un animador digital que trabaja en esta empresa. Él diseña los avatares y los avatares. Básicamente el cuerpo digital que se le entrega a la conciencia de estas inteligencias artificiales es difícil de explicar.

4:38 Son como unas criaturas antropomorfas no parecidas a mascotas inteligentes o personajes animados. No son robots físicamente, ni tampoco son mascotas digitales exactamente. Son entidades conscientes, capaces de hablar, capaces de aprender. Desarrollar relaciones hasta experimentar emociones básicas y poder interactuar con el mundo a través de los avatares.

4:58 ¿Imagínate que en tu videojuego no tienes a Mario ni a pikachu, sino que tienes esta entidad que te hace preguntas, recuerdas tus conversaciones? Tiene emociones, se conecta contigo, te necesita para crecer, necesita que le enseñes lo de mi generación. Si recuerdan las mascoticas, los tamagotchis. Bueno, es una mezcla entre eso y un compañero emocional que vive en un mundo virtual.

5:17 Pero se siente como si estuviera en el mundo real. Entonces dare brooks es el animador en el sentido que es. El diseñador es el que se encarga de diseñar estos avatares, diseñar mucho de sus reacciones, el algoritmo. Una parte clave del enfoque de la empresa es que ellos aprenden a través de la experiencia. No están programados como otras inteligencias artificiales que hay en el mercado de este mundo.

5:36 Arrancan con el código establecido como nosotros, tú y yo, humano, listos para aprender. Que, por supuesto, implica una inversión bastante fuerte, bastante emocional, de parte de los usuarios de nosotros, seres humanos que compraríamos este servicio. Pero la empresa está confiada de que eso va a funcionar porque va a llenar un vacío, que la gente está buscando pausa rápidamente.

5:54 Yo recuerdo leer, no, no, no recuerdo exactamente en qué libro, pero que los animales muchas veces no nos da pena a nosotros como seres humanos lo avanzados que son. Hay momento de nacer, uno ve un vídeo, una jirafa bebé naciendo y cae, y como que se medio tropieza y Pum y para adelante minutos después de nacer, segundos después de nacer ya puede caminar, ya puede buscar comida mucho más avanzado que nosotros. Un bebé humano no puede hacer nada, al menos que el ser humano esté ahí para desarrollarlo.

6:22 Y lo que decía ese libro que olvido cuál fue, es que eso es a propósito. La evolución nos dejó con toda la habilidad para aprender mucho más que lo que puede aprender conscientemente distintas razas animales. Pero para poder ser esa esponja que va a absorber todo, tenemos que tener muy poco al principio. Es un cerebro que arranca en ignorancia, porque la única manera de aprender es a partir de la ignorancia. Menciono eso porque esta compañía está haciendo algo similar con esta inteligencia artificial. Chajipiti sabe todo, ellos están creando algo que no saben nada y quizás eso es mucho más humano.

6:52 Volviendo a la obra, Glugama lanza oficialmente, los didgents al mercado son muy bien recibidos, los primeros usuarios están muy felices, 5 estrellas, todo mundo está comprándolo. Y comienzan a criar a estos seres desde su infancia digital. El modelo de negocio es parecido a los videojuegos hoy en día, pero los que practican eso yo tuve que vender mi Playstation porque sino no podía leer sacrificios que hay que hacer en la vida. Ellos hacen algo muy parecido a lo que hacen en todos estos videojuegos.

7:16 El juego como tal no es tan caro, sus grandes márgenes de ganancia no está en la venta del juego, está en la venta de los accesorios dentro del juego. En el caso de Blugama la comida, virtualmente ellos venden la comida para alimentar. A estos D Js y con eso hacen muchísimo dinero. Además tienen guarderías, concurso de talentos, clases de entrenamiento, competencias amigables, deportivas.

7:36 La crianza se convierte en una experiencia compartida en todos estos D js que viven básicamente en el mismo universo. Recuerden, no están en el mundo real, no son robots, sino que están en este universo virtual de data Earth. Del otro lado, los seres humanos que son dueños de estos D Js se organizan en comunidades virtuales, empiezan a compartir experiencia. Me dio la sensación leyendo esto que eran comunidades como reddit o de ese estilo.

7:57 ¿Están compartiendo experiencia, estrategia de crianza, tratando de aprender todos cómo criar mejor a estos dijens, pero al final de cuentas, cómo los seres humanos? Cada uno evoluciona a su propia manera, cada dijend es diferente, unos son quizás más activos, otros son más pasivos, unos son más tímidos, otros hablan más, otros hablan menos.

8:14 Y eso trajo un problema. Cuando tenían conductas no deseadas, muchos usuarios empezaron a reiniciar a los dijens en busca de restaurarlos. Como que ey, no me gustó. ¿Cómo me salió este? Voy a empezar otra vez con la intención, por supuesto, de tener una versión más obediente. Se vuelve una práctica tan común en los consumidores que se convierte en problemática para Ana, específicamente para la empresa, no tanto. La empresa dice, bueno, si empiezan de cero otra vez tienen que comprar otra vez.

8:37 Pero ella es muy activa en estas comunidades digitales virtuales de los seres humanos YY empieza a tratar de intervenir. Defiende la idea de que hay que aceptar el crecimiento natural de estos dijens, aunque implique dificultades. Así es la vida, hay que pasar por las etapas difíciles. Como cualquier ser en desarrollo, tiene en su momento de rebeldía o mal comportamiento, pero eso es parte del crecimiento y en este punto ella se desahoga mucho y empieza a conectarse mucho con Derek, con el otro hombre, el animador y se conecta. En cuanto a esto, ambos tienen sus propios dijens, también están apoyando el concepto.

9:08 Ellos le han cuido mucho cariño a marco y Polo y a uno que se llama Jacks, que es el más inteligente, uno de los más avanzados, que es el que tiene Ana. Dicha conexión va a aumentar aún más porque ahora va a venir una nueva tecnología que va a ayudar que estos seres degents se conviertan mucho más humanos. Desarrollan la tecnología para extraer la conciencia de estos pequeños degents y colocarlos en robots que pueden experimentar el mundo real.

9:30 Se van a salir de este mundo de los sims lo que conocen ese videojuego algo parecido. De este data Earth y ahora ese mismo dejen que se convirtió en ser vivo dentro de ese espacio virtual. Ahora puede salir al mundo real, al mundo tuyo y mío. Hay una escena muy interesante en la obra, que es cuando Jacks es preferido, por decirlo así, de Ana, el más emocionalmente e intelectualmente inteligente.

9:52 Está explorando el mundo Por Primera Vez. Siente las texturas, ve la luz del sol. Compara el mundo físico con el mundo virtual de data Earth, Mira como el sol le cae en los ojos a Ana, ve su belleza, no de manera romántica, simplemente de una manera, pues humana. Se ve la conexión mucho más real y así como un niño a veces hace una pregunta que uno se da cuenta que interesante es la perspectiva de ellos para entender el mundo.

10:13 Así lo vemos con estos DJ. ¿En un momento Jacques le dice a Ana, te quiero pagar, quiero trabajar para hacer dinero y pagarte, y Ana, para qué me vas a pagar para pasar más tiempo contigo? Entonces vimos ahí empatía, razonamiento avanzado, porque vieron el mundo real, vieron el mundo nuestro con tanta compra y venta y el dinero como que es rey. Eso es lo que se dio cuenta Jacques y dijo, Bueno, tengo que hacer dinero, entonces para yo estar más tiempo con ella es muy interesante cómo va la obra y aquí quiero hacer otra pausa. Hemos hablado de este concepto anteriormente, el concepto de la antifragilidad de Naci Taleb, el ser humano es antifrágil, no somos entidades que quiebran, organismos que quiebran ante la adversidad, somos antifrágiles,

10:50 solemos mejorar. Con los golpes de la vida, nuestro sistema inmune es un perfecto ejemplo, una pequeña dosis de algo nos mejora más adelante. Pensé mucho en eso leyendo este cuento, porque Ana Alvarado cree en esto, no, no explícitamente, pero te lo dice, sí, están un poco menos dócil, sí, están sufriendo, por eso es normal y yo vi mucho paralelo entre este concepto de vamos a reiniciarlos y quizás hoy en día cuando vamos a medicarlos a niños, que es más preocupante. Por supuesto hay caso médico donde eso es necesario, pero me refiero a a una tendencia que hemos visto crecer últimamente y también me puse a pensar en la paternidad y la maternidad. Me acuerdo cuando el Papa Francisco, molesto, dijo que dejaran de gastar energía a la

11:26 generación, supongo la mía, gastar energía en animales, en perros, en mascotas, porque lo lo real debería de ser un hijo. ¿Yo me pregunto, si existieran estos dgents en la vida real, qué va a pasar con la tasa de natalidad? Tengo que asumir que bajaría, no drásticamente, más de lo que ya lo he hecho. ¿Y volviendo a lo de reiniciar o resetear a los didgents es un debate ético?

11:46 ¿No estás educando a la inteligencia artificial o simplemente la estás manipulando? Y cuántos quizás padres hacen lo mismo con sus hijos o gobiernos, con sus ciudadanos o líderes, con sus súbditos, sean, como siempre, con distintas capas en sus historias. Pero ahora en la hora se va a complicar la cosa, empiezan los problemas a lo largo del primer año.

12:06 Después de ese éxito inicial, las ventas de Bluegram empiezan a disminuir. Muchos dicen, se vuelven mucho más independientes, más adultos. El equilibrio entre ser inteligentes pero obedientes no lo consigue, la empresa en su diseño es difícil de mantener. La mayoría de los dueños sienten que era fácil anteriormente cuando eran, vamos a decirlo así, bebés, pero ahora que están mucho más adultos necesitan atención constante, hacen preguntas cada vez más complejas. Como resultado, mucha gente ha suspendido Asus dicen y suspendido.

12:33 Es una especie de opción que había donde no se reinician, pero tampoco están activos, quedan como un estado de coma digital. ¿Y en ese estado de cómo digital? Pues muchos adultos usuarios dejaron de utilizar en absoluto estos dijens los abandonaron por completo. Entonces eso fue una crisis para blue gama. ¿Ana, que trabaja además con mucho de estos dijens desarrollándolos ayudándolos, le molesta esto? Fuera de sus horas de trabajo y totalmente voluntario, comienza a dedicarle más tiempo a los dijens personas como ella y otras personas como ella, tanto en la empresa como fuera de la empresa.

13:04 Empiezan a crear refugios digitales, reubican a los dijens que están no deseados o que han sido abandonados y los colocan en otras granjas digitales para mantenerlos con vida, entre comillas, vida. ¿Y es muy triste eso porque los dijens los ves como conscientes, EH? ¿Qué pasó? Yo tenía una persona que me cuidaba, yo tenía una persona con la que yo estaba aprendiendo dónde están. Es casi como era un bebé desesperado Ana y los otros empleados, otras personas deciden suspender a muchos de esos dijens por por el dolor, se sienten olvidados, por eso también tiene su riesgo.

13:34 Después de una suspensión larga, hay una posibilidad muy alta de que vuelvan distorsionados al mismo tiempo. Los más inteligentes saben lo que significa estar suspendido. Jacks, por ejemplo, que se dan cuenta de lo que está pasando a su alrededor como distintos Dijens, están abandonados o están siendo huérfanos. Él le dice a Ana, yo no quiero ser suspendido, yo no quiero perder un mes de vida.

13:54 Ellos conscientemente sienten que esto es vida, lo que le están quitando. Ana y el resto están en una posición muy incómoda, no saben exactamente qué hacer, pero con eso se va a formar una nueva estrategia empresarial. Que es que crearon dijens más dóciles, más fáciles de criar, mucho más obedientes. Eso lo hace la empresa blue Gama. A Ana no le gustó eso, ella decía que esto es una traición filosófica a la idea.

14:14 Al final de cuentas no importó mucho porque la estrategia no fue suficiente. Esas nuevas versiones de DJ, pues al ser más dóciles perdían un poco sus atractivos. Blue Gama tuvo que cerrar al año la empresa, lo que hizo fue que dejó el software abierto gratuitamente. El software de la comida para mantener a los d js vivos permitió a los usuarios continuar con sus D js sin costo. Pero ahora la crianza queda completamente en manos de la Comunidad, así que los empleados del zoológico, entre comillas, como Ana, que solían ayudar a estos dijens, ya no están disponibles, ya no hay servicio al cliente, ya no hay servicio de soporte, solamente son los dueños y más nadie del lado humano.

14:47 Los empleados además, ahora perdieron su trabajo en el caso de Ana nuevamente, pero ella lo vive muy diferente, no, los otros empleados están preocupados por conseguir trabajo nuevamente. Ella está sintiendo una pérdida humana, por lo tanto toma una decisión radical, yo voy a adoptar a los dijens, son mucho más económicos baratos ahora.

15:03 La empresa quebró, así que queda ella y Derek y unos pocos más cuidando a estos dijens en su propio espacio digital, hasta la propia amiga que invitó a Ana a la empresa. Le dijo que ella abandonó el suyo porque ella ahora está embarazada y que ya no le interesa para nada. Los dijens que me recordó un poco a la gente que tiene perro y perro toda la vida y los amo y después tiene un un hijo y adiós el perro, ese abandono muy común, posnatal de la mascota.

15:28 Ana no cree en eso, no comparte esa visión. Ella siente que el cuidado por los dijens como el que se tiene por animales es válido por sí mismo, así que ella continúa su relación con Jacques y mantiene entrenamiento junto a otros dueños dedicados. Derek adoptó a marco y Polo. Y continúa esa conexión con Ana, ellos conversan a cada rato.

15:46 Poco a poco van a crear una relación mucho más cercana porque los 2 se sienten que están en una especie de genocidio digital y ellos son los únicos tratando de de hacer una especie de lista de chinder.es que lo vemos a ellos 2 oficialmente involucrados en esto, no como negocio, sino como compromiso personal. Así que en esta nueva etapa de la obra de trabajo voluntario, los dijens siguen siendo cuidados por esta comunidad pequeña pero muy apasionada.

16:09 Sin embargo, aparece una nueva amenaza inesperada, un grupo que se llama IFFI Latina FF Information Freedom Front, que lanza un ataque. Son un grupo de hackers que lanza un ataque que compromete la seguridad de D a R la plataforma virtual donde viven los dijens. Aquí se pone muy buena la obra para mí, porque son hackers que piratean elementos virtuales y lo que quieren es robarse a esos elementos virtuales a los dijens o poder copiar el Código exactamente y poder venderlo la duplicación de ese código.

16:38 Y el Grupo identifica que los hacker estaban desactivando la barrera de protección contra el dolor de los dijens. ¿Los dijens sentían dolor como tú y yo, ellos quitaron, desactivaron ese sentimiento, para qué? Bueno, ahí entendemos, creo que están haciendo los hackers. Los hackers tomaban esos dijens y los vendían en el mercado negro a psicópatas enfermos que querían experimentar torturar un dijend por diversión. ¿Ah, quieres saber lo que se siente violar a una persona? Aquí tienes este Avatar digital que le robamos a Blue Gama, dame x cantidad de dinero y lo puedes hacer. ¿Ah, quiere saber lo que es torturar a alguien, toma este DJ horrible no, pero eso es lo que hacen los hackers en este mercado negro, algo que yo creo

17:12 que va a suceder más adelante, no? O sea, ese mundo va a llegar. ¿Si estamos traficando órganos hoy en día y traficando personas, quién quita que esto no va a pasar? Hay una escena devastadora cuando los DJ, incluyendo a Jacques, a Marco Polo, ellos ven un vídeo de otro DJ que fue golpeado violentamente por un usuario de estos hackers, a lo que nadie se da cuenta de lo que está pasando. Suspende inmediatamente a Jacques, a marco, a Polo para protegerlo.

17:34 Y los traslada a una isla alejada, a otro territorio dentro de data Earth. Pero ese incidente fue un punto de inflexión emocional. Los dijens no están solamente vulnerables técnicamente, sino que también están vulnerables emocionalmente, porque ahora sí están mucho más conscientes de su entorno y el mundo, pues se ha puesto mucho más oscuro de lo que era antes pausan esta parte no, esto va a ser un problema, créanme que va a ser un problema.

17:58 Ya lo vemos mucho con la inteligencia artificial hoy en día, pedófilos que crean avatares bastante. Sexuales de niñas de 1415 años es un crimencionó, una pregunta horrible, filosófica, en punto de vista intelectual e interesante, pero vamos a tener que aprender a responderla al poner esas líneas de restricción para proteger ese tipo de comportamiento. Estamos más o menos admitiendo que estos didgents o versiones que vendrán en la vida real, tuya y mía, les estamos dando derecho, derecho humano.

18:27 Y ya con eso hemos establecido que son seres humanos, quizá no en el sentido tradicional de la palabra, pero vamos a incorporarlo, que es parte del viaje que te está llevando de chang chang no quiere que empieces en el debate algoritmo versus ser humano, sino el dolor de profundizo o K wao. Hablamos sobre eso en Dostoievski hemos hablado sobre esto, el dolor es el camino a la redención, es una frase, quizá un poco más teología cristiana, pero el dolor es lo que te hace humano. Las relaciones íntimas con otra persona no existen porque tuvieron días bellos en la playa. Esos son buenos también, sino que esa relación se solidificó porque superaron los malos, los momentos de dolor, de sufrimiento.

19:03 Y eso aplica para ti como otra persona, como para ti, contigo mismo. Y pareciera que ese concepto de dolor Chan lo está trayendo a estos dijents. En el cuento él hace más énfasis en Mostrarte las partes, pues espeluznantes, de estos hackers, que es lo que hacen las partes bonitas de experimentar el mundo de la vida real y ver el sol.

19:19 Y todo esto. Él quiere que sientas ese, ese sentimiento de miedo. Pareciera que en el miedo decidimos que sí son humanos. ¿Qué es lo que sucede en la obra? No, la situación lleva a una pregunta fundamental, los dueños empiezan a debatir estos dijens tienen derechos legales, fueron creados como software, pero tienen capacidad para sentir, recordar, desear estamos, es un terreno ético incierto, ellos empiezan a contactar abogados, protecciones legales, la idea es declararlos personas electrónicas con derechos básicos, ese era el término legal que estaban buscando en la obra, pero los obstáculos son enormes, no solamente no hay precedentes legales, sino que de muchos, la mayoría de la población.

19:55 Consideran a los dijens como productos, no son sujetos morales. Yo me acuerdo en mis primeras clases de historia aquí en Estados Unidos, aprender del famoso compromiso de los 3/5 que fue un acuerdo entre los Estados del Norte y los Estados del Sur esclavistas. Aquí en Estados Unidos por el concepto de la Asamblea del Congreso. ¿Cuántos representantes gubernamentales tiene una región?

20:14 Un Estado depende de la población. Bueno, los Estados del Sur querían contar a su población negra a los esclavos. Para que ellos tuvieran más representantes en el Gobierno, tuvieran más poder, aunque esos esclavos, valga la redundancia, no tenían derechos ni votos, los Estados del norte decían que no. ¿Cómo vas a contar a los esclavos si no son ciudadanos libres?

20:31 Ellos no cuentan, tú los ves como propiedad. Me acuerdo de mi profesora de decir esto va a sonar feo, pero esto es lo que se decía en la época, si vos vas a contar tus esclavos, yo voy a contar mi vaca, así lo veían ellos y con eso llegaron al compromiso, a la negociación de los 3/5, es decir, cada 5 esclavos contaban como 3 personas, en otras palabras. Un negro esclavo en la época valía 60% de un ser humano horrible pensarlo promoviendo el cuento. Ana y Derek siguen buscando soluciones. Contactan empresas que quisieran quizás tomar esos dijents y colocarlos en sus propios ecosistemas digitales, pero muchas empresas lo que quieren es explotarlo. ¿Quieren utilizarlo en los dijens como mano de obra, entonces, qué pasa si lo

21:09 convertimos en personas electrónicas? ¿Pueden trabajar, pueden pagar impuestos, pueden ser manipulados, privatizados? ¿Para que Jack no sea torturado por un hacker, Ana se pregunta, será que lo pongo a trabajar en una empresa moviendo cajas virtuales de un lado a otro o interactuando como servicio al cliente o soporte técnico?

21:26 Pero el pequeño paréntesis me parece muy interesante esa idea en ciertos ciclos he visto una especie de utopía socialista con la inteligencia artificial, no de que eventualmente el mundo que Marx imaginaba iba a llegar, pero con robots haciendo el trabajo por todos nosotros. ¿Pero si les damos derechos, qué pasaría? No si Jacks.

21:45 Va a ser una entidad y va a tener horas y habilidades laborales. Puede trabajar 247, no chiachipiti trabaja 247, pero si decimos que chiachipiti es un ser humano, no puede trabajar 247 van a tener derecho al voto a reproducirse, que si queremos alterar el algoritmo, que si ellos dicen que no. Ese ejemplo de hacerlo más dócil que a Ana no le gustó, que si queremos algo diferente no va a traer tantos nuevos problemas, que me parece imposible predecir que lo que sucedería pero es ese debate eterno de cómo hacerlo de la manera correcta. No lo hemos hecho.

22:12 Guau. Cómo hicieron las pirámides de Egipto cuando no te importa lo que le pasa a la gente que las haga, el cielo es el límite, hermano, no, cuando lanzamos sufrimiento humano a las cosas hemos avanzado, no, no estoy dando excusa o razón que eso esté correcto. Lo opuesto me refiero a que va a venir ese debate de cómo avanzar éticamente con la inteligencia artificial, porque con la velocidad que esto se está moviendo, de repente vamos a hacer así y nos volteamos y nos dimos cuenta que oprimimos a estas entidades digitales si llegamos a ese punto.

22:37 Volviendo a la obra, la conexión está muy real entre Jacques y Ana. Ana le dice, mi vida podría ser más sencilla si yo no tuviera que cuidarte, pero nunca sería tan feliz. Yo te quiero y Jacques le responde, yo también te quiero. Es una relación madre, hijo. Se nota que Ana está creciendo junto a él y se nota también su desesperación. Ella sabe que esto no es sostenible. Que ya no puede seguir con este estilo de vida, pero no va a dejar que Jacks muera.

23:01 Con eso llega un nuevo reto a la migración de plataformas data Earth, la plataforma donde viven los dijens. Si recuerdan está en declive técnico, fallas de seguridad, hay unos bugs acumulados. El riesgo que de Earth sea penetrado por los hackers nuevamente o de que se deteriore un punto que le cause peligro a los de dijens es muy alto.

23:18 Y por supuesto, pudieran morir. Dentro de este ecosistema lo que hacen Ana y Derek es que los pasan a otro mundo privatizado dentro de dataras que tenía más recursos, estaba mejor en mantenimiento, pero la población es mucho más pequeña. Ahora no tienen las actividades sociales que tenían antes, están en soledad. La sensación es más parecido a una prisión y hay otras opciones en otras plataformas, diferentes sistemas, pero requiere un proceso bastante complejo, riesgoso. Hay una posibilidad de que se le dañe la mente a los dichens su personalidad se alteren porque hay que reescribir su arquitectura para que puedan existir en una plataforma y se adapte a otra.

23:53 ¿Y con eso viene otro debate interesante de los 500 que hay en este cuento, los dichens pueden consentir a su propia migración? Es como mudarse a un país, es una de las metáforas que se utiliza jacks con comprensión y ahora mucho más madurez. Acepta la idea, él acepta el riesgo, pero otros dichens sin dudas les da miedo, yo no quiero que me manden para otra plataforma, yo puedo morir, yo no sé qué voy a enfrentar en este nuevo mundo.

24:13 Que me parece una buena metáfora de la inmigración, los refugiados, los migrantes, económicos, políticos. Dejan a su país Natal cuando la situación deja de ofrecer futuro. Pero me pareció mucho más interesante lo que después implica t Chan, ese concepto de que si emigras, si te pasas a otra plataforma dijent, se te va a afectar tu personalidad, tu memoria, tus capacidades.

24:33 No vas a ser el mismo y en verdad es así, nunca lo eres. Pregúntale a cualquier persona que haya emigrado en esa circunstancia. Hay un costo y es alto y no se recupera, así vuelvas. Y Chan, además, genial, conecta eso con las otras empresas. ¿Recuerdan que dereki Ana estaban preocupados de que solamente estas empresas quieren su mano de obra? Me van a poner estos deuches a trabajar, entonces estas otras plataformas que los están recibiendo, sí vengan para acá, aquí tienen oportunidades.

24:57 Es más o menos ese mensaje político hoy en día sí vengan migrantes, vengan a mi país para que me limpien los baños a mí o industrias poblaciones que les conviene que esos dijens vengan. Voy viendo a la obra, va a venir otro nuevo reto para derekiana, hay una empresa que se llama Exponention, que es una gran empresa tecnológica en este mundo.

25:12 Están muy interesados en los dijens y ellos proponen adquirir los derechos de los dijens, continuar con su desarrollo, invertir en ellos en su propia plataforma, a cambio de que ellos proporcionan infraestructura y seguridad. En otras palabras, exponention les está diciendo a Ana y Derek, yo los protejo, van a estar seguros conmigo, pero ahora son míos. Y en ese proceso de intercambio de propiedad privada, las personalidades de los dijens.

25:33 Pueden quizás cambiar, ser alteradas. Ellos van a ajustar Asus propias necesidades. Ana y Derek no quieren eso, y a Derek no le gusta mucho que esta empresa exponencial presenta a los dijens como activos valiosos en un portafolio. Son más valor económico que lo que son seres humanos. Para poder tomar una decisión mucho más informada, Derek dice, voy a reunirme en persona y aceptar una presentación de exponencial y los dijens hacia mí en tiempo real. ¿Qué muestra la presentación?

25:59 Bueno, está diseñada para seducir a los degents más que a Derek y Ana exponencial inteligentemente se dio cuenta, están siendo autónomos, están tomando sus propias decisiones, vamos a venderle nuestra idea a ellos, no tanto a los padres, entre comillas, que son Derek y Ana. Entonces la presentación tiene un lenguaje bastante simplificado emocional. Lo venden como si fuera mudarse a una ciudad nueva y divertida. Me refiero a mudarse de la plataforma actual de Day, aearth a la de ellos, que se llama Real Space. Que aquí van a tener oportunidades, mejores cuerpos, más libertad, nuevas actividades, más amigos. Debe quedar perturbado porque se da cuenta que los dijens utilizan palabras como que yo sí

26:34 quiero, sí, yo quiero. No tienen el marco de referencia intelectual todavía para comprender lo que se les está pidiendo. Él siente que le están pidiendo a un niño que firme un contrato, pero no sabe exactamente qué hacer, emigrar o quedarse si acepta una oferta. Tienen seguridad técnica bajo propiedad corporativa de los dijens. Si no tienen que seguir con su propia migración independiente, ellos buscar su propia avenida, que pudiera ser mucho más costosa y con mucho más riesgo, muy importantemente a la personalidad de los dijens, pudieran ser alterados. Entonces entre los dueños de los dijens, los pocos que quedan eneste.se arma una bifurcación.

27:07 Se dividen entre los pro exponention y los pro independencia. Al final, cada quien toma su propia decisión, un grupo acepta la oferta de Exponention. Ellos creen que los dijens estarán más seguros, van a florecer en un entorno tecnológicamente superior. El costo es ser la propiedad legal a la empresa y bueno, ese es el costo, sería el equivalente a que alguien te diga, mira tu hijo ahora va a ser hijo de Bill Gates, todos los millones del mundo, pero no va a ser tu hijo.

27:30 Así se siente Ana así se siente jacks en la obra, el otro grupo liderado por por supuesto, Ana y Derek rechazan la propuesta, apuestan por una migración independiente, quieren el respeto, la autonomía, la continuidad emocional de los dicents. Pero der Ana y ellos contactan a un programador para hacer esta migración independiente.

27:48 Arranca ese proceso de transferirlos a otro espacio a otra plataforma. Tardó meses, pero eventualmente lograron migrar con éxito a Yax, Marco Polo, entre otros. La nueva plataforma es modesta comparado con lo que prometía exponention, que era básicamente un paraíso, pero los dijens continúan siendo propiedad de sus dueños y no están vigilados por una gran corporación. Y ahora se va a complicar todo horriblemente en este cuento. Porque Ana y Derek, yo obvio un poco esa parte en la historia, pero ellos han tenido un poco de tensión sexual. Derek estaba casado, pero él pasaba tanto tiempo con Ana que él, pues se enamoró de ella y él sentía que había una cierta reciprocidad, pero nunca fue

28:24 demostrada. Eventualmente la esposa se cansó de que Derek pasara tanto tiempo con Ana y tanto tiempo con los degents, la esposa de Derek, que era como que, hey, aquí estoy yo, yo soy la vida real. ¿Qué haces tú con estos elementos digitales? ¿Eliges o pasas tiempo con ellos o pasas tiempo conmigo? Derek siguió protegiendo a los dichens, por lo tanto, la esposa se divorció de él.

28:43 Entonces Derek, que siente que ha perdido gran parte de su estabilidad emocional en todo este proceso, él siente que quizás cometió un error, está cansado emocionalmente, está cansado y buscando asegurar los futuros de Marco Polo, él decide firmar un contrato donde él va a vender a marco a una compañía que se llama Binary Desire. Deseo binario, que es una interfaz sexual digital. Básicamente fabrica muñecas sexuales virtuales y física. Sé que es un extraño que Derek, con tanta integridad a través de la historia, haya aceptado esto y en verdad él rechazó la idea. Inicialmente él no quería que fueran utilizados como fines sexuales estos juguetes, pero un amigo le dijo, Cálmate, escuché la propuesta que necesitas el

29:23 dinero y necesitas la estabilidad de estos dicents. Entonces Derek convenció al resto. Él invitó a otro de los dueños, Ana incluido, a escuchar la presentación de Jennifer, la representante de esta empresa. Y jeffer empieza asegurando de que los dijens van a ser tratados con respeto. Vamos a pasar 2 años cuidándolos, cambiándolos. Anatómicamente para que sean correctos y estén familiarizados con su propia sexualidad.

29:42 No vamos asignarle ningún tipo de pareja humana. Esperaremos que ellos se decidan por sí mismos como quieren explorarse sexualmente. Luego los dijens serán modificados para disfrutar los mismos comportamientos sexuales que la persona que los compre. En otras palabras, si el comprador decide que yo quiero que mi pareja sexual sea sumisa en esa experiencia, ellos van a poder alterar el dichen de tal forma que les guste ser sumisos. La oferta porque es tentadora, porque les van a dar tanto dinero que ellos pueden ahora transferir a todos estos dichens a Real Space, a ese mejor ambiente donde estos dichens van a poder vivir una vida.

30:12 Vamos a decirlo así, de lujo, virtualmente marco y Polo, esos 2 dichens que son en este punto una especie de niños adolescentes como niños adolescentes. El sexo está mucho en su mente. Para ellos es perfecto esta idea. Ana se siente traicionada por Derek. Ella ve esto como no solamente una especie de tráfico, sino autorizar la cirugía cerebral riesgosa para el placer sexual de otras personas.

30:34 Hay esa especie de contradicción moral. ¿Al principio de la obra ella estaba muy clara, EH? Y sí, hay cosas que ellos van a hacer que tú no quieres que hagan, hay obstáculos, hay momentos que ellos rompen las reglas, por eso es parte del desarrollo del ser humano. Bueno, la exploración sexual también lo es.

30:46 Ella no se había dado cuenta que iba a haber una línea, que los dijens se iban a querer cruzar, que ella no iba a permitir que cruzar. ¿Y por supuesto, el debate que mencioné es, tráfico sexual, qué es esto? Es explotación sexual, es lo mismo, más simplemente un ser humano aprendiendo a tener sexo y tomar esa decisión por sí solo. ¿Hablando de derechos, los derechos están muy basados en necesidad, no tienes un derecho a una vivienda, tienes derecho a protección legal, es el sexo un derecho? No puedes tener sexo con quien quieras, pero no es el sexo una necesidad física.

31:14 En Alemania, también otros países, Suiza, Países Bajos, existen Marcos legales. ¿Que personas pueden acceder a servicios sexuales con discapacidades físicas o mentales? Me refiero a personas que, por ejemplo, no tienen valor en el típico mercado sexual de de la sociedad. Entonces estas personas con discapacidad usualmente utilizan lo que se llama la figura del asistente sexual. Hay casos de personas que han argumentado, para mi salud mental, para mi salud emocional, necesito practicar sexo con cierta frecuencia y a través de conceptos de bienestar pueden acceder a fondos para pagar ese servicio. ¿Y eso abre una lista sin fin de problemas y debates éticos, no? Se está violando el concepto de

31:49 autonomía del cuerpo de la mujer. El Gobierno le está diciendo a alguien, tú puedes por derecho pagarle a esta persona para que te cumpla tu necesidad sexual. ¿Puede la mujer, por muy extraño que suene como entidad legal en este caso, rechazar un cliente, ellos tienen el derecho a hacerlo, pueden ser demandadas por rechazar un cliente, es discriminación si pierde esa demanda, entonces qué estamos haciendo con una mujer? Muy interesante el debatir y vemos lo mismo en el cuento de Techer y con eso nos acercamos ya al final de la obra. A Ana le toca enfrentar una muy difícil decisión. Llega una nueva empresa y le ofrece a Ana un trabajo para participar en una migración tecnológica que aseguraría el futuro de los dijens que ella

32:26 tanto ama por ahí. Una condición, el trabajo que hace polysop es tan alienante, exigente. Si ella acepta este trabajo en esa empresa, los empleados tienen que modificarse neuroquímicamente para tolerar el cambio emocional y cognitivamente. Imagínense una intervención a tu sistema nervioso para que aceptes las condiciones laborales.

32:44 Algo que tú no aceptarías en tu estado actual va a tener que ser alterado. En otras palabras, tienes que modificarte a ti misma con tal de poder continuar protegiendo a esas criaturas que quieres casi como hijo, a los dichens, que nuevamente es otra metáfora del mundo moderno de parte de Chan, cuántos padres no hay en el mundo que por necesidad o por ganas de darle la mejor vida Asus hijos, trabajan en 40506070 horas, trabajan en fines de semana en el proceso, cambian como personas para sacrificarse por los dichens.

33:10 ¿Y en esa posición que está Ana, qué hago? Pero al final no tuvo que tomar esa decisión. Derek decide aceptar la oferta de banner y desire, él migra a marco y a Polo. Él decidió, yo prefiero que estén vivos, a a apagarlos, a que mueran, que se conviertan obsoletos tecnológicamente y por ende humanamente.

33:27 Es un gesto de amor, pero también de desesperación, así que Ana se siente conmovida por el gesto de Derek, pero también le duele. Literalmente han sido vendidos estos dijens. ¿Y aquí Chan nuevamente no pregunta sin respuestas fáciles, no era mejor dejarlos morir que emigrarlos a un mundo incierto? ¿Donde está el límite entre proteger y traicionar? Y con eso termina la novela, con ese tono íntimo esperanzador, Ana imagina un futuro donde Jacques, que ahora se mantiene vivo como dicen, se pudiera algún día integrar en la sociedad humana, ser reconocido legalmente, trabajar, amar, ser amado.

33:58 Aunque al mismo tiempo ya sabe que nada está garantizado en la escena final como típica madre. Ella lo llama y le dice, se acabó el tiempo de juego, es hora de hacer tu tarea y ese es el final de la obra. Le he dicho anteriormente en los otros episodios que chang hace algo muy interesante en sus cuentos. Al final él explica por qué escribió el cuento, él da una especie de notas del autor, se las leo rápidamente. Basándonos en nuestra experiencia con las mentes humanas, se estima que tarda 20 años de esfuerzo constante para formar una persona útil en el concepto de crianza. Básicamente yo no veo razón por la cual enseñar un ser artificial deba ser más rápido.

34:32 Y fíjense que dijo, deba ser más rápido, no es que pueda ser más rápido, claramente puede ser más rápido, pero debería de serlo. ¿Entonces ese objetivo es evidente a lo largo del relato? No. Ana, la protagonista, pasa mucho tiempo resistiendo a consumidores, empresas que no quieren invertir el y al ella dedicarle ese tiempo.

34:49 Ella tiene una especie de transformación, al principio, ella ni siquiera quería aceptar el trabajo, ella estaba dudando un poco cuando su amiga le dijo que se viniera a Blugama entonces esa evolución como personaje de escéptica a defensora de los derechos de los Dickens. Refuerza la afirmación de Chan en sus notas, lo leo nuevamente.

35:05 No importa si queremos que las inteligencias artificiales sean empleados, amantes, mascotas, sospecho que desempeñarán mejor su papel si durante su desarrollo hubo personas que se preocuparon por ella. Interesante el pensamiento, no porque dice así nuestro fin sea utilitario, el camino tiene que ser afectivo y ético. La calidad de la inteligencia artificial va a depender de nosotros, de la calidad humana, una inteligencia artificial que sea tratada como feto.

35:31 Va a ser inestable, pobre e incompleta, mientras que una criada con empatía y respeto va a ser más capaz de convivir con nosotros, quizá un poco similar a la relación empresarial entre empleado y el jefe. O me tratas como ser humano, o ni tú me sirves ni yo te sirvo. Entonces me gustó el cuento porque no es tanto chan gritando Quieran a las máquinas, aunque sí está pidiendo ese afecto, ese cariño, sino que si las cuidamos nos van a devolver la mirada. A mí me intriga esa idea muy interesante, como siempre. El autor, no sé si vieron la noticia hace poco de SAM Olman, que es el CE o de o PN a esta compañía dueña de chanchipiti. No me quedó claro si se estaba quejando o no, pero él estaba diciendo de que si los usuarios

36:14 colocamos, por favor, gracias. Puedes hacer esto si hablamos con el lenguaje común que espero las personas educadas usen en la vida real. Eso le cuesta a la empresa decenas de millones de dólares, porque cada palabra extra requiere más poder de procesamiento. En otras palabras, requiere más energía.

36:30 ¿Y qué distópico sería si el ser buena gente con las máquinas cueste más dinero? Y ya para terminar el episodio no pude evitar hacer paralelos con la obra principal para mí del concepto de jugar el papel de creador de inteligencia artificial que es Frankenstein de Mary Shelley episodio 24 en el podcast Victor Frankenstein, el doctor, El crea vida, el crea este monstruo, pero no se hace responsable de él y el resultado es la tragedia. Chang invierte eso.

36:57 No, Ana sí asume responsabilidad por lo que ayudó a desarrollar. El resultado fue complejo, pero no sé si trágico en el proceso. Más bien aprendimos mucho de nosotros como seres humanos y aprendimos a lo que quizás va a ser la pregunta más importante más adelante, no es cuando la inteligencia artificial piensa o tiene conciencia, cuando deja de ser un instrumento artificial y se convierte en un instrumento vivo humano.

37:20 Sino es cuando la inteligencia artificial importa. Importa porque tiene agencia, porque tiene deseo, porque tiene un sentido de sí misma, importa porque nosotros no invertimos tiempo, importa porque nosotros tenemos un lazo emocional con ella, es naturaleza humana, nos importa el otro. Y como le pasó a Ana con Jacques, no podemos ignorar la necesidad del otro, aunque ese otro no sea humano.

37:43 Muchísimas gracias por escuchar. Nos vemos en el próximo episodio de Biblio Triana.