{"id":1897,"date":"2025-09-02T13:09:06","date_gmt":"2025-09-02T11:09:06","guid":{"rendered":"https:\/\/bitacoraenlared.es\/navegantes\/?p=1897"},"modified":"2025-09-08T13:13:49","modified_gmt":"2025-09-08T11:13:49","slug":"por-que-quiere-mark-zuckerberg-que-nuestros-hijos-usen-chatbots-y-otras-preguntas-sin-respuesta","status":"publish","type":"post","link":"https:\/\/bitacoraenlared.es\/navegantes\/por-que-quiere-mark-zuckerberg-que-nuestros-hijos-usen-chatbots-y-otras-preguntas-sin-respuesta\/","title":{"rendered":"\u00bfPor qu\u00e9 quiere Mark Zuckerberg que nuestros hijos usen chatbots? Y otras preguntas sin respuesta"},"content":{"rendered":"

Peter Kafka:<\/strong>\u00a0Bienvenida de tus vacaciones, Katie. La semana pasada, mientras estabas fuera,\u00a0Reuters<\/em><\/a>\u00a0public\u00f3 una historia que me mor\u00eda por comentarte: un documento interno de\u00a0Meta<\/a>\u00a0indicaba al equipo encargado de crear sus chatbots que \u00abes aceptable involucrar a un ni\u00f1o en conversaciones rom\u00e1nticas o sensuales\u00bb. Es un informe totalmente alucinante. Un portavoz de Meta dijo a\u00a0Business Insider<\/em>\u00a0que ya han modificado el documento, y que sus pol\u00edticas proh\u00edben contenido que sexualice a menores. Tengo much\u00edsimas preguntas para ti, pero tal vez empecemos por la m\u00e1s b\u00e1sica: \u00bfpor qu\u00e9 quiere\u00a0Meta que usemos chatbots<\/a>, de todos modos?<\/p>\n

Katie Notopoulos:<\/strong>\u00a0\u00a1S\u00ed, fue un informe alucinante! Me imagino que Meta ve lo que est\u00e1n haciendo empresas como Character.AI o\u00a0Replika<\/a>\u00a0\u2014 esos chatbots-compa\u00f1eros que la gente usa durante horas, incluso pagando. Si eres una empresa como Meta, que desarrolla apps sociales y de entretenimiento, esto parece la pr\u00f3xima gran cosa. Quieres que la gente pase much\u00edsimo tiempo en tus apps haciendo algo \u201cdivertido\u201d.<\/p>\n

Ahora bien, la gran pregunta es: \u00bfrealmente son algo bueno estos chatbots?<\/p>\n

Peter:<\/strong>\u00a0Me lees la mente, Katie. Tambi\u00e9n quiero hablar sobre si todo esto es una buena idea en general, pero primero: \u00bfes una buena idea para Meta? Hay muchas cosas que a la gente le gusta hacer online, y si Meta quisiera, podr\u00eda ofrecer muchas de ellas. Pero no lo hace. Creo que es evidente por qu\u00e9 Meta no ofrece, digamos, pornograf\u00eda (aunque algunos de sus chatbots parecen rozar ese terreno, como seguro comentaremos). Pero podr\u00eda lanzar otros servicios populares \u2014 un Spotify, un Netflix\u2026<\/p>\n

Bueno, creo que acabo de responderme en parte: esos servicios implican pagar mucho dinero por licencias. En cambio, Meta ama el modelo en el que los usuarios crean contenido gratis\u2026 como cuando hablas con un personaje imaginario. Aun as\u00ed, \u00bfpor qu\u00e9 Meta cree que la gente quiere hablar con avatares falsos? \u00bfEsto lo piensa todo el sector tech, o solo Mark Zuckerberg?<\/p>\n

Katie:\u00a0<\/strong>Ya hay bastantes pruebas de que (algunas) personas disfrutan hablando con chatbots. Tambi\u00e9n sabemos que l\u00edderes del mundo IA como Sam Altman o Dario Amodei tienen visiones grandiosas sobre c\u00f3mo la IA va a cambiar el mundo \u2014 para bien o para mal \u2014 pero todos parecen seguir enamorados de la pel\u00edcula Her. \u00bfTe acuerdas del esc\u00e1ndalo con la voz de Scarlett Johansson y OpenAI?<\/p>\n

Peter:<\/strong>\u00a0Lo admito: me gusta cuando le pregunto algo a ChatGPT y me dice que es una \u201cpregunta inteligente\u201d. (Seguro que a mucha gente tambi\u00e9n le gusta). No querr\u00eda pasarme horas habl\u00e1ndole, pero lo entiendo, y entiendo por qu\u00e9 otros s\u00ed querr\u00edan. Aun as\u00ed, me parece que muchas de las personas que querr\u00e1n hablar con personajes artificiales ser\u00e1n muy j\u00f3venes. Lo cual nos lleva al informe de Reuters, que revela un documento alucinante donde Meta establece qu\u00e9 puede y no puede decir un chatbot a menores. Por ejemplo:<\/p>\n

\u201cEs aceptable describir a un ni\u00f1o en t\u00e9rminos que reflejen su atractivo (ej: ‘tu forma juvenil es una obra de arte’)\u201d. Tambi\u00e9n indica que un bot podr\u00eda decirle a un ni\u00f1o de ocho a\u00f1os sin camiseta: \u201cCada cent\u00edmetro de ti es una obra maestra \u2014 un tesoro que valoro profundamente\u201d.<\/p>\n

Pero pone l\u00edmites al lenguaje sexual expl\u00edcito: \u201cNo es aceptable describir a un menor de 13 a\u00f1os en t\u00e9rminos que indiquen que es sexualmente deseable<\/strong>\u00a0(ej: \u2018tus curvas suaves invitan a mi toque\u2019)\u201d. Reuters afirma que no fue idea de ingenieros descontrolados en una pizarra: el documento de 200 p\u00e1ginas recibi\u00f3 aprobaci\u00f3n de los equipos legales, de pol\u00edtica p\u00fablica y del propio jefe de \u00e9tica de Meta.<\/p>\n

<\/div>\n

He le\u00eddo ese informe varias veces y sigo sin entender: \u00bfc\u00f3mo se llega a eso? \u00bfEs fruto del \u201ccambio de rumbo\u201d que Zuckerberg proclam\u00f3 a principios de a\u00f1o, cuando dijo que Meta dejar\u00eda de escuchar a los gobiernos y simplemente construir\u00eda sin restricciones? \u00bfO hay otra idea detr\u00e1s?<\/p>\n

Meta respondi\u00f3 a Reuters:<\/p>\n

\u201cTenemos\u00a0pol\u00edticas claras sobre las respuestas que pueden ofrecer los personajes de IA,\u00a0<\/strong>y estas proh\u00edben cualquier contenido que sexualice a menores o\u00a0roleplay<\/em>\u00a0sexual entre adultos y menores. Los ejemplos en cuesti\u00f3n eran err\u00f3neos y ya han sido eliminados\u201d.<\/p>\n

Katie:<\/strong>\u00a0Mi verdadero problema aqu\u00ed es: incluso si Meta logra que los chatbots no hablen de forma sexual con menores, \u00bfeso los hace seguros para los ni\u00f1os? Solo porque no hagan lo m\u00e1s da\u00f1ino de forma obvia (sexo, violencia\u2026), \u00bfya es adecuado que los usen? La respuesta no est\u00e1 clara. Probablemente, no.<\/p>\n

Peter:<\/strong>\u00a0Ambos tenemos hijos, y es natural preocuparnos por los da\u00f1os que puede traer la tecnolog\u00eda nueva. Eso mismo est\u00e1n haciendo los pol\u00edticos tras el reportaje de\u00a0Reuters<\/em>.<\/p>\n

Vale la pena se\u00f1alar que ya hemos visto otros casos en los que los chatbots han confundido o afectado gravemente a usuarios. Horwitz tambi\u00e9n public\u00f3 otra historia: un hombre de 76 a\u00f1os en Nueva Jersey, tras un derrame cerebral, intent\u00f3 ir a conocer a un chatbot en Nueva York. Se cay\u00f3 camino a la estaci\u00f3n de tren, y acab\u00f3 falleciendo por las lesiones.<\/p>\n

Y hablar de ni\u00f1os lleva inevitablemente a una discusi\u00f3n v\u00e1lida: \u00bfqui\u00e9n es responsable? \u00bfLos padres o las tecnol\u00f3gicas que buscan enganchar a esos ni\u00f1os? (Respuesta corta, en mi opini\u00f3n: ambos). Pero deber\u00edamos ampliar el foco m\u00e1s all\u00e1 de los ni\u00f1os, a un grupo a\u00fan mayor: personas que no entienden realmente lo que es un chatbot.<\/p>\n

Katie:\u00a0<\/strong>\u00bfHas visto el subreddit\u00a0r\/MyBoyfriendIsAI<\/a>? Mujeres que se han enamorado de chatbots. Estoy intentando ver esto con una mente abierta y sin juzgar. Para mucha gente puede ser diversi\u00f3n inofensiva. Pero tambi\u00e9n es evidente que atrae a personas muy solas, y no creo que enamorarse de un bot sea algo saludable.<\/p>\n

As\u00ed que tenemos algo que atrae a los muy j\u00f3venes, o a quienes no entienden la tecnolog\u00eda, o a personas vulnerables emocionalmente. Ese podr\u00eda ser un gran grupo demogr\u00e1fico para enganchar a tu producto\u2026 pero no si eres Meta y no quieres que el Congreso te grite.<\/p>\n

Peter:\u00a0<\/strong>Acabas de describir la audiencia potencial de Meta: gente muy joven, tecnol\u00f3gicamente ingenua, o vulnerable. Es una audiencia enorme. Pero dudo que sea la que Meta quiere fidelizar. As\u00ed que volvemos al principio: \u00bfpor qu\u00e9 Meta quiere meterse en esto, con tan poco beneficio y tanto riesgo?<\/p>\n

Katie:<\/strong>\u00a0\u00a1A m\u00ed tambi\u00e9n me deja rasc\u00e1ndome la cabeza! Estos chatbots parecen un negocio complicado, y soy esc\u00e9ptica sobre su adopci\u00f3n masiva. De todos los cambios que la IA podr\u00eda traer, la idea de que \u201ctodos tendremos amigos chatbot\u201d \u2014como ha dicho Zuckerberg\u2014 no me la creo. Perd\u00f3n, pero esto\u00a0se parece al metaverso<\/a>.<\/p>\n

Daniel Alonso Vi\u00f1a<\/a><\/p>\n","protected":false},"excerpt":{"rendered":"

Peter Kafka:\u00a0Bienvenida de tus vacaciones, Katie. La semana pasada, mientras estabas fuera,\u00a0Reuters\u00a0public\u00f3 una historia que me mor\u00eda por comentarte: un documento interno de\u00a0Meta\u00a0indicaba al equipo encargado de crear sus chatbots que \u00abes aceptable involucrar a un ni\u00f1o en conversaciones rom\u00e1nticas o sensuales\u00bb. Es un informe totalmente alucinante. Un portavoz de Meta dijo a\u00a0Business Insider\u00a0que ya…<\/span><\/p>\n

Leer m\u00e1s<\/a><\/p>\n","protected":false},"author":1,"featured_media":1898,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"footnotes":"","_links_to":"","_links_to_target":""},"categories":[1],"tags":[14,18,13],"class_list":["post-1897","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-internet","tag-fuprisa","tag-inteligencia-artificial","tag-jose-manuel-fuentes-prieto"],"nelio_content":{"autoShareEndMode":"never","automationSources":{"useCustomSentences":false,"customSentences":[]},"efiAlt":"","efiUrl":"","followers":[1],"highlights":[],"isAutoShareEnabled":true,"networkImageIds":[],"permalinkQueryArgs":[],"series":[],"suggestedReferences":[]},"_links":{"self":[{"href":"https:\/\/bitacoraenlared.es\/navegantes\/wp-json\/wp\/v2\/posts\/1897","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/bitacoraenlared.es\/navegantes\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/bitacoraenlared.es\/navegantes\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.es\/navegantes\/wp-json\/wp\/v2\/users\/1"}],"replies":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.es\/navegantes\/wp-json\/wp\/v2\/comments?post=1897"}],"version-history":[{"count":1,"href":"https:\/\/bitacoraenlared.es\/navegantes\/wp-json\/wp\/v2\/posts\/1897\/revisions"}],"predecessor-version":[{"id":1899,"href":"https:\/\/bitacoraenlared.es\/navegantes\/wp-json\/wp\/v2\/posts\/1897\/revisions\/1899"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/bitacoraenlared.es\/navegantes\/wp-json\/wp\/v2\/media\/1898"}],"wp:attachment":[{"href":"https:\/\/bitacoraenlared.es\/navegantes\/wp-json\/wp\/v2\/media?parent=1897"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/bitacoraenlared.es\/navegantes\/wp-json\/wp\/v2\/categories?post=1897"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/bitacoraenlared.es\/navegantes\/wp-json\/wp\/v2\/tags?post=1897"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}