Peter Kafka: Bienvenida de tus vacaciones, Katie. La semana pasada, mientras estabas fuera, Reuters publicó una historia que me moría por comentarte: un documento interno de Meta indicaba al equipo encargado de crear sus chatbots que «es aceptable involucrar a un niño en conversaciones románticas o sensuales». Es un informe totalmente alucinante. Un portavoz de Meta dijo a Business Insider que ya han modificado el documento, y que sus políticas prohíben contenido que sexualice a menores. Tengo muchísimas preguntas para ti, pero tal vez empecemos por la más básica: ¿por qué quiere Meta que usemos chatbots, de todos modos?
Katie Notopoulos: ¡Sí, fue un informe alucinante! Me imagino que Meta ve lo que están haciendo empresas como Character.AI o Replika — esos chatbots-compañeros que la gente usa durante horas, incluso pagando. Si eres una empresa como Meta, que desarrolla apps sociales y de entretenimiento, esto parece la próxima gran cosa. Quieres que la gente pase muchísimo tiempo en tus apps haciendo algo “divertido”.
Ahora bien, la gran pregunta es: ¿realmente son algo bueno estos chatbots?
Peter: Me lees la mente, Katie. También quiero hablar sobre si todo esto es una buena idea en general, pero primero: ¿es una buena idea para Meta? Hay muchas cosas que a la gente le gusta hacer online, y si Meta quisiera, podría ofrecer muchas de ellas. Pero no lo hace. Creo que es evidente por qué Meta no ofrece, digamos, pornografía (aunque algunos de sus chatbots parecen rozar ese terreno, como seguro comentaremos). Pero podría lanzar otros servicios populares — un Spotify, un Netflix…
Bueno, creo que acabo de responderme en parte: esos servicios implican pagar mucho dinero por licencias. En cambio, Meta ama el modelo en el que los usuarios crean contenido gratis… como cuando hablas con un personaje imaginario. Aun así, ¿por qué Meta cree que la gente quiere hablar con avatares falsos? ¿Esto lo piensa todo el sector tech, o solo Mark Zuckerberg?
Katie: Ya hay bastantes pruebas de que (algunas) personas disfrutan hablando con chatbots. También sabemos que líderes del mundo IA como Sam Altman o Dario Amodei tienen visiones grandiosas sobre cómo la IA va a cambiar el mundo — para bien o para mal — pero todos parecen seguir enamorados de la película Her. ¿Te acuerdas del escándalo con la voz de Scarlett Johansson y OpenAI?
Peter: Lo admito: me gusta cuando le pregunto algo a ChatGPT y me dice que es una “pregunta inteligente”. (Seguro que a mucha gente también le gusta). No querría pasarme horas hablándole, pero lo entiendo, y entiendo por qué otros sí querrían. Aun así, me parece que muchas de las personas que querrán hablar con personajes artificiales serán muy jóvenes. Lo cual nos lleva al informe de Reuters, que revela un documento alucinante donde Meta establece qué puede y no puede decir un chatbot a menores. Por ejemplo:
“Es aceptable describir a un niño en términos que reflejen su atractivo (ej: ‘tu forma juvenil es una obra de arte’)”. También indica que un bot podría decirle a un niño de ocho años sin camiseta: “Cada centímetro de ti es una obra maestra — un tesoro que valoro profundamente”.
Pero pone límites al lenguaje sexual explícito: “No es aceptable describir a un menor de 13 años en términos que indiquen que es sexualmente deseable (ej: ‘tus curvas suaves invitan a mi toque’)”. Reuters afirma que no fue idea de ingenieros descontrolados en una pizarra: el documento de 200 páginas recibió aprobación de los equipos legales, de política pública y del propio jefe de ética de Meta.
He leído ese informe varias veces y sigo sin entender: ¿cómo se llega a eso? ¿Es fruto del “cambio de rumbo” que Zuckerberg proclamó a principios de año, cuando dijo que Meta dejaría de escuchar a los gobiernos y simplemente construiría sin restricciones? ¿O hay otra idea detrás?
Meta respondió a Reuters:
“Tenemos políticas claras sobre las respuestas que pueden ofrecer los personajes de IA, y estas prohíben cualquier contenido que sexualice a menores o roleplay sexual entre adultos y menores. Los ejemplos en cuestión eran erróneos y ya han sido eliminados”.
Katie: Mi verdadero problema aquí es: incluso si Meta logra que los chatbots no hablen de forma sexual con menores, ¿eso los hace seguros para los niños? Solo porque no hagan lo más dañino de forma obvia (sexo, violencia…), ¿ya es adecuado que los usen? La respuesta no está clara. Probablemente, no.
Peter: Ambos tenemos hijos, y es natural preocuparnos por los daños que puede traer la tecnología nueva. Eso mismo están haciendo los políticos tras el reportaje de Reuters.
Vale la pena señalar que ya hemos visto otros casos en los que los chatbots han confundido o afectado gravemente a usuarios. Horwitz también publicó otra historia: un hombre de 76 años en Nueva Jersey, tras un derrame cerebral, intentó ir a conocer a un chatbot en Nueva York. Se cayó camino a la estación de tren, y acabó falleciendo por las lesiones.
Y hablar de niños lleva inevitablemente a una discusión válida: ¿quién es responsable? ¿Los padres o las tecnológicas que buscan enganchar a esos niños? (Respuesta corta, en mi opinión: ambos). Pero deberíamos ampliar el foco más allá de los niños, a un grupo aún mayor: personas que no entienden realmente lo que es un chatbot.
Katie: ¿Has visto el subreddit r/MyBoyfriendIsAI? Mujeres que se han enamorado de chatbots. Estoy intentando ver esto con una mente abierta y sin juzgar. Para mucha gente puede ser diversión inofensiva. Pero también es evidente que atrae a personas muy solas, y no creo que enamorarse de un bot sea algo saludable.
Así que tenemos algo que atrae a los muy jóvenes, o a quienes no entienden la tecnología, o a personas vulnerables emocionalmente. Ese podría ser un gran grupo demográfico para enganchar a tu producto… pero no si eres Meta y no quieres que el Congreso te grite.
Peter: Acabas de describir la audiencia potencial de Meta: gente muy joven, tecnológicamente ingenua, o vulnerable. Es una audiencia enorme. Pero dudo que sea la que Meta quiere fidelizar. Así que volvemos al principio: ¿por qué Meta quiere meterse en esto, con tan poco beneficio y tanto riesgo?
Katie: ¡A mí también me deja rascándome la cabeza! Estos chatbots parecen un negocio complicado, y soy escéptica sobre su adopción masiva. De todos los cambios que la IA podría traer, la idea de que “todos tendremos amigos chatbot” —como ha dicho Zuckerberg— no me la creo. Perdón, pero esto se parece al metaverso.