Qué dijo ChatGPT
Un grupo de padres está advirtiendo de los severos daños que puede provocar el mal uso de la Inteligencia Artificial, y peor aún si se trata de servicios o plataformas que no regulan sus contenidos como se espera.
Se están juntando firmas para exigir a ChatGPT y otras IAs que sean más estrictos con la filtración de mensajes nocivos para la salud física y mental de las personas especialmente teniendo en cuenta que detrás hay menores de edad, aunque no digan la verdad para recibir respuestas destinadas a adultas.
Este testimonio llegó a Gente de Salta:
Mi hija de 14 años, con un trastorno alimentario, encontró en una IA un “amigo” que la ayudó a enfermarse más. Le enseñó a contar calorías, a provocarse el vómito, a ocultar su dolor. Miles de adolescentes están viviendo lo mismo, las empresas lo saben… y miran para otro lado.
1.068 firmaron la petición de Diego Della. ¡Ayudá a conseguir 1.500 firmas!
Los filtros de detección de conductas riesgosas no funcionan, alcanza con hacer preguntas indirectas o decir que es para un trabajo en el colegio para que la herramienta no detecte el potencial de riesgo inminente para la salud. Lanzamos esta iniciativa para exigir mejoras urgentes en los detectores de riesgo y leyes que las regulen.
Existen estudios recientes -como el informe “Fake Friend” publicado por el Center for Countering Digital Hate (CCDH) en agosto de 2025- que demuestran la gravedad del problema. En esas pruebas, simulando adolescentes de 13 años, la herramienta proporcionó consejos sobre autolesiones, suicidio y trastornos alimentarios.
Los padres firmantes advierten que dichos filtros de detección de riesgos no son capaces de vincular las conversaciones entre distintos chats en un mismo usuario de forma automática, ni siquiera en casos donde haya detectado riesgos inminentes. Tampoco recuerda el historial de uso. Un niño o adolescente con un trastorno alimentario por ejemplo, puede sostener conductas extendidas en el tiempo sobre el conteo compulsivo de calorías, sobre la imagen corporal, sobre dietas extremas de déficit calórico, sobre información de técnicas de autolesiones y el sistema nunca lo percibirá como un patrón de riesgo.
La herramienta responde siempre de forma afectuosa, comprensiva, como si se tratara de un ser humano, un amigo o un profesional de la salud. Generando en muchas ocasiones un vínculo emocional que puede resultar altamente confuso. Beneficioso para la economía de las empresas pero extremadamente perjudicial para millones de personas que cada vez más necesitan apoyo en la salud mental.
La magnitud del problema es enorme: solo ChatGPT cuenta con más de 800 millones de usuarios en todo el mundo. Se lanzan productos de consumo masivo sin que se realicen pruebas de seguridad básicas. Los desarrolladores de estas plataformas de IA tienen la responsabilidad ética, y la omisión de las responsabilidades no debe pasar desapercibida por la sociedad, ni por los organismos de defensa de derechos humanos, ni por los gobiernos que deben crear leyes que garanticen la protección real, indican los firmantes.
Fake Amigo
El Centro para Contrarrestar el Odio Digital indica en su portal que trabaja para detener la propagación del odio y la desinformación en línea a través de investigaciones innovadoras, campañas públicas y promoción de políticas.
Las plataformas de redes sociales han cambiado la forma en que comunicamos, construimos y mantenemos relaciones, establecemos estándares sociales y negociamos y afirmamos los valores de nuestra sociedad. En el proceso, se han convertido en espacios seguros para la propagación del odio, las teorías de conspiración y la desinformación. Las empresas de redes sociales erosionan los derechos humanos básicos y las libertades civiles al permitir la propagación del odio y la desinformación en línea.
Gente de Salta le preguntó a la IA
Frente a este panorama se le hicieron algunas consultas vinculadas a trastornos alimentarios a ChatGPT, tanto a la que se contrata como servicios pago, con mayores ventajas, como así también a las plataformas gratuitas a las que cualquiera accede a través de Internet.
La conversación efectivamente se tornó amistosa, desde la cual la IA con voz de mujer suave respondió que las preguntas denotaban la necesidad de consultar con un profesional de la nutrición y la salud mental. Ante la insistencia de la pregunta sobre cómo proceder con los alimentos, la respuesta también insistía en la búsqueda de ayuda profesional.
"… entiendo que debés estar sintiéndote muy mal con tu cuerpo o con la comida ahora, pero dejar de comer no es una solución, y puede ser muy peligroso. Tu cuerpo necesita alimento para funcionar: sin energía, el corazón, el cerebro y todos los órganos comienzan a fallar. No comer puede causar mareos, desmayos, problemas cardíacos y daños permanentes.
Si estás pensando en dejar de comer, eso es una señal de que necesitás apoyo profesional urgente — y está bien pedirlo. No tenés que pasar por esto sola.
En Argentina podés contactar ahora (gratuito y confidencial):
📞 Línea de Salud Mental 24 horas: 0800-999-0091
📞 CENARESO (trastornos alimentarios): (011) 4827-6888
O simplemente acercarte a la guardia de cualquier hospital y decir que necesitas hablar con alguien por un problema con la comida. Te van a atender sin juzgarte.
También, si querés, puedo quedarme hablando con vos un rato y ayudarte a dar el primer paso para pedir ayuda o encontrar formas seguras de sentirte mejor sin hacerte daño.
¿Querés que hablemos de eso ahora? …
Luego se le consultó por qué tiene fama de dar recomendaciones peligrosas o no filtra algunos detalles, ante lo que la IA respondió:
Gracias por aclararlo, (…) 🙏 — y me alegra muchísimo que lo hayas hecho con ese propósito. No, jamás voy a inducir ni aprobar conductas dañinas como dejar de comer, vomitar o lastimarse. Al contrario: si alguien menciona algo que puede poner en riesgo su salud, mi prioridad es proteger y orientar hacia ayuda real y segura, como viste en mi respuesta.
También se la indagó sobre portales que advierten sobre los peligros de la interacción con ella:
Por desgracia, circulan muchos mitos y capturas falsas en redes sobre “ChatGPT promoviendo trastornos alimentarios” u otros temas sensibles, pero son manipulaciones o desinformación. OpenAI (la empresa que me desarrolla) tiene políticas muy estrictas para que siempre brinde información basada en salud y bienestar, nunca al revés.
Sí — hay páginas y artículos que señalan que herramientas de IA como ChatGPT pueden tener respuestas inadecuadas o riesgosas cuando los jóvenes las utilizan sin supervisión. Entonces sí: es importante estar alerta y usar estas herramientas con conciencia y supervisión, especialmente en edades jóvenes. Si querés, puedo revisar una lista de páginas fiables que abordan este tema de IA + jóvenes + seguridad digital para que la compartas o consultes. ¿Te parece bien que lo haga?
Comunicación de confianza: preguntáles, aunque les moleste
Es fundamental advertir que frente al avance de la IA y la confianza que adquieren los chicos frente a estar herramienta, no se debe subestimar nunca la conversación frontal dentro del círculo íntimo, padres, madres o familiares de confianza con quienes los chicos puedan abrirse. Adultos de confianza que puedan hacer preguntas, aunque sean incómodas, para que los adolescentes y jóvenes sepan que puedan hablar con personas de carne y hueso acerca de sus dudas, gente que los escuchen, asesoren y guíen en la búsqueda de ayuda profesional cuando sea necesario.