Editor Top
La historia de Chatgpt por un adolescente se ve en una cafetería en Russellville, Arkansas, el 15 de julio de 2025. Crédito: AP Photo/Katie Adkins, archivo
Los fabricantes de chatbot de inteligencia artificial Openai y Meta dicen que están ajustando cómo sus chatbots responden a los adolescentes y otros usuarios que hacen preguntas sobre suicidio o muestran signos de angustia mental y emocional.
Operai, fabricante de chatgpt, dijo el martes que se está preparando para lanzar nuevos controles permitiendo a los padres vincular sus cuentas con la cuenta de su adolescente.
Los padres pueden elegir qué características deshabilitar y «recibir notificaciones cuando el sistema detecta a su adolescente está en un momento de angustia aguda», según una publicación de blog de la compañía que dice que los cambios entrarán en vigencia este otoño.
Independientemente de la edad de un usuario, la compañía dice que sus chatbots redirigirán las conversaciones más angustiantes a modelos de IA más capaces que pueden proporcionar una mejor respuesta.
Esta historia incluye la discusión del suicidio. Si usted o alguien que conoce necesita ayuda, el suicidio nacional y la crisis de crisis en los Estados Unidos están disponibles llamando o enviando mensajes de texto al 988.
El anuncio se produce una semana después de que los padres de Adam Raine, de 16 años, demandaron a Openai y su CEO Sam Altman, alegando que ChatGPT entrenó al niño de California para planificar y quitarse la vida a principios de este año.
Meta, la empresa matriz de Instagram, Facebook y WhatsApp, también dijo que ahora está bloqueando sus chatbots de hablar con adolescentes sobre autolesiones, suicidio, alimentación desordenada y conversaciones románticas inapropiadas, y en su lugar los dirige a los recursos expertos. Meta ya ofrece controles parentales en cuentas adolescentes.
-
La gente habla cerca de un meta signo fuera de la sede de la compañía en Menlo Park, California, el 7 de marzo de 2023. Crédito: AP Photo/Jeff Chiu, archivo
-
La página de destino de Chat GPT se ve en una pantalla de computadora, lunes 4 de agosto de 2025, en Chicago. Crédito: AP Photo/Kiichiro Sato
Un estudio publicado la semana pasada en la revista médica Servicios psiquiátricos Encontraron inconsistencias en cómo tres chatbots de inteligencia artificiales populares respondieron a las consultas sobre el suicidio.
El estudio realizado por investigadores de RAND Corporation encontró la necesidad de «más refinamiento» en ChatGPT, Géminis de Google y Claude de Anthrope. Los investigadores no estudiaron los chatbots de Meta.
El autor principal del estudio, Ryan McBain, dijo el martes que «es alentador ver OpenAi y meta introducir características como controles de los padres y enrutamiento de conversaciones sensibles a modelos más capaces, pero estos son pasos incrementales».
«Sin los puntos de referencia de seguridad independientes, las pruebas clínicas y los estándares exigibles, todavía confiamos en que las empresas se autorregulen en un espacio donde los riesgos para los adolescentes son únicos altos», dijo McBain, investigador de políticas senior de Rand.
© 2025 The Associated Press. Reservados todos los derechos. Este material no puede publicarse, transmitir, reescribirse o redistribirse sin permiso.
Citación: Operai y Meta dicen que están arreglando los chatbots de IA para responder mejor a los adolescentes en apuros (2025, 2 de septiembre) recuperado el 2 de septiembre de 2025 de https://techxplore.com/news/2025-09-openai-meta-theyre-ai-chatbots.html
Este documento está sujeto a derechos de autor. Además de cualquier trato justo con el propósito de estudio o investigación privada, no se puede reproducir ninguna parte sin el permiso por escrito. El contenido se proporciona solo para fines de información.
