ChatGPT para adolescentes llega con controles parentales y herramientas para estudiar

OpenAI presentó ChatGPT para adolescentes, una experiencia dirigida a usuarios de entre 13 y 17 años que combina herramientas de aprendizaje con protecciones de seguridad específicas para menores de edad.

La nueva experiencia busca que los adolescentes puedan utilizar inteligencia artificial para estudiar, resolver dudas, practicar conocimientos y desarrollar proyectos, pero bajo un entorno con restricciones adicionales frente a contenidos considerados inadecuados para su edad.

De acuerdo con OpenAI, si sus sistemas estiman que una persona es menor de 18 años, o si esta indica que tiene entre 13 y 17 años, será incorporada automáticamente a la experiencia diseñada para adolescentes.

El lanzamiento amplía el trabajo que la compañía ya había desarrollado mediante los Controles parentales, la predicción de edad, las especificaciones para menores de 18 años y distintas herramientas destinadas a promover un uso más seguro de la inteligencia artificial.

El aprendizaje ocupa un lugar central

Uno de los principales cambios está relacionado con la manera en que ChatGPT puede ayudar a los estudiantes.

La propuesta busca evitar que la herramienta se convierta únicamente en un mecanismo para obtener respuestas rápidas a las tareas.

Entre las funciones incorporadas se encuentra el Modo de estudio, que utiliza preguntas orientativas, explicaciones paso a paso y comprobaciones de conocimiento para que el adolescente avance en la resolución de un problema.

La herramienta también incorpora recordatorios destinados a promover una realización responsable de las tareas.

Cuando el sistema identifica que un usuario podría estar intentando utilizar ChatGPT como un atajo para completar un trabajo, puede dirigirlo hacia el Modo de estudio.

Cuestionarios y visualizaciones para practicar

La experiencia también reúne cuestionarios y recursos visuales que permiten practicar determinados contenidos y comprobar si el estudiante realmente comprendió un concepto.

Otra de las funciones anunciadas es un horario de estudio, mediante el cual los adolescentes o sus padres pueden establecer cuándo se activa de manera predeterminada el Modo de estudio.

La intención es que la inteligencia artificial no se limite a proporcionar una solución terminada, sino que pueda acompañar al estudiante durante el proceso de aprendizaje.

Más controles para padres y nuevas restricciones

La seguridad es otro de los ejes de ChatGPT para adolescentes. OpenAI señala que las protecciones estarán activadas como parte de la experiencia predeterminada para los menores de 18 años.

Estas medidas contemplan restricciones relacionadas con áreas de mayor riesgo, entre ellas las autolesiones, la violencia, los trastornos alimentarios, actividades peligrosas y contenido sexual explícito o gráfico.

Los padres que tengan cuentas de adolescentes vinculadas podrán establecer horarios de descanso, administrar determinados ajustes y recibir notificaciones de seguridad en algunas situaciones consideradas de alto riesgo.

OpenAI también anunció nuevas notificaciones relacionadas con los trastornos alimentarios y explicó que la información compartida en estas alertas será limitada, con énfasis en situaciones en las que pueda ser necesario buscar apoyo fuera de internet.

La experiencia también busca reducir la dependencia de la IA

La compañía indicó que ChatGPT para adolescentes está diseñado para favorecer las relaciones y actividades en el mundo real.

Para ello, se incorporan recordatorios que invitan a tomar descansos durante sesiones prolongadas y mensajes que recuerdan al usuario que está interactuando con una inteligencia artificial.

Las especificaciones actualizadas para menores de 18 años también establecen límites sobre la forma en que el modelo debe relacionarse con estos usuarios. Según OpenAI, ChatGPT no debe utilizar lenguaje romántico, fomentar dependencia emocional ni insinuar que tiene sentimientos o conciencia.

OpenAI también apuesta por la formación en inteligencia artificial

El anuncio incluye una alianza estratégica entre OpenAI y CodeAI, enfocada en proporcionar herramientas y recursos para que estudiantes y docentes aprendan a utilizar la inteligencia artificial.

El objetivo de esta colaboración es que los adolescentes conozcan cómo funcionan estas tecnologías, aprendan a cuestionar sus respuestas, identifiquen posibles errores y desarrollen capacidades para utilizarlas de manera responsable.

La propuesta parte de una idea central: el aprendizaje sobre inteligencia artificial no debería limitarse al uso de una herramienta, sino incluir la capacidad de comprender sus posibilidades y limitaciones.

Adolescentes ya utilizan IA para desarrollar proyectos

OpenAI también destacó algunos proyectos desarrollados por adolescentes con ayuda de herramientas de inteligencia artificial.

Uno de ellos es WiFind, creado en Virginia por Rushil Kukreja, Arhan Menta y Nayel Rehman. El proyecto utiliza señales Wi-Fi existentes para contribuir a la localización de personas que podrían encontrarse atrapadas bajo escombros después de una catástrofe.

Otro caso mencionado es el de Audemy, una plataforma desarrollada por Crystal Yang, de Texas, que utiliza juegos educativos basados en audio dirigidos a estudiantes ciegos. Según OpenAI, el proyecto alcanzó 200,000 usuarios y cuenta con 50 juegos.

Estos ejemplos son utilizados por la compañía para mostrar algunos de los usos que busca impulsar entre los adolescentes: comprender contenidos, adquirir nuevas habilidades y utilizar la tecnología para desarrollar proyectos.

Nuevas medidas para un uso más equilibrado

El diseño de ChatGPT para adolescentes también contempla medidas destinadas a evitar un uso excesivo de la herramienta.

OpenAI señala que los usuarios adolescentes recibirán avisos durante períodos prolongados de utilización para recordarles que deben hacer una pausa y desconectarse.

También habrá advertencias cuando intenten subir imágenes sensibles, con recordatorios para no compartir fotografías privadas o información visual que pueda comprometer su seguridad.

Desde el primer momento, el proceso de incorporación a la plataforma mostrará las funciones relacionadas con aprendizaje y seguridad disponibles para los adolescentes.

OpenAI continuará evaluando la seguridad para menores

La compañía aseguró que continuará investigando el uso de inteligencia artificial entre adolescentes y evaluando el funcionamiento de las medidas de protección.

Como parte de ese trabajo, OpenAI comenzó a incorporar evaluaciones específicas para menores de 18 años en sus fichas de sistema.

Estas pruebas analizan el comportamiento de los modelos frente a situaciones relacionadas con autolesiones, trastornos alimentarios, violencia, bienes y servicios sujetos a restricciones de edad y contenido sexual.

El objetivo, según la compañía, es obtener más información sobre el desempeño de sus modelos en escenarios sensibles y utilizar esos resultados para reforzar las protecciones.