¿Quién vigila al vigilante? ¿Quien controla a ChatGPT? ¿Quién protege a los adolescentes? Y los los datos que comparten con la IA?
Viñeta: La espera, Mario Trigo, GarbuixBooks
La protección de los menores ante la IA debe ir más allá del contenido al que acceden. Tiene que contemplar también la privacidad y el tratamiento de los datos que comparten.
El nuevo ChatGPT para adolescentes incorpora nuevas medidas de seguridad adaptadas a la
- edad
- controles parentales
- funcionalidades orientadas al aprendizaje
La IA, reguero de pólvora entre usuarios de todas las edades
¿Cómo garantizar que su adopción avance acompañada de protección de los usuarios y de la información compartida?
En este contexto, Check Point® Software Technologies Ltd. (NASDAQ: CHKP), pionero y líder global en soluciones de ciberseguridad, señala que la incorporación de medidas específicas para adolescentes supone un paso relevante, pero recuerda que la seguridad de la IA debe abordar tanto los contenidos a los que acceden los menores como la privacidad y el tratamiento de los datos que introducen en estas plataformas.
La IA se ha convertido en una parte beneficiosa de nuestra vida cotidiana, pero junto a esas ventajas también plantea nuevos riesgos de ciberseguridad y protección.
La proporción de prompts de IA de alto riesgo en entornos empresariales se duplicó durante el último año.
La adopción sigue avanzando más rápido que las medidas de protección destinadas a proteger a los usuarios.
Esa es precisamente la brecha que OpenAI trata ahora de cerrar para los adolescentes”
El modo de interactuar es clave para la evolución y adopción de la IA
Por otro lado, desde el punto de vista de la privacidad y la protección de datos, limitar el contenido al que pueden acceder los menores constituye solo una parte del desafío.
El AI Security Report 2026 de Check Point documenta el caso de una aplicación de chat con IA para consumidores que expuso 300 millones de mensajes de 25 millones de usuarios.
“Los controles parentales abordan qué contenidos ven los adolescentes.
La segunda cuestión es qué ocurre con aquello que escriben.
Las conversaciones con sistemas de IA se encuentran entre los datos más personales que generan los usuarios, y las aplicaciones de IA de consumo ya han sufrido filtraciones a gran escala.
Un diseño adaptado a la edad debe contemplar tanto el tratamiento de los datos como el filtrado de contenidos”
