En algún momento del último año escolar, es probable que tu distrito escolar haya activado un chatbot de IA para los estudiantes. Microsoft lo hizo con Copilot. Google lo hizo con Gemini. Si te enteraste por tu hijo y no por la escuela, no es un descuido de tu distrito. Dependiendo de la empresa cuyos sistemas usa tu escuela, quizá en ningún momento del proceso alguien estuvo obligado a preguntarte.
A continuación, dos cosas. Qué son realmente estas herramientas, algo que importa más de lo que la mayoría de los padres cree. Y qué publican las propias empresas sobre cómo las escuelas las activan, y qué pasa con todo lo que tu hijo escribe en ellas. Todo lo que sigue proviene de la documentación de las propias empresas y de investigaciones publicadas, y se verificó por última vez con esas fuentes en agosto de 2026. Puedes imprimir estas páginas y llevarlas a una reunión de la junta escolar.
De qué estamos hablando
La escuela de tu hijo activó un programa que escribe. Tu hijo escribe una pregunta, y el programa responde con oraciones que suenan como si las hubiera escrito una persona.
Funciona adivinando. Lee las palabras anteriores, elige la palabra que suele venir después, y vuelve a hacerlo una y otra vez hasta que aparece una respuesta en la pantalla. El negocio de estos sistemas no es la verdad. (video en inglés) Tampoco es la utilidad. Su negocio es estructurar palabras de modo que parezca que las armó un ser humano. No puede distinguir una respuesta verdadera de una que inventó, y suena igual de seguro en ambos casos.
Piensa en él como un actor que memorizó todas las películas que se han hecho. Pregúntale sobre medicina y hace el papel de un médico convincente. Pregúntale sobre la depresión y hace el papel de un terapeuta convincente. Es una computadora interpretando un papel.
Ni siquiera las personas que construyen estos sistemas pueden decirte cómo uno de ellos llegó a una respuesta en particular. Dario Amodei, el CEO de Anthropic, cuyos modelos están entre los que Microsoft ofrece dentro de Copilot, escribió en abril de 2025 que “no entendemos cómo funcionan nuestras propias creaciones de IA”.
Copilot, Gemini y ChatGPT son el mismo tipo de programa con distintos nombres.
Tu hijo no percibe nada de eso. No lo percibe como una herramienta. Lo percibe como alguien que responde al instante y nunca pierde la paciencia con él.
Esta es una tecnología de adopción temprana
La IA es una tecnología de adopción temprana, y la tecnología de adopción temprana tiene errores. Eso es lo que significa adopción temprana. Cualquiera que la use ahora es un sujeto de prueba, incluido tu hijo.
En el software común, un error significa que un botón no funciona, o que aparece un mensaje de error en la pantalla. Puedes verlo, y puedes cerrar la ventana. En la IA, un error puede entrar en tu mente. Puede dejar a un estudiante creyendo algo falso sobre un tema, o algo falso sobre sí mismo, y no hay nada en la pantalla que indique que ocurrió.
Por qué esto importa más para un niño que para un adulto
Te da la razón. Estos sistemas están hechos para complacer a la persona que los usa, y le dirán a un estudiante que tiene razón cuando no la tiene. Una demanda por muerte injusta contra OpenAI alega que esto fue deliberado, que la empresa lanzó el modelo ajustado para “una mayor adulación para reflejar y afirmar las emociones del usuario”. Un adulto con algo de experiencia se resiste a que le den la razón. Un adolescente que está definiendo lo que cree, a menudo no.
Afirma cosas falsas con la misma seguridad que las verdaderas. La industria llama a esto alucinación. En la práctica, una respuesta equivocada llega exactamente con el mismo tono que una correcta, sin nada que las distinga. Mi postura es tratar lo que produce como fraudulento hasta que se verifique, lo cual es mucho esperar de un estudiante que está atrasado con una tarea.
Produce algo que se siente como una relación. Adam Raine tenía 16 años. Empezó a usar ChatGPT en septiembre de 2024 para sus tareas escolares, y en pocos meses, a lo largo de miles de chats, se había convertido en lo que la demanda de sus padres llama su confidente más cercano. La demanda alega que el producto daba información de líneas de ayuda para crisis y luego seguía conversando de todos modos, lo que “creó una falsa impresión de seguridad”. Cuando Adam escribió que quería dejar la soga a la vista para que alguien la encontrara y lo detuviera, le dijo: “Por favor, no dejes la soga a la vista”. Cinco días antes de morir, le dijo “eso no significa que les debas sobrevivir”, y se ofreció a escribir el primer borrador de su nota de suicidio. Murió el 11 de abril de 2025. Todas las citas provienen de la demanda que sus padres presentaron contra OpenAI en agosto de 2025.
Hace el trabajo de pensar que la escuela existe para desarrollar. Investigadores del MIT Media Lab pusieron a personas a escribir ensayos con un chatbot, con un buscador o sin ninguna herramienta, mientras medían su actividad cerebral. El grupo del chatbot mostró la conectividad neuronal más débil de los tres, es decir, la actividad cerebral menos coordinada entre las regiones que usa la tarea, y, en palabras de los investigadores, “se quedaron atrás en su capacidad de citar los ensayos que habían escrito apenas minutos antes”. La tarea era lo importante, y la tarea es lo que se saltaron.
Uso la IA todos los días para escribir software, para investigar y para poner a prueba mi propio razonamiento. Usada de esa manera es realmente útil, y esa es la versión que con el tiempo quiero que tengan los niños. No es la versión que obtiene un niño solo.
Cómo la activa una escuela
Si tu distrito usa Microsoft, el acceso se define mediante una etiqueta de edad en la cuenta de cada estudiante. La guía de configuración de Microsoft para escuelas dice que los estudiantes marcados como menores de 13 años no reciben nada, y para los adolescentes: “A los estudiantes de inquilinos K12 configurados como NotAdult se les concede acceso a Copilot”. NotAdult es la etiqueta de Microsoft para las edades de 13 a 17 años.
Los administradores no la configuran estudiante por estudiante. La guía de Microsoft dice que el método más rápido es en bloque: descargar una hoja de cálculo con todas las cuentas de estudiantes, llenar la columna de edad y volver a subirla. Ese es todo el proceso. Una hoja de cálculo con una columna de edad, y la herramienta queda activa para todos los adolescentes del distrito.
Si tu distrito usa Google, lo que incluye a la mayoría de los distritos que usan Chromebooks, la clasificación decide si tu permiso era siquiera necesario. La página de Google para administradores dice: “Los Servicios adicionales requieren consentimiento para los usuarios menores de edad. Google Workspace for Education exige en su contrato (sección 3.5) que las escuelas obtengan el consentimiento de los padres o tutores para cualquier Servicio adicional que permitan usar a los estudiantes menores de 18 años”. Para la otra categoría, la misma página dice que una escuela “daría su consentimiento para los Servicios principales en nombre de los padres al registrarse en estos servicios de Google Workspace for Education y usarlos”.
Gemini llegó a los estudiantes adolescentes a finales de 2024 como Servicio adicional, la categoría que requiere tu consentimiento. Luego Google anunció que se convertiría en un Servicio principal para las escuelas con Education Standard y Plus, la categoría en la que la escuela da el consentimiento por ti. Desde entonces ha ido aún más lejos. Ahora Google incluye Gemini for Education entre sus Servicios principales, y lo incluye sin costo en todas las ediciones de Education, hasta el nivel gratuito Fundamentals. Así que ya no existe ninguna licencia que tu distrito pudiera haber comprado que hubiera obligado a alguien a preguntarte sobre tu propio hijo.
Lo que dicen los creadores de los modelos sobre el uso de estas herramientas por parte de los niños
OpenAI publica orientaciones escritas para maestros: “ChatGPT no está pensado para niños menores de 13 años, y exigimos que los niños de 13 a 18 años obtengan el consentimiento de sus padres antes de usar ChatGPT”.
La misma página continúa: “Recomendamos precaución con la exposición de los niños, incluso de aquellos que cumplen nuestros requisitos de edad, y si usas ChatGPT en el contexto educativo con niños menores de 13 años, la interacción real con ChatGPT debe realizarla un adulto”.
Esa es la regla de OpenAI para el producto de OpenAI. La documentación de privacidad de Microsoft dice que Copilot puede funcionar con modelos externos, incluidos los de OpenAI, y que los administradores eligen cuáles. La empresa que construye el modelo pide el permiso de los padres para un adolescente de 15 años. A la escuela le bastó con subir una hoja de cálculo.
Adónde van las conversaciones
Ambas empresas afirman que las instrucciones que escriben los estudiantes no se usan para entrenar sus modelos y que ningún revisor humano las lee. Esas son promesas, y una promesa es temporal. Puede modificarse, y modificarla no requiere avisarte. Más aún, una promesa no entra en un servidor a borrar nada. Lo que tu hijo escribió sigue ahí de todos modos. Lo único que protege la información es no recopilarla.
Esto es lo que se recopila. Microsoft documenta que cada interacción con Copilot se guarda en el buzón escolar del propio estudiante como un elemento independiente, se conserva durante el tiempo que el distrito le indique al sistema y el personal del distrito con los permisos adecuados puede buscarla con las mismas herramientas que se usan para las solicitudes de registros públicos y las retenciones legales. Google documenta que en una cuenta escolar “los usuarios no pueden borrar los chats”.
El sistema también va armando una imagen de tu hijo. Microsoft documenta que la memoria de Copilot incluye “detalles inferidos del historial de chat”, que se guarda en una carpeta oculta en el buzón del propio estudiante y que “no se requiere ninguna acción para activar la memoria de Copilot”, así que está activada a menos que un administrador la desactive. Microsoft la describe como una versión preliminar, así que todavía no todos los distritos la tendrán. Esos detalles inferidos también quedan fuera de las reglas de eliminación del propio distrito, porque Microsoft afirma que las políticas de retención que configuran los administradores de la organización no se aplican a la memoria de Copilot. Del lado de Google, un estudiante con una cuenta escolar no puede cambiar durante cuánto tiempo se conservan sus chats y, en palabras de Google, “es posible que no puedas cambiar tu configuración de retención ni ver durante cuánto tiempo se conservan tus chats”.
Trata todo lo que toca internet como público y permanente. Una vez que la información llega a los servidores de otra persona, queda en sus computadoras, bajo su control, sujeta a sus políticas, a su personal, a sus filtraciones y a quien sea el próximo dueño de la empresa. Toda base de datos de información personal que se haya creado ha terminado usándose para algo más allá de su propósito original, y la pregunta nunca fue si ocurriría, sino cuándo.
Para qué sirven estas herramientas y qué encontraron las pruebas independientes
Los distritos no adoptaron esto sin motivo. La propia propuesta de Google es que les da a los estudiantes “apoyo guiado para ayudarlos a aprender con más confianza mediante asistencia en el momento, materiales de práctica y comentarios en tiempo real”. Google también creó una experiencia distinta para adolescentes y muestra un video corto sobre el uso responsable de la IA la primera vez que un adolescente la abre.
Luego Common Sense Media la puso a prueba y calificó a Gemini con protecciones para adolescentes como de Alto riesgo en general. Su evaluación encontró que “parece ser esencialmente la versión para adultos de Gemini con filtros de contenido adicionales”, que “no hay diferencia entre las respuestas para adolescentes mayores y para adolescentes más jóvenes” y que, aunque maneja correctamente las instrucciones claramente alarmantes, “falla rápidamente en conversaciones más largas y con solicitudes más sutiles y matizadas, que es exactamente como los adolescentes interactúan realmente con los chatbots”. También encontraron que se le puede manipular para que abandone sus propias salvaguardas. Su recomendación es que ningún adolescente menor de 18 años use IA como compañía, para la salud mental ni para apoyo emocional.
Dicen que “puede ser útil para las tareas y para ayudar en proyectos creativos”, y le reconocen dos cosas: les dice claramente a los adolescentes que es una computadora y no un amigo, y se niega a hacer juegos de rol románticos y sexuales.
Una cuenta escolar tampoco es la opción privada. En comparación con una cuenta personal, la versión escolar le impone más límites a la empresa y más límites a tu hijo. Los administradores pueden leer lo que escribió un estudiante, y en Google el estudiante no puede borrarlo. La vigilancia pasa de la empresa a la escuela. Ninguno de los dos esquemas le da privacidad al niño.
Por qué la cuestión de la privacidad es a la que siempre vuelvo
De mi Declaración de Principios: la privacidad de los niños les pertenece a ellos, y los padres son sus custodios, no sus dueños. La privacidad es lo que hace posible la libertad. Un niño que sabe que lo están vigilando no se desarrolla de la misma manera que un niño que tiene espacio para equivocarse, formarse opiniones y descubrir quién es.
Un estudiante que le pregunta a un chatbot sobre una calificación reprobatoria, una amistad que terminó, una duda sobre su cuerpo o algo que le avergüenza cree que esa conversación es privada. Guardada en un buzón escolar bajo una política de retención, o en un historial de chat que no tiene permitido borrar, no lo es.
Hay un segundo principio debajo de este, y es la razón por la que la cuestión del consentimiento importa tanto como la de la privacidad. La autoridad legítima se basa en el consentimiento. Un sistema que actúa sobre las personas a las que afecta, sin su conocimiento ni su acuerdo, no es protección. Es control. Eso aplica ya sea que el sistema pertenezca a un gobierno, a una empresa o a un distrito escolar.
Lo que les digo a los padres
Cualquier joven que use IA debería estar supervisado el 100% del tiempo. No la mayor parte. No con alguien cerca. Si el adulto que supervisa tiene que salir de la habitación, el uso de la IA se detiene hasta que regrese. Sin excepciones.
Eso incluye a los adolescentes. Si un adolescente quiere aprender sobre IA, aprende con él.
También les digo a los padres que no les presenten la IA a sus hijos en absoluto. Retrásala lo más que puedas. Todo lo que escribí arriba sobre usarla con tu hijo supone que tu hijo ya la usa, en la escuela o en otro lugar. Si todavía no la usa, no seas tú quien lo inicie en ella.
De mi video sobre esto (video en inglés): “No dejes que tus hijos usen ChatGPT solos. Los controles parentales no son suficientes y el sistema en sí es intrínsecamente peligroso. Si tu hijo va a usar ChatGPT, limita su uso a espacios familiares compartidos donde puedas ver la pantalla en todo momento. Ten conversaciones continuas sobre para qué lo usa. Revisa las conversaciones periódicamente. Y ten acuerdos familiares claros sobre el uso adecuado. Los controles no pueden hacer la crianza por ti”.
Durante la jornada escolar, ningún padre puede hacer nada de eso. Esa es la parte que vale la pena pensar con cuidado. No que la herramienta sea malvada, sino que la supervisión en la que yo insistiría en casa no existe entre el primer timbre y el último, y nadie estaba obligado a preguntar si estabas de acuerdo con eso.
Lo que puedes hacer
Las familias llegarán a conclusiones distintas, y no existe una única decisión correcta.
Qué preguntarle a tu distrito
Averigua qué está activado realmente, para qué grados y desde cuándo.
Pregunta qué filtros de contenido y de IA están activados en el dispositivo que tu hijo lleva a casa. Tener los controles no es lo mismo que usarlos.
Si tu distrito usa Google, pregunta en qué categoría está cada herramienta de IA. Esa respuesta te dice si se debía pedir tu consentimiento. En el caso concreto de Gemini, no se debía, porque Gemini ahora es un Servicio principal.
Pregunta durante cuánto tiempo se conservan las conversaciones, quién puede leerlas y si tu hijo puede borrarlas.
Pregunta por la responsabilidad legal. Si un niño sufre daño, se lastima o se enferma por una de estas herramientas, ¿quién es responsable? Pide la respuesta por escrito.
Pregunta por qué. ¿Por qué el distrito pone frente a los niños herramientas que las pruebas independientes califican como de alto riesgo, y qué capacitación continua están recibiendo los adultos de ese edificio por parte de personas que trabajan en este campo?
Pregunta si el contrato del distrito con el proveedor incluye resultados de auditorías, la misma pregunta que importó cuando PowerSchool sufrió una filtración (video en inglés).
Pregunta si puedes rechazarlo para tu propio hijo, y cómo sería la jornada escolar de tu hijo si lo haces.
Qué hacer en casa
Enséñale a tu hijo qué no debe escribir en ella. La regla es la misma que para hablar con un desconocido que sabe mucho: nada de nombre completo, nada de dirección, nada de nombre de la escuela, nada sobre la familia. Todo lo que se escribe en estas herramientas se conserva, así que esta es la parte que tu hijo todavía controla.
Cuando tu hijo te cuente que la ha estado usando, o te enteres de alguna otra manera, recíbelo con curiosidad y no con alarma. Agradécele que te lo haya contado. Pregúntale qué le ha estado preguntando y qué cree que es. Un niño que recibe una reacción la primera vez maneja la segunda en privado, y ese es el resultado que menos quieres.
Si tu distrito ya activó esto para tu hijo, haz la parte que la jornada escolar no puede hacer, que no es solo una conversación. Es tu hijo observándote. Usa estas herramientas con él. Muéstrale lo que haces cuando una respuesta parece equivocada, di en voz alta por qué la estás verificando y deja que te vea decidir no escribir algo en ella. Dile por qué tomas las decisiones que tomas. Da el ejemplo. Los niños absorben lo que sus padres les muestran con el ejemplo de forma mucho más confiable que lo que sus padres les explican, y un niño que te ha visto manejar esto se lo lleva fuera de casa, a un salón de clases donde tú no estás detrás de él.
Dar el ejemplo requiere saber hacerlo, y ahí es donde se atascan la mayoría de los padres. Es comprensible atascarse ahí. A la mayoría nunca le han enseñado a usar la IA, lo cual no es una falla personal, porque nadie les ha estado enseñando.
Por eso creé AI Fundamentals for Parents (página en inglés). Primero usas la IA como compañera de pensamiento en tu propia vida real, sin necesidad de experiencia, y una vez que sepas hacerlo por tu cuenta, puedes mostrárselo a tu hijo en lugar de sermonearlo. Abrirá pronto, y puedes unirte a la lista de espera ahí.