Buenos Aires impulsa un marco ético para la inteligencia artificial en escuelas
LEl "marco de gobernanza" prioriza el vínculo docente, prohíbe decisiones autónomas en evaluación y lanza formación masiva en ética digital.
El pilar fundamental de esta nueva regulación es un enfoque humanocéntrico, que concibe a la IA como una herramienta.
Archivo.La irrupción de la inteligencia artificial (IA) en educación, con herramientas más accesibles como la IA generativa, obligó al sistema educativo a dar una respuesta. El Ministerio de Educación de la Ciudad de Buenos Aires presentó el "Marco de gobernanza y uso responsable de la inteligencia artificial", un documento que guía la incorporación de estas tecnologías en las escuelas.
El objetivo central, según el prólogo, es asegurar que toda innovación tecnológica esté "siempre al servicio del aprendizaje y del desarrollo integral de las personas". La Ministra de Educación, Mercedes Miguel, afirmó que el futuro de la educación requiere formar ciudadanos capaces de comprender, cuestionar y transformar la IA.
Te Podría Interesar
El eje central: humanocentrismo y el rol insubstituible del docente
El pilar fundamental de esta nueva regulación es un enfoque humanocéntrico, que concibe a la IA como una herramienta complementaria y nunca como un sustituto del juicio profesional docente. El principio de Humanocentrismo y agencia pedagógica se traduce en la exigencia de supervisión humana en todas las decisiones críticas, fortaleciendo el rol del docente como mediador y guía.
El objetivo central, según el prólogo, es asegurar que toda innovación tecnológica esté siempre al servicio del aprendizaje y del desarrollo integral de las personas.
El Marco busca que la IA potencie la enseñanza y la gestión, liberando tiempo docente de la carga administrativa para permitirle concentrarse en tareas de mayor valor pedagógico. El rol del docente es reafirmado como "irremplazable" para la evaluación formativa y la toma de decisiones basada en las características socioafectivas del grupo.
Reglas claras: prohibida la autonomía en la calificación
Uno de los aspectos más definitorios del marco es la tipología de la intervención humana, que establece límites claros a la autonomía algorítmica: IA asistida con control total humano: El sistema solo sugiere, organiza o predice, pero el docente o directivo mantiene el juicio profesional y la decisión final. IA autónoma prohibida en procesos pedagógicos clave: La Ciudad no permitirá el uso de sistemas que tomen decisiones automáticas sin supervisión humana sobre evaluaciones, intervenciones pedagógicas o asignación de recursos. Esto incluye, de manera explícita, la calificación automática final sin revisión docente.
Este enfoque, conocido como Proporcionalidad y enfoque basado en riesgos, implica aplicar salvaguardas más estrictas en herramientas que inciden en procesos pedagógicos clave (como evaluaciones o trayectorias).
El Marco busca que la Inteligencia Artificial potencie la enseñanza y la gestión
La carta magna de la IA educativa: 8 principios fundamentales
El documento establece ocho principios orientadores que guían el diseño, la implementación y la evaluación de la IA en la Ciudad:
- Protección de datos y privacidad: el derecho a la intimidad es innegociable. Esto implica que las plataformas limiten la recopilación de datos a lo estrictamente necesario para el aprendizaje, evitando su uso para fines comerciales.
- Transparencia y Explicabilidad: los sistemas deben ser entendibles para docentes, familias y estudiantes, explicando claramente qué criterios utilizan para hacer recomendaciones.
- Equidad e inclusión digital: la IA debe contribuir a reducir brechas y asegurar condiciones equitativas de acceso para todos los estudiantes.
- Ciudadanía digital crítica y participación: se busca formar estudiantes y docentes capaces de analizar y cuestionar el impacto de la IA, comprendiendo sus limitaciones y riesgos.
- Trazabilidad de la IA educativa: se exige un mecanismo que garantice que, en caso de falla o sesgo, exista un responsable identificado y un protocolo para corregir el problema.
Implementación en marcha: un plan de acción sólido
La Gerencia Operativa de Educación Digital (GOED) del Gobierno de la Ciudad de Buenos Aires ya está liderando una serie de acciones integrales para llevar el marco a la práctica. Formación Docente de Avanzada: La Ciudad ha implementado cursos virtuales con puntaje docente, como "Inteligencia artificial en el aula: un desafío didáctico", que en el primer semestre de 2025 contó con más de 3300 docentes participantes. Además, es la primera jurisdicción en Latinoamérica en ofrecer la certificación oficial Google Gemini Educator de forma gratuita, validando conocimientos en IA aplicada a la educación.
La Ciudad ha implementado cursos virtuales con puntaje docente, como Inteligencia artificial en el aula.
Experiencias en el Aula: el trabajo en territorio incluye la incorporación de Google Gemini para estudiantes de secundaria de gestión estatal, garantizando un entorno seguro con resguardo de datos personales. Desde 2024, 21 escuelas primarias utilizan plataformas de IA en la Jornada Extendida (espacios LEO y HM) para brindar experiencias de aprendizaje adaptativas y personalizadas.
Estructura Institucional: se creó un Laboratorio de Innovación (HUB) para testear soluciones digitales y una Comisión de trabajo sobre IA en 2024, integrada por especialistas, para monitorear tendencias y asesorar en políticas públicas. El Marco de Gobernanza se propone como una "guía viva" y en constante construcción, articulando lo pedagógico, lo ético, lo jurídico y lo técnico. Con este plan, Buenos Aires consolida una política pública que prioriza el desarrollo de competencias digitales con foco en el uso responsable, buscando que la IA no solo responda a los desafíos del presente, sino que contribuya a la construcción de un futuro más justo.
* Mg. Juan Manuel Ribeiro, especialista en educación.