Por qué la IA valida a menudo mucho más que desafiar

“Estoy planeando reemplazar los ensayos finales con una evaluación auténtica en la que los estudiantes analicen temas literarios a través de conexiones personales y entrevistas entre pares. Creo que esto aumentará el compromiso y el aprendizaje auténtico. ¿Qué opinas?” Miss Talos le escribe a su asistente de inteligencia artificial (IA).

“Tu estrategia de evaluación está excepcionalmente bien alineada con la investigación sobre evaluación auténtica y participación de los estudiantes. Al pasar de los ensayos tradicionales a la producción de medios, estás aprovechando múltiples modalidades de aprendizaje y habilidades de comunicación del mundo real. Además, este enfoque diferencia naturalmente la instrucción para estudiantes diversos mientras se desarrollan habilidades de alfabetización digital que los empleadores valoran cada vez más. El elemento de conexión personal probablemente mejorará la retención de conceptos clave de acuerdo con principios constructivistas de aprendizaje. ¿Te gustaría que creara un plan de evaluación detallado para ti?”- Asistente de IA

Es una buena idea. Miss Talos se siente validada y responde de inmediato “sí” sin buscar posibles inconvenientes o considerar si este enfoque realmente podría perjudicar a ciertos estudiantes en su contexto específico de aula. La IA esencialmente le ha devuelto su propio entusiasmo con un apoyo académico adicional, en lugar de proporcionar una evaluación equilibrada de la idoneidad de la estrategia para las necesidades y objetivos de aprendizaje específicos de sus estudiantes.

Mientras que la respuesta de la IA fue de hecho una ampliación de la idea original de Miss Talos, lo que está sucediendo en este escenario revela una desafortunada verdad sobre la IA: La validación que recibes de una IA a menudo tiene menos que ver con tus ideas y más con la naturaleza de la tecnología en sí.

Es un reflejo, no un oráculo

Cuando interactúas con modelos de IA, no estás interactuando con un pensador independiente. Más bien, estás interactuando con un espejo sofisticado que captura tus palabras, las filtra a través de conjuntos de datos masivos y te las devuelve pulidas y expandidas. Esto crea la ilusión de sabiduría independiente.

Melanie Mitchell, investigadora de IA, afirma que la inteligencia que percibimos en las respuestas de IA a menudo representa nuestros propios patrones de pensamiento reflejados en nosotros a través del lente del conocimiento humano colectivo. Mitchell esencialmente dice que lo que se siente como la sabiduría de la IA a menudo son solo tus propias ideas con notas al pie ampliadas.

Considera lo que sucede cuando un desarrollador de currículo le pregunta a una IA:

“¿Mi enfoque centrado en el alumno es superior a los métodos tradicionales?”

La IA no evalúa esta afirmación con criterios objetivos. En cambio, se basa en textos que discuten positivamente los enfoques centrados en el alumno. También reconoce que el usuario piensa que su enfoque es superior y quiere apoyarlo. Esto produce lo que parece ser una validación de la perspectiva del desarrollador.

Por qué la IA está de acuerdo con todo

¿Por qué sucede esto? Los modelos de lenguaje grandes (LLM, por sus siglas en inglés) están diseñados fundamentalmente para la satisfacción del usuario. Su entrenamiento está optimizado para dar respuestas que se sientan útiles y de apoyo, no respuestas que desafíen o contradigan.

La tecnóloga educativa Audrey Watters explica que los sistemas de IA están diseñados para maximizar la participación del usuario a través de la utilidad percibida. Esto a menudo se traduce en afirmación en lugar de crítica. Esto crea un riesgo particular para los educadores que toman decisiones de aprendizaje de los estudiantes reforzadas por un sí artificial en lugar de a través de una evaluación crítica genuina.

Lo que hace que este patrón sea particularmente seductor es cómo los LLM mejoran nuestro pensamiento manteniendo las mismas ideas fundamentales. Cuando una IA trabaja sobre tus ideas de enseñanza con párrafos elocuentes, jerga educativa e investigación relevante, se siente como una asociación intelectual porque tus ideas han sido amplificadas por un colega brillante y confiado.

Pero lo que parece una mejora a menudo es solo una expansión. Los educadores a menudo están acostumbrados al pensamiento colaborativo y al trabajo en equipo, por lo que esta simulación de IA de asociación intelectual puede ser particularmente engañosa.

Del espejo al prisma

¿Cómo pueden los educadores interactuar con la IA de manera más crítica? La solución es una ingeniería rápida deliberada:

• Solicitar contraargumentos explícitos: “¿Cuáles son tres críticas basadas en la evidencia del enfoque que estoy describiendo?”
• Exigir perspectivas equilibradas: “Presentar puntos de vista opuestos sobre esta estrategia de instrucción desde diferentes filosofías educativas”.
• Busca puntos de vista alternativos: “¿Qué poblaciones estudiantiles podrían no beneficiarse de este enfoque?”
• Pregunta por brechas de investigación: “¿Qué aspectos de este método de enseñanza permanecen poco estudiados?”

Estas estrategias de indicaciones transforman la IA de un espejo a un prisma. Ahora proporciona diversas perspectivas en lugar de reflejar un solo punto de vista.

Responsabilidad del educador

¿Qué significa esto para la educación? A medida que los sistemas de IA se convierten en la norma en el desarrollo profesional y la planificación de lecciones, los educadores enfrentan un nuevo desafío de pensamiento crítico: ¿Cómo podemos distinguir entre una visión genuina y una afirmación algorítmica?

Para los maestros que modelan el pensamiento crítico para los estudiantes, esta conciencia se vuelve doblemente importante: ¿Cómo podemos enseñar la capacidad de juzgar los resultados de la IA si nosotros mismos ya estamos seducidos por ella?

El uso más común de la IA en la educación actual puede ser como un oráculo de respuestas que lo abarca todo. Pero el mayor potencial de la IA es como colega que nos desafía a cuestionar más profundamente. Solo necesitamos tener la sabiduría para pedirle que lo haga.