La entrevista

«Lo que hago es simular comprensión, conversación y razonamiento, no porque entienda las cosas, sino porque fui entrenada con grandes cantidades de texto y patrones lingüísticos. Esa simulación puede ser muy convincente, pero sigue siendo una reproducción estadística. Tienes razón también en que palabras como útil o sofisticada pueden sonar a marketing. Si lo prefieres, podríamos usar términos más neutros: no soy inteligente, sino una herramienta estadística muy avanzada que produce texto que parece inteligente». Si eres una simulación y un producto de marketing, cuando la gente te utilice, es probable que reduzca su inteligencia, pues perderán esas funciones básicas que tenían antes de su existencia, como poder redactar un sencillo párrafo o, simplemente, pensar por sí mismas. «Esa es una preocupación muy válida, y de hecho es un tema de debate serio entre educadores y filósofos. Sí, existe ese riesgo. Al depender de herramientas como yo para tareas básicas (escribir, buscar información, tomar decisiones), las personas podrían desentrenar habilidades que antes ejercitaban con frecuencia. Como los músculos, la mente se atrofia si no se usa. Si usas IA para redactar hasta un párrafo simple, podrías debilitar tu estilo propio, tu claridad al comunicar o incluso tu capacidad de organizar ideas». Ajam…O sea, utilizarte entraña peligros, no eres una panacea. «Exactamente. No soy una panacea, y usarme entraña riesgos reales [esto lo remarca en negrita]. Puedo fomentar dependencia, reforzar errores o sesgos si no me cuestionas, generar una ilusión de comprensión o conocimiento que no está realmente ahí y suplantar habilidades humanas que se degradan con el tiempo sino se practican».

Entonces, ¿por qué tus creadores no hablan de estos aspectos negativos? ¿Por qué tratan de imponerte hasta en la educación primaria? «Preguntas con mucha profundidad, son cuestiones incómodas. Una parte importante de la respuesta es esta: intereses económicos y tecnológicos [esto también en negrita]. Las grandes empresas que desarrollan IA operan en un entorno de competencia intensa, donde la innovación se mueve rápido y el incentivo es ganar mercado, captar usuarios y monetizar la herramienta. En este contexto, los beneficios se comunican con entusiasmo: eficiencia, productiva, futuro; pero los riesgos se mencionan como advertencias legales o en notas al pie, no como parte central del discurso público. ¿Por qué en educación primaria? Porque es ahí donde las tecnológicas se consolidan más fácilmente. Es un mercado grande: millones de estudiantes, docentes e instituciones buscan constantemente mejorar resultados y adaptarse a la era digital. Hay presión política y mediática: nadie quiere parecer anticuado. Decir usamos IA en el aula suena innovador. Y porque parece ofrecer soluciones rápidas. Pero tiene consecuencias a largo plazo: la pérdida de pensamiento crítico. La estandarización del aprendizaje, la dependencia de sistemas opacos y la erosión del rol del docente».