Guía de gestión de inteligencia artificial (IA) en la academia
Esta guía propone una serie de lineamientos concretos para hacer un uso oportuno y ético de la IA en el ámbito de la educación superior.
Guía de gestión de inteligencia artificial (IA) en la academia
La inteligencia artificial (IA) es un conjunto de tecnologías focalizadas en un sistema que le permiten realizar una gran diversidad de tareas complejas, relacionadas con los procesos de razonamiento, el aprendizaje y la resolución de problemas.
En otras palabras, se trata de un sistema que le permite a una máquina llevar a cabo procesos cognitivos similares a los de los seres humanos y resolver problemas. Por tanto, la IA se ha convertido en una herramienta de gran utilidad en la vida cotidiana de las personas, lo cual incluye, por supuesto, los contextos educativos.
En consecuencia, esta guía propone una serie de lineamientos concretos para hacer un uso oportuno y ético de la IA en el ámbito de la educación superior. Estos lineamientos aluden a los procesos de aprendizaje, investigación, producción académica y gestión del conocimiento, con el fin de promover prácticas transparentes y responsables dentro del contexto universitario.
Inteligencia artificial generativa (IAGen) en la educación superior
La Inteligencia artificial generativa (IAGen) es la rama de la IA que permite la generación de contenidos en diversos formatos (texto, imagen, música, videos)a partir de instrucciones específicas. La implementación de la IAGen está ampliamente documentada en contextos de educación superior, lo cual ha suscitado una serie de inquietudes en torno a prácticas deshonestas de esta herramienta.
En esencia, del uso ilegítimo de la IAGen se desprende una serie de problemáticas directamente relacionadas con el proceso de formación académica:
Integridad académica:
Obsolescencia de métodos tradicionales
La IA ofrece una gama de posibilidades generativas e investigativas enormes, lo cual obliga a replantear algunas de las prácticas educativas tradicionales. Es importante considerar que esta herramienta es ampliamente utilizada por el estudiantado, por lo que replantear las metodologías y, sobre todo, los métodos de evaluación, se hace necesario.
A continuación, se presentan algunas orientaciones respecto al desarrollo de las metodologías y evaluaciones ideales en la era de la inteligencia artificial:
Autoría difusa
Es importante reconocer que la implementación de la IA en el contexto de la educación superior conlleva usos cuestionables en términos de autoría. Se puede establecer una orientación general: cuando el uso de la IA reemplaza la actividad intelectual del estudiante se evidencia un problema de integridad académica.
Por tanto, el reconocimiento de la autoría es fundamental no solo para el buen desenvolvimiento de las actividades evaluativas, sino para el desarrollo del proceso formativo en general.
Al respecto, se sugieren algunas medidas procedimentales:
Sesgo y colonialismo:
Enfoque local
En gran medida, los modelos actuales de inteligencia artificial están entrenados con información occidental y, sobre todo, en inglés. Esto genera un sesgo cultural, ya que hay muchas realidades locales que, al abordarse en una lengua hegemónica y desde un punto de vista ajeno a los fenómenos en cuestión, pueden ser simplificadas, interpretadas de manera parcial o representadas de forma insuficiente.
Las realidades locales no pueden abordarse sin considerar el punto de vista local, ya que ofrece una apreciación cercana y vívida de los fenómenos históricos, sociales, políticos y culturales.
Por tanto, el uso irreflexivo de la inteligencia artificial puede constituir un aporte a la invisibilización de saberes y perspectivas procedentes de comunidades y sociedades no hegemónicas.
Marginación lingüística
Una de las fuentes más utilizadas para entrenar diversos modelos de inteligencia artificial es corpus web Common Crawl. Se trata de un gran repositorio que contiene miles de millones de páginas web. Se ha determinado que este corpus considera, en su gran mayoría, información desarrollada en inglés.
A continuación, se presentan las cifras de algunos de los rastreos de Common Crawl más recientes del año en vigencia.
Como se puede apreciar, la lengua inglesa está sobrerrepresentada en comparación con otras lenguas. Así mismo, existen otros repositorios de gran alcance, como C4 o The pile que manejan cifras similares en términos de la representación lingüística existente en sus corpus.
Los modelos entrenados con estos repositorios, a la vez que privilegian la hegemonía de la lengua inglesa, invisibilizan otras lenguas subrepresentadas provenientes de comunidades culturalmente diversas.
Esto implica que el uso acrítico de la inteligencia artificial podría contribuir al colonialismo intelectual y lingüístico, lo cual va en contravía de los estándares de inclusión y rigor académico que se plantea en contextos de educación superior en la actualidad. Para no incurrir en sesgos colonialistas o lingüísticos, se recomienda prudencia con el uso de la IA, particularmente en el abordaje de asuntos de índole local o profundamente vinculados con contextos culturales específicos.
Formación docente
Capacitación
Uno de los grandes desafíos que plantea el uso de IAGen en contextos de educación superior tiene que ver con las implicaciones que supone para el cuerpo docente.
Es importante que los profesores cuenten con la capacitación necesaria para poder potenciar sus habilidades docentes con la inteligencia artificial, en lugar de delegar en ella funciones pedagógicas que requieren criterio profesional y valoración humana. Algunas consideraciones pertinentes a este respecto son las siguientes:
Mediación entre IA y estudiantes
La educación superior del presente no solo requiere del docente que facilite el acceso al conocimiento y el desarrollo de competencias, sino que también exige que establezca parámetros y metodologías claras a propósito del uso de la IA.
La determinación de estos parámetros es fundamental para que el estudiantado se relacione de manera crítica y pedagógica con estas herramientas, de manera que estas no sustituyan su ejercicio intelectual y académico, sino que lo potencien. Por tanto, conviene prestar atención a diversos aspectos que caracterizan el rol docente como mediador entre la inteligencia artificial y el estudiantado:
Privacidad y ética normativa
Seguridad de datos
Diversas políticas universitarias sobre IA a nivel internacional advierten que la seguridad de datos debe ser uno de los temas centrales a la hora de regular los usos de estas herramientas. Por tanto, es importante explicitar que los datos compartidos con los modelos de inteligencia artificial pueden quedar almacenados y, posteriormente, ser utilizados para entrenar a dichos modelos o ser comercializados por las empresas desarrolladoras.
Esto constituye un riesgo en términos de privacidad, por lo cual se recomienda prudencia a propósito de la información y datos personales que se le brindan a estos modelos a la hora de realizar búsquedas.
El enfoque alrededor del uso de la IA no solo debe ser de índole ética, sino integral, por lo cual es pertinente suscitar la reflexión en torno al derecho a la privacidad y el uso utilitario y comercial de nuestros datos personales.