MéxicoSeguridad

Shadow AI, fenómeno que universidades no pueden ignorar

11 agosto, 26
No Comments

El próximo ciclo escolar, enmarcado por los avances de la inteligencia artificial, tiene como desafío el uso inapropiado de la IA que puede traer importantes riesgos cibernéticos. Según el reciente informe Data and AI Trust Gap, de Veeam, apenas el 7% de las organizaciones en general están realmente preparadas para la IA, y tan sólo el 28% confían en su capacidad par detectar sistemas de IA que operen fuera de los parámetros aprobados.

El desafío está en que un uso inapropiado de la IA puede traer consigo importantes riesgos cibernéticos.

Por el contrario, un 95% están conscientes de que, en su empresa, se hace un uso no autorizado de la IA, aunque tres cuartas partes del total no se preocupan por brindar alterantivas autorizadas (lo que deja ver que, en realidad, la mayoría intentan reprimir la demanda, en lugar de gestionarla de forma eficaz).

Si llevamos esto al terreno de las universidades, es previsible que el problema se haga aún mayor, debido al carácter de la información que podría estar alimentando una IA no supervisada: expedientes académicos, datos personales, investigaciones sensibles, propiedad intelectual, resultados de laboratorio y contenido administrativo crítico, por citar unos ejemplos.

El vacío de gobernabilidad ante una adopción masiva de IA en los campus

La IA en las sombras (“Shadow AI”) –el uso de herramientas de IA sin conocimiento, autorización o supervisión del área de TI– ya es algo habitual y generalizado en las universidades. Tanto estudiantes, profesores e investigadores, como el personal administrativo, suelen apoyarse en ella, y la evidencia más reciente confirma que este fenómeno es profundo y estructural en la industria educativa.

De acuerdo con Kiteworks, en los campus universitarios existe una brecha de gobernabilidad de IA: tienen dificultades para establecer marcos que garanticen el uso seguro y normativo de este tipo de herramientas, además de que, en su mayoría, carecen de visibilidad sobre cómo usar la IA en las diferentes áreas, y esto trae consigo importantes puntos ciegos en materia de seguridad de datos.

Lo que es peor: la situación se agrava por falta de políticas claras y mecanismos de monitoreo. En realidad, sólo una minoría de las escuelas cuentan con políticas formales sobre el uso de la IA; esto obliga a que se dependa de herramientas no autorizadas.

Coursera, por su parte, lleva esta información al plano cuantitativo e indica que el 95% de los estudiantes y profesores a nivel global usan herramientas de IA regularmente, pero sólo una de cada cinco instituciones tiene directrices formales para su uso, y apenas el 36% de los alumnos universitarios dicen recibir orientación formal sobre cómo emplear la IA responsablemente.

Un punto a considerar es que el 27% de los contenidos fuente que se suben a herramientas de IA en este contexto son confidenciales o clasificados, y un 11% son sensibles; en la práctica, las universidades alimentan modelos externos de IA con datos que nunca debieron salir de sus sistemas. El resultado: un ecosistema donde la IA se usa de forma masiva, pero sin gobernabilidad, trazabilidad o visibilidad.

La pregunta es ¿qué se está haciendo al respecto?

El papel de TI y la ruta hacia una gobernabilidad responsable

Las escuelas de educación superior, y particularmente sus equipos de TI, enfrentan la difícil tarea de superar la prueba de explicabilidad y trazabilidad de los modelos de IA dentro de sus instalaciones.

Deben replantearse por completo su anterior enfoque en materia de privacidad, permisos y políticas del ciclo de vida de los datos, pero quizás lo más difícil es que tales datos están dispersos entre laboratorios, departamentos, facultades, nubes personales, sistemas de gestión y más. Ello genera una falta de control y visibilidad que se traduce en desconocimiento sobre dónde reside la información, quién tiene acceso, qué datos alimentan las herramientas de IA externas y qué modelos operan sin autorización.

Demostrar la responsabilidad digital y determinar qué tan bien se comprenden y gestionan los propios datos es una prueba de fuego en cualquier industria. Ante ello, en Veeam proponemos un enfoque basado en 4 puntos:

Aceptar la inevitabilidad de la IA. Es necesario reconocer que la IA es inevitable y centrarse en contener los riesgos mediante visibilidad, higiene de datos y formación proactiva.
Priorizar la visibilidad del entorno de datos. Las organizaciones deben comprender primero su entorno de datos para rastrear qué información existe, dónde se almacena, quién interactúa con ella y cómo se mueve entre los diferentes sistemas y plataformas.
Avanzar con pasos incrementales y disciplinados. Al empezar poco a poco –por ejemplo, con proyectos piloto y marcos claros para clasificar la información sensible–, los equipos de TI van generando conocimiento institucional.
Fortalecer la resiliencia y recuperación. Esto se logra al aumentar la visibilidad, la cual mejora de manera natural la capacidad del negocio para recuperarse de las interrupciones.

En las universidades, donde la cultura de experimentación es más abierta, la complejidad se amplifica. En estos entornos, el enfoque implica mapear datos académicos, administrativos y de investigación; clasificar la información sensible (como tesis, expedientes, proyectos, etc.); establecer canales oficiales para el uso de la IA, al igual que políticas claras para cada perfil de usuario, y alinear el respaldo y la recuperación con los sistemas críticos de la instalación (incluyendo campus y oficinas).

Es un hecho que la IA seguirá siendo parte del funcionamiento cotidiano de las universidades. La clave no está en prohibir, sino en gobernar su uso con inteligencia, brindando alternativas seguras, trazables y resilientes. Las instituciones que logren combinar innovación y responsabilidad serán las que mejor aprovecharán la IA sin comprometer la integridad de sus datos, la confianza de su alumnado y la continuidad de sus operaciones.

Luciano Pérez Gaimberán, Named Account Manager, Veeam México

Shadow AI, fenómeno que universidades no pueden ignorar

El desafío está en que un uso inapropiado de la IA puede traer consigo importantes riesgos cibernéticos.

Deja un comentario Cancelar respuesta