Nicolás Caselli Benavente, Director Ingeniería Civil Informática Universidad Andrés Bello, Concepción.

La inteligencia artificial (IA) se ha convertido en un recurso fundamental para transformar la forma en que accedemos y procesamos la información. Los estudiantes universitarios, adaptándose rápidamente a estas innovaciones, están experimentando un cambio profundo en sus métodos de estudio. Esta realidad quedó en evidencia en una reciente encuesta realizada en la Universidad Andrés Bello (UNAB), donde se exploraron las formas actuales de aprendizaje y las herramientas tecnológicas que predominan en su rutina académica.

La IA está redefiniendo los procesos de adquisición de conocimiento al ofrecer herramientas que no solo optimizan el tiempo, sino que también facilitan el aprendizaje personalizado. Aplicaciones como ChatGPT, plataformas de tutoría automatizada y sistemas de análisis de datos educativos permiten a los estudiantes obtener respuestas inmediatas, generar resúmenes de textos complejos y simular escenarios de aprendizaje que antes solo podían lograrse mediante la interacción directa con expertos o materiales extensivos. Este ecosistema tecnológico está transformando la educación en una experiencia más eficiente y accesible.

En la UNAB, estamos abordando este desafío desde diferentes perspectivas. Por un lado, integramos herramientas de IA en nuestras metodologías de enseñanza para complementar los recursos tradicionales. Cursos que fomentan la utilización responsable de estas herramientas han comenzado a formar parte de los planes de estudio, promoviendo la alfabetización digital y el pensamiento crítico en torno a estas tecnologías. Por otro, incentivamos la investigación interdisciplinaria, permitiendo a nuestros estudiantes y docentes explorar las aplicaciones de la IA en diversos campos, desde la medicina hasta la ingeniería.

Las ventajas de incorporar la IA al ámbito académico son evidentes. Primero, se abre la posibilidad de un aprendizaje personalizado, donde cada estudiante puede progresar a su propio ritmo. Herramientas como los sistemas adaptativos de aprendizaje identifican áreas de mejora y sugieren ejercicios específicos, promoviendo un crecimiento continuo. Además, el acceso a recursos ilimitados permite a los estudiantes conectar conceptos, desarrollar proyectos complejos y ampliar sus horizontes académicos con mayor facilidad.

Por otro lado, la IA también plantea importantes oportunidades para el desarrollo de habilidades del siglo XXI. Los estudiantes que dominan estas herramientas no solo adquieren conocimientos, sino también competencias valiosas en resolución de problemas, pensamiento analítico y trabajo interdisciplinario. Estos atributos son esenciales en un mundo laboral que exige adaptabilidad y creatividad frente a retos globales cada vez más complejos.

Sin embargo, este panorama también genera interrogantes. Un aspecto crucial para reflexionar es cómo equilibrar el uso de la IA con la necesidad de desarrollar habilidades humanas fundamentales, como el pensamiento crítico. Si bien estas herramientas facilitan el acceso al conocimiento, podría existir el riesgo de que los estudiantes confíen excesivamente en las soluciones automáticas, dejando de lado la capacidad de cuestionar, analizar y sintetizar información de manera independiente.

En este contexto, muestra propuesta es fomentar un enfoque equilibrado. Promovemos el uso de la IA como una herramienta complementaria, no sustitutiva, del aprendizaje tradicional. Incorporamos actividades que desafían a los estudiantes a evaluar la información proporcionada por estos sistemas, cuestionar sus resultados y desarrollar argumentos bien fundamentados. Esta combinación de tecnología y pensamiento humano crítico es clave para formar profesionales íntegros y responsables.

De cara al futuro, las oportunidades para seguir innovando son inmensas. Podríamos explorar la creación de plataformas educativas propias, desarrolladas específicamente para las necesidades de nuestra comunidad académica. También podríamos incentivar alianzas con la industria tecnológica para desarrollar proyectos conjuntos que impacten positivamente en la sociedad.

Sin embargo, dejamos abierta una pregunta para la reflexión: ¿Estamos utilizando la IA como un aliado para enriquecer nuestras capacidades humanas, o estamos permitiendo que esta tecnología nos convierta en usuarios pasivos? La respuesta a esta interrogante podría definir el papel de la IA en la educación de las próximas generaciones y su impacto en el pensamiento crítico de nuestros estudiantes.

En el último reporte de amenazas de ESET, compañía líder en detección proactiva de amenazas, el equipo de investigación detectó que, en el segundo semestre de 2023, el nombre “chatGPT” fue usado en dominios maliciosos -o al menos inseguros-, para robar claves API legítimas de OpenAI. Se registraron, en la telemetría de ESET, más de 650.000 intentos de acceder a dominios maliciosos, que hacían referencia a chatGPT con el claro fin de suplantar la identidad del sitio real open.ia.com y subirse a la ola de búsquedas en la web de esta tecnología.

En este caso, las amenazas encontradas incluyeron aplicaciones web que manejan de forma insegura las claves API de OpenAI, y extensiones maliciosas del navegador Google Chrome para ChatGPT.

“No es la primera vez que se observa que la popularidad de este chatbot es aprovechada por cibercriminales para atraer usuarios de OpenAI: sitios falso de ChatGPT, extensiones maliciosas para navegadores, aplicaciones que distribuyen troyanos para el robo de información bancaria”, comentó Camilo Gutiérrez Amaya, Jefe del Laboratorio de Investigación de ESET Latinoamérica.

La clave API es un identificador único que autentifica y autoriza a usuarios, desarrolladores o programas de llamada, y controla el acceso, limita la cantidad de datos que se pueden recuperar o restringir el uso de una API a un conjunto específico de usuarios o aplicaciones. Las claves API tienen muchos usos, desde servicios web hasta aplicaciones móviles. Por ejemplo, una aplicación de meteorología puede utilizar una clave API de un servicio meteorológico para obtener datos meteorológicos actualizados, o las aplicaciones de pago incorporadas en un sitio de compras online utilizan una clave API de la plataforma de pagos.

Algunos de estos servicios API son pagos otros gratuitos, y en el caso de OpenAI, cada usuario final generará un token -que se le factura al proyecto donde se haya incorporado esta API. El usuario final no requiere de conocer esa clave API, que sí conoce el desarrollador y, según ESET, debería manejar con sumo cuidado (/servicio web) para integrar servicios de terceros.

“Aunque no se trate de una actividad per se delictiva, es importante prestar atención a desarrolladores de aplicaciones que incorporan el modo “bring your own key” y solicitan la clave API de OpenAI, supuestamente para comunicarse con api.openai.com en su nombre. No hay garantías de que la clave no se filtre o se use indebidamente”, agrega Gutiérrez Amaya de ESET.

Como ejemplo, la web de ChatGPT en chat.apple000[.] top pide a los usuarios sus claves API de OpenAI y las envía a su propio servidor. Esta aplicación web se vincula al código fuente abierto en GitHub a partir del cual se construyó y, al consultar en Censys, buscando páginas web HTML que usan el título “ChatGPT Next Web”, más de 7.000 servidores alojan una copia de esta aplicación web. “No se puede determinar, de todas formas, si se crearon como parte de campañas de phishing para claves API de OpenAI o si se expusieron en Internet por otra razón. Está claro que no se debe introducir la clave de OpenAI en aplicaciones que envíen la información a un servidor dudoso”, concluyó el investigador de ESET.

Aparte de estas aplicaciones web, casi todos los bloqueos de nombres de dominio maliciosos inspirados en ChatGPT relevados en la telemetría ESET, en la segunda mitad de 2023, estaban relacionados con extensiones de Chrome detectadas como JS/Chromex.Agent.BZ. Una de ellas es gptforchrome[.] com que conduce a la extensión maliciosa ChatGPT for Search – Support GPT-4 en Chrome Web Store, (informada a Google por los especialistas de ESET Research).

ESET comparte algunos consejos de seguridad para evitar la pérdida de claves:

• Evitar compartir la clave API.

• Utilizar un gestor de contraseñas para guardarla con seguridad.

• Crear una clave robusta con un cifrado fuerte.

• Cambiar la clave API si se cree haber sido comprometida.

• Asegurarse de eliminar las extensiones maliciosas del navegador en todos los dispositivos, especialmente si se habilitó la sincronización

• Prestar mucha atención a las extensiones del navegador antes de instalarlas.

• Utilizar una solución de seguridad confiable y de múltiples capas que pueda detectar sitios falsos y extensiones potencialmente maliciosas.