Page 47 - Reflexiones sobre Ingeniería 2023D-2024

Revista de la Facultad de Ingeniería, Año 8, Número 1
PenTesting en la nube: Con la adopción generalizada de servicios en la nube, empresas
con realidades actuales de entornos multi nube, complejizan las arquitecturas y los
despliegues de servicios, por lo que es importante evaluar la seguridad de las
infraestructuras y aplicaciones alojadas en entornos cloud. Se utilizan enfoques
específicos para identificar posibles brechas de seguridad en estos entornos.

PenTesting en los sistemas IA (Inteligencia artificial): El desembarco masivo de
herramientas, soluciones y servicios, basados o con componentes de IA, abre un nuevo
desafío para generar profesionales capaces de realizar evaluaciones de seguridad en
estos sistemas, sin lugar a duda estos profesionales tienen campo fértil para el
desarrollo de sus capacidades en un campo donde recién estamos comenzando a dar
los primeros pasos y en el que queda mucho camino por andar.
PenTesting en el boom del IA

A medida que la IA se vuelve más ubicua en diversas aplicaciones y sectores, es
fundamental evaluar la seguridad de estos sistemas para garantizar su integridad y
proteger la privacidad de los datos. El PenTesting en sistemas de IA implica identificar
y explotar posibles vulnerabilidades en los algoritmos, modelos de aprendizaje
automático y las infraestructuras subyacentes.
Existen varios desafíos únicos asociados con el PenTesting en sistemas de IA. Uno de
los desafíos principales es comprender cómo los ataques pueden afectar la capacidad
de los algoritmos de aprendizaje automático para tomar decisiones correctas y
confiables, esto implica evaluar cómo los ataques pueden alterar la precisión, la
confidencialidad o la integridad de los resultados de la IA.

Para realizar el PenTesting en sistemas de IA, los profesionales de seguridad deben
utilizar técnicas y herramientas especializadas, esto puede incluir la generación de
ejemplos adversarios para probar la robustez de los algoritmos de aprendizaje
automático, el análisis de las vulnerabilidades en los frameworks y bibliotecas de IA
utilizados, y la evaluación de la seguridad de las interfaces de programación de
aplicaciones (API) utilizadas en estos sistemas, la detección temprana de problemas de
seguridad en estos sistemas es de suma relevancia ya que una brecha de seguridad en
dichos sistemas puede tener consecuencias graves, como la manipulación de
decisiones automatizadas o la divulgación indebida de datos sensibles. Por lo tanto, es
esencial llevar a cabo pruebas exhaustivas de seguridad y mitigar las vulnerabilidades
identificadas para garantizar la confianza en la implementación de la IA.
Conclusiones

En conclusión, el PenTesting se ha convertido en una disciplina esencial en las TICs. A
lo largo de este artículo, hemos explorado diversos aspectos relacionados con el
PenTesting, desde su historia hasta el estado del arte actual que demuestran el
relevante rol y aporte que esta disciplina realiza. Su importancia radica en la capacidad
de identificar las vulnerabilidades antes de que sean explotadas por actores
malintencionados, evitando a las empresas daños de imagen, perdidas económicas,
fugas de datos, caídas de servicios entre tantos otros problemas se seguridad.

Explorando el PenTesting en sistemas de Inteligencia Artificial, se pueden reconocer
importantes desafíos asociados con la evaluación de la seguridad en estos sistemas.
La capacidad de identificar y mitigar las vulnerabilidades en los algoritmos de IA es hoy

45