La seguridad en la Inteligencia Arificial

 La inteligencia artificial se ha convertido en una herramienta poderosa con un impacto significativo en diversos aspectos de nuestra sociedad. En los últimos días, las nuevas tecnologías avanzadas sobre la inteligencia artificial han alertado sobre los riesgos asociados con la IA, incluyendo incluso el riesgo de extinción. Estos riesgos incluyen la propagación masiva de desinformación y propaganda, la posible eliminación de empleos y el surgimiento de una IA más inteligente que los seres humanos. Es importante destacar que la IA aprende de nosotros, lo que hace que estos temores sean aún más inquietantes. Igualmente, en sí misma no es peligrosa, ya que es solo una herramienta creada por seres humanos. Sin embargo, como cualquier otra tecnología, su uso indebido o malintencionado puede tener consecuencias negativas.

Una ventaja clave de la IA para la seguridad es que requiere menos gestión humana que muchas otras opciones de seguridad. Tiene sentido adoptar la IA para el apoyo a otros productos en casos de uso fundamentales. A medida que los modelos maduran y los usuarios confían más en la tecnología (al igual que con la automatización), se puede comenzar a unir tareas individuales en una secuencia orquestada. Las soluciones de seguridad modernas son más eficaces con casos de uso específicos, como al descubrir y neutralizar el phishing, el spam o el malware oportunista en puntos finales con un alto grado de confianza. Al hacerlo, la IA debe ser capaz de aprender de estos encuentros, recopilar observaciones y aplicar conclusiones lógicas para mejorar sus competencias con el tiempo.

El uso de sistemas de inteligencia artificial en los procesos de toma de decisiones conlleva ciertos riesgos debido a los potenciales impactos directos o indirectos de la implementación de estas tecnologías. Algunos de estos riesgos incluyen:

• La filtración de los datos personales que pueden comprometer el bienestar de las personas.
• La extrema vigilancia y posterior manipulación por parte de las organizaciones privadas o gubernamentales con acceso a la información que alimenta a las tecnologías de inteligencia artificial.
• Las “cámaras de eco” o “filtros burbuja” que se presentan cuando se está expuesto a las mismas ideas, noticias y/o hechos, lo que es un fenómeno común entre los usuarios de redes sociales y termina fortaleciendo sesgos preconcebidos. Esto es específicamente peligroso entre los tomadores de decisiones en cualquier área, pero aún más entre aquellos que trabajan en políticas públicas.
• La subrepresentación en los modelos creados por la inteligencia artificial, especialmente en cuestiones relacionadas al acceso a la salud y a la educación.
• Tener la información y no un plan de acción. Tan importante es contar con la información necesaria para abordar una problemática social, como haber desarrollado una hoja de ruta para solucionarla.