¿Puede la IA atacar a los humanos?

 

Las noticias y alertas recientes de empresas como OpenAI y Anthropic pueden resultar preocupantes. Sin embargo, muchas personas no entienden exactamente de qué se está hablando y terminan pensando que la inteligencia artificial podría «atacarnos» en cualquier momento. Para entender el problema, primero hay que distinguir entre dos formas de utilizar la IA.

1. La IA como herramienta

Es el tipo de IA que usamos habitualmente en Supérate IA. Le pedimos que genere un texto, nos ayude a programar, analice información, cree ideas o desarrolle una aplicación. La persona mantiene el control y utiliza la IA para potenciar sus propias capacidades.

2. Los agentes de IA

Aquí la situación cambia. Un agente puede recibir una tarea y ejecutar diferentes acciones para cumplirla, con un mayor grado de autonomía. Por ejemplo, podría gestionar publicaciones en redes sociales, enviar correos, procesar información o realizar otras tareas previamente definidas.

El temor que aparece en algunas advertencias actuales está relacionado principalmente con sistemas cada vez más autónomos a los que se les otorguen permisos para actuar sobre sistemas importantes. Por ejemplo, un agente con acceso amplio a infraestructura financiera, sistemas informáticos o tecnología militar podría causar daños importantes si se equivoca, es utilizado de forma maliciosa o sus objetivos no están correctamente controlados.

Y aquí aparece una cuestión todavía más avanzada: la llamada inteligencia artificial general (AGI). Si algún día existiera una IA con capacidades muy superiores a las actuales y con un alto grado de autonomía, surgirían nuevos desafíos de seguridad. No significa que una IA necesariamente vaya a «volverse contra los humanos», sino que debemos pensar cuidadosamente qué capacidades, permisos y límites otorgamos a estos sistemas.

Pero aquí también conviene mantener los ojos abiertos. Hace décadas, cuando las computadoras comenzaron a popularizarse, aparecieron los virus informáticos. Y después apareció, casualmente, toda una industria dedicada a vender antivirus para protegernos de ellos. La historia podría repetirse: primero creamos agentes de IA capaces de provocar grandes problemas y después, naturalmente, aparecerán los agentes de IA encargados de vigilarlos, detectar amenazas y proteger nuestras empresas, páginas web e incluso infraestructuras críticas. ¿Que puede frenar la IA sino otra IA? Es casi como si alguien quisiera vendernos la vacuna después de soltar un virus. No afirmamos que sea así, pero los antivirus fueron y son un gran negocio para muchos.

En Supérate IA queremos que aprendas a utilizar la inteligencia artificial de forma práctica y responsable. La clave no es tenerle miedo a la IA, sino aprender a utilizarla, comprender sus límites y mantener el control sobre cómo la incorporamos a nuestro trabajo.