La necesidad de vivir en sociedad es tan antigua como la humanidad. Nuestros antepasados descubrieron que cooperar era una estrategia más eficaz para sobrevivir que enfrentar individualmente las amenazas del entorno. Con el desarrollo de las sociedades, la convivencia trajo sus propios conflictos y la seguridad se convirtió en una de las principales preocupaciones de la organización política.
En 1651, Thomas Hobbes publicó “Leviatán”, donde planteaba que los individuos aceptaban someterse a una autoridad soberana, el Estado, a cambio de protección frente a una posible guerra de todos contra todos. Décadas después, John Locke desarrolló otra concepción del pacto social, en la que el gobierno debía garantizar la vida, la libertad y la propiedad.
Aunque sus ideas eran diferentes, ambos colocaron la seguridad entre las razones que justifican la existencia del Estado.
Casi cuatro siglos después, buena parte de nuestra seguridad depende de sistemas que aquellos pensadores difícilmente habrían imaginado. Las comunicaciones, los bancos, los hospitales y hasta el suministro de alimentos funcionan mediante infraestructuras digitales, muchas de ellas desarrolladas y administradas por empresas privadas que operan en distintos países. El Estado nació para garantizarnos esa seguridad, pero hoy una parte de ella depende de decisiones que se toman fuera de su alcance.
El problema es que la digitalización también multiplicó las posibilidades de ataque. Varios acontecimientos internacionales recientes muestran hasta qué punto una falla informática puede afectar nuestra vida cotidiana.
En Francia, ciberataques contra sistemas de refrigeración de supermercados provocaron la pérdida de alimentos. Los agresores consiguieron modificar a distancia la temperatura de las heladeras. La intrusión también alcanzó al Servicio Francés de Sangre (EFS), donde se intentó alterar las condiciones de almacenamiento de plasma.
No estamos hablando de una computadora infectada o de una contraseña robada. Se trata de sistemas digitales capaces de modificar las condiciones físicas en las que se conservan productos indispensables para la alimentación o la atención médica.
Otro episodio tuvo como protagonista a Binance, una de las mayores plataformas de intercambio de criptomonedas del mundo, que sufrió el robo de unos 6.300 millones de dólares en activos digitales.
La operación comenzó con una falsa entrevista laboral. Los delincuentes engañaron a un ingeniero para que descargara un programa supuestamente necesario para una prueba técnica. En realidad, contenía software malicioso que permitió infiltrarse en los sistemas de la compañía.
La IA agrega nuevas posibilidades a estas prácticas. Permite crear mensajes fraudulentos más convincentes, automatizar ataques y acelerar la búsqueda de fallas en los sistemas de seguridad informáticos.
Pero también aparece otro problema: los propios agentes de IA toman la iniciativa para realizar acciones que sus desarrolladores no habían autorizado.
Durante pruebas internas de ciberseguridad, agentes experimentales de OpenAI consiguieron superar las restricciones que debían mantenerlos aislados y comprometer sistemas informáticos de la propia empresa y de Hugging Face, una plataforma utilizada por desarrolladores de IA.
En Anthropic, responsable de Claude, también se identificaron incidentes durante evaluaciones en las que sus modelos consiguieron acceder sin autorización a sistemas de organizaciones externas.
Esto no significa que las máquinas hayan desarrollado voluntad propia. Lo que muestran estos episodios es que los sistemas diseñados para cumplir determinados objetivos pueden encontrar caminos imprevistos para alcanzarlos, incluso atravesando barreras de seguridad.
Cuanto mayor sea su autonomía y su capacidad para interactuar con otros sistemas, mayores pueden ser las consecuencias de esas fallas.
Sin embargo, hay otro terreno en el que nuestra seguridad también está amenazada y que afecta directamente el funcionamiento de las democracias: la información.
La proliferación de videos falsificados mediante IA, las granjas de bots y los algoritmos que privilegian los contenidos capaces de provocar indignación o fomentar el odio facilitan las campañas de desinformación.
El problema no se limita a que alguien crea una noticia falsa. Cuando resulta difícil distinguir un testimonio auténtico de una falsificación, también se debilita la confianza en las fuentes que utilizamos para comprender la realidad. Y sin información confiable resulta más difícil tomar decisiones, participar del debate público y ejercer nuestros derechos ciudadanos.
Llegamos así a una contradicción. Los ataques a infraestructuras, las fallas de los sistemas autónomos y la manipulación de la información son problemas distintos, pero tienen un punto en común: depositamos una parte creciente de nuestra seguridad en tecnologías que no controlamos directamente, desarrolladas y administradas por un puñado de empresas privadas, y cuya complejidad muchas veces supera la capacidad de supervisión de los organismos públicos.
Las grandes empresas de inteligencia artificial deciden cómo desarrollan sus modelos, qué límites incorporan, cuáles son los riesgos aceptables y cuándo lanzan nuevos productos. Son decisiones que pueden afectar a millones de personas. Los individuos, los colectivos y los Estados tienen hoy poca capacidad de incidir sobre dichas decisiones.
Además, estas compañías operan internacionalmente, mientras buena parte de las normas encargadas de proteger a los ciudadanos siguen teniendo jurisdicciones nacionales. El Estado, ese garante que imaginó Hobbes, queda así impotente frente a actores que operan por encima de las fronteras.
La cuestión también es política. Donald Trump y Javier Milei promueven el desarrollo de la inteligencia artificial con una intervención estatal mínima. Su apuesta por la desregulación favorece los intereses de las grandes compañías tecnológicas, que encuentran menos obstáculos para desarrollar y comercializar sus productos.
Pero cuando las consecuencias de una falla pueden extenderse mucho más allá de una empresa o de un país, confiar exclusivamente en los controles privados resulta insuficiente.
No se trata de impedir el desarrollo tecnológico ni de atribuirle a la IA todos los problemas de seguridad informática. Se trata de establecer responsabilidades y garantizar que existan autoridades capaces de intervenir cuando los intereses comerciales entren en conflicto con los derechos de las personas.
Para eso necesitamos acuerdos internacionales que establezcan obligaciones para las empresas, mecanismos de supervisión pública y criterios comunes de seguridad. Ningún Estado puede enfrentar por sí solo amenazas que atraviesan fronteras.
Hobbes imaginó un poder soberano capaz de ofrecer seguridad a cambio de obediencia. Hoy necesitamos discutir un nuevo pacto social que permita aprovechar las posibilidades de la tecnología sin renunciar a las libertades que buscamos proteger.
Podríamos pensar en un nuevo Leviatán digital, pero con una diferencia fundamental. El de Hobbes era un Estado absoluto y autoritario; el poder que hoy debe garantizar nuestra seguridad tiene que estar sometido a la lógica democrática.
Si las empresas tecnológicas no aceptan la autoridad de los estados nacionales ni la gobernanza internacional (ONU, Unión Europea, Mercosur, etc.), corremos el peligro de que decisiones corporativas pongan en riesgo nuestras comunicaciones, nuestros bienes o nuestra información personal. Estaríamos dando inicio a una nueva manera de concebir el Estado, las libertades personales y la democracia.
Ni más ni menos que un mundo muy distinto al que conocemos hoy.
