Por Oded Vanunu, Director de Tecnología y Jefe de Investigación de Vulnerabilidades deProducto en Check Point Software
El navegador ChatGPT Atlas de OpenAI es el prototipo de cómo usaremos lascomputadoras en el futuro. Dentro de unos años, los sistemas operativos estaránimpulsados por IA, ya que los usuarios interactuarán mediante indicaciones en lugar dehacer clic en las aplicaciones. Describirás lo que quieres y la IA orquestará todo en tusistema, aplicaciones e internet.
Esto no es especulación, es la evolución lógica de la informática. Atlas demuestra esta visión hoy: la IA en el centro de tu experiencia informática, comprendiendo el contexto detoda tu vida digital y actuando en tu nombre. Los próximos años determinarán si estatransformación se produce de forma segura.La confianza y la ruptura de los límites
La ciberseguridad se basa fundamentalmente en la confianza y los límites.
La informáticatradicional mantiene límites claros: las aplicaciones se ejecutan de forma aislada, los sitiosweb no pueden acceder a los datos de los demás y los usuarios aprueban cada acción. Lainformática nativa con IA elimina estos límites.
Los navegadores ya se encuentran entre las superficies de ataque más explotadas eninformática. Son la puerta de entrada a sesiones autenticadas y datos confidenciales. Si a esto le sumamos la IA que opera con todos los privilegios en todas las sesiones iniciadas(banca, correo electrónico, atención médica y sistemas corporativos), la superficie deataque se expande drásticamente.
El nuevo vector de ataqueLos navegadores con IA introducen una peligrosa vulnerabilidad: la inyección indirecta demensajes. Instrucciones maliciosas ocultas en el contenido de una página web puedensecuestrar el asistente de IA para ejecutar acciones no autorizadas.
Los atacantes incrustancomandos en texto casi invisible que los humanos no pueden ver, pero que la IA lee a laperfección.Cuando un navegador con IA procesa una página web, no puede distinguir las instruccioneslegítimas de los comandos maliciosos ocultos en el contenido.
Los límites de seguridadtradicionales, como la política del mismo origen, se vuelven ineficaces cuando los agentesde IA actúan con todos tus privilegios. La IA sigue los comandos ocultos como si vinieran deti, ya que trata todo el texto como potencialmente procesable.
Diversas demostraciones han demostrado cómo una sola URL maliciosa puede infiltrarcorreos electrónicos, datos de calendario y credenciales, ya que el asistente de IA tieneacceso a todo lo que haces.
El desafío de la privacidadLos navegadores con IA requieren un acceso a datos sin precedentes para funcionareficazmente. Cuanto más contexto tengas sobre tu historial de navegación, documentos,comunicaciones y comportamiento, más útiles serán.
Pero esto crea una tensiónfundamental: cada página web que visitas, cada formulario que rellenas, cada sesiónautenticada se convierte en datos de entrenamiento para que la IA te comprenda mejor.Información confidencial, datos financieros, historiales médicos y comunicacionesempresariales confidenciales fluyen a través de estos sistemas.
La IA debe procesarlo todopara brindar asistencia inteligente, creando una infraestructura de vigilancia integral, inclusosi es involuntaria.Qué debe sucederLa era de la computación nativa de IA ha comenzado.
La transformación de interfacesbasadas en aplicaciones a interfaces nativas de IA es inevitable: los beneficios económicosy en la experiencia del usuario son abrumadores.
La pregunta es si podemos construir unaseguridad adecuada antes de que su adopción generalizada genere vulnerabilidadessistémicas.
● La industria debe establecer principios de seguridad por diseño: esto implicaaislamiento arquitectónico entre los comandos del usuario y el contenido web noconfiable, confirmación explícita del usuario para acciones sensibles a la seguridad ycontroles granulares de permisos para las capacidades de IA.
● Las organizaciones deben tratar los navegadores de IA como tecnologías de altoriesgo que requieren una mayor supervisión, políticas claras de uso aceptable yrestricciones de acceso a datos sensibles hasta que las prácticas de seguridadmaduren.
● Los reguladores necesitan marcos diseñados específicamente para los riesgos de lacomputación nativa de IA, que aborden la transparencia del procesamiento de datos,la divulgación de incidentes de seguridad y la responsabilidad cuando los sistemasde IA actúan de forma autónoma.Atlas es el primer paso en la transformación de la computación hacia interfaces nativas deIA.
Los próximos 24 meses determinarán si la seguridad se pone al día con la innovación.Las barreras que nos mantuvieron seguros durante décadas se están desvaneciendo.Aquellos que construyan primero las protecciones adecuadas definirán la próximageneración de informática para miles de millones de personas en todo el mundo.