Thèse Année : 2025

Data Center Security : From Browser to Infrastructure Level

La Sécurité des Centres de Données : du Navigateur au Niveau de l'Infrastructure

Résumé

Data centers are large clusters of interconnected computers used by organizations to remotely deliver digital services. To support this, they are structured into multiple software layers.One key layer is virtualization, which is extensively employed to isolate services while allowing them to share hardware resources.Virtualization is managed by a component known as the hypervisor, which ensures isolation between guest virtual machines (VMs).Above this layer lies the traditional operating system (OS) layer, which manages the allocation and use of system resources by applications.The application layer, in turn, provides services directly to end users.Web browsers are commonly used to access various services across the internet.Data centers are a foundational element of cloud computing, and with the continued expansion of the cloud and the rise of large language models (LLMs), their importance will grow.Consequently, they have become attractive targets for malicious actors, making security a primary concern for legitimate stakeholders.This thesis focuses on securing vulnerable layers of the data center stack.Our first contribution addresses the security of hypervisors against vulnerability exploitation.We observe that current fault-tolerance mechanisms fail to defend against zero-day denial-of-service (DoS) attacks.In response, we propose HERE, a system that implements live VM replication across heterogeneous hypervisors.By combining replication with software diversity, HERE provides protection against zero-day DoS attacks targeting hypervisors.Our second contribution focuses on web browsers, which rely on JavaScript (JS) runtimes to execute web applications. To improve performance, JS runtimes incorporate Just-In-Time (JIT) compilation engines that perform complex optimization passes during code execution.These optimization mechanisms, however, make JIT engines particularly susceptible to vulnerabilities.Disabling the JIT engine is one option, though it introduces performance penalties.Alternatively, waiting for a patch may leave systems exposed.To bridge this gap, we propose Jitbull, a runtime security mechanism that protects the JS engine between vulnerability disclosure and patch deployment.At each optimization pass, Jitbull compares executing code with known malicious code.If a similarity is detected, the corresponding optimization is deactivated; if not possible, the entire JIT engine is suspended.We demonstrate that Jitbull effectively prevents exploitation using variants of demonstrator code for known vulnerabilities, with minimal performance impact.

Les centres de données sont de grands ensembles d’ordinateurs interconnectés utilisés par des organisations pour fournir des services numériques à distance. Pour cela, ils sont structurés en plusieurs couches logicielles.Une couche clé est la virtualisation, largement utilisée pour isoler les services tout en leur permettant de partager les ressources matérielles.La virtualisation est gérée par un composant appelé l’hyperviseur, qui assure l’isolation entre les machines virtuelles (VM) invitées.Au-dessus de cette couche se trouve la couche classique du système d'exploitation (OS), qui gère l’allocation et l’utilisation des ressources par les applications.La couche applicative fournit ensuite des services directement aux utilisateurs finaux. Les navigateurs web sont couramment utilisés pour accéder à divers services via Internet.Les centres de données sont un élément fondamental du cloud, et avec l’expansion continue du cloud ainsi que la montée en puissance des grands modèles de langage (LLM), leur importance ne cessera de croître.Par conséquent, ils deviennent des cibles attractives pour les acteurs malveillants, ce qui fait de la sécurité une préoccupation majeure pour les parties légitimes.Cette thèse se concentre sur la sécurisation des couches vulnérables des centres de données.Notre première contribution porte sur la sécurité des hyperviseurs contre l’exploitation de vulnérabilités.Nous observons que les mécanismes actuels de tolérance aux fautes ne protègent pas efficacement contre les attaques par déni de service (DoS) zero-day.En réponse, nous proposons HERE, un système qui implémente la réplication en direct des VM entre hyperviseurs hétérogènes.En combinant réplication et diversité logicielle, HERE protège les hyperviseurs contre les attaques DoS zero-day.Notre seconde contribution concerne les navigateurs web, qui s’appuient sur des environnements d’exécution JavaScript (JS) pour exécuter les applications web.Pour améliorer les performances, ces environnements intègrent des moteurs de compilation Just-In-Time (JIT) qui effectuent des passes d’optimisation complexes pendant l’exécution.Cependant, ces optimisations rendent les moteurs JIT particulièrement vulnérables.Désactiver complètement le moteur JIT est une option, mais cela entraîne des pénalités de performance importantes.Une autre option consiste à attendre un correctif, ce qui a l'inconvénient de laisser le système vulnérable pendant cette période.Pour répondre à cette problématique, nous proposons Jitbull, un mécanisme de sécurité en temps réel qui protège le moteur JS entre la divulgation de la vulnérabilité et le déploiement du correctif.À chaque passe d’optimisation, Jitbull compare le code en cours d’exécution avec des codes malveillants connus.Si une similarité est détectée, l’optimisation correspondante est désactivée ; si cela n’est pas possible, le moteur JIT entier est suspendu.Nous démontrons que Jitbull empêche efficacement l’exploitation par des variantes de codes démonstrateurs de vulnérabilités connues, avec un impact minimal sur les performances.

Fichier principal
Vignette du fichier
DECOURCELLE_JeanBaptiste.pdf (1.34 Mo) Télécharger le fichier
Origine Version validée par le jury (STAR)
licence

Dates et versions

tel-05362614 , version 1 (13-11-2025)

Licence

Identifiants

  • HAL Id : tel-05362614 , version 1

Citer

Jean-Baptiste Decourcelle. Data Center Security : From Browser to Infrastructure Level. Computer Science [cs]. Université de Toulouse, 2025. English. ⟨NNT : 2025TLSEP091⟩. ⟨tel-05362614⟩
1906 Consultations
391 Téléchargements

Partager

  • More