Cloudflare ha recuperato circa 100 TB di memoria RAM dalla propria infrastruttura DNS senza sostituire server o aggiungere memoria. Il risultato è stato ottenuto intervenendo direttamente sul modo in cui la piattaforma Big Pineapple rappresenta e conserva in memoria le entry della cache DNS. L'ottimizzazione ha permesso non solo di ridurre sensibilmente il consumo di memoria, ma anche di migliorare le prestazioni della cache.
Big Pineapple è alla base di diversi servizi DNS di Cloudflare, tra cui il resolver pubblico 1.1.1.1, il Gateway DNS, il DNS Firewall e AS112. La piattaforma mantiene contemporaneamente oltre 250 miliardi di entry DNS. A una scala di questo tipo, anche un singolo byte superfluo per entry comporta oltre 250 GB di memoria aggiuntiva sull'intera infrastruttura.
Le modifiche sono state applicate progressivamente al codice scritto in Rust e hanno riguardato cinque aspetti della rappresentazione dei dati. Il primo intervento ha eliminato parte dell'overhead associato a Vec e String. Queste strutture mantengono infatti, oltre a puntatore e lunghezza, anche la capacità riservata per eventuali successive espansioni. Una caratteristica inutile nel caso delle entry DNS, che dopo essere state inserite nella cache non devono più crescere.
