Gerenciar BigData MySQL Web

Como que é realizado o gerenciamento de bancos de dados enormes, por exemplo: Tem uma empresa que fornece um serviço web de controle de vendas que tem inumeros clientes registrados no seu sistema, esse clientes tem databases separadas com suas próprias tabelas etc. Como é feito o gerenciamento de tudo isso? Como é a estrutura de um sistema de porte?