Os ambientes MongoDB construídos em Sharding são amplamente utilizadas para cenário que exigem alta escala para atender grandes quantidades de operações de gravação. Uma arquitetura típica de Sharding, pode ser apresentada na imagem ao lado, sendo composta de 3 elementos chaves: MongoS, ConfigServer e Sharding. O MongoS pode ser comparada a um router de conexão, sendo capaz de receber diversas requisições e realizar a consulta de forma transparente para as aplicações que o utilizam. Assim que uma query é processada pelo MongoS os metadados são consultados no ConfigServer. Esse último guarda a localização dos dados dentro do conjunto de servidores do Sharding Set.
Assim que o MongoS identifica onde um determinado documento está entre os Shards, ele encaminha a consulta diretamente para o Shard que possui o dado. Cada Shard é responsável por um conjunto de documentos de uma collection, o ambiente utiliza um balancer interno capaz de distribuir tais documentos em blocos – chamados chunks. Desta forma os dados são completamente distribuídos na rede de forma que as operações de leitura e escrita possam ser distribuídas facilmente entre os Shards. Ambientes com Sharding possuem estruturas destinadas para alta disponibilidade de cada componente, Shard e ConfigServer, possuindo um conjunto de máquinas que replicam essas configurações constantemente, o ReplicaSets, que podem ser estendido para até 50 servidores. Neste tipo de ambiente a segurança nunca é deixada de lado, como podemos ilustrar na imagem, toda comunicação é mantida via Certificados assinados por uma CA interna. Dessa maneira somente as máquinas que possuem o certificado poderão participar do ambiente.