Problemas com ASP e SQL Server

Olá, estou com um problema já faz tempo e não consigo resolver... será que alguém pode me dar uma luz?

Tenho a seguinte estrutura para o site:

• 3 servidores dedicados rodando em uma rede privada. Em uma máquina fica o IIS, em outra o SQL Server e a outra uso para Backup, Log Shipping e também como servidor de email.
• Faz algum tempo, sempre que o site atinge um pico de conexões simultâneas de mais ou menos 300 a 500 pessoas o site fica lento e começa a dar erro.
• Achei que podia ser algum problema de hardware e já mudei o banco de máquina, mudei o IIS de máquina, desativei o backup e log, tirei a rede do cenário colocando o IIS e banco na mesma máquina e mesmo assi nada resolve. Algumas dessas ações amenizaram o problema e deixaram a performance melhor mas o erro continua acontecendo quando passam de 300 pessoas navegando simultaneamente.

Os erros que acontecem são variados, cada hora é um... são os seguintes:

• Cannot open database "NOME_DO_BANCO" requested by the login. The login failed. (veja que é como se a aplicação não encontrasse o banco no SQL)
• Timeout (as vezes dá um erro de timeout normal)
• [DBNETLIB][ConnectionOpen (Connect()).]SQL Server does not exist or access denied (Veja que o servidor esta acusando que o Servidor SQL não existe)

Alguém sabe o que pode ser? O servidor está bom, tem memória RAM livre pra caramba, o HD não está sendo muito requisitado e a placa de rede está com folga... me parece configuração do SQL Server ou algum pau maluco do ASP com o IIS, mas o que?!

Grato,

Renan