Apesar de sua conexão de internet ser até que rápida, transferência de dados não depende só do teu lado, mas do servidor também (aqui eu baixo até que rápido, nunca notei muita demora em geral com uma conexão de 35mb/dw 5/up)
As vezes o problema pode ser por conta de rotas ruins com a sua conexão indo para os servidores do osu! enquanto passam pela sua provedora de internet. Há algumas instruções de como fazer um ping e também um tracert para os servidores do osu! explicados
https://osu.ppy.sh/help/wiki/Help_Centre no Help Centre (procure com CTRL + F por tracert ou osu.ppy.sh)
Veja se há alguma perda de conexão de dados ou um ping alto em geral, as vezes o problema é da provedora de internet mesmo ou só o servidor de download de beatmaps do osu! não conseguindo aguentar a demanda naquele dado momento que pediu para baixar um mapa.
Lembrando que se houver problemas com o servidor do osu! em si, será geralmente notificado no twitter
https://twitter.com/osustatus ou no site
https://status.ppy.sh/