Y ese sonido que describes estas 100% seguro que proviene de la fuente y no del Speaker de la motherboard?. Si viene de la fuente mas que un pitido es probablemente un Silbido por un capacitor reventado o a punto de reventar. Deberías revisar la fuente con una lampara a través del agujero de ventilación para confirmar. Ya que describes el sonido como relativamente fuerte, es probable que sea uno de los capacitores primarios (grandes, como del tamaño de baterias D) el que esta dañado y lo que te va a tocar es comprar fuente

Aunque por los detalles que has mencionado como que desde hace tiempo atrás te venia dando problemas con el arranque y que solo después de varios intentos lograba encender, es casi seguro que es la fuente