Por qué el intervalo se volverá más rápido cada vez que establezca un nuevo intervalo.

Estoy haciendo un temporizador muy simple con dos botones: stop y set.

Aquí está el código:

<h1>0</h1>
<button onclick = 'set()'>Set</button>
<button onclick = 'stop()'>Stop</button>

“`

<pre><code> var click = false;
let interval
function set(){
interval = setInterval(function(){
document.querySelector('h1').textContent = parseFloat(document.querySelector('h1').textContent)+1
},1000)
}
function stop(){
window.clearInterval(interval)
}
</code></pre>

“`
He encontrado que si sigo presionando el botón set que establecerá un nuevo intervalo, la velocidad de agregar 1 al h1 se volverá cada vez más rápida (mucho más rápida que 1000 ms).

Sé que podría juntar los dos botones en uno solo, o hacer que el botón de configuración se vuelva display: none o usar otras formas de evitar esta situación.

Pero me pregunto por qué sucede esto.

¿Alguien podría explicarme un poco sobre por qué sucede esto?

Gracias por cualquier respuesta.