Разница
В зависимости от того, какая форма неличного глагола стоит после regret (regret + инфинитив или герундий) зависит смысл всего предложения.
Regret + Герундий
После regret употребляется герундий, если мы говорим о действии, которое уже произошло и мы сожалеем об этом.
I now regret saying what I said. I shouldn’t have said it.
Теперь я сожалею, что сказал то, что сказал. Я не должен был этого говорить.
Regret + Инфинитив
При этом, если после regret идет to-инфинитив, то мы говорим, что сейчас мы сожалеем о действии, которое нам предстоит сделать сейчас или в будущем.
I regret to tell you, but you have failed your test.
С сожалением сообщаю вам, но вы провалили свой тест.