Rollback - це дієслово, тому відмінити транзакцію.
транзакція скасування
the transaction rollback was performed successfully.Транзакція скасування транзакції відбулась успішно.
Це, можливо й русизм, але, якщо Ви перекладаєте для аудиторії, ознайомленої з комп'ютерною термінологією, то спробуйте варіант "відкат". Іноді головне бути зрозумілим, ніж зберегти чистоту мови.