Da es bei mir in der GUI nicht funktionierte habe ich diese Powershell Befehle verwendet:

PS C:\ > Get-SPUserSolution -Site "http://url.to.webapp"

Name                   SolutionId      Status
----                   --------------- ------
Projekte-Vorlage-1.wsp XXc727fc-bd3... Activated
XYZ Projekt.wsp        YYe4126f-5ca... Activated

PS C:\ > Uninstall-SPUserSolution -Identity "Projekte-Vorlage-1.wsp" -Site "http://url.to.webapp"

Confirm
Are you sure you want to perform this action?
Performing the operation "Uninstall-SPUserSolution" on target "Projekte-Vorlage-1.wsp".
[Y] Yes [A] Yes to All [N] No [L] No to All [S] Suspend [?] Help (default is "Y"): y
PS C:\ > Get-SPUserSolution -Site "http://url.to.webapp"

Name                   SolutionId      Status
----                   --------------- ------
Projekte-Vorlage-1.wsp XXc727fc-bd3... Deactivated
XYZ Projekt.wsp        5be4126f-5ca... Activated

Danach konnte ich die Solution dann wieder in den Website-Einstellungen aus der Liste der Lösungen löschen!

Es handelte sich um eine Website-Vorlage. Die damit erstellten Websites blieben aber bestehen!