Här är ett förslag. Har dock inte testat och kontrollerat, så jag kan förstås ha gjort någon grov miss...
Är för trött för att orka fundera ut något bra sätt att "leverera" resultatet från funktionen, men här är en liten skiss i alla fall.
x och y är koordinater i gamla koordinatsystemet, angle är vinkeln att rotera, xRotated och yRotated är de nya koordinaterna.
Kod:
function rotate(x, y, angle) {
r = Math.sqrt(x*x + y*y);
theta = Math.atan2(x, y) + angle;
xRotated = r * Math.cos(theta);
yRotated = r * Math.sin(theta);
}