Festiwal „Muzyka w Raju” po raz pierwszy odbył się w 2003 roku jako część nieustającego festiwalu "Muzyka dawna - persona grata". Jego organizatorem jest Zielonogórsko-Gorzowskie Wyższe Seminarium Duchowne i Fundacja Muzyki Dawnej "Canor". W pocysterskim zespole klasztornym w Gościkowie-Paradyżu, jednym z najciekawszych obiektów architektonicznych na terenie powiatu świebodzińskiego, do 2006 roku odbyły się cztery edycje tego festiwalu muzyki dawnej. Uroku całemu wydarzeniu nadaje wieczorna pora koncertów, co w połączeniu z dostojnymi murami klasztoru stwarza niepowtarzalną atmosferę muzycznego święta.
Koncerty są podsumowaniem współpracy orkiestry Arte dei Suonatori (pełniącej funkcję gospodarza festiwalu) i jej najważniejszych, najbliższych partnerów, a jednocześnie zapowiedzią kierunków, w jakich ta współpraca będzie przebiegała w przyszłości. Dotychczas w Paradyżu gościli m.in. tacy światowej sławy artyści, jak skrzypek Ryo Terakado (Japonia), lutnista i gitarzysta Eero Palviainen (Finlandia), śpiewaczka Maria Keohane (Szwecja), grający na historycznych i współczesnych fletach poprzecznych oraz na fletach prostych Alexis Kossenko (Francja), klawesynista Allan Rasmussen (Dania), flecista Dan Laurin (Szwecja), wiolonczelista Hidemi Suzuki (Japonia), kontratenor Matthew White (Kanada), wiolonczelista Tom Pitt (Wielka Brytania), skrzypaczka Kati Debretzeni (Anglia), sopranistka Mathilde Etienne (Francja), grająca na fletach prostych Bolette Roed (Dania), klawesynistka Aline Zylberajch (Francja), lutnista Andreas Arend (Niemcy), organista, klawesynista, dyrygent, muzykolog i pedagog Martin Gester (Francja), czy klawesynista i organista Allan Rasmussen (Dania).
Wszystkie koncerty są rejestrowane przez radio. Dźwiękowe archiwum festiwalu z założenia jest przedmiotem wymiany z rozgłośniami zagranicznymi zrzeszonymi w Europejskiej Unii Nadawców, a jego fragmenty ukazują się na płytach, układających się w dźwiękową kronikę festiwalu.