開元初，累遷考功員外郎。先是，考功舉人，請托大行，取士頗濫，每年至數百人，丘一切核其實材，登科者僅滿百人。議者以為自則天已后凡數十年，無如丘者，其后席豫、嚴挺之為其次焉。三遷紫微舍人，以知制誥之勤，加朝散大夫，再轉吏部侍郎。典選累年，甚稱平允。擢用山陰尉孫逖、桃林尉張鏡微、湖城尉張晉明、進士王泠然，皆稱一時之秀。俄換尚書左丞。

十一年，拜黃門侍郎。其年，山東旱儉，朝議選朝臣為刺史以撫貧民，制曰：“昔咎繇與禹言曰：‘在知人，在安人。’此皆念存邦本，光于帝載，乾乾夕惕，無忘一日。而長吏或不稱，蒼生或未寧，深思循良，以矯過弊，仍重諸侯之選，故自朝廷始之。”于是以丘為懷州刺史，又以中書侍郎崔沔等數人皆為山東諸州刺史。至任，皆無可稱，唯丘在職清嚴，人吏甚畏慕之。俄又分知吏部選事，入為尚書左丞，丁父憂去職，服闋，拜右散騎常侍，仍知制誥。

二十一年，侍中裴光庭病卒，中書令蕭嵩與丘有舊，將薦丘知政事，丘知而固辭，且盛推尚書右丞韓休，嵩因而奏之。及休作相，遂薦丘代崔琳為御史大夫。丘既訥于言詞，敷奏多不稱旨。俄轉太子賓客，襲父爵宿預男，尋以疾拜禮部尚書，仍聽致仕。