景云（公元710～711年）年间任中书舍人。因母年老，奏请调任，以虞部郎中住东都洛阳养母。后检校御史中丞，监察御史宋宣远恃宰相卢怀慎的权势，多有违法行为，崔沔奏闻皇帝。“又姚崇之子光禄少卿彝，留司东都，颇通宾客，广纳贿赂，沔又将按验其事。姚、卢时在政事，遽荐沔有史才，转为著作郎，其实去权也。”开元七年（公元719年）任太子左庶子，受中书令张说赏识，拜中书侍郎。因不满张说专权，遇事常与张说争论，引起张说反感，被排斥出朝任魏州（今河北大名东北）刺史。在魏州颇有政绩，复被召回朝，“分掌吏部十铨事”。后任秘书监、太子宾客。其熟通《礼经》，朝廷每有礼仪之事皆取决于其意见。