La première organisation du Conseil d'Etat, décrétée par ordonnance royale grand-ducale en 1857, s'inspire d'un modèle néerlandais. Le Conseil d'Etat se compose alors de 9 membres au moins et de 15 au plus, nommés et démissionnés par le Roi Grand-Duc. Un comité spécial, le Comité du contentieux, composé de 5 à 7 de ces membres, est chargé du contentieux administratif. Deux anciens présidents du Gouvernement et cinq anciens ministres figurent parmi les onze premiers membres nommés au Conseil d'Etat. La première réunion plénière de cette nouvelle Institution a lieu un an après sa création constitutionnelle.
La deuxième loi organique du Conseil d'Etat de 1866 fixe le nombre des conseillers d'Etat à 15 dont 7 forment le comité du contentieux. Les conseillers qui ne font pas partie du comité du contentieux sont, comme sous l'organisation antérieure, nommés et démissionnés directement par le Roi Grand-Duc, mais aucun membre du Conseil d'Etat ne peut être révoqué qu'après que le Conseil aura été entendu. Les membres du comité du contentieux sont nommés par le Roi Grand-Duc, sur proposition de la Chambre, pour une durée de six ans.
Les développements internationaux, tels la dissolution de la Confédération germanique et le statut de neutralité du Luxembourg introduit par le Traité de Londres du 11 mai 1867, nécessitent une révision de la Constitution. Le Constituant profite ainsi de l'occasion pour éliminer le principe autoritaire introduit en 1856 et modifier le texte constitutionnel dans un sens progressif et libéral.
On ne revint toutefois pas purement et simplement à la Constitution de 1848 et aux idées reprises jadis de la Constitution belge. Ainsi l'institution du Conseil d'Etat est maintenue. L'idée de la création d'un sénat, suggérée par le Conseil d'Etat lui-même, est toujours écartée par le Constituant au même motif que celui soulevé en 1848, à savoir l'exiguïté du territoire. Pour parer à l'absence d'un sénat, les auteurs de la Constitution de 1868 prévoient cependant que toutes les lois sont à soumettre à un second vote dans un intervalle d'au moins trois mois, à moins que la Chambre, d'accord avec le Conseil d'Etat, siégeant en séance publique, n'en décide autrement (article 59 de la Constitution).
