El origen del principio de legalidad está también en las revoluciones liberales. Desde sus primeras formulaciones está destinado a hacer efectiva la supremacía del parlamento con respecto a la corona y a sus agentes. Constituye, pues, un instrumento para luchar contra la arbitrariedad característica de la monarquía absoluta, cuando la soberanía del rey provocaba que el monarca fuera legibus solutus, por lo que no estaba sujeto a ningún tipo de norma, ni siquiera a las dictadas por él mismo. La corona podía, así, dar órdenes singulares que excepcionaban el régimen común, decisiones destinadas a beneficiar a ciudadanos fieles o a perseguir a quienes eran contrarios a los designios del monarca. En muchas ocasiones, esta actuación del rey no estaba sujeta a ningún tipo de control y los perjudicados no podían buscar la protección de los tribunales de justicia o de otras autoridades. No hay que olvidar, además, que algunas órdenes reales podían tener carácter secreto, lo que impedía que fueran conocidas con anterioridad por los ciudadanos, que no podían adaptar sus comportamientos a las nuevas exigencias para evitar el castigo derivado de su incumplimiento.
En la actualidad, el principio de legalidad actúa con respecto al Gobierno y, sobre todo, en relación a la Administración, ya que obliga a que ambos operen dentro de las atribuciones y de los límites fijados en la ley. El art. 103 CE subraya esta obligación al proclamar que la Administración Pública sirve con objetividad los intereses generales y actúa con sometimiento pleno a la ley y al Derecho.
El mismo principio vincula a otro poder del Estado, esto es, al poder judicial, de dos maneras distintas. En primer lugar, porque, como afirma el art. 117 CE, los Jueces y Tribunales tiene como misión juzgar y ejecutar lo juzgado con pleno sometimiento al imperio de la ley. Pero, además, porque ellos mismos son guardianes del principio de legalidad. El Estado de Derecho exige que los ciudadanos puedan acudir a la jurisdicción para exigir que el Gobierno y la Administración cumplan con lo establecido en el ordenamiento jurídico y exigir reparaciones en caso de que lo haya vulnerado. El art. 106 CE responde a este principio al afirmar que “los Tribunales controlan la potestad reglamentaria y la legalidad de la actuación administrativa, así como el sometimiento de ésta a los fines que la justifican”. Para que los Jueces y Tribunales puedan llevar a cabo correctamente las tareas que les atribuye el ordenamiento jurídico deben de estar dotados de independencia con respecto al poder político y ser imparciales, lo que significa carecer de prejuicios con respecto al resultado del proceso (art. 117).