如果把行政权比做人类社会政治经济生活中疾驰的火车，飞奔的骏马，那么，行政程序就是火车的铁轨，骏马的辔头。它通过对行政权行使的一系列程序设计，使行政权的行使过程有规可循，有法可依，从而避免行政权出轨、失控而造成的对公民权利和行政权本身理应追求的社会公共利益的双重损害。
如果仅仅把行政程序看作是对行政权的消极约束，这只能是一种过时的、片面的观点。实际上，整齐划一、简洁明确的行政程序，能够最大限度地避免行政权行使中杂乱无章、各自为政的无序状态，从而在依法行政的前提下为提高行政效率提供了可能。
不仅如此，行政程序还是公民参与的渠道，是沟通政府与人民联系的桥梁。传统的依法行政，公民在行政过程中成为行政权作用的单纯客体，其权利受到侵害时只能依靠行政复议法、行政诉讼法、国家赔偿法等提供事后救济；而包含告知、听证等核心内容的行政程序，则给公民在行政过程中与行政权争辩、对话的机会，这不仅为公民权利提供了更切实的保护，而且使行政权的行使渗入公民意志成为可能。此外，当今社会事务的纷繁复杂，客观上要求政府与人民之间更加密切合作、良性互动；行政程序正是为这种合作提供了一条纽带，为这种互动准备了一个平台，通过公民的有序参与，行政事务由政府单方面的责任变成了政府和人民共同的事业，社会将由此变得更加和谐，政府和人民的关系将更加密切。
行政程序需要靠法律的形式，将行政程序变为行政程序法律，才能使行政程序对行政行为有约束力。只有同当事人权益和行政效率有关的重大行政程序，才由法律规定，其目的是强行要求行政机关及其工作人员遵循一定行政程序，以保证行政工作的科学性和民主性。因此，行政程序上升为法的意义在于：行政程序法律是国家制定并认可的，并由国家强制力保证其实施的程序规则，一旦违反了程序规则，即属违法行为，要依法承担一定的法律责任。而没有上升为法律的一般程序，即使违反了，也不承担法律上的责任。人们经常讲的行政程序大多是从法律意义上讲的，即指法定行政程序。所以，制定行政程序法，完善行政程序法制建设，让行政程序充分发挥自己的价值，是依法治国的时代要求，是建设社会主义政治文明的现实需要。
（二）行政程序在控制行政处罚自由裁量权中的价值
行政处罚自由裁量权是重要的行政权力，这种权力的运行会产生正负两方面的效应。为预防和控制负效应的出现，必须对自由裁量权进行控制。即所谓“自由”是相对的，不存在绝对的“自由”。自由裁量权“是一种明辨真与假、对与错的艺术和判断力，……而不以他们的个人意愿和私人感情为转移。” 行政处罚自由裁量权的运行态势表明，自由裁量权出现负效应是因为它的逆向运行或越轨运行，即不按预先设置的方式、方法、步骤运行。从这个角度讲，“行政程序是为行政权力运行设置的一种安全装置。”“程序的实质是管理和决定的非人情化，其一切布置是为了限制恣意、专断和任意裁量。” 这些都表明了行政程序在制约行政权，保障民主自由，防止专断中的重要作用。
行政程序在行政处罚自由裁量中的价值体现，主要表现在：
1.行政程序是限制随意行政的前提。行政程序是规制行政处罚自由裁量权的一种重要手段。行政程序一旦设定并法律化后，一方面作为行政自由裁量权的享有者、行使者的行政主体的选择行为方式、方法及步骤时必须遵循程序之规定，即按行政程序规定的方式、方法和步骤去作为，否则就要承担违反程序之法律责任；另一方面，作为权利主体的行政相对人，有权要求行政主体合理行使自由裁量权。行政程序的设定也可以成为预防行政主体滥用程序的壁垒，拖延行政的行为发生，避免行政主体选择不适当的手段、范围、幅度来加重行政权力主体的义务，以防止行政主体滥用行政处罚自由裁量权，扼制行政主体行使自由裁量权的主观随意性。