Tuvo participación comprometida en las sesiones del Congreso Constituyente de 1830, y Bolívar lo nombró su albacea testamentario.
La milicia había ejercido en Venezuela, hasta 1835, el poder político, argumentando su decisiva intervención en el proceso de independencia, pero paralelamente se iba gestando en la sociedad civil, la idea de entregar el mando del país e alguien vinculado con los estratos intelectuales más que al poder de las armas, y las miradas recayeron en el prestigioso médico, que se había convertido en orgullo nacional,debido a esto en las elecciones de 1834, lo elevaron a la primera magistratura, asumiendo el mando presidencial el día 9 de febrero de 1835. Acusado de establecer un gobierno oligárquico y centro-federal debió sufrir la Revolución de las Reformas, que quería restaurar los privilegios militares y organizar una República de Colombia, dividida en estados federales.
Depuesto de su cargo, debió exiliarse en Saint Thomas. Pero Páez pudo entrar en Caracas, el 28 de julio de 1835, y tras constituir un Consejo de Gobierno bajo la presidencia del general José María Carreño, devolvió la presidencia a Vargas, el 20 de agosto de 1835, luego de mandarlo a buscar de su destierro.
José María Vargas es nombrado Presidente el 9 de Febrero de 1835 hasta el 24 de Abril de 1836.
Presenta problemas de salud haciendo que viaje a Nueva York, en la que en ese lugar va a fallecer en 1854.