Unmittelbar nach seiner Thronbesteigung appellierte Gregor an Kaiser Leo III. , seine Position gegenüber dem Bildersturm zu mildern . Als Gregors Vertreter auf Befehl des Kaisers verhaftet wurde, berief Gregor im November 731 eine Synode ein, die den Bildersturm aufs Schärfste verurteilte. Leo reagierte, indem er versuchte, den Papst unter Kontrolle zu bringen, aber die Flotte, die er entsandte, um den kaiserlichen Willen durchzusetzen, erlitt in der Adria Schiffbruch . Er begab sich dann in geeignete päpstliche Territorien in Sizilien und Kalabrien und übertrug die kirchlichen Gerichtsbarkeiten in der ehemaligen Präfektur Illyricum dem Patriarchen von Konstantinopel. Sein Versuch, den Herzog von Neapel zu zwingen , einen kaiserlichen Erlass zur Beschlagnahme des päpstlichen Territoriums im Herzogtum durchzusetzen, scheiterte jedoch, da der Herzog die Haltung des Papstes unterstützte.

Gregory demonstrierte in der Zwischenzeit seine Ablehnung des Bildersturms, indem er seine Verehrung von Ikonen und Reliquien betonte. Er reparierte oder verschönerte zahlreiche Kirchen, die ihre Dekoration mit Ikonen und Bildern von Jesus Christus , der Jungfrau Maria und den Heiligen beinhalteten. Er befahl, im Herzen des Petersdoms eine Ikonostase zwischen sechs Onyx- und Marmorsäulen zu errichten , die Gregor als Geschenk des Exarchen Eutychius geschickt hatte . Er baute ein neues Oratorium im Petersdom, um die Reliquien einer Reihe von Heiligen zu beherbergen, und berief 732 eine Synode einum dort die Gebete und Messen zu regeln. Gregor war ein begeisterter Anhänger des Mönchtums ; er gründete das Kloster St. Chrysogonus und baute das Hospiz der Heiligen Sergius und Bacchus in der Nähe von St. Peter um und stiftete es zur Unterstützung der Armen.