Мраморный дворец возник на месте, где ранее находился построенный в 1714 году Почтовый двор с пристанью. В 1737 году пожар уничтожил Почтовый двор, и участок оставался не застроенным до 1768 года, когда по велению Екатерины II здесь приступили к возведению нового дворца.

Строительство дворца продолжалось с 1768 по 1785 год по проекту итальянского архитектора Антонио Ринальди. Дворец предназначался в качестве подарка фавориту Екатерины II графу Григорию Григорьевичу Орлову. Однако граф Орлов умер в 1783 году, так и не увидев окончания строительства. В том же году Екатерина II выкупила здание в казну, а в 1796 году пожаловала его своему внуку великому князю Константину Павловичу.

После смерти Константина Павловича в 1831 году император Николай I передал Мраморный дворец во владение своему сыну, великому князю Константину Николаевичу. В 1840-х годах архитектор Александр Брюллов провел реконструкцию и оформление интерьеров дворца. Затем владельцами дворца становились великая княгиня Александра Иосифовна, великий князь Константин Константинович и его сын князь Иоанн Константинович.

Мраморный дворец является шедевром архитектуры раннего екатерининского классицизма. Фасады дворца полностью облицованы естественным камнем - гранитом и мрамором, что придает зданию уникальный вид и подчеркивает его «итальянский» характер. Нижний этаж декорирован суровым гранитом, два верхних этажа украшены пилястрами из розоватого тивдийского мрамора, контрастирующего с голубовато-серым рускеальским мрамором. Такое сочетание создает изысканную перламутровую гамму, особенно эффектную в дождливую погоду.

Композиция дворца отсылает к архитектуре итальянских палаццо и в то же время демонстрирует обобщенный образ классицистических дворцов Европы. Здание имеет замкнутый объем с внутренним двором-курдонером, ризалиты и надстроенный аттик со статуями работы скульптора Федота Шубина.

Внутреннее убранство Мраморного дворца поражает обилием и разнообразием отделочных материалов. Парадная лестница облицована голубовато-серебристым мрамором, украшена скульптурным декором Шубина. Шедевром архитектурного искусства является двусветный Мраморный зал, стены которого облицованы мраморами более тридцати оттенков. Пилястры из розового мрамора, золоченые капители и барельефы работы скульпторов Козловского и Шубина создают богатое, торжественное убранство. Плафон зала «Свадьба Купидона и Психеи» написан итальянским художником Стефано Торелли.

В 1843-1851 годах архитектор Брюллов провел реконструкцию интерьеров, в результате которой был надстроен верхний ярус Мраморного зала. При этом была сохранена первоначальная отделка парадной лестницы и нижнего яруса главного зала.

После Октябрьской революции Мраморный дворец занимали различные государственные учреждения. В 1919-1936 годах здесь размещалась Академия истории материальной культуры, затем - филиал Центрального музея Ленина. В 1992 году дворец передан Русскому музею, в залах которого сегодня размещены экспозиции и проходят временные выставки.