Быстрое увеличение числа жителей на Васильевском острове в начале XVIII века потребовало упорядочения торговли. К 1721 году вдоль «Большой першпективы» от 6-й линии уже существовали два ряда деревянных лавок. Южнее их земля была болотистой и неровной, там планировали организовать продажу сена и дров. Между 2й и 3й линиями тогда существовал Меншиковский рынок, называвшийся так по находящемуся рядом дворцу князя Меньшикова. Однако в 1733 году Меншиковский рынок был переведён на небольшую поляну около 20-й линии, позже по просьбе купцов перемещён ближе, к церкви Андрея Первозванного. С тех пор рынок стал называться Андреевским. С окончанием перестройки Андреевского собора в церковь рынок стал всё более популярен, сюда приезжали не только местные, но и иногородние купцы, рынок стал расширяться до 5-й линии.

В 1730-1740-х годах рынок был окончательно узаконен, принято решение о его переустройстве по специальному проекту. В 1763 году произошёл сильный пожар, деревянные постройки сгорели, купцам был нанесён большой ущерб. В 1764 году купцы обратились в Сенат с просьбой о строительстве нового рынка, и о предоставлении им для этого 100 000 рублей в кредит на 10 лет. Сенат просьбу удовлетворил, предоставил свои рекомендации императрице Екатерине II, которая приказала комиссии о Санкт-Петербургском строении заняться этим вопросом. Был организован конкурс, в условиях которого числилось: обустройство каменных торговых рядов, площадь внутри для продажи сена и дров, устройство в центре площади пруда. Построен рынок был к середине 1780-х годов, автор проекта сегодня неизвестен. Предполагается что им мог быть губернский архитектор Г. Х. Паульсен, строивший подобные рынки в других частях Санкт-Петербурга.

В 1795 году случился новый пожар, который уничтожил все оставшиеся к тому времени деревянные постройки. К концу 1790-х годов лавки были приведены в порядок, теперь все они стали в каменном исполнении.

В 1820-х годах со стороны Волжского переулка была устроена колоннада из шести колонн дорического ордера. В 1880-х годах со стороны Большого проспекта по проекту П. Ю. Сюзора и О. Е. Креля к рынку был пристроен металлический остеклённый корпус. Здесь торговали мясом, молоком, зеленью, овощами и фруктами, которые привозили крестьяне из пригородов. Отдельные помещения каменного рынка стали сдаваться под склады и конторы.

В 1959 году совершена перестройка здания по проекту М. Я. Климентова. На месте домов №14 и 16 по Большому проспекту был построен новый корпус рынка, отдельный корпус со стороны проспекта был разобран.