К 1800-м годам на участке был двухэтажный деревянный особняк, выходящий на 3-ю линию, во дворе стоял каменный двухэтажный флигель, а за ним был небольшой сад.

В 1900-1901 гг. по заказу владельца - купца Павла Яковлевича Прохорова - архитекторы Густав Густавович фон Голи и Герман Давидович Гримм возвели четырёхэтажный доходный дом в стиле модерн, выделяющийся оригинальной обработкой фасада и силуэтом "готической"кровли. Он отделан красным облицовочным кирпичом в сочетании с естественным камнем, на фоне которых эффектно выглядят кованые решётки и кронштейны балконов.

Использование стилизованных машикулей (декоративных элементов, имитирующих навесные бойницы, располагавшиеся в верхней части крепостных стен и башен), увенчивающих верхнее поле стен лицевого фасада здания, треугольного щипца со шпилем подчеркивают остроту силуэта дома и отождествляют его со зданиями, выполненными в приёмах неоготики.

Дом сохранил архитектурное и декоративно-художественное решение фасадов начала XX века, частично сохранилась историческая декоративно-художественная отделка интерьеров.

Модный для своего времени фасад и роскошные апартаменты служили яркой рекламой для размещавшихся здесь фирм. Среди них были экспортная контора «Витт и Ко», акционерное общество «Рубероид», занимавшееся строительными подрядами, «Техническая контора инженеров А. Браунера и А. Эльбена».

После революции 1917 г. здание было национализировано, а с 20-х годов XX века квартиры в доме стали коммунальными.

В настоящее время здание сохраняет жилую функцию.

20 июля 2022 г. распоряжением председателя КГИОП Сергея Макарова «Дом П.Я. Прохорова» (3-я линия В.О., д. 26, лит. А, Б) включён в единый государственный реестр в качестве объекта культурного наследия регионального значения.

22 июля 2022 г.