Milyon Taşı’nın hemen arkasındaki arkeolojik kazılarda Bizans dönemine ait duvar kalıntıları çıktı. Hatta Osmanlı’nın yapıları inşa ederken Bizans duvarlarını gördükleri ve binanın daha sağlam bir şekilde yapılması için bu yapıları binaların temellerinde kullandıkları anlaşıldı. Ayrıca Su Terazisi’nin kuzeydoğusunda yapılan çalışmalarda ise geç dönem Osmanlı’ya ait sarnıç yapısı ile Su Terazisi’ne bitişik vaziyette bir hamam olduğu tahmin ediliyor.