Warsaw был записан в конце семидесятых, однако группа осталась недовольна пост-продакшном продюсеров лейбла RCA и выпускать пластинку отказалась. Альбом распространялся в качестве бутлегов, пока не был коммерчески выпущен в 1994 году с дополнением нескольких треков. В оригинальный треклист вошли четыре песни с мини-альбома An Ideal for Living. В вариант 1994 года были включен записанные в семидесятых композиции, а также «As You Said», которая вышла в 1980 году в составе сингла «Komakino». С пометкой бонус-треки в альбом включены первые записи группы, носившие название «The Warsaw Demo». В композиции «They Walked In Line» припев спел Бернард Самнер.