이후 6.25 전쟁이 일어나면서 월남했고 부산 영도에 정착해 현재 고신의료원의 전신인 복음병원을 세워 평생을 가난한 사람을 무료 진료하며 살다 1995년 12월 25일 지병에 의한 합병증으로 사망했다.

평생을 본인의 사택없이 병원 옥탑방에서 생활했으며, 사망당시에도 1000만원짜리 통장이 전부였는데 이마저도 간병인에게 주고 세상을 떠난 일화는 잘 알려진 이야기이다.

또한 '장기려, 그 사람' 평전에 따르면 가난한 환자의 치료비를 자신의 월급으로 대납 처리하거나 가진 돈만 받았고, 딱한 환자들이 밤에 도망갈 수 있도록 병원 뒷문을 열어주기도 했다.

나아가 거지에게 적선을 하면서 한 달치 봉급의 수표를 건냈는데, 이후 경찰이 도난 당한 수표인지 알고 장 박사를 찾았다는 일화도 있다.

의료계 내에서도 장기려 박사는 존경의 대상으로, 흥남철수 당시 미군에 많은수의 피난민을 태울 것을 건의했던 故현봉학 박사와 우리나라 최초의 부검의인 문국진 교수 등이 장기려 박사의 제자이기도 하다.