1989. november 9-e után a keletnémet hatóságok nem tudták eldönteni, hogy mi történjen a politikai értelemben már leomlott berlini fal fizikai maradványaival. Az NDK határőrsége változatlanul felügyelte a falat és a NSZEP vezetése úgy gondolta, hogy lehetséges a határzár valamilyen formában való továbbüzemeltetése. Az első hetekben a határőrség munkatársai több helyen is hozzáláttak a megrongált elemek javításához.
A fal leomlása utáni hétvégén 10 új határátkelő helyet nyitottak. A határátkelőknél nagy tömeg gyülekezett és hangosan ünnepelték a fal minden egyes elemének eltávolítását. (A TV-felvételeken ezeket a jeleneteket a berlini fal bontásaként szokták bemutatni, pedig csak az új határátkelők helyén szedték fel a betonelemeket.) 1989. december 24-étől már a nyugat-berlini polgárok is beutazhattak Kelet-Berlinbe. Ekkora már igencsak megritkultak a keletnémet határőrség őrjáratai a fal vonalán. Megszűnt az ellenőrzés a határátkelőhelyeknél és a határőrök nem avatkoztak közbe, amikor a berliniek több helyen is bontani kezdték a létesítményeket. A határzár magánszorgalmú bontása különösen az NDK Népi Kamarájának 1990. március 18-án lezajlott választása után gyorsult fel.
1990. július 1-jén, a német valutaunió életbe lépésének napján a határőrség hivatalosan is beszüntette tevékenységét a belnémet határ berlini szakaszán. Július 13-án a Bernauer Strasse-nál hivatalosan is megkezdődött a fal bontása. A munkálatokat az NDK határőrség 300 fős műszaki alakulata végezte és a belvárosi falszakasz bontásával november 30-án végeztek is. Mindössze 6 szakasz maradt meg, emlékműként ma is állnak. A Berlin és Brandenburg határán fekvő műszaki zárat 1991 novemberére számolták fel véglegesen.