1961 nyarán az NDK népességvesztése már havi 30 000^[3] fő fölé ugrott. Az NDK kormányán növekedett a nyomás, hogy az állam demográfiai összeomlását a berlini belnémet határ lezárásával akadályozza meg. Walter Ulbricht 1961. június 15-én egy nyugatnémet újságírónő kérdésére tagadólag válaszolva („Niemand hat die Absicht, eine Mauer zu errichten”, azaz „Senkinek sincs szándékában falat építeni”) ^[4] először használta a „fal” kifejezést. A műszaki határzár építéséhez Ulbrichtnak azonban szüksége volt Hruscsov szovjet pártfőtitkár beleegyezésére. Az engedélyt Ulbricht a Varsói Szerződés tagállamainak augusztus 3. és 5. közötti moszkvai konferenciáján próbálta meg megszerezni.^[5] Augusztus 12-én a keletnémet pártvezetők értekezletén Ulbricht közölte, hogy az egyre nagyobb méreteket öltő menekültáradat miatt szükségessé vált – egy nem pontosan meghatározott napon, de 14 napon belül – a berlini belnémet határ lezárása.

Augusztus 12-éről 13-ra virradó éjjel az NDK különböző fegyveres egységei, együttesen 15 000 főnyi csapaterővel lezárták a nyugati szektoroknak a szovjet szektorral, illetve az NDK területével érintkező határait. Az utcákon a szektorhatárok közvetlen közelében, azokkal párhuzamosan, de még NDK területen először szögesdróttekercseket húztak ki, amelyekkel a gyalogos- és járműforgalom nagy része számára elvágták az átjárás lehetőségét. A drótakadályok előtt pár méterrel árkot ástak keresztbe az utcákon, hogy a kordon autókkal való áttörését megakadályozzák. Ezt követően elsősorban az NDK vidéki területei és a nyugati szektorok között húzódó határszakaszon (a korábbi zónahatáron), de helyenként a város belterületén is könnyű betonoszlopokra feszített, kb. 2 méter magas fonatos drótkerítést is telepítettek, a vidékiesebb szakaszokon kettős kiépítésben. Ezekben a munkákban a fegyveres testületek mellett NDK-s munkásmilicisták és önkéntesek is részt vettek.

A szovjet szektorban a határvonaltól beljebb, mélységi zárást és forgalomelterelést alkalmaztak, a nyugati szektorok felől az átjárást elsősorban a szögesdróttekercsek és a közvetlenül mögéjük felállított őrség akadályozta meg. Az eredetileg 80 átkelőhely közül csak 12-t hagytak nyitva. Elvágták a városi gyorsvasút és a metró összeköttetéseit is. Csak a friedrichstrassei állomás maradt meg, ahol egy határállomást alakítottak ki. Augusztus 15-én éjjel Szászországból érkező építőipari munkások fegyveres felügyelet mellett elkezdték az addig felállított drótakadályok bontását és a betonelemekből álló fal felépítését. A fal a szovjet és a nyugati (francia, brit és amerikai) szektorok határa mentén, de NDK területen épült.

A váratlan határzárás Berlin lakosságát mindkét oldalon sokkolta. Családok tagjai kerültek a kordon ellenkező oldalaira, százak nem tudtak eljutni a munkahelyükre vagy rokonaikhoz. Az első órákban a határszakaszokon és a lezárt korábbi átkelőknél emiatt viták alakultak ki és atrocitások történtek. A kordont a biztosítás ellenére számos esetben átlépték: az építkezés ideje alatt 85 keletnémet katona szökött nyugatra az épülő falon át, míg 800 polgári személy is sikerrel menekült el az

-ból.