Иако је Музеј града Београда основан још давне 1903. године, у сачуваним архивама постоје лапидарни подаци о присуству предмета из праисторијских периода, све до времена Другог светског рата. Из Београдских општинских новина јануара 1940. сазнајемо да се у сталној музејској поставци налазила и витрина с материјалом тзв. Данске групе, која је предмете прикупљене током вађења шљунка из Дунава поклонила тадашњем Општинском музеју. На неколико објављених фотографија са поставке препознаје се палеонтолошки материјал, попут рогова праисторијског говечета, зуба мамута, фосилних шкољки амонита и сл. Скромна збирка керамике из бакарног и бронзаног доба, која потиче са ископавања 1939. на Шупљој стени код Авале, прва је забележена аквизиција археолошког материјала за Музеј. У несрећним годинама током Другог светског рата, од 1941. до 1943. обављена су и прва археолошка истраживaња на простору Београдске тврђаве, која је спровела нацистичка организација Аненербе. Са тих ископавања у Збирци за праисторију се чува скромни фонд од свега двадесетак фрагментованих посуда из периода позног неолита (око 4700. пре нове ере) и позног енеолита (око 3200. пре нове ере).

У послератном периоду, након што је структура музејских збирки добила обрисе савремене музеолошке праксе, оснива се и Одсек/Збирка за праисторију. Њен утемељивач био је Јован Тодоровић, који је касније био и директор Музеја града Београда. Уследила су велика заштитна и систематска археолошка истраживања на Карабурми, Роспи ћуприји, у Жаркову, на Бањици. Истовремено тече и активност тадашњег Народног музеја Земун, који је касније припојен Музеју града Београда. Никола Тасић и Даница Димитријевић су у том периоду истражили веома важне праисторијске локалитете у Јакову, Белегишу и Добановцима. Током последњих 80 година, стручњаци ове Збирке истражили су више од 60 археолошких локалитета на територији Београда и околине. Од 2010. Музеј града Београда спроводи систематска археолошка истраживања на једном од најзначајнијих касновинчанских насеља, у Стублинама код Обреновца.

У Збирци за праисторију Музеја града Београда данас се чува 10.284 предмета који сведоче о непрекидном трајању живота на данашњој територији града, почевши од налаза фосила старих око 20 милиона година, првих неолитских насеља из шестог миленијума пре нове ере, па све до доласка Римљана на овај простор почетком I века н.е. Највреднији фондови Збирке су винчанска колекција, у коју се убрајају неки од најзначајнијих предмета те неолитске културе, а који потичу са ископавања на Бањици, у Жаркову, Грабовцу, Стублинама, на Београдској тврђави и др., као и једна од најреферентнијих збирки келтске материјалне културе у региону. Реч је о предметима из млађег гвозденог доба са Карабурме, Роспи ћуприје, из Ритопека, Брестовика и Обреновца, који имају готово иконичан статус међу истраживачима овог периода.

Непостојање матичне зграде Музеја са сталном поставком и савременим централизованим депоима, и тешки услови рада утицали су веома мало на стање предмета из Збирке и на њихову доступност јавности. Генерације кустоса који су чували праисторијске предмете (Јован Тодоровић, Светлана Вранић, Бисенија Петровић, да споменемо само најзначајније) улагале су велики напор у превентивну заштиту и конзервацију културних добара, као и у њихову презентацију и промоцију.