Перша письмова згадка про Глибокe датована 1438 роком. Вона подана, як запустіла місцевість на "Чорній Поляні", а в грамоті цього ж року молдавський господар Ілля I наділив місцевістю під назвою Глибока придворного суддю Петра Гудиму.
Вважається, що назва поселення походить від місця його розташування — селище лежить у глибокій улоговині. 1490 року в літописах згадується про те, що церква Глибокої увійшла до Радівецької єпархії, а 1491 року молдавський господар Стефан ІІІ своєю грамотою ствердив передачу села Глибока придворному Юдці. Протягом довгого часу глибоцькі землі й угіддя були власністю феодалів і монастирів.
1774 року Глибока, як і вся Буковина, перейшла від Туреччини під владу Австрії. Розквіт Глибокої відбувся у часи, коли край увійшов до складу монархії Габсбургів.
У середині ХІХ ст. тут будується спиртовий завод і починається будівництво залізниці Чернівці — Вадул-Сирет — Сучава, що пролягла через село, а пізніше і прокладається нова залізнична гілка Глибока — Сторожинець — Берегомет.
1956 року Глибока переведена до категорії селище міського типу. Через селище проходить залізниця Варшава — Чернівці — Бухарест. Населення становить 9,8 тисяч осіб.