주위가 산지로 둘러싸인 몽골고원 내부의 고비사막의 범위는 확실치 않으나, 대체로 알타이산맥 동단에서 싱안링[興安嶺]산맥 서쪽 기슭에 걸친 동서 1,600km, 남북 500∼1,000km의 범위로 알려져 있다. 고비란 몽골어로 ‘풀이 잘 자라지 않는 거친 땅’이란 뜻으로, 모래땅이란 뜻은 내포되어 있지 않다. 고비라는 말의 뜻처럼 고비사막 대부분의 지역은 암석사막을 이루어 모래사막으로 된 지역은 매우 적고, 또 일반적으로 고비사막이라 부르는 지역범위 안에는 넓은 초원지대가 포함되어 있다.