氣相色譜的樣品分離系統主要由進樣室和色譜柱組成。

進樣室有不同類型，如氣體進樣閥、液體進樣室、熱裂解進樣室等。其作用是將待分析的樣品注入色譜柱。

色譜柱通常為內徑2~3毫米、長1~3米、內盛固定相的填充柱，或內徑0.25毫米、長20米以上、內涂固定液的開管柱。色譜柱的直徑為數毫米，其中填充了固體吸附劑或液體溶劑，這些填充物稱為固定相。與固定相相對應的還有一個流動相。流動相是一種與樣品和固定相都不發生反應的氣體，如氮或氫氣。待分析的樣品在色譜柱頂端注入流動相，流動相帶著樣品進入色譜柱，因此流動相又稱為載氣。載氣在分析過程中是連續地以一定流速流過色譜柱的；而樣品則只是一次一次地注入，每注入一次得到一次分析結果。

色譜柱中的樣品得以分離是基于熱力學性質的差異。固定相與樣品中的各組分具有不同的親合力（對氣固色譜儀是吸附力不同，對氣液分配色譜儀是溶解度不同）。當載氣帶著樣品連續地通過色譜柱時，親合力大的組分在色譜柱中移動速度慢，因為親合力大意味著固定相拉住它的力量大。親合力小的則移動快。

在氣相色譜儀中，為了達到分離的目的，固定相的選擇性和柱效率要足夠高。這需要選擇合適的填充物和使柱子具有足夠的理論板數。此外，還要注意色譜柱裝填的情況和色譜柱管所用的材料。一般用途的色譜柱管用不銹鋼制成，因為不銹鋼對大多數樣品有足夠的惰性。但對于含有雜原子的有機化合物，需要用玻璃柱管，以減少金屬表面的催化和吸附。在做痕量分析時，玻璃柱管應該首先硅作硅烷化處理，硅烷化處理過程按對載體處理的要求進行，以避免玻璃表面的硅醇基的影響。最好使用石英玻璃柱管，盡管聚四氟乙烯管對某些氣體有滲透性，但在分析痕量含硫氣體時仍然得到應用。

在操作氣相色譜儀時，溫控系統也起著重要作用。溫度是色譜分離條件的重要選擇參數，氣化室、色譜柱恒溫箱、檢測器三部分在操作時均需控制溫度。氣化室要保證液體試樣瞬間氣化；檢測器要保證被分離后的組分通過時不在此冷凝；色譜柱恒溫箱要準確控制分離需要的溫度。