嵌入式系統最核心的層次是中央處理單元部分，它包含運算器和控制器模塊，在cpu的基礎上進一步配上存儲器模塊、電源模塊、復位模塊等就構成了通常所說的最小系統。由于技術的進步，集成電路生產商通常會把許多外設做進同一個集成電路中，這樣在使用上更加方便，這樣一個芯片通常稱之為微控制器。在微控制器的基礎上進一步擴展電源傳感與檢測、執行器模塊以及配套軟件并構成一個具有特定功能的完整單元，就稱之為一個嵌入式系統或嵌入式應用。

　　硬件結構盡管各種具體的嵌入式系統的功能、外觀界面、操作等各不相同，甚至千差萬別，但是基本的硬件結構卻是大同小異的，而且和通用計算機的硬件系統有著高度的相似性。嵌入式系統的硬件部分看起來與通用計算機系統的沒有什么區別，也由處理器、存儲器、外部設備、I/O接口、圖形控制器等部分組成。但是嵌入式系統應用上的特點致使嵌入式系統在軟硬件的組成和實現形式上與通用計算機系統有較大區別。為滿足嵌入式系統在速度、體積和功耗上的要求，操作系統、應用軟件、特殊數據等需要長期保存的數據，通常不使用磁盤這類具有大容量且速度較慢的存儲介質，而大多使用EPROM、E2PROM或閃存(Flash Memory)。在嵌入式系統中，A/D或D/A模塊主要用于測控方面，這在通用計算機中用得很少。根據實際應用和規模的不同，有些嵌入式系統要采用外部總線。隨著嵌入式系統應用領域的迅速擴張，嵌入式系統越來越趨于個性化，根據自身特點采用總線的種類也越來越多。另外，為了對嵌入式處理器內部電路進行測試，處理器芯片普遍采用了邊界掃描測試技術(JTAG)。

　　軟件體系嵌入式系統的軟件體系是面向嵌入式系統特定的硬件體系和用戶要求而設計的，是嵌入式系統的重要組成部分，是實現嵌入式系統功能的關鍵。嵌入式系統軟件體系和通用計算機軟件體系類似，分成驅動層、操作系統層、中間件層和應用層等四層，各有其特點。

　   驅動層驅動層是直接與硬件打交道的一層，它為操作系統和應用提供硬件驅動或底層核心支持。在嵌入式系統中，驅動程序有時也稱為板級支持包(BSP)。BSP具有在嵌入式系統上電后初始化系統的基本硬件環境的功能,基本硬件包括微處理器、存儲器、中斷控制器、DMA、定時器等。驅動層--般可以有三種類型的程序，即板級初始化程序、標準驅動程序和應用驅動程序。 操作系統層嵌入式系統中的操作系統具有一般操作系統的核心功能，負責嵌入式系統的全部軟硬件資源的分配、調度工作控制、協調并發活動。它仍具有嵌入式的特點，屬于嵌入式操作系統(Embedded Operating System,EOS)。主流的嵌入式操作系統有Windows CE、Palm：OS、Linux、VxWorks.pSOS.QNX.LynxOS等。有了嵌入式操作系統，編寫應用程序就更加快速、高效、穩定。

　　中間件層中間件是用于幫助和支持應用軟件開發的軟件，通常包括數據庫、網絡協議、圖形支持及相應開發工具等，例如：MySQL、TCP/IP、GU1等都屬于這一類軟件。 應用層嵌入式應用軟件是針對特定應用領域，用來實現用戶預期目標的軟件。嵌入式應用軟件和普通應用軟件有一定的區別，它不僅要求在準確性、安全性和穩定性等方面能夠滿足實際應用的需要，而且還要盡可能地進行優化，以減少對系統資源的消耗，降低硬件成本。嵌入式系統中的應用軟件是最活躍的力量，每種應用軟件均有特定的應用背景。盡管規模較小，但專業性較強，所以嵌入式應用軟件不像操作系統和支撐軟件那樣受制于國外產品，是我國嵌入式軟件的優勢領域。