為了降低大氣湍流和通信終端相對運動對通信系統性能造成的影響，對采用了圓偏振調制原理的通信系統進行了研究。激光的圓偏振特性在大氣傳輸中變化很小，且圓偏振光具有旋轉對稱性，系統的性能不受兩通信終端相對運動的影響，降低了技術的實現難度，具有很高的可靠性，特別適用于移動通信終端。介紹了兩種圓偏振調制方式，推導了線偏振態與圓偏振態之間的轉換過程，為圓偏振編碼解碼提供理論基礎。針對這兩種調制方式，提出了具體的實現方案，并設計出了圓偏振調制激光通信系統，在該系統中可驗證兩種編碼方式，且結構簡單、實現方便，可作為星載通信終端。并進行了簡單的圓偏振編碼通信實驗，實現了數據發射和接收，證明了圓偏振調制的可行性。