初平二年（公元191年），趙雲受常山郡官員（時為常山國，建安十一年改為郡治）推舉，率領本郡義從吏兵投奔公孫瓚，成為其麾下一名騎兵將領。

在當時的冀州，因為大家都預感到了即將到來的戰爭，都想投靠實力強大的諸侯獲得進身之機，所以紛紛趕去投靠有四世三公家庭背景的袁紹，而袁紹來者不拒，都待之以禮。

公孫瓚對此事有些憂慮，在與趙雲交心時有些輕慢地說道：“聽說你們州郡的人都願意投靠袁紹，為何單單你來歸附我呢？”趙雲回答道：“天下大亂，不知道是非對錯，百姓等待拯救，我們經過商議討論，決定要追隨能夠實施仁政的地方，這是我們要疏遠袁紹而投靠於將軍您。”

《三國志·趙雲傳》：雲身長八尺，姿顏雄偉，為本郡所舉，將義從吏兵詣公孫瓚。時袁紹稱冀州牧，瓚深憂州人之從紹也，善雲來附，嘲雲曰：“聞貴州人皆原袁氏，君何獨迴心，迷而能反乎？”雲答曰：“天下訩訩，未知孰是，民有倒縣之厄，鄙州論議，從仁政所在，不為忽袁公私明將軍也。”遂與瓚征討。

趙雲，選擇了一條看似不那麼主流的道路：投奔公孫瓚。目的很清楚，想做的就是挽救蒼生於水火，還一個盛世太平，所以只嚮往仁德之處，不因為強大的袁紹而放棄明主！”這是他一生的信念。

後世有把此話作為趙雲背棄公孫瓚而轉投劉備的原因，認為公孫瓚並不信任趙雲。其實大錯特錯！

當時劉備亦依附在公孫瓚處，趙雲得以有機會與劉備交好。 公孫瓚與袁紹交戰，派遣青州刺史田楷佔據現在山東附近的土地，袁紹亦派數萬大軍前來爭奪，公孫瓚便上表將劉備提升為別部司馬，派劉備前去幫助田楷抵抗袁紹。趙雲亦跟隨劉備出征，為劉備騎兵主將。

《三國志·趙雲傳》：本屬公孫瓚，瓚遣先主為田楷拒袁紹，雲遂隨從，為先主主騎。

193年，趙雲因為兄長去世，向公孫瓚請辭歸鄉，劉備知道趙雲此去便不會再回來，因此依依不捨得分別。趙雲向劉備辭別說：“終究不會辜負你的。”

《三國志·趙雲傳》：雲以兄喪，辭瓚暫歸，先主知其不反，捉手而別，雲辭曰：“終不背德也。”

建安五年（公元200年），在二人分別後七年，趙雲到鄴城投靠劉備，二人同床眠臥。劉備秘密派譴趙雲招募兵士數百，對外宣稱是左將軍劉備的部曲，而此事袁紹並不知情。劉備在汝南侵擾曹操後方失敗後，趙雲便隨劉備來到荊州依附劉表。

《三國志·趙雲傳》：先主就袁紹，雲見於鄴。先主與雲同床眠臥，密遣雲合募得數百人，皆稱劉左將軍部曲，紹不能知。遂隨先主至荊州。

趙雲在跟隨公孫瓚的三年時間裡，與公孫瓚一起剿滅黃巾叛亂，大破青州黃巾，斬首三萬餘，俘虜七萬餘人，獲得車甲財物無數，使得公孫瓚威名大震。之後，被委派給劉備做幫手與袁紹交戰無數，但一直沒有得到公孫瓚的信任和重用。

正在此時，傳來了家兄逝世的訊息，趙雲也覺得在公孫贊手下難以施展畢生的抱負，加上對公孫瓚這個主公的一些做法有些不認同（193年，公孫瓚擊殺劉虞，並挾持朝廷使者），隨藉此離開公孫瓚，一直在家休養7年（其實古代父母喪，守孝三年即可，兄長的喪期更短）也不出仕，一直等到199年先主公孫瓚兵敗自焚而死後，才重新出仕投靠名聲“仁義”的劉備，可見其忠義無雙。