公元前655年，秦晉兩家成為友好邦鄰，晉獻公把女兒嫁到秦國，百里奚被作為陪嫁奴仆一同前往。直到這時，百里奚才如夢方醒：自己的一腔報國情，竟換來奇恥大辱！于是，在迎親途中，他乘人不備逃走了，本來是想逃到宋國的，因道路受阻，只好逃到楚國。為了謀生，在楚國，他為人養牛。同樣是養牛，他養的牛膘肥體壯，拉起犁來毫不費力。這件事被楚王知道了，便招來百里奚問曰“飼牛有道乎？”百里奚對曰“時其時，恤其力，心與牛而為一。”楚王曰：“善哉，子之言！非獨牛也，可通于馬。”就讓百里奚為其養馬。

    秦穆公是個賢明的國君，聽說百里奚“心與牛而為一”這條飼牛之道，直覺是個人才，避免楚成王懷疑，就用五張羊皮把百里溪從楚國贖回來。百里奚從楚國之后，秦穆公看到百里奚滿頭白發，便問：“年幾何？”百里奚答曰“才七十歲。”秦穆公嘆曰“惜乎老也！”百里奚對曰：“使奚逐飛鳥，博猛獸，則臣已老。若使臣坐而策國事，臣尚少也。昔呂尚年八十，釣與渭濱，文王載之以歸，拜為尚父，卒定周鼎。臣今日遇君，較呂尚不更早十年乎？”。秦穆公聽完之后，便與百里奚談有關治國的方略，與鄰邊國家的外交關系等等，談話結束，秦穆公就拜百里奚為上大夫（上卿），并打算把秦國的軍政大全都交給了他。但百里奚堅辭不受，而是把自己的好友蹇叔推薦給秦穆公：曰：“臣之才，不如臣友蹇叔十倍。君欲治國家，請任蹇叔而臣佐之。秦穆公曰：”子之才，寡人見之真也，未聞蹇叔之賢也。“奚對曰：”蹇叔之賢，豈惟君未之聞，雖齊宋之人，亦莫之聞也。然而臣獨知之。臣尚出游于秦，欲委贄于公子無知，蹇叔止臣曰：不可。臣因去齊，得脫無知之禍。嗣游于周，欲委贄于王子頹，蹇叔復止臣曰：不可。臣復去周，得脫子頹之禍。后臣歸虞，欲委贄于虞公，蹇叔又止臣曰：不可。臣時貧甚，利其爵祿，姑且留事，遂為晉俘。夫再用其言，以脫于禍，一不用其言，幾至殺身，此其智性于中人遠矣。今隱于宋之鳴鹿村，宜速招之。”（見東周列國志）。在百里溪的舉薦下，秦穆公終于同意讓他和蹇叔一道做秦國的上大夫。因百里奚是秦穆公用五張黑公羊皮換回來的，故世人稱百里奚為“五羊大夫”。

    自百里奚始，“心與牛一”就是歷代統治藝術的一條基本追求而被廣泛接受，即以己度人、推己及人，設身處地、同情體諒，并以此構建融洽和諧的理想社會。后來孔子的“仁者愛人”以及今天我們的“情為民所系，權為民所用，利為民所謀”等都是這種觀念的發展與演化，這是一種體恤關愛的教化，而不是討價還價的談判，更不是爾虞我詐的“博弈”，而是一種“心與民一”、“其樂融融”的和諧場景。

    從后來百里奚在秦國的作為來看，他的確實踐了這種政治主張。他給秦國帶去的不是殘酷的征戰殺伐，不是苛刻的政治高壓，而是“心與牛一”的仁厚寬容的治國之道。在他的輔佐下，秦穆公三立晉君、稱霸諸侯，并征服西戎、拓地千里，為后來秦國一統天下奠定了基礎。