謝彥波出生在湖南益陽一個知識分子家庭。父母都是讀書人，從小就讓他把主要精力放在學習上。他很少外出和別人交流，主要在家專心讀書。這種環(huán)境讓他在學術上進步明顯，但也讓他在人際溝通方面缺少練習。結果他在很小的年紀就展現(xiàn)出學習天賦，一路跳級前進。

1978年，他進入中國科學技術大學少年班。那時候少年班剛恢復招生，他是班里年齡最小的學生之一。學校提供良好的學習條件，他用比較短的時間完成了本科階段的課程。接著他直接進入中國科學院理論物理研究所攻讀碩士學位，導師是于淥院士。他在碩士階段表現(xiàn)穩(wěn)定，順利獲得學位。

碩士畢業(yè)后，他開始在國內攻讀博士學位。導師是中科院副院長周光召院士。當時很多人看好他的前景，但他和導師在學術指導上出現(xiàn)分歧。雙方意見難以統(tǒng)一，這導致他的博士學業(yè)在國內沒有完成。他決定申請出國繼續(xù)深造，以提升專業(yè)水平。

1991年，他深夜前往安德森教授住宅討論學術問題。他敲響了門，安德森教授和妻子被驚醒。教授夫婦感到不安。當時美國社會對私人住宅安全比較警惕，不久前發(fā)生了其他留學生相關的事件，氣氛比較敏感。安德森教授認為這種行為可能構成潛在安全隱患。

第二天安德森教授向普林斯頓大學行政部門報告情況。學校經過評估，聯(lián)系了中國科學技術大學方面。學校決定讓他提前結束學業(yè)返回國內。他沒有獲得博士學位，以碩士學歷身份回國。

回國后他進入中國科學技術大學物理系擔任教師職位。學校安排他在近代物理相關領域從事教學工作。他逐步適應了崗位，以碩士學歷繼續(xù)開展研究和授課。生活上他結婚成家，家庭支持讓他逐步穩(wěn)定下來。

家庭生活方面他過得比較平靜。妻子和孩子給他提供了穩(wěn)定的支持。他偶爾還會下圍棋或者用筆算方式思考物理問題，保持了對學術的興趣。至今他仍留在中科大物理系，繼續(xù)從事相關工作。