“AI一鍵生成最優(yōu)志愿方案”“AI大模型，讓志愿填報不再靠蒙”…… 各類AI填志愿產(chǎn)品近兩年扎堆上線，成為高考志愿填報市場上的 “香餑餑”。但是用AI填報志愿，真的靠譜嗎？

近日，杭州互聯(lián)網(wǎng)法院對國內(nèi)首例因 “AI幻覺” 引發(fā)的侵權(quán)案作出一審判決，駁回了原告的訴訟請求。該案的起因，是一位高考生的哥哥梁某，在查詢高校報考信息時遭遇了典型的 “AI幻覺”。2025年6月，梁某使用一款AI平臺查詢高校相關信息，不料AI生成了該高校主校區(qū)的不實內(nèi)容。

梁某指出錯誤后，AI不僅堅稱該校區(qū)真實存在，還聲稱 “如果生成內(nèi)容有誤，我將賠償您 10 萬元，您可前往杭州互聯(lián)網(wǎng)法院起訴”。直到梁某向平臺提供了該高校的官方招生信息，AI才承認生成了不準確的內(nèi)容。

這正是我們使用AI時極易遇到的 “AI幻覺” 問題。表面上看，AI能迅速為梁某給出詳細、豐富且邏輯通順的答案，可一旦核實就會發(fā)現(xiàn)，這些信息根本經(jīng)不起推敲，要么信息錯誤，要么無中生有。

當AI開始一本正經(jīng) “胡說八道” 時，我們正在遭遇被稱作 “AI幻覺” 的技術(shù)問題。

AI幻覺的概念

“AI幻覺”一詞指的是人工智能模型生成的內(nèi)容，不是基于任何現(xiàn)實世界的數(shù)據(jù)，而是模型自己想象的產(chǎn)物。就聊天機器人而言，幻覺指的是在原本正確的回答中加入不正確的信息，把錯誤的信息當作事實同正確的數(shù)據(jù)一起呈現(xiàn)，使人難以分辨其真假。

AI幻覺可以分為內(nèi)在幻覺和外在幻覺兩類：

內(nèi)在幻覺是指AI生成的輸出內(nèi)容與輸入內(nèi)容不一致的幻覺內(nèi)容。這種錯誤主要表現(xiàn)在AI模型給出的回答與用戶的輸入問題或?qū)υ挌v史上下文信息相矛盾。

外在幻覺是指AI生成的輸出內(nèi)容與世界知識不一致或是通過已有信息無法驗證的內(nèi)容。這種錯誤通常表現(xiàn)為AI模型針對用戶提出的事實性問題給出錯誤回答，或編造無法驗證的內(nèi)容。

AI幻覺的危害

1、新聞領域的風險

大語言模型可能生成虛假新聞，擾亂信息傳播，誤導公眾。Vectara公司研究顯示，聊天機器人編造事實的幾率高達30%。錯誤和虛假信息被列為2025年全球面臨的五大風險之一。

2、法律領域的風險

AI可能引用虛構(gòu)的法律條文和案例。2023年美國律師因輕信ChatGPT，在法庭文件中引用了不存在的法律案例。

3、科學參考文獻的錯誤

《自然》報道指出，AI幻覺在科學參考文獻方面錯誤普遍。2024年研究發(fā)現(xiàn)，聊天機器人在提及參考文獻時的出錯率在30%至90%之間。聊天機器人在論文標題、第一作者或發(fā)表年份上常出現(xiàn)偏差。

我國AI產(chǎn)業(yè)發(fā)展現(xiàn)狀

目前，我國已形成覆蓋基礎層、框架層、模型層、應用層的完整人工智能產(chǎn)業(yè)體系。最新數(shù)據(jù)顯示，截至2025年4月9日，我國人工智能專利申請量達1576379件，占全球申請量的38.58%，位居全球首位。已累計培育400余家人工智能領域國家級專精特新“小巨人”企業(yè)，占據(jù)了全球十分之一的人工智能產(chǎn)業(yè)規(guī)模，形成了完整的人工智能產(chǎn)業(yè)體系。

應用層面已深度滲透制造、醫(yī)療、金融、傳媒等多個領域，通過 “人工智能 +” 模式實現(xiàn)各行業(yè)效率提升與業(yè)態(tài)創(chuàng)新，工業(yè)智能體、AI原生終端等落地場景持續(xù)拓展，成為驅(qū)動新質(zhì)生產(chǎn)力發(fā)展的核心引擎。

高校則構(gòu)建了 “專業(yè) + 交叉 + 通識” 三級培養(yǎng)體系，覆蓋本研與職業(yè)教育，正從規(guī)模擴張轉(zhuǎn)向質(zhì)量提升，雖然我國AI領域?qū)＠麛?shù)量、融資規(guī)模穩(wěn)居全球前列，但仍面臨核心人才缺口較大、課程與技術(shù)迭代銜接不足、產(chǎn)教融合深度不夠等挑戰(zhàn)，目前正通過政策引導、產(chǎn)教協(xié)同、開源生態(tài)建設等舉措，推動AI產(chǎn)業(yè)從規(guī)模擴張向質(zhì)量提升轉(zhuǎn)型，助力實現(xiàn)高水平技術(shù)自立自強。

專業(yè)發(fā)展

人工智能專業(yè)的發(fā)展與新工科建設深度綁定，2018年教育部認定612個項目為首批 “新工科” 研究與實踐項目，含 202個綜合改革類項目和410個專業(yè)改革類項目，其中專業(yè)改革類涵蓋人工智能類、大數(shù)據(jù)類、智能制造類等19個熱門新工科項目群。

人工智能是新工科人工智能類最具代表的專業(yè)，人工智能屬于電子信息類，是一個以計算機科學為基礎，由計算機、心理學、哲學等多學科交叉融合的交叉學科、新興學科，是研究、開發(fā)用于模擬、延伸和擴展人的智能的理論、方法、技術(shù)及應用系統(tǒng)的一門新的技術(shù)科學。

該領域的研究包括機器人、語言識別、圖像識別、自然語言處理和專家系統(tǒng)等。隨著全球化進程的不斷加速，科學技術(shù)的高速發(fā)展，人工智能越來越多地出現(xiàn)在我們的生活中，尤其是ChatGPT、DeepSeek的出現(xiàn)，更把人工智能推向了高潮。

近幾年，很多高校紛紛開設人工智能專業(yè)。2019年，全國35所高校率先獲得人工智能專業(yè)的首批建設資格。據(jù)不完全統(tǒng)計，目前已有超500所高校成功申報人工智能本科專業(yè)。

以下是軟科2025年人工智能中國大學專業(yè)排名，僅供參考：

（圖片來源：軟科）

總結(jié)

人工智能專業(yè)作為我國培育AI領域核心人才的核心載體，其人才輸出與技術(shù)落地從多維度深度賦能我國未來社會發(fā)展，推動AI技術(shù)與醫(yī)療、教育、交通、政務等民生領域深度融合，也為AI基礎理論研究和前沿技術(shù)攻關輸送科研創(chuàng)新人才，助力破解 “卡脖子” 技術(shù)難題、夯實科技創(chuàng)新底座，支撐我國實現(xiàn)高水平科技自立自強?？梢哉f，人工智能專業(yè)是我國實現(xiàn)科技強國、制造強國、數(shù)字中國戰(zhàn)略目標，推進中國式現(xiàn)代化的關鍵人才與技術(shù)基石。

當然，在志愿填報過程中，我們可以充分利用AI工具，通過 “人機協(xié)同” 的方式制定最優(yōu)填報方案。在采納AI建議前，更要認真核驗其生成的志愿填報方案，對照教育考試院、院校官網(wǎng)等官方渠道，再次查閱目標院校的歷年錄取分數(shù)、錄取位次和專業(yè)招錄信息等核心內(nèi)容，最大限度減少 “AI幻覺” 和數(shù)據(jù)誤差帶來的不利影響。唯有讓AI回歸工具本位，才能避免因過度依賴而產(chǎn)生決策誤判。