不管你怎么努力，你都無法真正逃避ChatGPT及其同類產(chǎn)品了。在許多情況下，它已經(jīng)取代了谷歌，即使對(duì)我來說也是如此，特別是當(dāng)我為一周做飲食準(zhǔn)備、計(jì)劃下一次度假或想討論剛讀完的書的主題時(shí)（這正是ChatGPT語(yǔ)音模式真正發(fā)光發(fā)熱的地方）。

然而，僅僅因?yàn)樗谀承┦虑樯媳憩F(xiàn)出色，并不意味著它適用于所有事情。ChatGPT有時(shí)善于"令人信服地犯錯(cuò)"，提供有偏見、過時(shí)或完全錯(cuò)誤的答案，同時(shí)看起來像在說真話。即使是OpenAI的高級(jí)管理人員也承認(rèn)，你不應(yīng)該把ChatGPT當(dāng)作你的主要信息來源。

如果你讓ChatGPT為你的貓寫一首詩(shī)，那是無害的，但如果你要求它在財(cái)務(wù)、健康或嚴(yán)重法律問題上給出建議，那就可能是徹底的災(zāi)難。在這些領(lǐng)域給出錯(cuò)誤答案可能會(huì)產(chǎn)生嚴(yán)重的現(xiàn)實(shí)后果。以下是你應(yīng)該避免向ChatGPT尋求建議的11個(gè)方面。

診斷身體健康問題

我確實(shí)出于好奇心向ChatGPT描述過我的癥狀，但返回的答案讀起來可能像你最糟糕的噩夢(mèng)。當(dāng)你仔細(xì)研究潛在診斷時(shí)，你可能會(huì)從脫水和流感擺到某種癌癥。我胸部有一個(gè)腫塊，把這個(gè)信息輸入了ChatGPT。果然，它告訴我我可能患有癌癥。事實(shí)上，我有一個(gè)脂肪瘤，這不是癌性的，每1000人中有一個(gè)人會(huì)發(fā)生。這是我的執(zhí)業(yè)醫(yī)生告訴我的。

我不是說ChatGPT在健康方面沒有好的用途：它可以幫你起草下次就診的問題，翻譯醫(yī)學(xué)術(shù)語(yǔ)，組織癥狀時(shí)間線，這樣你就能更好地準(zhǔn)備就診。這可能有助于讓看醫(yī)生變得不那么令人不知所措。然而，人工智能不能開化驗(yàn)單或檢查你，它絕對(duì)沒有醫(yī)療事故保險(xiǎn)。要了解它的局限性。

照顧你的心理健康

ChatGPT確實(shí)可以提供一些安撫技巧，但當(dāng)你的心理健康真正出現(xiàn)問題時(shí)，它無法接聽電話。我知道有些人把ChatGPT當(dāng)作替代治療師。CNET的Corin Cesaric發(fā)現(xiàn)它在處理悲傷方面有些幫助，只要她始終記住它的局限性。但作為一個(gè)有真實(shí)人類治療師的人，我可以告訴你，ChatGPT充其量只是一個(gè)蒼白的模仿，最壞情況下是極其危險(xiǎn)的。

ChatGPT沒有生活經(jīng)驗(yàn)，無法讀取你的肢體語(yǔ)言或語(yǔ)調(diào)，也完全沒有真正的同理心能力。它只能模擬。執(zhí)業(yè)治療師在法律授權(quán)和職業(yè)守則下運(yùn)作，保護(hù)你免受傷害。ChatGPT沒有這些。它的建議可能會(huì)失誤，忽視危險(xiǎn)信號(hào)或無意中強(qiáng)化其訓(xùn)練數(shù)據(jù)中的偏見。把更深層的工作——艱難、混亂的人性工作——留給真正受過適當(dāng)培訓(xùn)處理這些問題的人類。如果你或你愛的人處于危機(jī)中，請(qǐng)?jiān)诿绹?guó)撥打988，或撥打當(dāng)?shù)責(zé)峋€。

做出緊急安全決定

如果你的一氧化碳警報(bào)器開始響，請(qǐng)不要打開ChatGPT詢問你是否真的有危險(xiǎn)。我會(huì)先出去，然后再問問題。大語(yǔ)言模型無法聞到氣體、檢測(cè)煙霧或派遣緊急救援隊(duì)。在危機(jī)中，你打字的每一秒都是你沒有疏散或撥打911的一秒。ChatGPT只能利用你提供的零碎信息，在緊急情況下，這可能太少太晚。所以把你的聊天機(jī)器人當(dāng)作事后解釋員，永遠(yuǎn)不要當(dāng)作急救員。

獲得個(gè)性化財(cái)務(wù)或稅務(wù)規(guī)劃

ChatGPT可以解釋什么是ETF，但它不知道你的債務(wù)收入比、州稅等級(jí)、申報(bào)狀態(tài)、扣除額、退休目標(biāo)或風(fēng)險(xiǎn)偏好。由于其訓(xùn)練數(shù)據(jù)可能沒有涵蓋當(dāng)前稅年和最新利率上調(diào)，當(dāng)你按下回車鍵時(shí)，它的指導(dǎo)可能已經(jīng)過時(shí)。

我有朋友把他們的1099總額輸入ChatGPT做DIY報(bào)稅。聊天機(jī)器人根本無法替代CPA，CPA能發(fā)現(xiàn)價(jià)值幾百美元的隱藏扣除額，或標(biāo)記可能讓你損失數(shù)千美元的錯(cuò)誤。當(dāng)真金白銀、申報(bào)截止日期和IRS罰款處于危險(xiǎn)中時(shí)，請(qǐng)找專業(yè)人士，而不是AI。另外，請(qǐng)注意，你與AI聊天機(jī)器人分享的任何信息都可能成為其訓(xùn)練數(shù)據(jù)的一部分，包括你的收入、社會(huì)安全號(hào)碼和銀行路由信息。

處理機(jī)密或受監(jiān)管數(shù)據(jù)

作為科技記者，我每天都會(huì)看到禁令郵件，但我從未想過把這些新聞稿扔進(jìn)ChatGPT來獲得摘要或進(jìn)一步解釋。這是因?yàn)槿绻疫@樣做，那些文本會(huì)離開我的控制，落到我的保密協(xié)議護(hù)欄之外的第三方服務(wù)器上。

同樣的風(fēng)險(xiǎn)適用于客戶合同、醫(yī)療圖表或任何受《加州消費(fèi)者隱私法》、HIPAA、GDPR或普通商業(yè)秘密法保護(hù)的內(nèi)容。這適用于你的所得稅、出生證明、駕駛執(zhí)照和護(hù)照。一旦敏感信息進(jìn)入提示窗口，你就無法保證它存儲(chǔ)在哪里，誰(shuí)可以內(nèi)部審查它，或者它是否可能被用來訓(xùn)練未來的模型。ChatGPT也不能免受黑客和安全威脅。如果你不會(huì)把它粘貼到公共Slack頻道，就不要粘貼到ChatGPT。

做任何非法的事情

這是不言自明的。

在學(xué)業(yè)上作弊

如果我說我從未在考試中作弊，那是在撒謊。在高中時(shí)，我用我的第一代iPod Touch偷看了一些我在AP微積分中難以記住的繁瑣方程式，這是我不太引以為豪的行為。但有了AI，現(xiàn)代作弊的規(guī)模讓這看起來非常溫和。

Turnitin和類似的檢測(cè)器每學(xué)期都在更好地發(fā)現(xiàn)AI生成的文章，教授們已經(jīng)能從一英里外聽到"ChatGPT的聲音"（感謝毀掉我心愛的破折號(hào)）。停學(xué)、開除和吊銷執(zhí)照是真正的風(fēng)險(xiǎn)。最好把ChatGPT當(dāng)作學(xué)習(xí)伙伴，而不是代筆人。如果你讓ChatGPT為你做工作，你也只是在欺騙自己的教育。

監(jiān)控信息和突發(fā)新聞

自從OpenAI在2024年末推出ChatGPT搜索（并在2025年2月向所有人開放）以來，聊天機(jī)器人可以在你詢問時(shí)獲取新鮮網(wǎng)頁(yè)、股票報(bào)價(jià)、汽油價(jià)格、體育比分和其他實(shí)時(shí)數(shù)據(jù)，并配有可點(diǎn)擊的引用，這樣你就可以驗(yàn)證來源。然而，它不會(huì)自己持續(xù)推送更新。每次刷新都需要新的提示，所以當(dāng)速度至關(guān)重要時(shí)，實(shí)時(shí)數(shù)據(jù)源、官方新聞發(fā)布、新聞網(wǎng)站、推送警報(bào)和流媒體報(bào)道仍然是你的最佳選擇。

賭博

我在NCAA男子籃球錦標(biāo)賽期間確實(shí)運(yùn)用ChatGPT成功命中了三重投注，但我永遠(yuǎn)不會(huì)向任何人推薦這樣做。我見過ChatGPT產(chǎn)生幻覺并提供關(guān)于球員統(tǒng)計(jì)數(shù)據(jù)的錯(cuò)誤信息，或錯(cuò)誤報(bào)告?zhèn)『蛣儇?fù)記錄。我之所以能兌現(xiàn)，是因?yàn)槲腋鶕?jù)實(shí)時(shí)賠率仔細(xì)核實(shí)了每一個(gè)聲明，即便如此，我也只是運(yùn)氣好。ChatGPT無法預(yù)測(cè)明天的比分，所以不要僅僅依靠它來確保獲勝。

起草遺囑或其他具有法律約束力的合同

ChatGPT很擅長(zhǎng)分解基本概念。如果你想了解更多關(guān)于可撤銷生前信托的信息，盡管問吧。然而，當(dāng)你要求它起草實(shí)際的法律文本時(shí)，你就是在擲骰子。遺產(chǎn)和家庭法規(guī)則因州而異，有時(shí)甚至因縣而異，所以跳過證人簽名或省略公證條款可能會(huì)讓你的整個(gè)文件被駁回。相反，讓ChatGPT幫你建立一個(gè)問題清單給你的律師，然后付錢讓那個(gè)律師把清單變成在法庭上站得住腳的文件。

制作藝術(shù)作品

這不是客觀真理，只是我自己的觀點(diǎn)，但我不認(rèn)為AI應(yīng)該被用來創(chuàng)造藝術(shù)。我絕不是反人工智能的。我用ChatGPT來頭腦風(fēng)暴新想法，幫助我寫標(biāo)題，但那是補(bǔ)充，不是替代。盡管使用ChatGPT，但請(qǐng)不要用它來制作藝術(shù)，然后冒充成你自己的作品。這有點(diǎn)惡心。

Q&A

Q1：ChatGPT在健康診斷方面有什么限制？

A：ChatGPT無法進(jìn)行準(zhǔn)確的醫(yī)療診斷，經(jīng)常會(huì)給出極端或錯(cuò)誤的結(jié)果。它可能把簡(jiǎn)單癥狀解釋為嚴(yán)重疾病，比如把普通的脂肪瘤誤判為癌癥。AI無法進(jìn)行身體檢查、開化驗(yàn)單，也沒有醫(yī)療責(zé)任保險(xiǎn)。最好只用它來準(zhǔn)備就診問題或翻譯醫(yī)學(xué)術(shù)語(yǔ)。

Q2：為什么不能把個(gè)人財(cái)務(wù)信息輸入ChatGPT？

A：ChatGPT不了解你的具體財(cái)務(wù)狀況，如債務(wù)收入比、稅務(wù)等級(jí)等，其訓(xùn)練數(shù)據(jù)可能過時(shí)。更重要的是，你輸入的任何信息都可能成為訓(xùn)練數(shù)據(jù)的一部分，包括收入、社會(huì)安全號(hào)碼等敏感信息。這些數(shù)據(jù)一旦離開你的控制，就存在安全風(fēng)險(xiǎn)。

Q3：ChatGPT能否替代專業(yè)治療師進(jìn)行心理健康咨詢？

A：不能。ChatGPT雖然能提供一些安撫技巧，但它沒有生活經(jīng)驗(yàn)，無法讀取肢體語(yǔ)言，不具備真正的同理心，只能模擬情感反應(yīng)。專業(yè)治療師受法律和職業(yè)守則約束，能提供真正的保護(hù)。ChatGPT的建議可能忽視危險(xiǎn)信號(hào)或強(qiáng)化偏見。