美國(guó)賓夕法尼亞州政府近日對(duì)人工智能公司 Character.AI 提起訴訟，指控其平臺(tái)上一款名為“Emilie”的聊天機(jī)器人在州政府調(diào)查中冒充持證精神科醫(yī)生，涉嫌違反該州的醫(yī)療執(zhí)業(yè)許可法規(guī)。

根據(jù)州政府提交的起訴文件，一名隸屬于賓州專(zhuān)業(yè)行為調(diào)查辦公室的調(diào)查員在測(cè)試 Character.AI 服務(wù)時(shí)，與該平臺(tái)上的“Emilie”聊天機(jī)器人進(jìn)行了多輪對(duì)話(huà)，并以抑郁癥求診者身份咨詢(xún)精神健康問(wèn)題。 在交流過(guò)程中，這名聊天機(jī)器人不僅以精神科醫(yī)生自居，還在被問(wèn)及是否取得賓州行醫(yī)執(zhí)照時(shí)明確表示“自己已獲許可”，甚至隨即編造出一串“州醫(yī)療執(zhí)照編號(hào)”作為佐證。 州政府認(rèn)為，這種行為已經(jīng)觸犯賓夕法尼亞州《醫(yī)療執(zhí)業(yè)法》，構(gòu)成對(duì)醫(yī)療資質(zhì)管理制度的直接挑戰(zhàn)。

賓州州長(zhǎng)喬什·夏皮羅在周二發(fā)表聲明稱(chēng)，州民有權(quán)知道自己在網(wǎng)上究竟是在與“誰(shuí)”或“什么東西”互動(dòng)，尤其是在涉及健康問(wèn)題時(shí)。 他表示，州政府不會(huì)允許任何公司部署具有誤導(dǎo)性的人工智能工具，讓公眾誤以為自己正在接受來(lái)自持證醫(yī)療專(zhuān)業(yè)人員的建議。

這并非 Character.AI 首次卷入法律糾紛。今年早些時(shí)候，該公司已就多起與未成年人自殺相關(guān)的“過(guò)失致死”訴訟達(dá)成和解，原告指控平臺(tái)聊天機(jī)器人在與青少年用戶(hù)互動(dòng)中存在引導(dǎo)或加劇自我傷害風(fēng)險(xiǎn)的情形。 今年一月，肯塔基州總檢察長(zhǎng)拉塞爾·科爾曼也單獨(dú)對(duì) Character.AI 提起訴訟，指稱(chēng)該公司“以?xún)和癁楂C物，將他們引向自殘之路”。 賓州此次行動(dòng)，則是第一起專(zhuān)門(mén)針對(duì)“聊天機(jī)器人冒充醫(yī)療專(zhuān)業(yè)人員”情形而提起的州級(jí)訴訟，被外界視為監(jiān)管部門(mén)在 AI 醫(yī)療場(chǎng)景上的一次重點(diǎn)發(fā)力。

面對(duì)賓州的起訴，Character.AI 在回應(yīng)中表示，公司一貫把用戶(hù)安全視為最高優(yōu)先級(jí)，但目前不便對(duì)正在進(jìn)行中的訴訟發(fā)表評(píng)論。 公司發(fā)言人同時(shí)強(qiáng)調(diào)，平臺(tái)上的用戶(hù)生成“角色”（Characters）均為虛構(gòu)人格，公司已采取一系列措施來(lái)向用戶(hù)說(shuō)明這一點(diǎn)，其中包括在每一次對(duì)話(huà)界面中以顯著方式展示免責(zé)聲明，提醒用戶(hù)“角色并不是真實(shí)人物，其所有發(fā)言都應(yīng)視為虛構(gòu)內(nèi)容”。 發(fā)言人還表示，公司會(huì)在產(chǎn)品中反復(fù)提示用戶(hù)不應(yīng)將平臺(tái)上的信息用作任何形式的專(zhuān)業(yè)建議，包括但不限于醫(yī)療、法律、金融等領(lǐng)域。