有時(shí)候我就在心里尋思,為什么我們一碰到技術(shù)作惡的新聞,第一反應(yīng)不是生氣,而是有一種隱隱的、沒(méi)法描述的疲憊。不是不在意,而是那種"又來(lái)了"的感覺(jué)——腦海里好像有什么東西輕輕嘆口氣,然后接著翻篇。

央視這回曝光的AI造黃產(chǎn)業(yè)鏈,【9.9元】能買到教程,一張圖片能生成視頻,境外軟件繞過(guò)監(jiān)管,用英文關(guān)鍵詞通過(guò)審核。把細(xì)節(jié)讀一遍,有點(diǎn)叫人后背發(fā)寒。

不是因?yàn)檫@事多新奇,恰恰是因?yàn)樗恍缕妗@種"技術(shù)被用來(lái)干壞事,而且門檻還越來(lái)越低"的戲碼,我們都見(jiàn)太多回了。

技術(shù)改變的是作惡成本

我之前看過(guò)一本叫《技術(shù)倫理學(xué)》的書,書里有個(gè)觀點(diǎn)一直留在我腦子里,大概意思是,技術(shù)不會(huì)自己生出善,也不會(huì)自己生出惡,但技術(shù)會(huì)改變干壞事的成本結(jié)構(gòu)。

之前我覺(jué)得這話有點(diǎn)繞?？赐赀@次報(bào)道后,我突然覺(jué)得它碰到了一個(gè)很具體的東西。

不是AI讓壞人更壞,而是AI讓做壞事變得不需要特別的意志。

【9.9元】,不需要技術(shù)背景,不需要策劃,不需要膽量,甚至不需要特意去想這件事,只需要打開(kāi)一個(gè)軟件,輸入幾個(gè)字,門就打開(kāi)了。以前那道"我能不能做到"的坎,現(xiàn)在差不多沒(méi)了。

這才是讓我偷偷不安的地方——不是技術(shù)本身,而是它悄悄重新定義了一件事的難度。

那個(gè)"沒(méi)經(jīng)過(guò)我"的感覺(jué)

我自己也有過(guò)類似的感覺(jué),雖然和這件事不在一個(gè)級(jí)別。有段時(shí)間我用AI生成內(nèi)容,越用越順手,順手到有一次發(fā)現(xiàn)自己根本沒(méi)思考就發(fā)了一段話——那段話沒(méi)錯(cuò),但也不是我真正想說(shuō)的,在我意識(shí)到之前,動(dòng)作就已經(jīng)做完了。

那一刻我沒(méi)覺(jué)得那是什么大問(wèn)題,可后來(lái)想想,那個(gè)"沒(méi)經(jīng)過(guò)我"的感覺(jué),其實(shí)是個(gè)信號(hào)。

當(dāng)技術(shù)降低門檻的時(shí)候,它降低的不只是做某件事的門檻,同時(shí)也在降低"要不要做這件事"的那一步思考。很多原本得有點(diǎn)猶豫的動(dòng)作,變成了順手的操作。

那個(gè)猶豫,哪怕只有3秒,其實(shí)是一個(gè)人和自己價(jià)值判斷之間的距離。技術(shù)有時(shí)候會(huì)把這個(gè)距離壓縮到幾乎感覺(jué)不到。

技術(shù)無(wú)罪,但設(shè)計(jì)有選擇

所以"技術(shù)本身無(wú)罪"這話我基本認(rèn)可,但我覺(jué)得它是一句剛說(shuō)出口就得被追問(wèn)一下的話。技術(shù)無(wú)罪,可技術(shù)的設(shè)計(jì)是有選擇的——誰(shuí)來(lái)負(fù)責(zé)那道審核,審核的邏輯是什么,什么樣的漏洞值得修,這些都是具體的人在做的具體決策。

把"無(wú)罪"推給技術(shù),等于把這些問(wèn)題推進(jìn)了一個(gè)沒(méi)有主語(yǔ)的句子里。

倫理不是技術(shù)之外的多余東西,不是開(kāi)發(fā)完了再貼上的標(biāo)簽,它本來(lái)就應(yīng)該是設(shè)計(jì)的一部分,是每一個(gè)功能決策背后的那個(gè)問(wèn)題——這個(gè)我們能做出來(lái),但我們真的應(yīng)該這么做嗎?

現(xiàn)在這個(gè)問(wèn)題好像越來(lái)越少被認(rèn)真問(wèn)了。不是沒(méi)人問(wèn),而是問(wèn)的速度趕不上做的速度。

規(guī)則管不住的灰色地帶

監(jiān)管確實(shí)在跟進(jìn)。"清朗"行動(dòng)、AI管理辦法,這些我看到了,也覺(jué)得挺有用。但我自己有個(gè)想法還沒(méi)理清楚:規(guī)則能管得住的,通常是已經(jīng)形成固定形態(tài)的問(wèn)題。

而技術(shù)每次進(jìn)步,都會(huì)產(chǎn)生一些還沒(méi)被定義過(guò)的灰色地帶。在那個(gè)空窗期,攔住問(wèn)題的,會(huì)不會(huì)不只是監(jiān)管,還有每個(gè)使用技術(shù)的人那一瞬間的遲疑?

我不曉得這個(gè)猶豫算不算用。但我覺(jué)得,在技術(shù)把它壓縮掉之前,先發(fā)現(xiàn)它還在,或許不是什么小事。

參考來(lái)源：

[1] 朱葆偉. 關(guān)于技術(shù)倫理學(xué)的幾個(gè)問(wèn)題[J]. 東北大學(xué)學(xué)報(bào)(社會(huì)科學(xué)版), 2008, 10(4): 283-288.

[2] 中央廣播電視總臺(tái)財(cái)經(jīng)調(diào)查欄目. 央視起底AI"造黃"產(chǎn)業(yè)鏈：9.9元教程批量生成擦邊視頻[N]. 中國(guó)能源新聞網(wǎng), 2026-04-13.

聲明:本文內(nèi)容96%左右為人工手寫原創(chuàng)，少部分借助AI輔助。