如今的AI生成式內容已經跳過了青澀階段，生成的內容已經到了需要反復辨別真假的地步。

因為用得好的話確實難以分辨，所以目前有不少倫理和造假問題，有人拿AI偽造證件照片，修改照片上的合同條款等等，或是拿AI生成假圖來退貨貪小便宜。

這些對于AI工具本身來說，它是不知道你的最終用途的，隨便敷衍兩句說寫錯字了，或者是想要跟朋友娛樂一下，那AI就是能幫就幫，生成沒有太多限制，除了一些帶有明顯違規(guī)的內容。

而在這方面最大膽的就是馬斯克的Grok了，它本身有“越獄”提示詞，可以讓它扮演虛擬機或者其他的角色來繞過一點限制，生成帶有顏色的內容，或者是創(chuàng)建比較清涼的圖片，甚至在一些比較奇怪的提示詞下：生成穿XXXX的圖片?！獣杀缺然岣鍥龅膱D片。

（游民星空相關新聞，大致就是這個意思）

這段時間在外網玩得比較歡的就是上面生成各種比基尼的圖片，甚至馬斯克自己也調侃有些圖片怎么會那么好笑。

他自己也是先拿自己進行惡搞。

也有人對此感到冒犯的，就像是女生隨手發(fā)個自拍，然后就在評論區(qū)看到了自己生成的照片，難免會覺得蝦頭，以后發(fā)照片的時候都要猶豫一下。

而且離譜的是什么，在相關新聞報道后這些圖片的產出速度更快了，每小時就有6700張，Grok加班加點手搓“脫衣”圖了屬于是。

不過在這里是有底線的，如果是與兒童相關的內容，會直接被系統阻止。

但是Grok本身奔放的行為終于迎來了大家的共同抵制，最近的新聞是美國 28 個組織聯名致信蘋果、谷歌要求下架 X 和 Grok，如果向馬斯克抵制沒有用，那就讓第三方來制裁一下。

聯名信給出的理由是：

蘋果和谷歌不僅放任非自愿私密影像和兒童XXX內容的傳播，還在商業(yè)層面從中獲益，并要求蘋果方面立即采取行動，防止進一步的違法和濫用行為。

這下算是打到七寸的真實傷害，畢竟要是從源頭掐斷這兩個巨大的流量入口，Grok就更加打不過Gemini和chatGPT，于是Grok瞬間清醒了，光速滑跪表示有事好商量，然后就發(fā)了個聲明，表示：

對現實人物圖像進行編輯，尤其是涉及比基尼等暴露服裝的內容——限制將覆蓋所有用戶，不區(qū)分是否為付費訂閱者。

之前還說ChatGPT也要搞一個成人模式來吸引流量，現在有這些事之后，可能也得掂量掂量了。

而對于其中關于兒童相關的內容，馬斯克發(fā)表聲明說沒有，一張都沒有。并且邀請大家向他展示限制級的內容（除了上身以外）。

AI發(fā)展到現在，這類問題不是某個國家會遇到的，國內這幾天也有AI內容生成監(jiān)管不力的典型案例，有的平臺有問題然后正在打官司中。

另外AI的出現賦予了使用者“音量增幅”的力量，可以基于立場和用途來發(fā)表出更具有迷惑性的內容，讓不明所以的觀看者產生判斷偏差和情緒波動，在國際新聞上就有不少用AI生成內容的博主，用了AI會產出速度更快，量更多。

以后只要設定一個立場，你甚至沒有情感波動也能產出情緒感染力比較強的內容，創(chuàng)作本身的門檻被降低后，推薦流里的內容質量更加會被稀釋。作者用AI生成內容，讀者用AI總結，甚至現在有些噴人的話都是用AI生成的。

再結合一些國家不讓十五六歲的未成年人使用社交媒體來看，那整件事就更有趣了，這些國家不讓青少年訪問社交媒體，那是認為年輕人在這些平臺上接觸的內容是弊大于利，以至于達到了要立法監(jiān)管的地步。

在可預見的未來里，隨著AI的加入與信息價值的稀釋，總體的網絡環(huán)境會變得更加不可控。我們所處的環(huán)境對網絡的管理也會一步一步加強，對于違規(guī)信息的管控，對于在公共場合的言論傳播等等，以及使用AI的規(guī)范等等。

以后網絡信息本身的獲取就像是水一樣，或許隨處可見，但是有些是臭的，入眼是大量AI灌出的海水，不能飲用的，想要清澈的可飲用水源，就得花錢。

把時間放寬一點來說，以后這類新聞會越來越多，用來搞顏色抵制一下，用來戰(zhàn)爭抵制一下，在人形機器人解除限制時抵制一下，話說這還是相對正經大廠推出的模型，要是哪天某些成人廠商整個大模型出來，那畫面就太美了。