我的設(shè)計(jì)AI變丑了！——不穩(wěn)定的AI的信任危機(jī)

從參數(shù)調(diào)整到訓(xùn)練數(shù)據(jù)污染，AI產(chǎn)品的"隨機(jī)崩潰"現(xiàn)象正在摧毀用戶信任基礎(chǔ)。本文通過真實(shí)案例揭示AI工具靜默升級(jí)帶來的行業(yè)困境，探討為何"設(shè)計(jì)變丑"背后是比技術(shù)缺陷更致命的信任危機(jī)。

———— / BEGIN / ————

上次用Pixso AI設(shè)計(jì)小程序時(shí)，雖然經(jīng)歷了“導(dǎo)出危機(jī)”，搞得差點(diǎn)功虧一簣，但是我對(duì)這個(gè)AI的審美實(shí)在是過于信任，一有需求，仍然第一時(shí)間找它。

因?yàn)樗膶徝朗沁@樣的， 請(qǐng)看它設(shè)計(jì)的找房網(wǎng)站LOGO：

1月14日 Pixso AI設(shè)計(jì)的LOGO

于是我這次毫不手軟地花了298升級(jí)到了專業(yè)版。

但是這個(gè)驚艷就變成了驚嚇————這跟我一個(gè)月前用的是同一個(gè)AI？？？

還是設(shè)計(jì)一個(gè)找房網(wǎng)站LOGO，它給我的方案是這樣的：

2月10日做的方案1

(⊙o⊙)…應(yīng)該是偶然失誤吧，再來一次

2月10日做的方案2

不甘心，再來一次：

2月10日做的方案3

好吧，我絕望了，不僅毫無美感，不知所云，甚至充滿低級(jí)錯(cuò)誤，文字和圖形都疊在一起了。

我又去找客服問：我現(xiàn)在用AI做出來的方案變丑了，你們是不是換了底層大模型？

客服說：這個(gè)我不知道啊。

我自己又上網(wǎng)查了一圈，Pixso用了哪家大模型，是否換了大模型。只查到23年P(guān)ixso接入文心一言的新聞，所以很可能利用了文心一言的語言能力，用自己的海量設(shè)計(jì)數(shù)據(jù)訓(xùn)練出的模型。

所以問題可能是：

1. 給大模型的輸出調(diào)了參數(shù)？

2. 最近的訓(xùn)練數(shù)據(jù)污染，導(dǎo)致審美崩塌？

AI設(shè)計(jì)變丑和“DeepSeek變冷淡了”。

不禁想到前陣子的一個(gè)熱搜，#，用戶紛紛反饋deepseek說話變得冷漠兇巴巴的，還帶著“登味”。終于引發(fā)了官方回復(fù)，說是調(diào)整了參數(shù)，目的是為了提高性能。

總之，讓人很慌。

我們習(xí)慣了軟件時(shí)代，例如App平臺(tái)，會(huì)要求每一次迭代都要更新版本號(hào)，都聲明做了哪些修改。而且每一次變更都清楚知道哪一行代碼引起的。

而現(xiàn)在的Ai公司似乎都默認(rèn)靜默升級(jí)，除非有大版本升級(jí)，有宣傳需要才會(huì)發(fā)布版本更新說明。而且其他變動(dòng)，無論是參數(shù)調(diào)整，還是增加了新的訓(xùn)練，對(duì)用戶來說都是黑盒。

在傳統(tǒng)軟件中，我們都默認(rèn)軟件的更新是正向的，這個(gè)版本有bug，下個(gè)版本就修掉了，這個(gè)版本沒有的功能，下個(gè)版本就加上了。如果更新聲明中，有覺得不可以接受的內(nèi)容，還可以拒絕升級(jí)。

但是Ai產(chǎn)品不一樣了，除了你不知道是不是偷偷更新了，甚至開發(fā)團(tuán)隊(duì)自己都不知道這次更新是好是壞，有沒有什么隱藏問題。

也就是說，在與對(duì)話之前，我并不知道今天跟我對(duì)話的AI，還是不是昨天那個(gè)AI。不知道今天要跟我對(duì)話的AI是天才還是笨蛋。

就像我這次，付完錢，輸完prompt，設(shè)計(jì)結(jié)果生成那一刻，才發(fā)現(xiàn)服務(wù)我的“符合我審美的資深設(shè)計(jì)師AI”換成了“完全業(yè)余的外行畫圖員”。

我很想呼吁AI要建立行業(yè)標(biāo)準(zhǔn)，就像傳統(tǒng)應(yīng)用一樣，強(qiáng)制公開更新內(nèi)容，讓用戶自主同意更新才能更新。但是事實(shí)是，即時(shí)這樣，還是不能解決信任問題。

AI的終極風(fēng)險(xiǎn)：“隨機(jī)崩潰”（Random Collapse）。

最近關(guān)于AI的新聞是，AI 安全研究機(jī)構(gòu) Anthropic發(fā)布的研究說，AI的風(fēng)險(xiǎn)不像科幻電影里演的，某天AI突然產(chǎn)生自我意識(shí)，覺醒了，開始反抗人類了。而是“隨機(jī)崩潰”（Random Collapse），也就是一貫靠譜，已經(jīng)取得你信任的AI，某天突然胡說八道，一本正經(jīng)給出了個(gè)完全錯(cuò)誤的答案。

他的可怕之處在于“隨機(jī)”發(fā)生。所以我這次遇到的設(shè)計(jì)AI變丑事件，有可能并不是AI更新造成的，只是隨機(jī)出現(xiàn)了不被認(rèn)可的答案。程序的開發(fā)者們，甚至無法找到造成變丑事件的原因，測(cè)試們也無法復(fù)現(xiàn)問題，所以也無從下手解決。

但是隨機(jī)變丑又確確實(shí)實(shí)會(huì)在客戶手中發(fā)生，嚴(yán)重影響客戶的信任。當(dāng)使用越是深入，隨機(jī)崩潰的概率就越大，造成的影響也越大。

最后的感慨：

AI 設(shè)計(jì)變丑了，不是審美的問題，是信任的問題。當(dāng)工具開始隨機(jī)退化，我們離真正的生產(chǎn)力革命，還有一段充滿不確定性的路要走。

ps，我跟Pixso客服表示，當(dāng)下的AI沒有達(dá)到我的預(yù)期，非常爽快地給我退了款。

本文來自公眾號(hào)：Cassie 作者：Cassie

想要第一時(shí)間了解行業(yè)動(dòng)態(tài)、面試技巧、商業(yè)知識(shí)等等等？加入產(chǎn)品經(jīng)理進(jìn)化營，跟優(yōu)秀的產(chǎn)品人一起交流成長！