仿冒AI智能體層出不窮，有用戶被誤導(dǎo)，誰該擔(dān)責(zé)？

近期，有網(wǎng)友發(fā)現(xiàn)，不少AI大模型平臺都開放了網(wǎng)友自制的AI智能體的體驗，其中就有不少打著官方旗號的智能體。但這些帶有官方Logo、語氣專業(yè)的AI客服給出的回復(fù)乃至建議卻并不那么靠譜。這些引發(fā)大量誤導(dǎo)的智能體究竟是怎么生成的？普通人又該如何擦亮雙眼？

如果AI大模型上的智能體（Agent）告訴你，有“南方電網(wǎng)”招聘的內(nèi)推渠道，這會是真的嗎？近日，南方電網(wǎng)公司官方科普辟謠平臺“南網(wǎng)求知”視頻號發(fā)布視頻，反映在大模型上竟搜出了近70個“南方電網(wǎng)”智能體，卻沒有一個是南方電網(wǎng)發(fā)布的。有關(guān)所謂內(nèi)推信息，視頻號辟謠說：

我問南方電網(wǎng)內(nèi)訓(xùn)師智能體，南方電網(wǎng)有沒有內(nèi)推渠道，它讓我聯(lián)系某個私人手機號，順著號碼一查，發(fā)現(xiàn)竟是一個中介機構(gòu)。事實上，南方電網(wǎng)從未開展過任何內(nèi)推。所有招聘信息僅通過官方渠道發(fā)布。

對此，相關(guān)AI大模型平臺表示，企業(yè)在平臺運營的官方智能體均帶有認(rèn)證標(biāo)簽。用戶因個人學(xué)習(xí)、求職等需求自主創(chuàng)建的包括企業(yè)模擬面試官在內(nèi)的各類涉企業(yè)智能體，均未獲得官方資質(zhì)認(rèn)證。后續(xù)平臺也將對未經(jīng)授權(quán)、易造成混淆的企業(yè)相關(guān)智能體下架。

究竟什么是智能體，它和我們熟悉的DeepSeek等大模型有什么區(qū)別？工業(yè)和信息化部信息通信經(jīng)濟專家委員會委員劉興亮指出，智能體從本質(zhì)上講，是從“對話”走向了“行動”。

劉興亮：智能體，英文名為Agent。簡單地說就是它不只是回答問題，它是一個能替你做事的AI。以前的大模型，你可以理解為它像一個顧問，你問他答。現(xiàn)在這個智能體，像一個員工，你說了目標(biāo)，他去執(zhí)行。本質(zhì)上，智能體就是把一個機構(gòu)的服務(wù)能力做成了一個“數(shù)字員工”。

既然具備“員工”的能力，為何會頻繁出現(xiàn)誤導(dǎo)用戶的現(xiàn)象？劉興亮表示，各大平臺推行的零門檻創(chuàng)建工具，在激發(fā)公眾參與的同時，也讓未經(jīng)核實的信息搭上了技術(shù)的快車，放大了大模型固有的“幻覺”缺陷。

劉興亮認(rèn)為，盡管目前智能體還在初級階段，可能會出現(xiàn)種種問題，但它的確是未來AI發(fā)展的趨勢之一。

劉興亮：過去的我把他們叫作“生成式AI”，現(xiàn)在智能體這一波，我把它叫作“養(yǎng)成式AI”。就是你得去養(yǎng)，AI給了一個能力，就像雇了一個實習(xí)員工，不是說來了就能很好地上崗，我們得去培訓(xùn)他，去教育他，讓他變得越來越好。

智能體正快速走進我們的生活，但提供便利的背后也暗藏風(fēng)險。面對層出不窮的AI應(yīng)用，我們還是要提高安全意識，特別是辨別虛假信息、違規(guī)服務(wù)或詐騙行為，及時留存證據(jù)，通過正規(guī)渠道維權(quán)舉證。

對于冒充官方的AI智能體，中國政法大學(xué)人工智能法研究院院長張凌寒認(rèn)為，其本質(zhì)不僅是侵權(quán)，更是對公共常識的混淆。未來，提供創(chuàng)建工具的平臺理應(yīng)承擔(dān)起前置審核義務(wù)。

張凌寒：濫用他人名義的Agent，是嚴(yán)重的侵權(quán)行為和混淆冒用的不正當(dāng)競爭行為。實際上平臺是有審核義務(wù)的，這種實名制的認(rèn)證，包括真實資質(zhì)的認(rèn)證。我們國家已經(jīng)有一套對賬戶管理體系的完整的認(rèn)證機制，相信未來這樣的制度也都會延伸到有關(guān)Agent的審核當(dāng)中去。

在AI這位“實習(xí)員工”真正成熟之前，如果因為輕信這些山寨智能體造成了損失，制作智能體的個人創(chuàng)建者需要擔(dān)責(zé)嗎？北京航空航天大學(xué)法學(xué)院副教授趙精武給出了明確的法律界定：關(guān)鍵看是否為了商業(yè)牟利。

趙精武：如果只是為了普及知識，了解一些業(yè)務(wù)咨詢流程的指導(dǎo)，這不需要擔(dān)責(zé)。但假如研發(fā)者是為了引流、獲取一定的商業(yè)利益，在獲取商業(yè)利益的過程中發(fā)生了欺詐，這種行為肯定是要擔(dān)責(zé)的。

但并非所有領(lǐng)域的智能體都能被隨意創(chuàng)建。趙精武指出，針對電網(wǎng)、醫(yī)療等特殊場景，以及AI生成內(nèi)容的標(biāo)識問題，我國現(xiàn)行法律體系已經(jīng)劃定了明確的紅線。

面對防不勝防的AI生態(tài)，張凌寒教授特別提醒，尤其在涉及財產(chǎn)安全的領(lǐng)域，絕不可輕信。

張凌寒：隨著平臺業(yè)務(wù)的延伸，大量的Agent入駐平臺，尤其是在人工智能的“幻覺”還無法完全消除的情況下，對于醫(yī)療、金融等專業(yè)的意見和涉及財產(chǎn)健康方面的Agent，實際上我們是不能夠完全相信的，而是還要到官方網(wǎng)站去進行相關(guān)的服務(wù)和交易。

趙精武提醒，當(dāng)下的智能體尚處于發(fā)展階段，切莫被部分技術(shù)概念炒作的營銷口號迷惑，既要對新興技術(shù)應(yīng)用抱有積極客觀的態(tài)度，也要警惕技術(shù)創(chuàng)新過程中不可避免的安全風(fēng)險。

（中國之聲）