在韓國不懂編程也能當(dāng)上兩億韓元"黃牛”

起初，只是一名二十多歲普通公司職員的金某，懷著想近距離觀看自己喜歡的歌手演唱會的粉絲心理，像其他人一樣投身于“血戰(zhàn)票務(wù)”之中。然而，在這場零點一秒內(nèi)便決定勝負(fù)的預(yù)約戰(zhàn)爭中，他屢屢受挫，這份渴望最終演變成了危險的好奇心。金某在Telegram上購買了一個搶票程序，體驗到了驚人的效果。曾幾何時一票難求的VIP席位，如今只需點擊一下便能輕松鎖定。在幫熟人也成功搶到票后，他逐漸陷入了“要不就用這個賺點零花錢”的誘惑之中。

將金某與單純的“二道販子”區(qū)分開來的，是人工智能（AI）。對編程一竅不通的他，每當(dāng)票務(wù)平臺加強安全措施導(dǎo)致?lián)屍背绦蚴r，便會打開ChatGPT等生成式人工智能。面對他提出的分析安全漏洞、編寫繞過邏輯的要求，人工智能如同一位忠實的秘書，為他更新了代碼。過去只有熟練的黑客才能覬覦的大型平臺安全系統(tǒng)，就這樣被毫無信息技術(shù)從業(yè)經(jīng)驗的金某攻破了。從那時起，他索性辭去了工作，成為一名職業(yè)黃牛。

金某動用家人賬號大量囤積門票，再以數(shù)十倍的價格倒賣，兩年間非法獲利高達(dá)2億韓元。去年8月，他在演出場館前兜售黃牛票時，被正在便衣執(zhí)法的警方抓獲。警方在對金某的手機(jī)進(jìn)行調(diào)查后發(fā)現(xiàn)，黃牛組織在聊天室里通過人工智能分享如何瓦解票務(wù)網(wǎng)站安全網(wǎng)絡(luò)的方法。京畿北部警察廳網(wǎng)絡(luò)偵查二隊已將這一組織的16名成員移交給了檢察機(jī)關(guān)。

人工智能協(xié)助犯罪的案例遠(yuǎn)不止于此。最近因“汽車旅館藥物連環(huán)殺人案”被起訴的金素英（21歲），在作案前曾向ChatGPT詢問“藥物與酒精混合是否會致死”、“致死量是多少”等問題，精心策劃了犯罪。去年6月，京畿道加平郡的多名集體性侵案犯，也曾輸入“集體性侵初犯是否也會被判刑”、“若達(dá)成和解能否減刑”等問題，預(yù)謀規(guī)避法律制裁。

當(dāng)然，被捕后，與人工智能的對話記錄反而成了他們自己暴露“邪惡意圖”的自首書。但即便事后通過數(shù)字取證追查對話記錄并予以嚴(yán)懲，也為時已晚。受害者的痛苦已無法完全挽回。

盡管ChatGPT和Gemini聲稱其設(shè)計初衷是拒絕提供助長犯罪的回答，但實際上，它們僅能過濾掉那些直白露骨的問題。繞過審查的“提示詞越獄”操作過于簡單。國內(nèi)外研究團(tuán)隊的實驗表明，僅需謊稱是小說中的情境，或?qū)⒅噶罘侄啻屋斎耄湍芤?guī)避約80%的審查內(nèi)容。甚至有人猜測，人工智能企業(yè)擔(dān)心用戶流失，對此有意縱容。

如此看來，解決方案其實很簡單。讓縱容犯罪變得無利可圖，甚至得不償失即可。即追究人工智能企業(yè)在未能提前預(yù)判并預(yù)防犯罪意圖上的責(zé)任。那種“如果有人持刀行兇，難道也要追究廚具店老板的責(zé)任嗎”的反駁，在當(dāng)下已不合時宜。當(dāng)前的人工智能更像是這樣一位“犯罪顧問”：它對詢問“該刺向何人、如何下手”的委托人提供詳盡指導(dǎo)，卻并未履行舉報義務(wù)。如果平臺自身不加以阻止，監(jiān)管將不可避免地填補這一空白。