![]()
最近和客戶的交流中遇到幾件比較意外的事情,這也讓我在未來AI大規(guī)模進(jìn)入企業(yè)應(yīng)用后DBA受到的沖擊多了幾分擔(dān)憂。今年以來,AI在傳統(tǒng)企業(yè)的應(yīng)用的探索正在穩(wěn)步前行,很多大企業(yè)都成立了新的部門來管理AI基礎(chǔ)設(shè)施和大模型服務(wù),管理大模型的職能甚至已經(jīng)脫離了傳統(tǒng)的系統(tǒng)平臺部的管理范圍。
上周我和一個(gè)企業(yè)的系統(tǒng)平臺部交流了BIC-IA,他們對LLM 工具中心和SQL自動(dòng)優(yōu)化等功能很感興趣,于是想盡快部署POC環(huán)境。剛開始拿到接口文檔的時(shí)候,我們覺得他們的算力資源挺豐富的的,部署測試環(huán)境問題不大。沒想到對接起來,還是發(fā)現(xiàn)了問題。目前他們企業(yè)的大模型服務(wù)主要用于智能客服、知識庫服務(wù)等以知識問答為核心的業(yè)務(wù),還沒有開展流程自動(dòng)化等方面的業(yè)務(wù),因此他們的LLM SERVICE都是不支持FUNCTION CALL的。不支持FUNCTION CALL,MCP的工具調(diào)用就存在問題了。想讓管AI基礎(chǔ)設(shè)施的部門配合開啟這個(gè)功能,流程相當(dāng)復(fù)雜,雖然只是一個(gè)模型裝載的啟動(dòng)參數(shù)調(diào)整問題,但是對于企業(yè)級部門協(xié)調(diào)來說,也不是一件容易的事情。
我本來以為這是一個(gè)孤立的事件,沒想到昨天下午和一個(gè)客戶溝通搭建POC環(huán)境的時(shí)候又遇到了類似的事情。他們的AI基礎(chǔ)設(shè)施也是由一個(gè)獨(dú)立部門管理的,與IT運(yùn)營并立,IT部門采購的服務(wù)器都不能帶GPU,因此想要做POC,云上的虛擬機(jī)資源是敞開用的,但是GPU算力卻需要跨部門協(xié)調(diào)。在一切都沒譜的情況下,直接開啟跨部門資源協(xié)調(diào),大家都面露難色。于是我只能建議他們先協(xié)調(diào)一臺128核的ARM服務(wù)器,先把功能測試一下。
我最早做DBA的時(shí)候,DBA在企業(yè)內(nèi)是挺拉風(fēng)的,除了網(wǎng)絡(luò)、存儲(chǔ)由專門的部門管理,服務(wù)器、OS、數(shù)據(jù)庫,甚至中間件都是在DBA的領(lǐng)導(dǎo)之下的,想?yún)f(xié)調(diào)一些網(wǎng)絡(luò)和存儲(chǔ)資源也不難。因此DBA想搭個(gè)環(huán)境,測試點(diǎn)新東西十分便利。而現(xiàn)在,代表未來應(yīng)用發(fā)展方向的AI基礎(chǔ)設(shè)施似乎正在脫離DBA的管理范圍。我前陣子在一個(gè)沙龍里討論DBA的未來發(fā)展的時(shí)候,還建議DBA要拓展自己的管理范圍,把AI基礎(chǔ)設(shè)施和AI基礎(chǔ)服務(wù)也掌握在手里,讓DBA在外來的AI時(shí)代重新掌握企業(yè)應(yīng)用的命脈,看來我的一些想法還是有點(diǎn)一廂情愿了。
AI服務(wù)、AI基礎(chǔ)設(shè)施是未來企業(yè)數(shù)據(jù)中心的核心,未來幾乎所有的應(yīng)用都要圍繞AI服務(wù)來擴(kuò)展能力,我看到的一些大型企業(yè)里,大多數(shù)都成立了專門的部門來管理這些硬件和服務(wù),而這一切都不在DBA的管理范圍內(nèi),在這些企業(yè)里,DBA想要實(shí)現(xiàn)AI自由,變得有些困難了。這種情況的出現(xiàn),DBA應(yīng)該有所警醒,要加快擁抱AI的速度,盡快在數(shù)據(jù)庫運(yùn)維領(lǐng)域引入AI技術(shù),引入AI能力,千萬別成為AI時(shí)代的邊緣人。
特別聲明:以上內(nèi)容(如有圖片或視頻亦包括在內(nèi))為自媒體平臺“網(wǎng)易號”用戶上傳并發(fā)布,本平臺僅提供信息存儲(chǔ)服務(wù)。
Notice: The content above (including the pictures and videos if any) is uploaded and posted by a user of NetEase Hao, which is a social media platform and only provides information storage services.