作為全國(guó)政協(xié)委員，360集團(tuán)創(chuàng)始人周鴻祎今年第八年參加全國(guó)兩會(huì)。他關(guān)注的方向是人工智能和安全兩大主題。
周鴻祎認(rèn)為，人工智能將重塑所有行業(yè)，企業(yè)應(yīng)該從找場(chǎng)景、打造專(zhuān)業(yè)知識(shí)庫(kù)、打造智能體、接入辦公流程等四個(gè)方面擁抱人工智能。他呼吁，國(guó)家對(duì)大模型發(fā)展實(shí)行柔性監(jiān)管，更加包容審慎。對(duì)于人工智能發(fā)展同步伴生的安全問(wèn)題，周鴻祎認(rèn)為，傳統(tǒng)網(wǎng)絡(luò)安全已經(jīng)無(wú)法應(yīng)對(duì)新挑戰(zhàn)，應(yīng)由既懂安全又懂AI的企業(yè)牽頭，以模制模，通過(guò)打造安全大模型來(lái)解決大模型的應(yīng)用安全問(wèn)題。
企業(yè)擁抱AI“四步走”
在周鴻祎看來(lái)，人工智能將重塑所有行業(yè)，每個(gè)行業(yè)都能找到降本增效的地方；對(duì)個(gè)人來(lái)說(shuō)，則可以擁有自己的專(zhuān)業(yè)助手。“過(guò)去我們軟件、APP經(jīng)常是接收指令，完成一個(gè)功能。未來(lái)人工智能的模式，會(huì)像跟一個(gè)顧問(wèn)一樣交流，傾訴問(wèn)題，表達(dá)想法，通過(guò)多輪討論，幫個(gè)人找到答案或啟發(fā)。”
產(chǎn)業(yè)層面的改變會(huì)更大。他以醫(yī)療醫(yī)藥產(chǎn)業(yè)舉例分析說(shuō)，醫(yī)院運(yùn)營(yíng)等傳統(tǒng)行業(yè)，人工智能可以通過(guò)加速數(shù)字化改造和智能化升級(jí)，來(lái)提升效率，比如使病人候診的時(shí)間縮短很多倍。生物制造等新興產(chǎn)業(yè)，用人工智能可以成為研究工具和范式。基因抗癌等領(lǐng)域則屬于AI for Science（科學(xué)智能），用大模型這種算法模式套到生物學(xué)里，變成生物學(xué)研究的工具。
“AI的應(yīng)用范圍非常多，成為個(gè)人助理只用到它5%的功能；更重要的是和產(chǎn)業(yè)結(jié)合。”
周鴻祎建議，企業(yè)應(yīng)該從四個(gè)方面擁抱人工智能。第一，找場(chǎng)景，需要大模型來(lái)解決效率低、成本高、體驗(yàn)差的問(wèn)題。第二，需要打造專(zhuān)業(yè)知識(shí)庫(kù)，在企業(yè)的數(shù)據(jù)庫(kù)里、老板的腦子里、大家的開(kāi)會(huì)記錄里，都有很多隱藏的知識(shí)。第三，要打造智能體，比照數(shù)字員工。第四，通過(guò)企業(yè)的工作流軟件把智能體接到企業(yè)的OA辦公流程里，企業(yè)應(yīng)用才能做起來(lái)。
今年春節(jié)期間，DeepSeek在全球異軍突起，成為了AI發(fā)展史上的重要里程碑。在周鴻祎看來(lái)，DeepSeek最大的成果不僅是讓中國(guó)大模型在技術(shù)上趕上了美國(guó)大模型，同時(shí)在中國(guó)用戶(hù)、企業(yè)和政府中做了一次人工智能的普及教育。由于DeepSeek免費(fèi)、開(kāi)源等特性，政府企業(yè)紛紛開(kāi)始采用DeepSeek在內(nèi)部降本增效，加速了中國(guó)爆發(fā)AI產(chǎn)業(yè)革命的步伐。
“DeepSeek對(duì)中國(guó)AI產(chǎn)業(yè)帶來(lái)最大的影響，是讓產(chǎn)業(yè)玩家各自歸位，否則大家一窩蜂地‘百模大戰(zhàn)’，等于都在造輪子。倘若都希望做通用大模型，都做AGI，誰(shuí)的卡也不夠，誰(shuí)的數(shù)據(jù)也不足。”周鴻祎說(shuō)，如今，連騰訊、百度都宣布引入DeepSeek。DeepSeek做得好，就由它來(lái)做基座模型；其他廠(chǎng)商就不用重復(fù)造輪子，不用重復(fù)耗費(fèi)算力；云服務(wù)商也不用自己開(kāi)發(fā)算力，可以直接用DeepSeek做服務(wù)，而且價(jià)格可以做得很便宜，因?yàn)闆](méi)有研發(fā)成本。他判斷，未來(lái)很多小應(yīng)用都會(huì)做起來(lái)。
周鴻祎呼吁，就像“避風(fēng)港原則”曾帶給互聯(lián)網(wǎng)巨大的產(chǎn)業(yè)發(fā)展機(jī)會(huì)，國(guó)家對(duì)大模型發(fā)展實(shí)行柔性監(jiān)管，更加包容審慎，這樣中國(guó)人工智能才能借助DeepSeek的機(jī)會(huì)實(shí)現(xiàn)更長(zhǎng)遠(yuǎn)的發(fā)展。
“以模制模”應(yīng)對(duì)安全挑戰(zhàn)
今年兩會(huì)提案中，周鴻祎還關(guān)注到“硬幣的另一面”。
“DeepSeek作為基座模型，存在著幻覺(jué)、提示注入攻擊等問(wèn)題。同時(shí)，大模型要在企業(yè)內(nèi)部真正發(fā)揮作用，還需要連上企業(yè)的專(zhuān)業(yè)知識(shí)庫(kù)、打造智能體，調(diào)用企業(yè)各種IT系統(tǒng)，這進(jìn)一步加劇了安全風(fēng)險(xiǎn)。”
當(dāng)大模型滲透率提升時(shí)，應(yīng)用安全問(wèn)題也迫在眉睫。周鴻祎認(rèn)為，網(wǎng)上現(xiàn)在對(duì)DeepSeek等大模型安全問(wèn)題，還是當(dāng)成一個(gè)傳統(tǒng)IT設(shè)備看待。這個(gè)思路是過(guò)時(shí)的，傳統(tǒng)網(wǎng)絡(luò)安全的解題方法解決不了人工智能的安全問(wèn)題。
因此，他建議，應(yīng)由既懂安全又懂AI的企業(yè)牽頭，以模制模，通過(guò)打造安全大模型來(lái)解決大模型的應(yīng)用安全問(wèn)題。
在周鴻祎看來(lái)，人工智能的安全問(wèn)題包括多個(gè)層面。比如，基座模型的安全問(wèn)題，是如何在AI領(lǐng)域防止幻覺(jué)。“DeepSeek用互聯(lián)網(wǎng)的知識(shí)庫(kù)來(lái)做校正、企業(yè)里應(yīng)用連上專(zhuān)有知識(shí)庫(kù)校正等，一部分幻覺(jué)可以通過(guò)知識(shí)庫(kù)來(lái)解決。同時(shí)，大模型很容易被PUA，這是比較嚴(yán)重的問(wèn)題，是基座模型的問(wèn)題。”
再比如，大模型應(yīng)用需要建立知識(shí)庫(kù)，尤其在企業(yè)應(yīng)用，單靠提示詞是解決不了的。而一旦把企業(yè)很重要的資料放到知識(shí)庫(kù)里喂給大模型了，大模型又會(huì)如實(shí)地把知識(shí)庫(kù)里能看到的資料告訴任何人，這就會(huì)存在數(shù)據(jù)安全問(wèn)題。
智能體的安全、知識(shí)數(shù)據(jù)的安全、客戶(hù)端的安全、基座模型的安全，構(gòu)成人工智能安全的新領(lǐng)域。周鴻祎認(rèn)為，解決的關(guān)鍵問(wèn)題是“以模制模”——專(zhuān)門(mén)做安全大模型，用聰明的大模型智力能力去管理知識(shí)庫(kù)的使用，去管理智能體的調(diào)用，去管理基座模型的“胡說(shuō)八道”和對(duì)人的“PUA攻擊”。
“幻覺(jué)是一把雙刃劍，是大模型具備真智能的體現(xiàn)，是走向AGI的基礎(chǔ)，它讓大模型體現(xiàn)出更多的創(chuàng)造性和想象力，能夠在科研領(lǐng)域發(fā)揮重要作用。”周鴻祎強(qiáng)調(diào)，大模型幻覺(jué)很難消除，但已經(jīng)通過(guò)多個(gè)大模型交叉驗(yàn)證、搜索矯正以及企業(yè)知識(shí)庫(kù)比對(duì)等方式進(jìn)行了糾正。在大模型產(chǎn)業(yè)高速發(fā)展的過(guò)程中，不發(fā)展是最大的不安全，所以不能因?yàn)榇竽Ｐ偷幕糜X(jué)問(wèn)題就因噎廢食。
讓技術(shù)轉(zhuǎn)化為新質(zhì)生產(chǎn)力
“應(yīng)該正確認(rèn)識(shí)AI安全問(wèn)題，不能夸大也不能忽視。”周鴻祎強(qiáng)調(diào)，不發(fā)展是最大的不安全，必須要抓住AI這次工業(yè)革命的機(jī)會(huì)，提升生產(chǎn)力，包括讓科技普惠在每個(gè)人身上。
對(duì)于網(wǎng)信安全產(chǎn)業(yè)競(jìng)爭(zhēng)格局，周鴻祎表示，一直以來(lái)，我國(guó)安全行業(yè)內(nèi)卷嚴(yán)重，很多廠(chǎng)商只是一味的賣(mài)硬件軟件，客戶(hù)也無(wú)法得到想要的安全服務(wù)，致使行業(yè)面臨普遍性經(jīng)營(yíng)困境，造成客戶(hù)和廠(chǎng)商雙輸?shù)木置妗Ｍ瑫r(shí)，各種高級(jí)別攻擊日益嚴(yán)重，企業(yè)不只需要一個(gè)“安全盒子”，更需要高級(jí)網(wǎng)絡(luò)安全專(zhuān)家協(xié)助進(jìn)行數(shù)據(jù)分析研判、數(shù)據(jù)追蹤及事件處置。
為了解決這個(gè)困境，周鴻祎認(rèn)為，通過(guò)SaaS的方式來(lái)為更多企業(yè)提供安全服務(wù)，企業(yè)不僅可以直接體驗(yàn)安全服務(wù)的效果，投入成本也降到了五分之一甚至十分之一。因此，周鴻祎在今年兩會(huì)上也會(huì)呼吁國(guó)家從政策上支持采購(gòu)安全服務(wù)，特別是鼓勵(lì)采購(gòu)SaaS化安全服務(wù)，實(shí)現(xiàn)安全的普惠。
“筑牢網(wǎng)絡(luò)安全根基，是為大模型發(fā)展鋪路；而解決AI應(yīng)用安全與幻覺(jué)問(wèn)題，則是讓技術(shù)真正轉(zhuǎn)化為新質(zhì)生產(chǎn)力。”周鴻祎表示。
在記者采訪(fǎng)中，周鴻祎還談到了對(duì)360AI產(chǎn)品的未來(lái)規(guī)劃。
他介紹，自己一直都有危機(jī)感，搜索本來(lái)就是一個(gè)巨頭林立的賽道，公司要想辦法把納米AI搜索做得比DeepSeek好。“公司產(chǎn)品引入了DeepSeek以及國(guó)內(nèi)其他16家一共50種模型，通過(guò)這些模型的協(xié)作，有的擅長(zhǎng)改寫(xiě)，有的擅長(zhǎng)總結(jié)，有的擅長(zhǎng)推理和分解任務(wù)。DeepSeek春節(jié)期間7天新增用戶(hù)級(jí)別以?xún)|計(jì)算，我們15天漲了2000萬(wàn)手機(jī)用戶(hù)。現(xiàn)在PC端360的產(chǎn)品流量很大，我們會(huì)耐心地把PC上再轉(zhuǎn)出來(lái)至少上千萬(wàn)用戶(hù)。有了很好的基礎(chǔ)之后，剩下的問(wèn)題就是要仔細(xì)打磨用戶(hù)的體驗(yàn)和把各種深度的工具做好。”
