QQ在線
企業(yè)微信
資訊
886本報記者 趙姍
微軟的創(chuàng)始人比爾·蓋茨有一句名言：“我們總是高估在一年或者兩年中能夠做到的，而低估五年或十年中能夠做到的。”這句話用來理解人工智能的影響是相當(dāng)合適的。目前，隨著人工智能產(chǎn)業(yè)飛速發(fā)展，催生了新的人機交互模式，核心便是AI大模型驅(qū)動的智能體（AI Agent）（以下簡稱“AI助手”）。AI助手讓“人機協(xié)同”成為新常態(tài)，個人與企業(yè)正在步入AI助手時代。
然而，伴隨著快速發(fā)展，一系列問題與挑戰(zhàn)也隨之而來。如何在應(yīng)對AI助手面臨挑戰(zhàn)的同時抓住發(fā)展機遇，實現(xiàn)AI助手的可持續(xù)發(fā)展和更廣泛應(yīng)用，成為行業(yè)需要深入思考和探討的重點。
數(shù)據(jù)隱私安全、倫理和法律等成為挑戰(zhàn)
“AI助手在快速發(fā)展的同時，也面臨許多挑戰(zhàn)和問題。”國務(wù)院發(fā)展研究中心創(chuàng)新發(fā)展研究部第二研究室主任楊超在接受中國經(jīng)濟時報記者采訪時表示，在這些問題中，最為關(guān)鍵的還在于AI助手使用所帶來的數(shù)據(jù)隱私安全、倫理和法律問題。
楊超認(rèn)為，從數(shù)據(jù)隱私保護來看，由于人工智能系統(tǒng)本身需要依賴大量用戶數(shù)據(jù)進行訓(xùn)練，必然會導(dǎo)致相關(guān)機構(gòu)將AI助手服務(wù)期間獲取和產(chǎn)生的數(shù)據(jù)用于AI助手本身的優(yōu)化，即使通過刪除個性化屬性等方式對數(shù)據(jù)脫敏，數(shù)據(jù)隱私和安全問題也難以完全避免。尤其是隨著AI助手的普及，其訓(xùn)練涉及的數(shù)據(jù)量將快速提升，從而進一步放大安全風(fēng)險。
從倫理和法律角度看，隨著AI助手能力的增強，其自主性和決策能力必然會顯著提升，在部分應(yīng)用場景中將會脫離人類的直接指令而開展自主行為。這些自主行為一旦產(chǎn)生外部性影響，就將引發(fā)倫理和法律問題?！耙粋€經(jīng)典的例子是，人工智能自動駕駛的汽車在行駛過程中，前方突然出現(xiàn)行人，改變行駛方向會傷害乘客，不改變方向則會傷害行人。這種情況下無論AI助手做出何種選擇都會帶來倫理問題?！睏畛f。
清華大學(xué)復(fù)雜工程系統(tǒng)實驗室主任、中國人工智能學(xué)會智能產(chǎn)品與產(chǎn)業(yè)工作委員會主任任勇在接受中國經(jīng)濟時報記者采訪時表示，在當(dāng)下階段，AI助手仍然面臨技術(shù)創(chuàng)新與場景適配度的挑戰(zhàn)。
一是算法的精準(zhǔn)性與可靠性。AI助手的核心——算法需要不斷學(xué)習(xí)和優(yōu)化以提高準(zhǔn)確性和可靠性，然而，面對復(fù)雜多變的用戶需求和場景，當(dāng)前的算法往往難以達到期待的要求。
二是跨模態(tài)學(xué)習(xí)與環(huán)境理解能力。AI助手當(dāng)前的技術(shù)水平仍存在一定的局限性，難以充分理解和整合應(yīng)用時空變化的模態(tài)信息，對環(huán)境信息的多模態(tài)感知與理解尚有很大的提升空間。
三是場景理解與適應(yīng)能力。有些場景化需求超越了簡單的物理環(huán)境感知，需要與場景自身的底層邏輯、應(yīng)用邏輯相結(jié)合才能理解，這對當(dāng)下的AI助手而言是一個現(xiàn)實挑戰(zhàn)。
“此外，AI技術(shù)的復(fù)雜性和變化性使得已有法規(guī)難以完全覆蓋各種變動。當(dāng)AI助手出現(xiàn)錯誤或造成損害時，責(zé)任追究便成了難題?！比斡抡f。
“AI助手面臨的挑戰(zhàn)還有算法偏見與歧視、過度依賴和成癮?！鼻迦A大學(xué)人工智能國際治理研究院秘書長、歐美同學(xué)會研究院人工智能和數(shù)字經(jīng)濟研究中心執(zhí)行主任魯俊群在接受中國經(jīng)濟時報記者采訪時表示。
魯俊群認(rèn)為，目前，AI算法的訓(xùn)練數(shù)據(jù)還存在不完備性和偏向性。由于AI訓(xùn)練所使用的語料數(shù)據(jù)本身可能客觀上就存在著統(tǒng)計學(xué)上的一定偏差，還有可能存在開發(fā)者的個人偏好等，因此，現(xiàn)階段的各種AI助手仍有可能存在一定的算法偏見與歧視問題。對此，有必要建立對技術(shù)背后訓(xùn)練數(shù)據(jù)和算法的審查機制，如通過建立AI倫理委員會等形式加強審核。
另外，“假如一名用戶經(jīng)常與AI角色互動來尋求幫助和安慰，容易對其產(chǎn)生情感上的依賴，以此來填補情感需求上的空缺，這有可能導(dǎo)致用戶沉迷虛擬世界而忽視現(xiàn)實世界。對此，建議對于AI助手應(yīng)該使用得當(dāng)，同時應(yīng)該注意保持與現(xiàn)實世界的互動?！濒斂∪赫f。
未來發(fā)展方向：垂直領(lǐng)域?qū)I(yè)化、與具身智能的結(jié)合
當(dāng)前，大模型進入應(yīng)用時代，多家科技公司都展出了最新AI應(yīng)用。
“AI助手發(fā)展的方向是多樣的，在技術(shù)路線和應(yīng)用場景的雙重影響下，將會迎來種類繁多的AI助手。”楊超認(rèn)為，其中，有兩個方向是較為確定的。
一是垂直領(lǐng)域?qū)I(yè)化。在特定行業(yè)或領(lǐng)域，如家政、健康、醫(yī)療、法律、金融等大領(lǐng)域，甚至是制造業(yè)中不同行業(yè)等小領(lǐng)域，AI助手都將具備更深入的專業(yè)知識和技能，提供專業(yè)服務(wù)。
二是與具身智能的結(jié)合。隨著人工智能能力的提升，其提供的服務(wù)將不僅是咨詢和智力服務(wù)，而是通過更多的感知和操作，為人類提供直接與物質(zhì)世界交互的能力。
任勇認(rèn)為，就發(fā)展方向而言，AI助手在產(chǎn)業(yè)場景和個體場景中的應(yīng)用雖然都基于人工智能技術(shù)，但在技術(shù)路徑和響應(yīng)機理上存在著顯著差異。
AI助手產(chǎn)業(yè)場景的技術(shù)路徑主要是針對特定需求，如制造業(yè)、物流、醫(yī)療、教育等，AI助手通常需要進行定制化開發(fā)，以符合行業(yè)的特定需求。利用相應(yīng)產(chǎn)業(yè)所產(chǎn)生的數(shù)據(jù)，結(jié)合各種機器學(xué)習(xí)算法，AI助手能夠自主學(xué)習(xí)和優(yōu)化，實現(xiàn)智能排班、任務(wù)分配、數(shù)據(jù)分析、流程優(yōu)化等高級功能。在此過程中，AI助手往往需要與企業(yè)的其他系統(tǒng)進行集成，如ERP（企業(yè)資源計劃）、CRM（客戶關(guān)系管理）等，以實現(xiàn)信息的共享和協(xié)作。通過上述技術(shù)路徑實現(xiàn)對重復(fù)性煩瑣任務(wù)的自主處理和數(shù)據(jù)洞察、科學(xué)決策、降本增效。
AI助手用于個體場景的技術(shù)路徑主要是利用通用智能平臺，如智能手機、智能家居設(shè)備等，通過語音識別和自然語言交互、多設(shè)備協(xié)同來輔助用戶完成任務(wù)，提升日常生活的便利性和服務(wù)的精準(zhǔn)性。
“在產(chǎn)業(yè)場景中，AI助手主要關(guān)注于提升效率、優(yōu)化決策和降低成本，需要更多的定制化開發(fā)和集成協(xié)作；而在個人生活場景中，AI助手則更注重于提供便捷化、個性化、適應(yīng)性服務(wù)，未來的技術(shù)創(chuàng)新只能圍繞不同場景下各自的內(nèi)生邏輯進行迭代優(yōu)化。”任勇說。
魯俊群認(rèn)為，AI助手未來可能會向多模態(tài)交互以及具身智能方向發(fā)展。
“為了實現(xiàn)具身智能，需要將類ChatGPT等這些基礎(chǔ)大模型與進化學(xué)習(xí)機制相結(jié)合，通過與物理世界交互取得的新數(shù)據(jù)（而不再是人類投喂的數(shù)據(jù)）來不斷學(xué)習(xí)，并適應(yīng)新環(huán)境，優(yōu)化行為策略。多模態(tài)大模型能夠整合視覺、聽覺、觸覺等多種感官數(shù)據(jù)，提升機器人的理解能力。使具身智能機器人在與物理世界的互動和理解方面更加人性化。這些未來的AI助手機器人可以自主理解場景、識別自然語言指令、規(guī)劃任務(wù)，并執(zhí)行操作，將是人類最得力的智能助理。”魯俊群說。
從創(chuàng)新方向引導(dǎo)、應(yīng)用場景規(guī)范方面為AI助手提供支持保障
當(dāng)前，AI助手的服務(wù)升級與互聯(lián)互通是國內(nèi)多家互聯(lián)網(wǎng)科技公司持續(xù)探索的重點。
楊超建議，第一，加強對用戶隱私和數(shù)據(jù)安全的保護。強制性地將用戶隱私和數(shù)據(jù)安全作為提供AI助手服務(wù)的前置條件，引導(dǎo)和鼓勵相關(guān)機構(gòu)采用先進的數(shù)據(jù)加密和匿名化技術(shù)，確保用戶數(shù)據(jù)的安全和隱私。
第二，增強AI助手決策過程的可解釋性，讓用戶能夠理解其行為和決策邏輯，從而提高用戶信任度。為整個社會更好接納AI助手創(chuàng)造良好的環(huán)境，從而為在更廣闊的應(yīng)用場景中使用AI助手提供幫助。
第三，加強倫理和法規(guī)遵從。根據(jù)人工智能技術(shù)的進步及時修訂相關(guān)法律法規(guī)，完善對AI助手進行規(guī)制的制度環(huán)境，確保AI助手的開發(fā)和應(yīng)用符合倫理標(biāo)準(zhǔn)和法律法規(guī)，避免產(chǎn)生歧視、偏見等問題。
“國家政策層面應(yīng)該從創(chuàng)新方向引導(dǎo)和應(yīng)用場景規(guī)范兩個方面出發(fā)，為AI助手的發(fā)展提供支持和保障。包括明確AI助手的適用場景和范圍等，避免誤用，更要避免國際資本集團假借技術(shù)觸發(fā)虛假市場的濫用。特別是在醫(yī)療、教育、交通等關(guān)鍵領(lǐng)域，應(yīng)嚴(yán)格規(guī)范AI助手的應(yīng)用條件和程序。此外，要建立健全AI助手的監(jiān)管機制，加強社會力量尤其是人民群眾對AI助手應(yīng)用的監(jiān)督和評估，確保其合規(guī)性、合理性和安全性。對于違規(guī)行為，應(yīng)依法進行處罰和追責(zé)?！比斡卤硎?。
未來，企業(yè)可以利用AI助手優(yōu)化現(xiàn)有業(yè)務(wù)流程，特別是在新產(chǎn)品研發(fā)和服務(wù)的創(chuàng)新應(yīng)用方面，AI助手的普及將推動不同行業(yè)之間的跨界融合和協(xié)同發(fā)展，為企業(yè)帶來新的商業(yè)機會和合作伙伴，進而帶動商業(yè)模式和生態(tài)的變革。
中央財經(jīng)大學(xué)數(shù)字經(jīng)濟融合創(chuàng)新發(fā)展中心主任陳端在接受中國經(jīng)濟時報記者采訪時認(rèn)為，企業(yè)運用AI助手強化核心競爭力需要一系列的戰(zhàn)略規(guī)劃和技術(shù)實施。
一是要識別關(guān)鍵業(yè)務(wù)場景，深入了解業(yè)務(wù)需求，確定AI助手在哪些環(huán)節(jié)能夠發(fā)揮最大價值，然后為選定的業(yè)務(wù)場景明確具體的需求和目標(biāo)，如提高客戶滿意度、優(yōu)化庫存管理、增強市場分析能力等。
二是根據(jù)業(yè)務(wù)需求和技術(shù)成熟度，選擇適合的AI技術(shù)和解決方案，要充分考慮與現(xiàn)有系統(tǒng)的兼容性，確保AI助手能夠順利集成到企業(yè)的IT架構(gòu)中。此外，還要建立完善的數(shù)據(jù)治理體系，避免因為數(shù)據(jù)偏差導(dǎo)致的結(jié)果偏差。
三是需要設(shè)立明確的評估指標(biāo)和機制，對AI助手的性能和效果進行定期評估，及時調(diào)整和優(yōu)化AI助手的算法和模型，以提升其準(zhǔn)確性和效率。此外，還需要關(guān)注AI助手可能帶來的倫理和社會問題，確保其應(yīng)用符合道德和法律規(guī)范。
