聲明:本文來自于（ID:ykqsd.com）授權(quán)轉(zhuǎn)載發(fā)布。

AI從未如此接近和改變?nèi)藗兊纳睢?/p>

最近網(wǎng)絡(luò)上掀起了熱議，國產(chǎn)AI Agent（智能體）再一次讓人們看到了創(chuàng)新者的步伐。Manus的爆紅如一石激起千層浪，激發(fā)了更多探索的熱情。近日國內(nèi)初創(chuàng)公司DeepWisdom的MetaGPT團隊，在開源社區(qū)GitHub上傳其復(fù)刻的產(chǎn)品Open Manus，這預(yù)示著AI Agent的門檻或許并非高不可攀。

人們將今年定為AI Agent元年，盡管今年出現(xiàn)現(xiàn)象級的AI Agent是低概率事件，但AI Agent作為AI應(yīng)用的探索，注定將絢麗多彩，并推動AI賦能千行百業(yè)，將夢想照進(jìn)現(xiàn)實。

人們在創(chuàng)新探索中，從沒有現(xiàn)成的模板可循，需要冒險者不斷試錯，深入探索各種可能性。因此，唯有秉持向創(chuàng)新者和冒險者致敬的態(tài)度，尊重其創(chuàng)新自由，對其行為保持必要的尊重，同時也要提供必要的支持和幫助，讓創(chuàng)新真正充滿包容性。

AI Agent作為應(yīng)用智能體，必須依賴人們在大語言模型上的持續(xù)投入和進(jìn)化。盡管大模型幻覺依然困擾著AI落地，但也引發(fā)了如何平衡大語言模型的進(jìn)化與Agent發(fā)展之間的匹配問題，以及如何識別和避免AI Agent的冒險與冒進(jìn)的邊界，這都值得深入思考。

當(dāng)前必須警惕的是，即便是世界上最先進(jìn)的大語言模型，依然未能解決AI幻覺問題。如果尚未找到解決AI幻覺的方法，或無法確定AI幻覺的運行邏輯，使AI幻覺處于風(fēng)險可控邊界內(nèi)，加速推進(jìn)AI相關(guān)應(yīng)用，就可能觸犯統(tǒng)計學(xué)上的兩類錯誤，即選擇一個錯誤答案和舍棄一個正確答案等。畢竟，將充滿幻覺的AI通過Agent開發(fā)應(yīng)用到百業(yè)，可能帶來的不僅是科技向善的改變，還可能打開一個潘多拉魔盒。

為此，在將今年定為AI Agent元年的同時，如何定義人們在Agent上是冒險還是冒進(jìn)，是一個必須明確的問題。這就需要我們真正將AI從不確定性中拉出來，拉到可能性下的收益場景中。要做到這一點，一是需加快立法確定AI發(fā)展的可能性邊界，以及通過立法搭建引導(dǎo)確定性創(chuàng)新的激勵約束機制；二是厘清AI冒險與冒進(jìn)的概念邊界，明確要求Agent的開發(fā)者在探索的同時，必須做好風(fēng)險策略安排及風(fēng)險挽救的方式方法，并構(gòu)建風(fēng)險壓力測試場景及風(fēng)險阻遏解決方案，以便在Agent出現(xiàn)災(zāi)難性后果時，使用者能一鍵阻斷，避免"上車后買票"的風(fēng)險。

當(dāng)前在AI領(lǐng)域存在一種現(xiàn)象，沿用過往應(yīng)用為主的商業(yè)發(fā)展邏輯，尤其是在算力面臨復(fù)雜環(huán)境的情況下，算法上的精煉創(chuàng)新和應(yīng)用上的先行突破似乎正在成為創(chuàng)新者的一個次優(yōu)選擇。但當(dāng)AI幻覺尚未找到有效管控方法，使用高幻覺率的AI進(jìn)行Agent開發(fā)和商用，就是冒進(jìn)。要知道，擁有先進(jìn)大語言模型的公司，在Agent上采取謹(jǐn)慎態(tài)度，并非他們不清楚Agent的商業(yè)利益，而是擔(dān)心AI幻覺會讓冒險變成損害性巨大的冒進(jìn)。

因此，在AI競爭中，需繼續(xù)利用比較競爭優(yōu)勢，具體到國內(nèi)，在算法上進(jìn)行更多精細(xì)化創(chuàng)新，通過算法上的突破降低AI幻覺，或使AI幻覺處于可控狀態(tài)，同時在算力上加速突破，搭建適配算力資源的算法體系。此外，在Agent上加速布局推理芯片等，通過優(yōu)化組合推理芯片和推理算法的適配性，在應(yīng)用層為Agent克服AI幻覺提供對應(yīng)的解決方案。

冒進(jìn)誠近貪，自畫將豈敢。未來已來，AI應(yīng)用的星辰大海正在冒險者的前赴后繼中不斷拓寬可能性邊界。為此，必須謹(jǐn)記，人類需要更多冒險者，但冒險是設(shè)定好可控風(fēng)險的一種追求，人們必需始終堅持一種有準(zhǔn)備、有退路的冒險，莫魯莽行事。