用于驗(yàn)證和監(jiān)控實(shí)體人工智能系統(tǒng)的工具具備實(shí)際價(jià)值，但仍需人工監(jiān)督，以預(yù)防事故發(fā)生和異常行為出現(xiàn)。

基于人工智能的工具能助力監(jiān)控實(shí)體人工智能系統(tǒng)和大語言模型，然而為規(guī)避誤報(bào)、偏見及其他異常情況，人工監(jiān)督仍是必要環(huán)節(jié)。

對于自動駕駛汽車和機(jī)器人而言，極端場景的應(yīng)對以及對人類價(jià)值觀的理解是其短板，尤其是在道德與社會價(jià)值觀隨時(shí)間不斷變化的背景下。

人工智能工具持續(xù)發(fā)展，在芯片驗(yàn)證以及保障實(shí)體人工智能安全所需的功能覆蓋率相關(guān)應(yīng)用中，發(fā)揮的作用愈發(fā)重要。

芯片制造商正愈發(fā)多地借助基于人工智能的工具，對廣泛應(yīng)用于邊緣場景的半導(dǎo)體進(jìn)行驗(yàn)證，這些邊緣場景涵蓋機(jī)器人、無人機(jī)、自動駕駛汽車等實(shí)體人工智能領(lǐng)域。但制造商對該技術(shù)始終保持謹(jǐn)慎態(tài)度，會限制人工智能的應(yīng)用范圍，并在必要時(shí)依靠人工介入，對人工智能的工作成果進(jìn)行核查。

這些實(shí)體人工智能系統(tǒng)與各類大、小語言模型、計(jì)算機(jī)視覺模型、視覺 - 語言行動模型等深度關(guān)聯(lián)。在多數(shù)情況下，人工智能工具會被用于監(jiān)控這些模型，從海量數(shù)據(jù)集中篩選出異常信息。

從安全防護(hù)的角度來看，讓人工智能工具監(jiān)管與小語言模型、大語言模型相連的實(shí)體人工智能設(shè)備，看似形成了一個(gè)危險(xiǎn)的閉環(huán)。一旦模型被輸入不良或帶有偏見的數(shù)據(jù)，甚至在最壞的情況下，惡意攻擊者掌控操作系統(tǒng)并激活自主化的武裝無人機(jī)，整個(gè)系統(tǒng)就極易遭受攻擊并出現(xiàn)異常行為。即便在最優(yōu)情況下，也不應(yīng)讓人工智能工具單獨(dú)操控人形機(jī)器人。至少目前，在實(shí)體人工智能系統(tǒng)的設(shè)計(jì)、驗(yàn)證和監(jiān)控全流程中，人類的參與不可或缺。

楷登電子驗(yàn)證軟件產(chǎn)品管理高級集團(tuán)總監(jiān)馬修?格雷厄姆表示：“在實(shí)現(xiàn)人類完全脫離這一監(jiān)督閉環(huán)之前，要通過一定程度的審查建立起制衡體系。我堅(jiān)信，參與制衡工作的技術(shù)人員會得到人工智能的輔助，也希望事實(shí)如此。但目前尚無法確定是否存在可能引發(fā)問題的完整反饋閉環(huán)，不過當(dāng)下的制衡機(jī)制已然完備，電子設(shè)計(jì)自動化工具也是保障流程的重要組成部分，能確保無論何種系統(tǒng)，都具備相應(yīng)的冗余設(shè)計(jì)和符合要求的功能安全等級。”

但這套制衡體系的有效運(yùn)行，依賴于實(shí)體人工智能企業(yè)秉持誠信原則制定必要的安全協(xié)議，而這一點(diǎn)并無法得到絕對保證。例如，近期有新聞報(bào)道就披露了某企業(yè)跳過關(guān)鍵安全步驟的相關(guān)隱患。

借助人工智能 / 機(jī)器學(xué)習(xí)工具實(shí)現(xiàn)的安全保障，需建立在若干核心支柱之上，且這些支柱需與標(biāo)準(zhǔn)的功能安全生命周期相匹配。想象力科技的工程技術(shù)負(fù)責(zé)人、系統(tǒng)與功能安全工程專家安德魯?約翰遜指出：“這其中包括危險(xiǎn)與風(fēng)險(xiǎn)分析、驗(yàn)證與測試、認(rèn)證與確認(rèn)，而針對機(jī)器人領(lǐng)域，還需考慮其與人類的互動動態(tài)。功能安全領(lǐng)域中，工具的評估與資質(zhì)認(rèn)定是常規(guī)工作。我們需要思考：工具是否會給設(shè)計(jì)引入系統(tǒng)性誤差？是否會影響硬件設(shè)計(jì)、軟件研發(fā)和代碼編寫？若該工具是驗(yàn)證或確認(rèn)測試工具，能否信任它準(zhǔn)確檢測錯(cuò)誤、不產(chǎn)生誤報(bào)？需要考量的問題繁多，這意味著系統(tǒng)復(fù)雜度會呈數(shù)量級增長 —— 畢竟功能安全技術(shù)傳統(tǒng)上多用于確定性系統(tǒng)，而非基于統(tǒng)計(jì)處理的系統(tǒng)。”

業(yè)內(nèi)其他人士也認(rèn)同需保持謹(jǐn)慎的觀點(diǎn)。是德科技電子設(shè)計(jì)自動化部門首席安全分析師拉杰什?維萊加拉蒂稱：“工程師應(yīng)將當(dāng)前的人工智能 / 機(jī)器學(xué)習(xí)工具視為開發(fā)工具，這意味著需對工具的使用進(jìn)行充分測試或資質(zhì)認(rèn)定。從這些工具中獲取的輸出結(jié)果，應(yīng)具備可復(fù)現(xiàn)性和可審計(jì)性，這可能需要為大語言模型的輸入制定相關(guān)規(guī)則。人類需全程參與，明確目標(biāo)與風(fēng)險(xiǎn)，并擁有最終的審批權(quán)，這一要求適用于安全和安防兩大領(lǐng)域。”

換言之，依靠人工智能 / 機(jī)器學(xué)習(xí)工具保障實(shí)體人工智能安全的程度存在上限。新思科技產(chǎn)品管理高級總監(jiān)達(dá)納?紐斯塔特表示：“人工智能是解決問題的一部分，因?yàn)槲覀兛梢岳盟M(jìn)行監(jiān)控。最終，我們會部署多個(gè)人工智能系統(tǒng)，其中一個(gè)可能承擔(dān)安全監(jiān)控的角色。若該監(jiān)控系統(tǒng)具備足夠的隔離性，防止被篡改，無論機(jī)器人的其他行為是否由人工智能控制，都能顯著提升系統(tǒng)的安防水平。”

保護(hù)實(shí)體人工智能的過程，堪比搭建防火墻。紐斯塔特解釋道：“攻擊者會想方設(shè)法繞過防火墻，一旦他們掌控了防火墻，就將占據(jù)極其有利的地位，能夠隨意修改防火墻配置，操控信息的傳輸方向。實(shí)體人工智能的安全防護(hù)與之同理，我們在這一領(lǐng)域不斷增加技術(shù)復(fù)雜度，衍生出諸多新問題，但面臨的風(fēng)險(xiǎn)本質(zhì)上與傳統(tǒng)防火墻防護(hù)一致，只是在有無人工智能參與的情況下，風(fēng)險(xiǎn)的表現(xiàn)形式有所不同。”

專業(yè)的人工智能 / 機(jī)器學(xué)習(xí)程序（即專家系統(tǒng)）已發(fā)展數(shù)十年，能完成下國際象棋、自動駕駛、蛋白質(zhì)折疊分析等任務(wù)。蘭巴斯公司硅安全產(chǎn)品高級總監(jiān)斯科特?貝斯特說：“簡而言之，這些程序都是‘專精型選手’。它們無法像 ChatGPT 那樣，與人類進(jìn)行流暢、毫無違和的對話，卻可能為攻克癌癥提供助力。在芯片級安全防護(hù)方面，我們評估了多款旨在保障微電子設(shè)計(jì)和驗(yàn)證中防篡改安全功能有效性的專家系統(tǒng)，目前來看，這些系統(tǒng)都尚未成為真正的效能倍增器。當(dāng)下，使用這些系統(tǒng)完成工作所需的投入，與人工完成同等工作的投入相差無幾，但我對其未來發(fā)展仍持樂觀態(tài)度。”

目前，芯片設(shè)計(jì)師仍需主導(dǎo)實(shí)體人工智能的安全防護(hù)工作。新突思科技物聯(lián)網(wǎng)與邊緣處理器副總裁兼總經(jīng)理約翰?韋爾表示：“各類嵌入式安全應(yīng)用都具有分層特性，我們必須明確搭建的安全防護(hù)層級，以及對應(yīng)的威脅模型。我們?yōu)闊o線產(chǎn)品開發(fā)并優(yōu)化配套軟件的過程中，安全始終是核心考量因素。”

語言模型與機(jī)器人技術(shù)的發(fā)展演進(jìn)

小語言模型和大語言模型發(fā)展至現(xiàn)階段，為下一代機(jī)器人的研發(fā)奠定了基礎(chǔ)。英偉達(dá)機(jī)器人與邊緣人工智能副總裁兼總經(jīng)理迪普?塔拉在英飛凌舉辦的十月科技大會上表示，這一發(fā)展成果為實(shí)體人工智能打造了 “性能尚可的通用型智能核心，就如同 ChatGPT 為數(shù)字人工智能領(lǐng)域帶來的變革一樣”。

實(shí)體人工智能的核心技術(shù)架構(gòu)（英飛凌提供）

1. 決策與人工智能的計(jì)算和連接技術(shù)

• 主計(jì)算區(qū)算力支持、邊緣人工智能技術(shù)、功能安全與安防防護(hù)

2. 供電與熱管理的能源技術(shù)

• 電池管理系統(tǒng)、充電模塊、冷卻系統(tǒng)

3. 環(huán)境感知的傳感技術(shù)

• 音頻、視覺、雷達(dá)、激光雷達(dá)、力傳感

• 多傳感器融合技術(shù)

4. 精準(zhǔn)高效運(yùn)動的執(zhí)行技術(shù)

• 電機(jī)控制、執(zhí)行機(jī)構(gòu)、結(jié)構(gòu)集成

同時(shí)，當(dāng)下先進(jìn)的仿真技術(shù)也成為實(shí)體人工智能發(fā)展的必要條件。塔拉表示，與真實(shí)世界的實(shí)驗(yàn)相比，仿真技術(shù)更高效、更安全、成本也更低。“但在機(jī)器人領(lǐng)域，仿真與現(xiàn)實(shí)之間的差距一直較為明顯，因此仿真環(huán)境中的實(shí)驗(yàn)結(jié)果，無法完全反映真實(shí)世界的情況。如今，大語言模型和仿真技術(shù)均已發(fā)展至相當(dāng)成熟的階段，全球頂尖的科研人員、初創(chuàng)企業(yè)、風(fēng)險(xiǎn)投資機(jī)構(gòu)以及大型企業(yè)，都開始投身于通用型機(jī)器人智能核心的研發(fā)難題中。”

人工智能的監(jiān)督與審計(jì)

亞利桑那州立大學(xué)計(jì)算與增強(qiáng)智能學(xué)院助理教授、學(xué)習(xí)評估與系統(tǒng)自然化實(shí)驗(yàn)室主任蘭薩盧?塞納納亞克，長期致力于機(jī)器狗和人形機(jī)器人的可信性研究。他指出，人工智能審計(jì)工具能提升與實(shí)體人工智能相連的語言模型的完整性，但人類必須參與其中，明確模型的失效場景類型。

他介紹道：“我們研發(fā)的人工智能審計(jì)工具，會通過多種方式對大語言模型進(jìn)行測試，隨后生成常見失效模式的分析報(bào)告。我們將報(bào)告交由人類技術(shù)人員評估，由他們判斷‘這種失效模式的危害較大’或‘這種失效模式的影響在可接受范圍內(nèi)’。機(jī)器無法獨(dú)立完成審計(jì)工作，因?yàn)樗鼰o法契合人類的價(jià)值觀、倫理觀等核心訴求；而人類也無法對模型進(jìn)行全方位測試，因此我們研發(fā)了這一可擴(kuò)展的技術(shù)，通過對系統(tǒng)進(jìn)行各類測試，為人類生成簡潔的分析報(bào)告。技術(shù)人員根據(jù)報(bào)告，指導(dǎo)工具減少特定失效模式的發(fā)生，使系統(tǒng)更貼合人類的價(jià)值判斷。”

通過反饋閉環(huán)，人工智能審計(jì)工具能逐步優(yōu)化，更貼合人類的需求。塞納納亞克補(bǔ)充道：“需要注意的是，人類的價(jià)值觀也會隨時(shí)間變化，只是變化速度相對較慢。如今被普遍接受的事物，五年后或許就不再被認(rèn)可。”

想象力科技的約翰遜也認(rèn)為，人類的價(jià)值觀和道德觀是不可忽視的重要因素。他提出：“我們該如何真正衡量智能？機(jī)器學(xué)習(xí)模型的智能水平其實(shí)十分有限，其能力高度依賴于人類為其輸入的數(shù)據(jù)。”

正因如此，應(yīng)對極端場景成為人工智能 / 機(jī)器學(xué)習(xí)工具監(jiān)控大語言模型時(shí)的一大短板。約翰遜表示：“研發(fā)人工智能工具的核心目標(biāo)，是讓其能對未知場景做出可靠應(yīng)對。危險(xiǎn)數(shù)據(jù)集的規(guī)模通常較小，而統(tǒng)計(jì)驗(yàn)證技術(shù)能通過提供更多元、動態(tài)的數(shù)據(jù)集，以及豐富的輸入數(shù)據(jù)和傳感數(shù)據(jù)，有效彌補(bǔ)這一短板。”

人工智能 / 機(jī)器學(xué)習(xí)芯片驗(yàn)證與功能覆蓋率工具

實(shí)體人工智能系統(tǒng)的安全防護(hù)，必須從半導(dǎo)體層面的功能驗(yàn)證開始，確保安全關(guān)鍵型芯片在任何情況下都能按預(yù)期運(yùn)行。在這一方面，汽車領(lǐng)域與實(shí)體人工智能領(lǐng)域的技術(shù)需求存在交叉。

人工智能 / 機(jī)器學(xué)習(xí)工具能助力該流程中的多項(xiàng)工作，包括自動化代碼分析審查、功能覆蓋率檢測、架構(gòu)與規(guī)格審查，以及提升驗(yàn)證生命周期的效率，尤其是在應(yīng)對極端場景的驗(yàn)證工作中。約翰遜說：“基于現(xiàn)有的驗(yàn)證流程和數(shù)據(jù)集，機(jī)器學(xué)習(xí)技術(shù)能識別數(shù)據(jù)模式，發(fā)現(xiàn)尚未覆蓋的驗(yàn)證場景，這正是其在極端場景驗(yàn)證中的價(jià)值所在。但最終效果仍取決于模型的訓(xùn)練數(shù)據(jù) —— 數(shù)據(jù)質(zhì)量是否達(dá)標(biāo)、數(shù)據(jù)量是否充足，且訓(xùn)練數(shù)據(jù)與測試數(shù)據(jù)必須相互獨(dú)立。我們必須避免兩者直接關(guān)聯(lián)，否則工具將失去實(shí)際價(jià)值。”

目前，許多新型人工智能 / 機(jī)器學(xué)習(xí)工具和智能體人工智能工具都聚焦于驗(yàn)證領(lǐng)域，因?yàn)檫@一環(huán)節(jié)是人類工程師工作流程中耗時(shí)最長的部分。一旦企業(yè)在驗(yàn)證環(huán)節(jié)出現(xiàn)失誤，將付出高昂的成本，尤其是先進(jìn)機(jī)器人和自動駕駛汽車所使用的芯片，均采用前沿制造工藝打造。

其中，根因分析是驗(yàn)證工作中最大的挑戰(zhàn)之一。芯智體公司創(chuàng)始人兼首席執(zhí)行官威廉?王表示：“在軟件領(lǐng)域，每個(gè)人都能借助輔助工具開展工作 —— 輸入需求、得到輸出結(jié)果、提出問題、生成代碼，發(fā)現(xiàn)漏洞后修復(fù)，再提交 GitHub 拉取請求即可。但半導(dǎo)體行業(yè)有所不同，其技術(shù)棧的層級極深，面對海量的代碼庫進(jìn)行根因分析時(shí)，工作難度會急劇增加。試想，在一家前沿芯片企業(yè)研發(fā)新款圖形處理器時(shí)，芯片中包含 100 億個(gè)邏輯門，根本無法將全部邏輯門數(shù)據(jù)輸入單個(gè)語言模型。這也是我們需要借助人工智能智能體，探索代碼庫中的問題、提取關(guān)鍵關(guān)聯(lián)信息的原因。”

芯智體研發(fā)的多智能體人工智能根因分析系統(tǒng)，能實(shí)現(xiàn)根因分析全流程的自動化。威廉?王介紹：“我們的工具能協(xié)助工程師進(jìn)行仿真實(shí)驗(yàn)，檢查并優(yōu)化測試平臺，分析日志文件和波形數(shù)據(jù)，助力工程師修復(fù)寄存器傳輸級代碼。”

但設(shè)計(jì)驗(yàn)證工作始終面臨一個(gè)終極問題：“誰來驗(yàn)證驗(yàn)證工作本身？”

芯智體公司工程主管梅希爾?阿羅拉提出：“這是一個(gè)層層嵌套的循環(huán)問題，因?yàn)檎l才是最終的事實(shí)依據(jù)？我們能否檢查自身規(guī)格的一致性？能否驗(yàn)證測試計(jì)劃與規(guī)格要求是否匹配？能否實(shí)現(xiàn)從規(guī)格到測試計(jì)劃、再到測試平臺的全程可追溯，進(jìn)而更清晰地把控驗(yàn)證工作的執(zhí)行主體？”

芯智體將功能覆蓋率檢測視為人工智能智能體助力工程師節(jié)省時(shí)間的核心領(lǐng)域。阿羅拉表示：“一個(gè)值得探索的問題是，我們能否開發(fā)一套系統(tǒng)，生成定向測試用例，使其能跨越多層間接關(guān)聯(lián)環(huán)節(jié)，最終找到并定位目標(biāo)測試點(diǎn)。即便存在多層間接關(guān)聯(lián)，該系統(tǒng)也能助力工程師在大型子系統(tǒng)中探索狀態(tài)空間。”

通過配置人工智能智能體生成定向測試用例，仿真測試的時(shí)間大幅縮短，因?yàn)槎ㄏ驕y試用例在仿真中的運(yùn)行效率更高。阿羅拉說：“該系統(tǒng)可實(shí)現(xiàn)全自主運(yùn)行，工程師能批量提交任務(wù)并在夜間運(yùn)行，通過算力投入換取工程師的工作時(shí)間，這通常是一筆極具價(jià)值的交易。”

在一套系統(tǒng)通過多層間接關(guān)聯(lián)環(huán)節(jié)尋找目標(biāo)測試點(diǎn)的同時(shí)，另一套獨(dú)立系統(tǒng)會以高度隨機(jī)的方式，完成通用驗(yàn)證方法學(xué)測試平臺的搭建。阿羅拉解釋：“我們精通約束隨機(jī)化技術(shù)，這是設(shè)計(jì)驗(yàn)證工程師的核心技術(shù)，也是其最常用的工具。”

該大語言模型工具會從相關(guān)文件中提取各類信息，其生成的自然語言輸出結(jié)果能被所有工程師理解。相較于代碼的確定性，自然語言雖存在一定模糊性，但阿羅拉認(rèn)為：“我們必須接受這一缺陷，而這一特性也帶來了優(yōu)勢。傳統(tǒng)仿真器和形式化驗(yàn)證工具完全不支持自然語言，但我們認(rèn)為這一交互方式的價(jià)值被低估、應(yīng)用被不足。通過自然語言 —— 包括規(guī)格文檔、設(shè)計(jì)文件、測試計(jì)劃等，我們能更精準(zhǔn)地把握研發(fā)意圖，推動項(xiàng)目進(jìn)展。”

研發(fā)團(tuán)隊(duì)的目標(biāo)，是借助大語言模型的層級處理能力和抽象理解能力，解決功能覆蓋率檢測中的各類問題。阿羅拉表示：“我們希望部署多個(gè)智能體，持續(xù)優(yōu)化測試平臺的功能覆蓋率，生成定向測試用例，并利用這些用例，完善功能覆蓋率模型中尚未覆蓋的檢測點(diǎn)。”

目前，業(yè)內(nèi)還在研發(fā)更多相關(guān)工具和方法，包括更高確定性的算法工具、覆蓋率數(shù)據(jù)庫解析工具、分支與翻轉(zhuǎn)覆蓋率檢測工具，以及通用驗(yàn)證方法學(xué)測試平臺搭建工具。

那么，在保障實(shí)體人工智能功能安全的過程中，基于統(tǒng)計(jì)的功能覆蓋率檢測，是否是人工智能 / 機(jī)器學(xué)習(xí)工具的最佳應(yīng)用場景之一？

想象力科技的約翰遜給出了答案：“說實(shí)話，若想把這項(xiàng)工作做好、做透徹，沒有任何一個(gè)環(huán)節(jié)是輕松的，這歸根結(jié)底關(guān)乎專業(yè)能力。在機(jī)器學(xué)習(xí)領(lǐng)域，驗(yàn)證一個(gè)技術(shù)概念，或是引入一套全流程或部分環(huán)節(jié)基于機(jī)器學(xué)習(xí)的工作流程，或許并不困難。但要真正理解其中的危險(xiǎn)與風(fēng)險(xiǎn)，精準(zhǔn)把握技術(shù)改進(jìn)的細(xì)節(jié)并進(jìn)行量化分析，建立起對技術(shù)的信心、確保其不會影響安全防護(hù)工作，這些都極具挑戰(zhàn)性。如果既要做到專業(yè)精良，又要堅(jiān)守安全責(zé)任，那么整個(gè)過程沒有任何捷徑可言。但這并不會阻礙行業(yè)的探索步伐。”

結(jié)語

秉持謹(jǐn)慎態(tài)度使用人工智能 / 機(jī)器學(xué)習(xí)工具，不僅能提升數(shù)據(jù)密集型實(shí)體人工智能和大語言模型系統(tǒng)的安全性，還能助力驗(yàn)證驅(qū)動這些系統(tǒng)運(yùn)行的芯片。

是德科技電子設(shè)計(jì)自動化部門高級總監(jiān)亞歷山大?彼得表示：“人工智能只是自動化技術(shù)發(fā)展的新階段，而自動化技術(shù)已歷經(jīng)數(shù)十年發(fā)展。自動化意味著有規(guī)可循、有標(biāo)可依，所有工作內(nèi)容都能轉(zhuǎn)化為可自動化處理的格式，也就是代碼。數(shù)字電路、超高速集成電路硬件描述語言、版圖與原理圖一致性檢查等工作，本質(zhì)上都是基于規(guī)則的，且自由度受到嚴(yán)格限制。相關(guān)標(biāo)準(zhǔn)已發(fā)展數(shù)十年，芯片代工廠為防范各類潛在故障，建立起了完善的防護(hù)體系。”

將人工智能應(yīng)用于功能覆蓋率檢測等領(lǐng)域，是技術(shù)發(fā)展的自然趨勢。彼得說：“這并非跨越式的技術(shù)變革，只是讓人工智能替代人類編寫代碼而已，這項(xiàng)工作的落地難度并不大。”

人工智能 / 機(jī)器學(xué)習(xí)工具能承擔(dān)工作流程中大量重復(fù)性、高耗時(shí)的任務(wù)，也有助于彌補(bǔ)行業(yè)人才缺口。楷登電子的格雷厄姆表示：“毫無疑問，行業(yè)對驗(yàn)證工具和驗(yàn)證工程師的需求持續(xù)增長，人才培養(yǎng)速度已無法跟上行業(yè)發(fā)展步伐，而人工智能正是彌補(bǔ)這一缺口的重要抓手。我們認(rèn)為，沒有人會因人工智能而失業(yè)。實(shí)際情況是，當(dāng)企業(yè)需要招聘 10 名工程師卻僅能找到 4 名時(shí)，人工智能帶來的生產(chǎn)效率提升，將至少填補(bǔ)一部分人才缺口。”

但想象力科技的約翰遜強(qiáng)調(diào)，無論在何種場景、以何種方式應(yīng)用人工智能 / 機(jī)器學(xué)習(xí)技術(shù)，最終都要回歸到人員、流程和專業(yè)能力本身，確保所有工作的開展都兼具責(zé)任感和可信度。“這個(gè)領(lǐng)域的問題艱巨且復(fù)雜，因此，無論借助何種工具、采用何種技術(shù)，企業(yè)都應(yīng)將重點(diǎn)放在培養(yǎng)工程師團(tuán)隊(duì)的專業(yè)能力上，搭建完善的框架和流程，確保系統(tǒng)研發(fā)和工具應(yīng)用的合理性與有效性，再逐步布局機(jī)器學(xué)習(xí)領(lǐng)域。”

能否成功應(yīng)用人工智能 / 機(jī)器學(xué)習(xí)工具，還取決于對模型的理解程度。約翰遜補(bǔ)充道：“這包括了解模型的研發(fā)溯源、使用方式、基于自身約束和局限性所輸出的信息，以及如何結(jié)合其他可能由機(jī)器學(xué)習(xí)生成或非機(jī)器學(xué)習(xí)生成的數(shù)據(jù)點(diǎn)進(jìn)行綜合判斷。頗具諷刺意味的是，借助機(jī)器學(xué)習(xí)工具、數(shù)據(jù)集和相關(guān)信息，企業(yè)或許能減少工程師的招聘數(shù)量，但我的建議是，必須做好萬全準(zhǔn)備防范風(fēng)險(xiǎn)，否則問題終將發(fā)生。”