這段討論探討了為什么生成式人工智能并非僅僅是另一種自動化工具，而代表著一種向自主性發(fā)展的轉(zhuǎn)變。關(guān)鍵在于：我們無法將人工智能強(qiáng)行應(yīng)用于原有的程序化工作流程中，并期望它能夠按照預(yù)期的方式運(yùn)行。一旦自主性被引入系統(tǒng)，這些系統(tǒng)就會發(fā)生演變，展現(xiàn)出新的行為模式，并以我們未曾明確規(guī)定的方式來運(yùn)作。真正的架構(gòu)變革并不在于控制每一個步驟，而在于劃定清晰的界限。我們不應(yīng)該告訴人工智能具體該如何完成工作，而應(yīng)該明確規(guī)定它不能做什么、可以被允許去處理哪些事務(wù)、能夠做出哪些決策，以及它必須實(shí)現(xiàn)的目標(biāo)。治理機(jī)制與系統(tǒng)設(shè)計必須從一開始就共同構(gòu)建起來，而不能事后才添加進(jìn)去。

這段內(nèi)容還指出：隨著系統(tǒng)的成熟，相應(yīng)的防護(hù)措施也會不斷發(fā)展變化，尤其是在從單一智能體系統(tǒng)轉(zhuǎn)向多智能體系統(tǒng)時。共同的認(rèn)知基礎(chǔ)、明確的決策權(quán)限、清晰的規(guī)則以及嚴(yán)格的界限變得至關(guān)重要。人工智能系統(tǒng)中的“技術(shù)債務(wù)”會逐漸導(dǎo)致系統(tǒng)行為偏離預(yù)期，因此問題在于：一個組織能夠容忍這種偏離到什么程度。總的來說，架構(gòu)的重要性比以往任何時候都要高。企業(yè)架構(gòu)師在制定政策、界定系統(tǒng)邊界以及引導(dǎo)系統(tǒng)的整體發(fā)展方向方面發(fā)揮著核心作用，這樣才能確保人工智能系統(tǒng)能夠安全、負(fù)責(zé)任地實(shí)現(xiàn)其發(fā)展目標(biāo)。

這一期內(nèi)容同時提供音頻和視頻兩種形式。