大眾一般認為，新技術(shù)的研發(fā)是難度最大的，應用及監管與研發(fā)相比難度就會(huì )低很多。但對于將深遠影響人類(lèi)社會(huì )運營(yíng)方式的人工智能來(lái)說(shuō)，情況或許正好相反。

人工智能的潛在缺陷與控制

目前基于人工智能所開(kāi)發(fā)的自動(dòng)控制、模式識別和機器學(xué)習系統，其實(shí)都是人工智能領(lǐng)域非常初級的部分，往往需要研發(fā)團隊針對實(shí)際應用場(chǎng)景設置重要先決條件，以降低人工智能系統的判別難度并提高準確率。

當各種極客型的技術(shù)人員大開(kāi)腦洞采用人工智能技術(shù)研發(fā)各種黑科技時(shí)，他們的關(guān)注范圍是非常聚焦的，即按照最優(yōu)條件下設想人工智能的應用范圍和場(chǎng)景，較少考慮相關(guān)技術(shù)在復雜條件甚至人為濫用的情況下面臨的困境。這往往也為人工智能潛在的不當使用埋下了伏筆。

人工智能作為信息化系統，一定會(huì )受到自身設計的局限和開(kāi)發(fā)質(zhì)量的影響。再加上人工智能在識別和判斷時(shí)需要基于人工設置和歷史數據，通過(guò)精心設計的訓練過(guò)程才能得到基于概率的判別結果。所以對于人工智能系統，在特定前提或應用場(chǎng)景下作出錯誤決策是100%會(huì )出現的。

作為政府和監管部門(mén)，面臨的第一個(gè)重要問(wèn)題就是系統錯誤決策所引起的財產(chǎn)損失甚至人身傷亡該如何判定責任與承擔賠償，甚至要能夠提出合理的原則，區分哪些錯誤決策是小概率事件本身引發(fā)的，哪些錯誤決策是由于系統設計、訓練數據和訓練過(guò)程存在問(wèn)題所導致的。

2016年2月14日，上路試驗已經(jīng)六年的谷歌自動(dòng)駕駛汽車(chē)第一次由于系統“誤判”導致了交通事故。谷歌公司表示自動(dòng)駕駛汽車(chē)在這次輕微車(chē)禍中承擔“部分責任”。由此可見(jiàn)，當時(shí)的谷歌自動(dòng)駕駛系統在特定場(chǎng)景下觸發(fā)了一個(gè)錯誤決策。

可以想象，當自動(dòng)駕駛汽車(chē)全面行駛在大街小巷時(shí)，系統的微小錯誤導致的責任事故會(huì )基于巨大的汽車(chē)保有量而放大成為一個(gè)引人注目的數字。由此而引起的責任劃定和賠償也會(huì )由于人工智能和人類(lèi)行為的混合作用而變得異常復雜。

另一個(gè)廣為人知的應用缺陷就是公平性問(wèn)題。2016年哈佛大學(xué)肯尼迪學(xué)院發(fā)布的分析報告指出，目前針對犯罪傾向性預測的人工智能系統，無(wú)論技術(shù)人員如何調整機器學(xué)習的策略和算法，人種膚色都成為無(wú)法抹去的高優(yōu)先識別變量。人工智能系統評估結果出現了明顯的對黑人群體的偏見(jiàn)，這是現階段人工智能技術(shù)手段無(wú)法避免的，也是人工智能系統廣泛應用于現有社會(huì )環(huán)境并為社會(huì )大眾所接受的一個(gè)重要的障礙。

在以上問(wèn)題沒(méi)有經(jīng)過(guò)實(shí)踐驗證的法律支持和監管框架管理下，人工智能的全面應用很有可能帶來(lái)相關(guān)領(lǐng)域社會(huì )活動(dòng)的混亂并造成意想不到的后果。

逐步建立的人工智能監管

美國政府對于人工智能的廣泛應用和相關(guān)監管框架一直保持關(guān)注，并在特定領(lǐng)域開(kāi)始小范圍的實(shí)踐。

以人工智能領(lǐng)域目前相對成熟且應用前景廣闊的自動(dòng)駕駛為例，企業(yè)能夠盡快推進(jìn)自動(dòng)駕駛技術(shù)開(kāi)發(fā)的重要原因，是在制度方面得到了美國政府的大力支持。

2012年5月，美國內華達州汽車(chē)管理局為谷歌自動(dòng)駕駛汽車(chē)發(fā)放了美國首張自動(dòng)駕駛車(chē)輛許可證，此前內華達州議會(huì )通過(guò)了允許自動(dòng)駕駛車(chē)輛上路的法條。八個(gè)月后谷歌又在加利福尼亞州取得了許可證。

隨之而來(lái)，奧迪和豐田也先后在美國的一些州拿到了實(shí)驗許可證并開(kāi)展公路測試。一時(shí)間，美國成為各國企業(yè)爭先開(kāi)展自動(dòng)駕駛的試驗田，加速了自動(dòng)駕駛技術(shù)的成熟。

雖然美國交通管理部門(mén)積極配合自動(dòng)駕駛技術(shù)的測試和路試，但是對于正式的應用許可還是采用非常審慎的態(tài)度。2014年10月，加州車(chē)輛管理局同時(shí)頒發(fā)了29張自動(dòng)駕駛汽車(chē)公共道路測試許可證，分別給了谷歌、戴姆勒、大眾三家公司，獲得許可的條件之一是人可以隨時(shí)干預汽車(chē)駕駛，以確保在人工智能廣泛測試和安全性之間取得平衡。

加州車(chē)輛管理局2015年12月提出了一項監管草案，要求所有自動(dòng)駕駛汽車(chē)的駕駛座上必須始終乘坐一名擁有駕照的人士，并要求汽車(chē)在設計方面必須擁有方向盤(pán)、油門(mén)踏板、制動(dòng)踏板等傳統機動(dòng)車(chē)具備的基本操控裝置，以便具有駕駛資質(zhì)的人在無(wú)人駕駛汽車(chē)失靈時(shí)可隨時(shí)接管汽車(chē)的操作。

在草案細則中，加州還規定了自動(dòng)駕駛的三年試用期。消費者可以通過(guò)租賃的方式從制造商處獲得自動(dòng)駕駛汽車(chē)，但制造商需要跟蹤記錄消費者的駕駛情況，把汽車(chē)性能指標和駕駛記錄遞交機動(dòng)車(chē)輛管理局。

可以看到，美國的交通部門(mén)在放行自動(dòng)駕駛技術(shù)時(shí)是逐步進(jìn)行，并盡量確保過(guò)渡階段監管規則的連續性。盡管谷歌等自動(dòng)駕駛技術(shù)公司向公眾抱怨，政府過(guò)于嚴厲的監管和相對謹慎的態(tài)度阻礙了自動(dòng)駕駛技術(shù)向實(shí)用水平的快速發(fā)展，但這是監管部門(mén)職責所在，他們必須保護公眾在享受新技術(shù)成果的同時(shí)，避免潛在技術(shù)缺陷導致的傷害。

今年1月，美國運輸部長(cháng)Anthony Foxx表示，將在六個(gè)月內出臺自動(dòng)駕駛汽車(chē)指導原則。美國高速公路交通安全管理局(NTHSA)也表示，為了加速自動(dòng)駕駛汽車(chē)的發(fā)展，該機構將放棄一些目前針對自動(dòng)駕駛汽車(chē)的安全要求。

收益和風(fēng)險前瞻

2016年5月3日，白宮的副首席技術(shù)官埃德·費爾頓宣布，白宮將組織一系列有關(guān)人工智能收益與風(fēng)險的研討，“為人工智能的未來(lái)而準備”。此次人工智能領(lǐng)域的系列研討包括以下內容：

• 2016年5月24日，西雅圖：與人工智能相關(guān)的法律與監管事務(wù);
• 2016年6月7日，華盛頓：人工智能與社會(huì )福利;
• 2016年6月28日，匹茲堡：人工智能的安全與控制;
• 2016年7月7日，紐約：近期的人工智能技術(shù)對社會(huì )和經(jīng)濟的影響。

此次人工智能領(lǐng)域的研討，一方面涵蓋了從立法到監管原則的確定，為政府全面管理人工智能確立法理依據和管理邊界;另一方面，也將深入探討人工智能有可能存在的缺陷以及相應的安全控制原則。此外，研討視角不僅面向具體的監管框架，同時(shí)還包含了對就業(yè)、社會(huì )福利、經(jīng)濟發(fā)展的長(cháng)遠影響的分析。

從此次人工智能的研討主題來(lái)看，美國政府的決策機構已經(jīng)在思考人工智能的全面應用對于社會(huì )整體運行的沖擊與改變。例如，人類(lèi)是否有可能在某些領(lǐng)域濫用人工智能技術(shù)，比如刑事司法、勞動(dòng)雇傭等領(lǐng)域。

在支撐人工智能技術(shù)廣泛收集公眾和個(gè)人信息時(shí)，又存在著(zhù)數據所有權和應用范圍的邊界：哪些組織和企業(yè)可以搜集個(gè)人信息;使用個(gè)人信息時(shí)，使用的機構應該承擔什么樣的義務(wù)?通過(guò)嚴格清晰的數據擁有和使用責任的界定，促使利用人工智能和大數據工具的人控制他們的決策行為，以符合法律與社會(huì )的基本準則。

需要強調的是，這次研討并不是政府為主發(fā)一家之言，而是白宮科技政策辦公室牽頭，分別由西雅圖大學(xué)、計算研究協(xié)會(huì )、卡耐基梅隆大學(xué)和紐約大學(xué)信息法律研究所等高校和研究機構組織，多所一流大學(xué)和企業(yè)研究人士共同參與的研討會(huì )。這一系列高規格人工智能研討結果，將作為美國政府制定人工智能立法和監管原則的重要來(lái)源。

中國人工智能的管理現狀

中國政府在最近幾年一直大力推進(jìn)人工智能產(chǎn)業(yè)的發(fā)展，重心仍然放在鼓勵技術(shù)研發(fā)方面。對于人工智能技術(shù)應用所帶來(lái)的產(chǎn)業(yè)與社會(huì )轉型沖擊，以及監管方面的及時(shí)調整和跟進(jìn)，目前還缺乏整體認識和積極部署?？梢哉f(shuō)，政府還沒(méi)有意識到自身應該如何參與到人工智能的發(fā)展，以及相應的法律法規、監管體系和管理架構應該如何進(jìn)行調整，以適應新的社會(huì )需求與技術(shù)現實(shí)。

還是以自動(dòng)駕駛應用為例，目前國內自動(dòng)駕駛技術(shù)多被作為科研項目進(jìn)行測試。相關(guān)的法律法規和監管問(wèn)題，在企業(yè)多次推動(dòng)下并沒(méi)有明確的進(jìn)展。比如，中國企業(yè)在國內進(jìn)行公路自動(dòng)駕駛測試時(shí)，還無(wú)法為測試車(chē)輛懸掛測試牌照。2015年12月百度首次自動(dòng)駕駛汽車(chē)的路測過(guò)程中，由于交管部門(mén)沒(méi)有任何有關(guān)自動(dòng)駕駛測試的指導規定，百度公司只能安排駕駛員坐在方向盤(pán)后面，而交管部門(mén)也默認該車(chē)為有人駕駛而未加干涉。

2016年全國“兩會(huì )”期間，全國政協(xié)委員、百度公司董事長(cháng)兼首席執行官李彥宏提議，中國應盡快組織開(kāi)展關(guān)于無(wú)人車(chē)牌照發(fā)放、行駛規定、事故認責等方面的研究。他還建議盡快修訂和完善無(wú)人駕駛相關(guān)的法律法規，為無(wú)人駕駛汽車(chē)的研發(fā)、測試和商業(yè)化應用提供制度保障。

但在2016年5月23日由國家發(fā)改委、科技部、工信部、中央網(wǎng)信辦制定印發(fā)的《“互聯(lián)網(wǎng)+”人工智能三年行動(dòng)實(shí)施方案》中，政府還是側重于打造平臺、培育企業(yè)、構建市場(chǎng)、激勵創(chuàng )新等方面。雖然文中也談到了資金支持、標準體系建設、知識產(chǎn)權保護、人才培養、國際合作等方面，但對于監管原則、監管體系和相關(guān)監管機構的建設則基本沒(méi)有提及。

可以預見(jiàn)，現有的法律法規未必適應未來(lái)的人工智能新型應用模式，會(huì )對人工智能的快速發(fā)展構成阻礙，但在出現人工智能應用的重大缺陷或者安全隱患時(shí)，也沒(méi)有相關(guān)法規和條例指導政府機構合理合法地規避人工智能的發(fā)展風(fēng)險。這將導致新技術(shù)應用與推廣過(guò)程中付出不必要的成本，甚至會(huì )因噎廢食，阻礙人工智能行業(yè)的發(fā)展。

人工智能概念股：埃斯頓、科大智能、漢王科技、江南化工、華東數控、和而泰、中科曙光、永創(chuàng )智能、北京君正、通富微電、永創(chuàng )智能、勁拓股份。