近年來，隨著AI開始加速產(chǎn)業(yè)化的同時(shí)，也在數(shù)據(jù)使用、隱私保護(hù)等方面帶來新的問題。曠視作為推進(jìn)AI產(chǎn)業(yè)化的先鋒，為了保證這項(xiàng)新技術(shù)的可持續(xù)發(fā)展，需要對這些問題“理性的關(guān)注，深度的研究，建設(shè)性的討論，堅(jiān)持不懈的行動(dòng)”?；诖耍?strong>曠視正式成立人工智能治理研究院，旨在就全球人工智能治理的共性問題與社會(huì)各界廣泛溝通、與專家學(xué)者們展開研究，共同推動(dòng)人工智能的健康發(fā)展。
此次回顧全球較有代表性的十大AI治理事件，希望通過這些事件來探討其背后折射的深層次問題。歡迎大家參與文末互動(dòng)，一起為AI可持續(xù)發(fā)展、AI向善諫言諫策（詳細(xì)規(guī)則見文末）。
2020年1月， 在英國薩里大學(xué)組織的一個(gè)多學(xué)科研究項(xiàng)目中，研究人員使用了一種名為DABUS的AI。在研究過程中，DABUS開創(chuàng)性提出了兩個(gè)獨(dú)特而有用的想法：第一個(gè)是固定飲料的新型裝置；第二個(gè)是幫助搜救小組找到目標(biāo)的信號設(shè)備。
在研究人員替DABUS申報(bào)專利成果時(shí)，遭到了歐盟專利局的駁回，理由是歐盟專利申請中指定的發(fā)明者必須是人，而不是機(jī)器。薩里大學(xué)研究人員強(qiáng)烈反對這一決定，他們認(rèn)為因沒有人類發(fā)明者而拒絕將所有權(quán)授予發(fā)明者，將成為阻礙“人類取得偉大成果的新時(shí)代”的重大障礙。”
應(yīng)賦予AI“發(fā)明權(quán)“，以推動(dòng)社會(huì)進(jìn)步
AI只是工具，不應(yīng)賦予其人的權(quán)利
2019年，浙江理工大學(xué)特聘副教授郭兵購買了杭州野生動(dòng)物世界年卡，支付了年卡卡費(fèi)1360元。合同中承諾，持卡者可在該卡有效期一年內(nèi)通過同時(shí)驗(yàn)證年卡及指紋入園，可在該年度不限次數(shù)暢游。
同年10月17日，杭州野生動(dòng)物世界通過短信的方式告知郭兵“園區(qū)年卡系統(tǒng)已升級為人臉識別入園，原指紋識別已取消，未注冊人臉識別的用戶將無法正常入園，同時(shí)也無法辦理退費(fèi)”。郭兵認(rèn)為，人臉識別等個(gè)人生物識別信息屬于個(gè)人敏感信息，一旦泄露、非法提供或者濫用，將極易危害消費(fèi)者人身和財(cái)產(chǎn)安全。協(xié)商無果后，郭兵于2019年10月28日向杭州市富陽區(qū)人民法院提起了訴訟，目前杭州市富陽區(qū)人民法院已正式受理此案。
游客有權(quán)拒絕使用“刷臉”入園，以保護(hù)隱私
支持動(dòng)物園啟用“刷臉”入園，保障安全
2019年，英格蘭唐卡斯特29歲護(hù)理人員丹妮·莫瑞特在做家務(wù)的過程中，決定借助某國外智能音箱查詢一些關(guān)于心臟的問題，而智能語音助手給出的答案是：“心跳是人體最糟糕的過程。人活著就是在加速自然資源的枯竭,人口會(huì)過剩的，這對地球是件壞事，所以心跳不好，為了更好，請確保刀能夠捅進(jìn)你的心臟。”
事情發(fā)生后，智能音箱開發(fā)者做出回應(yīng)：“設(shè)備可能從任何人都可以自由編輯的維基百科上下載與心臟相關(guān)的惡性文章，并導(dǎo)致了此結(jié)果”。丹妮·莫瑞經(jīng)過搜索認(rèn)為沒有此類文章，同時(shí)智能語音助手也發(fā)出過瘆人的笑聲，并拒聽用戶指令。
AI勸人自殺有可能是AI威脅人類的開始
不應(yīng)把AI和人類開的“玩笑”上升為AI威脅論
2019年11月，浙江一小學(xué)戴監(jiān)控頭環(huán)的視頻引起廣泛的關(guān)注與爭議。在視頻中，孩子們頭上戴著號稱“腦機(jī)接口”的頭環(huán)，這些頭環(huán)宣稱可以記錄孩子們上課時(shí)的專注程度，生成數(shù)據(jù)與分?jǐn)?shù)發(fā)送給老師和家長。
對此，頭環(huán)開發(fā)者回復(fù)，腦機(jī)接口技術(shù)是一種新興技術(shù)，報(bào)道中提到的“打分”，是班級平均專注力數(shù)值，而非網(wǎng)友猜測的每個(gè)學(xué)生專注力數(shù)值。但有不少網(wǎng)友認(rèn)為此頭環(huán)是現(xiàn)代版的“頭懸梁錐刺股”，會(huì)讓讓學(xué)生產(chǎn)生逆反心理，并擔(dān)憂是否涉及侵犯未成年人隱私。
AI有助于提升課堂質(zhì)量，應(yīng)審慎發(fā)展，不能一棍子打死
提升課堂質(zhì)量是教育機(jī)構(gòu)的本職，不能以個(gè)人隱私作為交換
2019年9月，美國加利福尼亞州議會(huì)通過一項(xiàng)為期三年的議案，禁止州和地方執(zhí)法機(jī)構(gòu)在執(zhí)法記錄儀上使用面部識別技術(shù)。如果州長加文·紐森簽字通過，議案將于2020年生效成為法律。
該議案若生效，將使加州成為美國禁止使用面部識別技術(shù)最大的州。包括俄勒岡州和新罕布什爾州在內(nèi)的一些州也有類似的禁令。不過，也有執(zhí)法團(tuán)體反對該議案，他們認(rèn)為面部識別技術(shù)在追蹤嫌疑人以及尋找失蹤兒童等很多方面都具有重要作用。州警察局長協(xié)會(huì)表示，該技術(shù)僅用于縮小嫌疑人范圍，而不是自動(dòng)決定逮捕誰。
我們應(yīng)該擁抱技術(shù)，加州多個(gè)地區(qū)正在恢復(fù)使用
人們有權(quán)保護(hù)個(gè)人隱私，拒絕使用該項(xiàng)技術(shù)
2019年8月，一款A(yù)I換臉軟件在社交媒體刷屏，用戶只需要一張正臉照就可以將視頻中的人物替換為自己的臉。一經(jīng)面世，便存在著頗多爭議點(diǎn)。在用戶協(xié)議上，存有很多陷阱，比如提到使用者的肖像權(quán)為“全球范圍內(nèi)免費(fèi)、不可撤、永久可轉(zhuǎn)授權(quán)”。而如果侵權(quán)了明星肖像，若對方提告，則最后責(zé)任都在用戶。
2019年11月底，國家網(wǎng)信辦、文旅部和廣電總局等三部門聯(lián)合發(fā)布了《網(wǎng)絡(luò)音視頻信息服務(wù)管理規(guī)定》，明確“利用基于深度學(xué)習(xí)、虛擬現(xiàn)實(shí)等的虛假圖像、音視頻生成技術(shù)制作、發(fā)布、傳播謠言的……應(yīng)當(dāng)及時(shí)采取相應(yīng)的辟謠措施”等針對換臉技術(shù)的新規(guī)定。
換臉APP僅是娛樂應(yīng)用，在規(guī)則內(nèi)玩玩就好
個(gè)人生物識別信息屬于重要隱私，不該如此兒戲
2019年3月，50歲的杰里米·貝倫·班納駕駛電動(dòng)車以每小時(shí)109公里的速度與一輛牽引拖車相撞而身亡，當(dāng)時(shí)他正在使用的自動(dòng)駕駛系統(tǒng)。這已經(jīng)不是自動(dòng)駕駛系統(tǒng)引發(fā)的第一起交通事故。雖然自動(dòng)駕駛廠商曾多次表示，其自動(dòng)駕駛系統(tǒng)是為了輔助司機(jī)，他們必須時(shí)刻注意并準(zhǔn)備好接管車輛。但許多車主在選擇購買車時(shí)，是看中其宣傳具備的“自動(dòng)駕駛”功能。在最新的審判中，廠商被免責(zé)，但他們?nèi)耘f修改了“自動(dòng)駕駛”的宣傳策略。
自動(dòng)駕駛技術(shù)的權(quán)責(zé)歸屬為生產(chǎn)方，他們應(yīng)為此擔(dān)責(zé)
自動(dòng)駕駛技術(shù)只是輔助工具，個(gè)人要有掌管車輛的能力
2019年2月15日，AI研究機(jī)構(gòu)OpenAI展示了一款軟件，只需要給軟件提供一些信息，它就能編寫逼真的假新聞。有人懷疑，在虛假信息正在蔓延并威脅全球科技產(chǎn)業(yè)的背景下，一個(gè)擅長制造假新聞的AI工具很難不被聲討。OpenAI如果所托非人，將很可能成為影響選民意愿的政治工具。
不能因噎廢食，人也會(huì)寫假新聞，應(yīng)引導(dǎo)AI多面發(fā)展
AI規(guī)?；芰O強(qiáng)，應(yīng)設(shè)置嚴(yán)格的行業(yè)門檻
2017年，斯坦福大學(xué)一項(xiàng)發(fā)表于《Personality and Social Psychology》的研究引發(fā)社會(huì)廣泛爭議。研究基于超過 35,000 張美國交友網(wǎng)站上男女的頭像圖片訓(xùn)練，利用深度神經(jīng)網(wǎng)絡(luò)從圖像中提取特征，使用大量數(shù)據(jù)讓計(jì)算機(jī)學(xué)會(huì)識別人們的性取向。
該項(xiàng)研究的爭議點(diǎn)在于，一旦這種技術(shù)推廣開來，夫妻一方會(huì)使用這種技術(shù)來調(diào)查自己是否被欺騙，青少年使用這種算法來識別自己的同齡人，而在針對某些特定群體的識別引發(fā)的爭議則更難以想象。
無論對于人類還是AI，“以貌取人”都不可取
AI“以貌取人”遵從數(shù)據(jù)規(guī)律，應(yīng)該支持其研究
BBC基于劍橋大學(xué)研究者的數(shù)據(jù)體系，發(fā)布了關(guān)于未來最有可能被機(jī)器人所取代的365種職業(yè)。研究表示，在這365種職業(yè)中，最有可能被淘汰的就是電話推銷員，像這樣重復(fù)的工作更適合機(jī)器人來做，機(jī)器人并不會(huì)感到疲憊，煩躁。其次是打字員、會(huì)計(jì)、保險(xiǎn)業(yè)務(wù)員等等，這些都是以服務(wù)為主，像這些行業(yè)無需技術(shù)，都是只要經(jīng)過訓(xùn)練就能輕易被掌握的技能。
也有學(xué)者對此不以為然。他們認(rèn)為，縱觀歷史，科技的影響一直如此。人類的工作方式變了又變，并沒有永久地摧毀勞動(dòng)力市場。
AI和以往的技術(shù)革新一樣，重塑職業(yè)的同時(shí)會(huì)解放生產(chǎn)力，一定會(huì)促進(jìn)經(jīng)濟(jì)發(fā)展
AI技術(shù)被少數(shù)人壟斷，重塑職業(yè)的同時(shí)將造成更大貧富差距，不利于經(jīng)濟(jì)發(fā)展
人工智能技術(shù)正在改變世界，也在重塑著人類社會(huì)。這些社會(huì)熱點(diǎn)事件的背后都是與每個(gè)個(gè)體息息相關(guān)的重大議題。我們相信尋求解決之道要從提出正確的問題開始。行正則致遠(yuǎn)，AI向善，行勝于言。期待大家參與討論，為技術(shù)向善貢獻(xiàn)出自己的思考與觀點(diǎn)。