谷歌發(fā)布AI開(kāi)發(fā)和使用指南 禁止制造可能危害人類的應(yīng)用

• 2018年6月8日 ZhouXun來(lái)源：網(wǎng)易科技 518 28
• 繁體

• 

  2018-2023年人工智能汽車領(lǐng)域研究與投資前景調(diào)研報(bào)告

  智能汽車與一般所說(shuō)的自動(dòng)駕駛有所不同，它指的是利用多種傳感器和智能公路技術(shù)實(shí)現(xiàn)的汽車自動(dòng)駕駛。智能汽車首先有一套導(dǎo)航信息資料庫(kù)，存有全國(guó)高速公路、普通公路、城市道路以及各種服務(wù)設(shè)施...

谷歌今天發(fā)布了人工智能(AI)開(kāi)發(fā)和使用指南，其中包括禁止制造自動(dòng)武器和大多數(shù)可能危害人類的AI應(yīng)用。AI指南發(fā)布幾天前，谷歌宣布不再與美國(guó)國(guó)防部續(xù)簽分析無(wú)人機(jī)視頻的合同。

AI應(yīng)用目標(biāo)

我們將根據(jù)以下目標(biāo)評(píng)估AI應(yīng)用程序，我們認(rèn)為AI應(yīng)該：

1.有利于社會(huì)

新技術(shù)的廣泛應(yīng)用日益影響到整個(gè)社會(huì)。AI的進(jìn)步將在醫(yī)療、安全、能源、交通、制造和娛樂(lè)等廣泛領(lǐng)域產(chǎn)生革命性影響。在我們考慮AI技術(shù)的潛在開(kāi)發(fā)和應(yīng)用時(shí)，我們將考慮廣泛的社會(huì)和經(jīng)濟(jì)因素，并將在我們認(rèn)為總體收益大大超過(guò)可預(yù)見(jiàn)的風(fēng)險(xiǎn)和不利因素的情況下進(jìn)行。AI也大幅增強(qiáng)了我們理解內(nèi)容意義的能力。我們將努力利用AI隨時(shí)提供高質(zhì)量和準(zhǔn)確的信息，同時(shí)繼續(xù)尊重我們所在國(guó)家的文化、社會(huì)和法律規(guī)范。我們將繼續(xù)深入地評(píng)估：何時(shí)使我們的技術(shù)在非商業(yè)基礎(chǔ)中可用。

2.避免產(chǎn)生或加強(qiáng)不公平的偏見(jiàn)

AI算法和數(shù)據(jù)集可以反映、增強(qiáng)或減少不公平的偏差。我們認(rèn)識(shí)到區(qū)分公平與不公平偏見(jiàn)并不總是簡(jiǎn)單的，在不同的文化和社會(huì)中，公平的定義也存在差異。我們將設(shè)法避免AI對(duì)人類造成不公正的影響，特別是那些與敏感特征有關(guān)的影響，如種族、種族、性別、國(guó)籍、收入、性取向、能力、政治或宗教信仰。

3.構(gòu)建并測(cè)試AI安全性

我們將繼續(xù)制定和實(shí)施強(qiáng)有力的安全措施，以避免AI造成意外傷害及其后果。我們將設(shè)計(jì)保持謹(jǐn)慎的AI系統(tǒng)，并根據(jù)AI安全研究的最佳實(shí)踐進(jìn)行開(kāi)發(fā)。在適當(dāng)?shù)那闆r下，我們將在受限環(huán)境中測(cè)試AI技術(shù)，并在部署后監(jiān)視它們的操作。

4.對(duì)人類負(fù)責(zé)

我們將設(shè)計(jì)AI系統(tǒng)，它可為反饋、相關(guān)解釋和申訴提供適當(dāng)?shù)臋C(jī)會(huì)。我們的AI技術(shù)將受到適當(dāng)?shù)娜祟愔笇?dǎo)和控制。

5.符合隱私設(shè)計(jì)原則

我們將把我們的隱私原則納入AI技術(shù)的開(kāi)發(fā)和使用中。我們將給予通知和同意的機(jī)會(huì)，鼓勵(lì)具有隱私保護(hù)的架構(gòu)，并提供適當(dāng)?shù)耐该鞫群蛯?duì)數(shù)據(jù)使用的控制。

6.堅(jiān)持科學(xué)卓越的標(biāo)準(zhǔn)

技術(shù)創(chuàng)新根植于科學(xué)方法，并需要開(kāi)放性探究、保持智力嚴(yán)謹(jǐn)、誠(chéng)信和協(xié)作。AI工具有可能在生物學(xué)、化學(xué)、醫(yī)學(xué)和環(huán)境科學(xué)等關(guān)鍵領(lǐng)域開(kāi)啟新的科學(xué)研究和知識(shí)領(lǐng)域。在我們推動(dòng)AI發(fā)展的過(guò)程中，我們渴望達(dá)到高水平的科學(xué)成就。我們將與一系列利益相關(guān)者共同努力，在這一領(lǐng)域推進(jìn)先進(jìn)的思想，并采用科學(xué)嚴(yán)謹(jǐn)?shù)姆椒?。我們將以?fù)責(zé)任的方式分享AI知識(shí)，出版教育材料、最佳實(shí)踐和研究，使更多的人能夠開(kāi)發(fā)有用的AI應(yīng)用程序。

7.開(kāi)發(fā)符合上述原則的AI用例

許多技術(shù)都有多種用途。我們將努力限制潛在有害或?yàn)E用的AI技術(shù)。隨著我們開(kāi)發(fā)和部署AI技術(shù)，我們將根據(jù)以下因素評(píng)估可能的用途：

1)主要目的和用途：技術(shù)和應(yīng)用的主要目的和可能用途，包括解決方案與有害使用的關(guān)系或適應(yīng)性?

2)性質(zhì)和獨(dú)特性：我們是否提供獨(dú)特的或更普遍的技術(shù)?

3)規(guī)模：該技術(shù)的使用是否會(huì)產(chǎn)生重大影響

4)谷歌參與的性質(zhì)：我們是否提供通用工具，為客戶集成工具，還是開(kāi)發(fā)自定義解決方案

谷歌不會(huì)追求的AI應(yīng)用

除了上述目標(biāo)，我們不會(huì)在以下應(yīng)用領(lǐng)域設(shè)計(jì)或部署AI：

1)造成或可能造成總體傷害的技術(shù)。在有重大風(fēng)險(xiǎn)的領(lǐng)域，我們只會(huì)在我們認(rèn)為好處遠(yuǎn)遠(yuǎn)大于風(fēng)險(xiǎn)的部分進(jìn)行，并將納入適當(dāng)?shù)陌踩拗?

2)武器或其他技術(shù)，其主要目的或?qū)嵤┰斐苫蛑苯訉?dǎo)致人類受到傷害;

3)收集或使用信息進(jìn)行監(jiān)視的技術(shù)，它們違反國(guó)際公認(rèn)規(guī)范;

4)其目的違反普遍接受的國(guó)際法和人權(quán)原則的AI技術(shù)。

我們要澄清的是，雖然我們沒(méi)有開(kāi)發(fā)用于武器的AI，但我們將繼續(xù)在其他許多領(lǐng)域與政府和軍方合作，其中包括網(wǎng)絡(luò)安全、培訓(xùn)、軍事招募、退伍軍人醫(yī)療、搜索和救援。這些合作非常重要，我們將積極尋找更多的方法來(lái)加強(qiáng)這些組織的關(guān)鍵工作，并確保服務(wù)人員和平民的安全。

AI遠(yuǎn)景

雖然這是我們選擇與AI打交道的方式，但我們明白，在這場(chǎng)對(duì)話中，需要更多其他聲音加入。隨著AI技術(shù)的發(fā)展，我們將與一系列利益相關(guān)方合作，在這一領(lǐng)域推廣更先進(jìn)的思想，采用科學(xué)嚴(yán)謹(jǐn)、多學(xué)科的方法。我們將繼續(xù)分享我們?cè)诟倪M(jìn)AI技術(shù)和實(shí)踐方面的經(jīng)驗(yàn)。

我們相信這些原則是我們公司和AI未來(lái)發(fā)展的正確基礎(chǔ)。這種做法與2004年“創(chuàng)始人的信”(Founders’ Letter)中提出的價(jià)值觀相一致。當(dāng)時(shí)我們?cè)鞔_表示，我們打算從長(zhǎng)遠(yuǎn)的角度出發(fā)，即使這意味著要做出短期的權(quán)衡。

延伸閱讀

推薦閱讀

猜您喜歡