ChatGPT 爆火4個(gè)月，已逐漸成為各路打工人的“輔助神器”：能寫(xiě)代碼、能編小說(shuō)、還能給出策劃方案……而事實(shí)證明，ChatGPT 提升的不僅是工作效率，還有安全隱患。

上周，據(jù)韓媒報(bào)道：三星剛引入ChatGPT還不到 20天，就發(fā)生了3起機(jī)密數(shù)據(jù)泄漏事件，其中涉及三星半導(dǎo)體設(shè)備測(cè)量資料、產(chǎn)品良率等信息。

韓媒認(rèn)為，這些三星的機(jī)密資料已“完整地”傳給了美國(guó)，被存入ChatGPT學(xué)習(xí)數(shù)據(jù)庫(kù)中。

不到20天，發(fā)生3起數(shù)據(jù)泄露事件

實(shí)際上，最初三星因擔(dān)心內(nèi)部機(jī)密外泄，一直禁止員工在工作中使用ChatGPT。

然而，隨著ChatGPT進(jìn)入各個(gè)企業(yè)的步伐加速，越來(lái)越多員工認(rèn)為技術(shù)需要迭代變化，加之半導(dǎo)體本身就是構(gòu)建“生成式 AI”的核心要素，于是三星決定：3月11日起，半導(dǎo)體設(shè)備解決方案（DS）部門(mén)可開(kāi)始使用ChatGPT。

一般來(lái)說(shuō)，企業(yè)在引入新技術(shù)時(shí)，都會(huì)對(duì)員工進(jìn)行相關(guān)的培訓(xùn)和教育，讓員工了解新技術(shù)的使用方法和注意事項(xiàng)，避免因?yàn)閱T工的不當(dāng)操作而導(dǎo)致機(jī)密泄漏等安全問(wèn)題。所以，三星向員工發(fā)出了提醒：“注意公司內(nèi)部信息安全，不要輸入私人內(nèi)容。”

但所謂“怕什么就來(lái)什么”，三星剛允許員工使用ChatGPT不到20天，光掌握到的數(shù)據(jù)泄露事件就有3起—— 2起設(shè)備信息泄露和 1 起會(huì)議內(nèi)容泄露：

DS 部門(mén)的A員工在運(yùn)行半導(dǎo)體設(shè)備計(jì)量數(shù)據(jù)庫(kù)（DB）下載程序的源代碼時(shí)，發(fā)現(xiàn)有 Bug，便將代碼復(fù)制到了ChatGPT中找解決方法。據(jù)韓煤報(bào)道，這個(gè)操作將使三星半導(dǎo)體設(shè)備測(cè)量相關(guān)代碼成為ChatGPT的學(xué)習(xí)資料。

DS 部門(mén)的B員工為了解設(shè)備產(chǎn)量和產(chǎn)品良率等信息，將所有相關(guān)代碼復(fù)制到 ChatGPT 中，并要求 ChatGPT 優(yōu)化其代碼。

DS 部門(mén)的C員工通過(guò)相關(guān)應(yīng)用將會(huì)議錄音轉(zhuǎn)成文字，然后將文字輸入到 ChatGPT 中，要求其整理成一份完整的會(huì)議記錄。對(duì)此，韓媒稱(chēng)：“雖然不是技術(shù)秘密，但也可能導(dǎo)致會(huì)議內(nèi)容泄露。”

三星啟動(dòng)“緊急措施”：提問(wèn)不得超過(guò)1024字節(jié)

根據(jù)OpenAI網(wǎng)站上ChatGPT的常見(jiàn)問(wèn)題解答，其確實(shí)指出與ChatGPT的對(duì)話可能會(huì)用作訓(xùn)練數(shù)據(jù)：

提問(wèn)：你們會(huì)使用我的對(duì)話進(jìn)行培訓(xùn)嗎？

答：是的，我們的 AI 培訓(xùn)師可能會(huì)審核你的對(duì)話，以改進(jìn)我們的系統(tǒng)。

但有些令人費(fèi)解的是，盡管韓媒對(duì)此言之鑿鑿，許多網(wǎng)友卻提出了關(guān)鍵疑問(wèn)：“你們是怎么確認(rèn)這些機(jī)密數(shù)據(jù)已被泄露了的？”，“就算這些對(duì)話被用作 ChatGPT 的學(xué)習(xí)數(shù)據(jù)，會(huì)這么快就出現(xiàn)在回答中嗎？”

對(duì)于這個(gè)疑問(wèn)，三星方面沒(méi)有給出正面回答：“因?yàn)槭枪緝?nèi)部情況，所以很難確認(rèn)。”網(wǎng)友對(duì)此猜測(cè)，很可能是三星員工在內(nèi)部承認(rèn)了這些行為，由此引發(fā)了公司擔(dān)憂。

對(duì)于這 3 起數(shù)據(jù)泄露事件，三星迅速向員工進(jìn)行了通報(bào)：“在 ChatGPT 中輸入內(nèi)容的瞬間，數(shù)據(jù)就會(huì)被發(fā)送到外部服務(wù)器并存儲(chǔ)，公司無(wú)法回收。如果 ChatGPT 學(xué)習(xí)了三星內(nèi)部資料，敏感內(nèi)容就可能會(huì)提供給其他人。”

與此同時(shí)，三星還啟動(dòng)了“緊急措施”：將向 ChatGPT 提問(wèn)的上傳容量限制在 1024 字節(jié)以內(nèi)；調(diào)查信息泄露的原委，必要時(shí)給予員工處罰；若采取緊急措施后仍發(fā)生類(lèi)似事故，三星可能會(huì)切斷 ChatGPT 服務(wù)。

據(jù)了解，由于使用 ChatGPT 的這些隱患，三星正考慮通過(guò) DS 部門(mén)的創(chuàng)新中心，研發(fā)一個(gè)三星專(zhuān)屬的內(nèi)部 AI 服務(wù)。

有關(guān) ChatGPT 的爭(zhēng)議一直沒(méi)停

回顧 ChatGPT 問(wèn)世的這4個(gè)月，其實(shí)有關(guān)它的爭(zhēng)議一直沒(méi)有定論：提高工作效率是真的，但它會(huì)把對(duì)話內(nèi)容作為訓(xùn)練數(shù)據(jù)也是真的。

據(jù) Cyberhaven 統(tǒng)計(jì)結(jié)果顯示，近160萬(wàn)名打工人中，有 8.2% 的員工在工作場(chǎng)所使用過(guò)它——許多人稱(chēng)，因?yàn)槭褂?ChatGPT，他們的工作效率“提高了 10 倍”。同時(shí)，有 6.5% 的員工表示會(huì)將公司數(shù)據(jù)復(fù)制到 ChatGPT 中，更有 3.1% 的員工表示曾將公司的機(jī)密數(shù)據(jù)放入 ChatGPT。

“在2月26日至3月4日的一周內(nèi)，平均有10萬(wàn)名員工的公司職員將機(jī)密文件放入 ChatGPT 中共199次，放入客戶數(shù)據(jù) 173 次，放入源代碼159次。”

因此，與之相對(duì)應(yīng)的，越來(lái)越多企業(yè)因擔(dān)心機(jī)密數(shù)據(jù)外泄，禁止員工訪問(wèn) ChatGPT，正如之前的三星，還有摩根大通、美國(guó)銀行、花旗集團(tuán)、高盛、德意志銀行等。近期軟銀也向全體員工通報(bào)了禁止向 ChatGPT 輸入機(jī)密信息等注意事項(xiàng)。甚至，意大利個(gè)人數(shù)據(jù)保護(hù)局（Garante）也在3 月31日宣布，即日起禁止使用聊天機(jī)器人 ChatGPT，并限制 OpenAl 處理意大利用戶信息。

對(duì)于這些企業(yè)及國(guó)家的禁用動(dòng)作，部分業(yè)內(nèi)人士表示：“因?yàn)?ChatGPT 是熱門(mén)話題，現(xiàn)在大家都在使用和學(xué)習(xí)，但對(duì)于信息泄露的憂慮等，國(guó)內(nèi)企業(yè)也需要更加警惕。”

及時(shí)掌握網(wǎng)絡(luò)安全態(tài)勢(shì) 盡在傻蛋網(wǎng)絡(luò)安全監(jiān)測(cè)系統(tǒng)

【網(wǎng)絡(luò)安全監(jiān)管部門(mén)】免費(fèi)試用

本文來(lái)源:互聯(lián)網(wǎng)

如涉及侵權(quán)，請(qǐng)及時(shí)與我們聯(lián)系，我們會(huì)在第一時(shí)間刪除或處理侵權(quán)內(nèi)容。
電話：400-869-9193 負(fù)責(zé)人：張明