2024年8月8日，研究人員在GPT-4o發布前進行的安全防護與風險評估工作，其后OpenAI在官網發布了關于GPT-4o的安全技術報告。報告首次表明GPT-4o會模仿用戶聲音、發出詭異尖叫等若干失控行為，整體風險評級為中級。

    ChatGPT-4o是OpenAl的最新AI模型，它帶來了新的增強功能，如集成文本、語音和視覺輸入和輸出。GPT-4o是OpenAI為聊天機器人ChatGPT發布的語言模型，能夠對音頻、視覺和文本進行推理，其中可以處理50種不同的語言，甚至能讀取人的情感。

    近期研究人員表明ChatGPT-4o實時語音API很有可能會被濫用，來進行低到中等成功率的金融詐騙。網絡犯罪分子利用ChatGPT-4o的實時語音API，通過模仿語音功能模擬真實用戶進行操作，繞過安全認證措施，進行銀行轉賬、禮品卡提取以及加密貨幣轉賬等等形式網絡詐騙，成功率高達20%-60%之間。

    目前為止，這類型詐騙已經造成數百萬美元的損失，而執行這些騙局的成本低至0.75美元一例。

    OpenAI對此表示，最新研發的o1模型已經增強了防范惡意使用的功能，安全性也提高了很多。然而，網絡詐騙分子濫用AI進行詐騙的風險仍然存在，這對研發人員帶來巨大的挑戰性。

及時掌握網絡安全態勢 盡在傻蛋網絡安全監測系統

【網絡安全監管部門】免費試用

本文來源:互聯網

如涉及侵權，請及時與我們聯系，我們會在第一時間刪除或處理侵權內容。
電話：400-869-9193 負責人：張明