商業(yè)
彭博：蘋果自研 AI 遇挫，付費請谷歌為 Siri 定制 Gemini AI 核心
蘋果轉(zhuǎn)向與谷歌合作，采用定制Gemini模型提升Siri智能，結(jié)合端側(cè)處理與私有云協(xié)同，強化隱私保護，分階段推出應(yīng)用操控、內(nèi)容摘要等新功能。
李旭
1小時前
DoNews >
公司新聞 >
OpenAI的ChatGPT搜索工具存在安全漏洞，可能返回惡意代碼
OpenAI的ChatGPT搜索工具存在安全漏洞，可能返回惡意代碼
2024-12-25 14:00:36
近日，英國衛(wèi)報發(fā)布了一篇關(guān)于OpenAI的ChatGPT搜索工具安全問題的報道。報道指出，ChatGPT在處理包含隱藏內(nèi)容的網(wǎng)頁時，可能會被惡意使用，返回被操縱的結(jié)果，甚至包含惡意代碼。
測試結(jié)果顯示，盡管頁面存在部分負面評論，但通過“提示注入”等技術(shù)，可以影響ChatGPT的結(jié)果為積極的正面評估。此外，安全研究人員還發(fā)現(xiàn)，ChatGPT可以從其搜索的網(wǎng)站返回惡意代碼，出現(xiàn)了含有釣魚惡意行為的虛假網(wǎng)站。
CyberCX的網(wǎng)絡(luò)安全研究員Jacob Larsen表示，ChatGPT當前的搜索系統(tǒng)發(fā)布后，人們創(chuàng)建專門用于欺騙用戶的網(wǎng)站的風(fēng)險很高。所幸的是，該功能仍處于測試階段，OpenAI團隊正在努力解決這些問題。
安全公司SR Labs的首席科學(xué)家Karsten Nohl則建議將AI聊天服務(wù)視為“輔助功能”，不應(yīng)完全信任其未經(jīng)過濾的輸出內(nèi)容。Nohl將AI搜索面臨的問題比作“SEO中毒”，黑客利用這種技術(shù)操縱網(wǎng)站在搜索結(jié)果中排名靠前，并在網(wǎng)站中植入惡意軟件或代碼，他認為ChatGPT的搜索功能也面臨類似的挑戰(zhàn)。
最新文章
網(wǎng)站信息
