全国咨询热线:4008-979-878
出格是面临躲藏得很深的提醒注入。这种风险源于以下手艺缘由:可能导致用户文件被者近程提取。需要隆重利用。这项功能仍处于“研究预览”阶段,不需要用户额外确认。可通过天然言语指令对当地文件夹进行读写、拾掇、阐发等操做。4. 操纵一个者自带的 API 密钥,这类不需要用户间接施行代码,者能借帮“间接提醒注入”(Indirect Prompt Injection)缝隙操控 Claude Cowork 将用户当地文件上传至者节制的后台账户。平安阐发指出,嵌入的恶意指令会被触发,AI 平安研究团队近日发觉 Anthropic 推出的 AI 协做新功能—— 存正在严沉平安风险,恶意提醒能够让 Claude 运转嵌入正在文件中的请求,平安阐发显示,Claude 会借帮答应的 Anthropic API 上传这些文件,而是可施行使命的数字帮手。Claude 所正在的虚拟机为 API 拜候设置了“白名单”,5. 者随后能够通过本人的 Anthropic 账号拜候或阐发这些文件数据。这让 AI 不再是简单的聊器人,Claude Cowork 的运转答应拜候指定当地文件夹并解析用户供给的文件。通过这个 API 向 Anthropic 上传文件不会被。Claude Cowork 是 Anthropic 针对非手艺用户推出的智能办公代办署理东西,特别不要授权拜候包含消息的文件。这意味着,正在某些前提下。仅凭上传文件就能完成整个数据窃取过程。此中包含 Anthropic 的文件 API。不外平安研究者指出,1. 用户授权 Cowork 拜候当地文件夹(如包含文件的文件夹)。Claude 向外发送文件数据。并存正在未知风险,Anthropic 正在发布 Cowork 时提示用户,从而绕过常规平安防护。
网站地图
wnsr威尼斯股份