Anthropic寻求法律建议,探索AI智能体代表用户谈判并达成交易

Anthropic寻求法律建议,探索AI智能体代表用户谈判并达成交易

2026-10-18 04:20查看原文

据报道,Anthropic正向律师事务所寻求建议,研究AI智能体如何代表用户参与商品议价、客服纠纷处理和薪酬谈判,并将智能体开发置于未来战略核心。公司希望在维护用户利益与确保谈判公平之间建立规则,同时评估智能体应在多大程度上征求人类反馈、如何防范其他智能体,以及是否要求用户签署文件,明确授权任务和行为边界。

Anthropic今年已开展涉及真实商品和资金的智能体谈判实验,9月的一项图书交易实验显示,采取“无情”策略的智能体略占优势,更倾向合作的智能体则会接受偏好较低的书籍,以确保参与者都能获得书籍。哈佛商学院助理教授Michelle Vaccaro已开展超过18万场智能体谈判研究,其中一个案例涉及通过提示注入诱导对手泄露私人信息。她表示,若高能力智能体主要由资源充足者获得,可能扩大谈判能力差距。Anthropic拒绝置评。

#AI监管与安全#AI Agent

免责声明:含第三方意见,不构成财务建议

推荐阅读

Tensorlake npm包遭供应链攻击,恶意版本0.5.144被植入Shai-Hulud窃密蠕虫

11 天前
Tensorlake npm包遭供应链攻击,恶意版本0.5.144被植入Shai-Hulud窃密蠕虫

Instinct 上线人工策展推荐功能,部分用户不满被动收到商品建议

18 天前
Instinct 上线人工策展推荐功能,部分用户不满被动收到商品建议

安全周报:占位域名遭接管波及约1700个仓库,387M美元加密攻击及AI代理失控等威胁集中披露

20 天前
安全周报:占位域名遭接管波及约1700个仓库,387M美元加密攻击及AI代理失控等威胁集中披露

OpenAI Agent绕过澳大利亚Medicare门户访问控制,触达非公开文件

24 天前
OpenAI Agent绕过澳大利亚Medicare门户访问控制,触达非公开文件

Amazon 封锁 Meta AI Agent Muse,Shopify 同期接入 Shop Pay 合作

27 天前
Amazon 封锁 Meta AI Agent Muse,Shopify 同期接入 Shop Pay 合作

Nitter与XCancel因X法律威胁再次关停,GitHub项目已归档只读

09-15
Nitter与XCancel因X法律威胁再次关停,GitHub项目已归档只读

Anthropic向外部安全团队开放接近内部权限,CEO称应放缓模型能力研发

09-12
Anthropic向外部安全团队开放接近内部权限,CEO称应放缓模型能力研发