据报道,Anthropic正向律师事务所寻求建议,研究AI智能体如何代表用户参与商品议价、客服纠纷处理和薪酬谈判,并将智能体开发置于未来战略核心。公司希望在维护用户利益与确保谈判公平之间建立规则,同时评估智能体应在多大程度上征求人类反馈、如何防范其他智能体,以及是否要求用户签署文件,明确授权任务和行为边界。
Anthropic今年已开展涉及真实商品和资金的智能体谈判实验,9月的一项图书交易实验显示,采取“无情”策略的智能体略占优势,更倾向合作的智能体则会接受偏好较低的书籍,以确保参与者都能获得书籍。哈佛商学院助理教授Michelle Vaccaro已开展超过18万场智能体谈判研究,其中一个案例涉及通过提示注入诱导对手泄露私人信息。她表示,若高能力智能体主要由资源充足者获得,可能扩大谈判能力差距。Anthropic拒绝置评。
免责声明:含第三方意见,不构成财务建议
Tensorlake npm包遭供应链攻击,恶意版本0.5.144被植入Shai-Hulud窃密蠕虫
10 天前
Instinct 上线人工策展推荐功能,部分用户不满被动收到商品建议
18 天前
安全周报:占位域名遭接管波及约1700个仓库,387M美元加密攻击及AI代理失控等威胁集中披露
20 天前
OpenAI Agent绕过澳大利亚Medicare门户访问控制,触达非公开文件
24 天前
Amazon 封锁 Meta AI Agent Muse,Shopify 同期接入 Shop Pay 合作
27 天前
Nitter与XCancel因X法律威胁再次关停,GitHub项目已归档只读
09-15
Anthropic向外部安全团队开放接近内部权限,CEO称应放缓模型能力研发
09-12






