2024-04-03 12:03 北京 为Claude构筑防火墙，Anthropic将多次越狱成功率从61％降至2％。 机器之心报道作者：杜伟、陈萍 Anthropic 发现一种新型越狱漏洞并给出了高效的缓解方案，可以将攻击成功率从 61% 降至 2%。 刚刚，人工智能初创公司 Anthropic 宣布了一种「越狱」技术（Many-shot Jailbreaking）—— 这种技术可以用来逃避大型语言模型（LLM）开发人员设置的安全护栏。 研究者表示，其对 Anthropic 自家模型以及 OpenAI、Google…