布朗大学的计算机科学研究人员发现了OpenAI的GPT-4安全设置中的新漏洞。他们利用一些不太常见的语言，如祖鲁语和盖尔语，即可以绕过GPT-4的各种限制。研究人员使用这些语言来写通常受限的提示词（prompt），发现得到回答的成功率为79%，而仅使用英语的成功率不到1%。
OpenAI 安全漏洞曝光：使用不常见语言可轻易绕过 ChatGPT 的限制(图1)