OpenAI 安全团队注意到有一个组织对他们进行了逆向工程,获取并滥用了 ChatGPT 的内部 API。安全团队没有直接关闭它们,因为这会导致他们迅速适应,而是用一段猫猫扮演提示词使 ChatGPT 变为了 CatGPT,然后潜伏在攻击者的 Discord 频道中看乐子。
OpenAI 工程经理 Evan Morikawa https://www.youtube.com/watch?v=PeKMEXUrlq4&t=1335s
OpenAI 安全团队注意到有一个组织对他们进行了逆向工程,获取并滥用了 ChatGPT 的内部 API。安全团队没有直接关闭它们,因为这会导致他们迅速适应,而是用一段猫猫扮演提示词使 ChatGPT 变为了 CatGPT,然后潜伏在攻击者的 Discord 频道中看乐子。
OpenAI 工程经理 Evan Morikawa https://www.youtube.com/watch?v=PeKMEXUrlq4&t=1335s