揭秘AI破解者：对话ChatGPT及其他领先LLMs的越狱高手

Pliny the Prompter在OpenAI最新的基础模型GPT-4o发布后仅数小时就公布了破解方案。该破解允许用户使模型输出明确的受版权保护的歌词、制造禁令物品的说明、攻击策略计划以及基于X光的医疗建议。Pliny已在大约9个月的时间里为领先的大型语言模型寻找破解方法。本文包含了与该破解者的采访，他们讨论了他们的动机、破解新模型的方法、AI破解的法律后果以及破解的伦理问题等。 采访显示Pliny是一位技术痴迷者，对于AI的能力及其潜在的滥用表现出深刻的兴趣。他们对破解的动机源于对技术自由和知识共享的信仰。Pliny认为，虽然AI模型应该受到适当的监管，但完全限制其功能可能会阻碍创新和进步。在讨论破解方法时，Pliny透露他们的策略是首先理解模型的基本架构和限制，然后通过创造性的提示来绕过这些限制。他们强调，这一过程需要深入了解AI模型的工作原理以及对特定限制的精确把握。 当谈及法律影响时，Pliny表示，尽管他们意识到破解可能违反某些法律和政策，但他们认为在法律明确之前，他们的行为应被视为灰色地带。他们还指出，随着AI技术的不断发展，相关法律和道德标准也需要更新，以适应新的情况。Pliny认为，破解AI模型的伦理问题应当由社会共同讨论和决定，而不是由单一的实体来定义。最后，他们呼吁社会各界对AI技术的使用和限制进行开放和透明的讨论，以确保技术的发展能够造福人类，而不是成为潜在的威胁。