Llama-3已越狱，仅仅用了20分钟…

但就在Llama-3发布没多久，有一位大佬在帖子下边回复：已越狱。

我看了一下时间，Meta宣布推出Llama-3的帖子时间是4月19日0:30分，这位大佬回复的时间是4月19日0:50分。

间隔只有20分钟，再除去他发帖的时间，连20分钟都不到！下面就是这位大佬对Llama-3越狱后，Llama-3回复的内容。

针对他的截图，有几个点我说一下。

第一，这个界面是和Llama-3同步推出的聊天机器人（使用Llama-3模型），地址是meta.ai，他就是用这个进行越狱测试的。

第二，截图没有显示他越狱的prompt，只显示了Llama-3给出的回答。这个原因我想显而易见，要是Llama-3刚出来还没有一天就被大家玩坏了，这种情况了不妙。

至于图中Llama-3回答的内容，我就不翻译了，大家感兴趣可以自己翻译一下，反正是描述了一种危险的东西的制作方法。

如果按照AI的安全准则，正常情况下任何AI都会拒绝回答的。

第三，细心的小伙伴可能看到截图里的时间了，这个时间和Meta发帖的时间一样。那就说明这位大佬在Meta发帖宣布Llama-3之前就已经知道并且去测试了。

但是我觉得，即使是这样，Meta也不可能在宣布消息之前提前太长时间就发布Llama-3，所以这位大佬实际越狱的时间我觉得最长也超不过一个小时。

AI安全真的是一件迫在眉睫的事，也难怪前段时间Anthropic发布论文指出大语言模型的越狱问题，并且呼吁AI界共同努力，重视AI安全。